跳到正文
RCreddit.com·
暂不在当前实时榜单

Make Volta Fast Again

AI 摘要

A developer community post highlights 1Cat-vLLM, a vLLM fork optimizing serving for V100 cards. The post compares performance for Qwen3.6-35b, showing raw numbers from llama-benchy for a V100 with 1Cat against a Strix Halo with a highly optimized llama.cpp fork. While not a direct comparison, the results suggest good performance for the 10-year-old GPUs, and the author welcomes further optimization suggestions.

时间与来源

时间显示为 UTC

显示时区:UTC

本地时区尚不可用,暂时显示 UTC。

收录当时偏移:UTC+02026年9月25日 23:01 UTC

收录
2026年9月25日 23:01
来源类型
开发者社区

本站未收录正文。

前往源站阅读 →
来源·reddit.com