跳到正文
RCreddit.com·
暂不在当前实时榜单

Qwen3.8-27B uncensored Q6_K at 156K context on one RTX 5090, 140-190 tok/s with DFlash2

AI 摘要

A user successfully ran Qwen3.8-27B RVN Heretic at Q6_K with 159744 context on a single RTX 5090, achieving 140-190 tok/s using DFlash2 speculative decoding. The setup included a vision projector on the GPU and a Sharp chat template, with measurements taken on 2026-09-16. Token embeddings remained on the host, accounting for the last ~1 GB of context.

时间与来源

时间显示为 UTC

显示时区:UTC

本地时区尚不可用,暂时显示 UTC。

收录当时偏移:UTC+02026年9月16日 20:00 UTC

收录
2026年9月16日 20:00
来源类型
开发者社区

本站未收录正文。

前往源站阅读 →
来源·reddit.com