Tuning Qwen 3.8 27B and OMP as a coding agent on 2× 3090s
A user successfully tuned Qwen 3.8 27B and Oh My Pi (OMP) as a coding agent on two 3090 GPUs, reducing the average latency per turn from 28 seconds to 7 seconds. This significant performance improvement was achieved by adjusting OMP settings, including: setting clear effort levels for each role, setting thinking_token_budget to 7500, increasing maxTokens from 8k to 32k to prevent file write truncation, directing tool output over 10 KB to files, and configuring up to 4 sub-agents with appendOnlyContext enabled.
时间与来源
时间显示为 UTC
显示时区:UTC
本地时区尚不可用,暂时显示 UTC。
发布当时偏移:UTC+02026年9月19日 01:25 UTC
收录当时偏移:UTC+02026年9月19日 06:00 UTC
- 发布
- 2026年9月19日 01:25
- 收录
- 2026年9月19日 06:00
- 来源类型
- 开发者社区
- 档位
- 社区
- 信源状态
- 正常
档位是按信源手工设定的编辑判断,不是逐条打分。
讨论趋势
百分比基于采集到的讨论信号,不代表新增评论数或独立参与人数。曲线仅用于同一话题在不同时段的比较。
Oh My Pi + vLLM on two 3090s. Average wait per turn went from 28s to 7s, mostly from changing omp settings: