跳到正文
Typecho Go

一个由 Go 重写的 Typecho 风格博客后端

首页 RSS

从 0.4 到 42.7 tokens/s:RTX 3050 4 GB 上的 DeepInfer Qwen2.5 3B/7B 原生推理工程记录

2026-10-26 ·管理员 ·0 条评论

从 0.4 到 42.7 tokens/s:RTX 3050 4 GB 上的 DeepInfer Qwen2.5 3B/7B 原生推理工程记录 时间:2026-10-25 ~ 2026-10-26 硬件:NVIDIA RTX 3050 Laptop GPU,4 GB,SM86 系统:Windows 目标:在不换硬件的前提下,把 Qwen2.5 接进 Deep…

默认分类
阅读全文 →

最近文章

  • 从 0.4 到 42.7 tokens/s:RTX 3050 4 GB 上的 DeepInfer Qwen2.5 3B/7B 原生推理工程记录 2026-10-26

分类

  • 默认分类1

关于本站

一个由 Go 重写的 Typecho 风格博客后端

订阅 RSS · 站点地图

© 2026 Typecho Go · Powered by Typecho + Go

RSSSitemap管理