移动端
微信公众号
网友250元捡漏9卡矿机 54GB显存可跑70B大模型
|
一位Reddit网友近日分享了自己在俄罗斯二手交易平台Avito上的淘货经历：他花约3000卢布（约合250元人民币）买下了一台退役矿机，这台机器搭载了9张显卡，总显存达到54GB，足以在本地跑起AI模型。 这台矿机装的是9张P106显卡。P106是GTX 1060的挖矿专用版本，每张卡带6GB显存，9张加起来正好54GB。 谈价方面，卖家一开始开价5000卢布（约395元人民币），买家一番砍价后以3000卢布拿下，等于打了六折。 性能上，这套系统在8-bit量化条件下能跑Qwen3.8-27B等模型；如果换成4-bit或5-bit量化，最高可以支撑70B参数级别的模型。
根据测试结果，在Ollama上运行Qwen3.6-35B-A3B时，token生成速度超过每秒30个，而且经过后续优化，速度还有继续提升的余地。 虽说大显存看着很香，但这种架构有一个绕不开的物理短板。说白了，AI推理效率不光看显存容量，数据传输带宽同样关键。 矿机主板通常采用PCIe x1接口，通道太窄，多张显卡频繁交换数据时会出现明显的性能下降。 截至发稿，该用户还没有公布这套系统满载运行时的功耗数据，以及长期使用的稳定性情况。
|
论坛热帖
在线投稿
-
相关阅读
-
Xbox第一方FPS新作实机画面泄露 项目已确认被取消
-
《最终幻想16》通过掌机认证 优化强大挖掘性能上限
-
赛博朋克边缘行者2正片片段曝光 10月20日正式开播
-
顽皮狗工作室内部文化曝光 员工自称“狗”培养身份认同
-
近百只基金同台竞技 节后公募发行迎来热潮
-
C罗第一视角声明全文公布：主帅两次食言引发热议
-
20年前1千万美元就能做GTA 如今却连GTA6零头都不够
-
《死亡搁浅》真人电影新进展 冰岛勘景自然风光曝光
-
精彩图片
-
魔兽公会模拟器上线：单机玩MMO，建设副本管理成员
-
《黑悟空》光盘销量破4万份，当地力挺游科和国产IP
-
印度3A游戏遭玩家差评，“摸头闪避”操作太难引吐槽
-
解压回收：废品干出黄金，爽到昏厥！
-
PS5数字版游戏买后无法玩？DRM验证卡半小时解决方法
-
《光环》新作主线时长8-12小时 全成就需20小时内
-
《最终幻想共鸣》三档难度自由切换 新手也能轻松上手
-
养只金毛花掉一套房首付？揭秘顶级血统犬背后的“割韭菜”套路
-
新帖速递
-
Xbox第一方FPS新作实机画面泄露 项目已确认被取消
-
《最终幻想16》通过掌机认证 优化强大挖掘性能上限
-
赛博朋克边缘行者2正片片段曝光 10月20日正式开播
-
顽皮狗工作室内部文化曝光 员工自称“狗”培养身份认同
-
近百只基金同台竞技 节后公募发行迎来热潮
-
C罗第一视角声明全文公布：主帅两次食言引发热议
-
20年前1千万美元就能做GTA 如今却连GTA6零头都不够
-
《死亡搁浅》真人电影新进展 冰岛勘景自然风光曝光
精彩评论文明上网理性发言，请遵守评论服务协议
共0条评论