BernieDu 最近的时间轴更新
BernieDu

BernieDu

V2EX 第 435347 号会员,加入于 2019-08-12 11:13:33 +08:00
今日活跃度排名 17692
根据 BernieDu 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
BernieDu 最近回复了
App Store 上 chatgpt 和 claude 都是最低支持 iOS 17 ,你估计是以前下载的一直没升级,还使用的老旧版本吧
用过 whisky 吗,不过最近好像说不维护了,说怕影响 CrossOver 赚钱
12 天前
回复了 BernieDu 创建的主题 问与答 Trae 把我 48g Mac 干死机这件事
@ccde8259 emmm. 有点 6 ,不过 trae 的迭代速度真的很快
17 天前
回复了 tangmanger 创建的主题 程序员 你们平时会重构自己代码吗?
AI 工具跟我家自动猫砂盆一样,以前自己铲屎很懒,看不下去了才铲。现在工具铲,我只负责倒屎。
23 天前
回复了 sickoo 创建的主题 生活 问问大家用的什么铁锅?要换锅
一直不用普通铁锅,因为放洗碗机会生锈,但是之前买过一个铸铁锅,外面有珐琅的那种,怎么用洗碗机洗都不会生锈,是因为内部有什么涂层吗,有懂的佬吗。
大脑用进废退。程序员的语言中枢得到训练的程度大概率是不如销售行业的。反正我是退化了,而且我负责写字的大脑中枢也退化了,得了”电脑失写症“。但感觉我的逻辑能力变强了。
39 天前
回复了 886106 创建的主题 Apple Studio M4max 128G 是否合适跑大模型
@swmjjy 感谢数据,被 ds 的回答误导了。。
39 天前
回复了 886106 创建的主题 Apple Studio M4max 128G 是否合适跑大模型
@ShadowPower 14B 5bit 的小模型大概需要 9g 显存,你这用不着交火吧。我自己没试过 pcie 显卡交火跑模型,但是 ds 查的模型并行(场景是模型过大,需拆分到多个 GPU) 前向传播时需频繁传递中间张量(如层间输出)。PCIe 带宽 7.88GB/s 会限制大张量传输。成为推理瓶颈。让我用 nvlink 。(应该不会封号吧)
39 天前
回复了 886106 创建的主题 Apple Studio M4max 128G 是否合适跑大模型
@ShadowPower 如果推理不要求带宽那都用内存推理了。。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1083 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 10ms · UTC 23:20 · PVG 07:20 · LAX 16:20 · JFK 19:20
Developed with CodeLauncher
♥ Do have faith in what you're doing.