作者:
ff1268 (iGodric)
2026-08-26 18:16:59https://i.mopix.cc/Fyy4F6.jpg
https://i.mopix.cc/gswJT8.jpg
目前有兩台MAC在考慮,有考慮玩看看本地化AI,在兩台價格差不多的情況下應該考慮基
本款的MAC studio還是記憶體升到48GB的MAC MINI?
先謝謝大家的建議了
作者:
NoneWolf (Forty2)
2026-08-26 18:32:00本地AI就得堆記憶體 現在模型都玩MoE了不怕跑不動 只怕笨
作者: ff1268 (iGodric) 2026-08-26 20:01:00
記憶體頻寬那肯定是mac studio勝出 但36GB的記憶體是不是要跑32B以上的模型就有點吃力了? 目前GPU對於推理有幫助嗎? 預算有限就得綁手綁腳啊
作者:
airnoon (正午烈日)
2026-08-26 21:40:00記憶體頻寬對llm還蠻重要的,會直接影響體驗速度,GPU核心數也很重要,直接影響算力,散熱也是mac studio 做比較好,真的玩本地要從外面連回來還是studio比較穩,另外gemma 4 26b Q8已經壓到30GB以下了,你可以先去下載lm studio 看一下model跟量化版的大小我覺得很好奇的是,為什麼大家都突然想玩本地了,上一代的Mac也都可以玩啊,但是就是沒像今天一樣熱絡xDD
作者: phost 2026-08-26 22:15:00
是等等黨等到新產品出來了啊
作者:
airnoon (正午烈日)
2026-08-27 00:05:00感覺蘋果官方推波助瀾功不可沒xD
我覺得單純是時間,大家用訂閱正好用到一個覺得會被搞的階段,所以想搞AI自主吧,而且壓到十萬能跑2、30B,品質應該已經過了一個低標,十萬也是小玩家負擔的起的另外就是這種規格會跑進來討論的應該都是圖這個吧...對一般使用、開發都溢出很多了..
我今天才讓Codex作個30個工作的職缺適配度分析、評分然後加入對應每個職缺的工作經歷,五小時限額用完,本週限額用完85%
難怪大家最近越來越愛本地AI花個十萬, 就不用被限制額度或token
作者:
oh753951 (pptOP)
2026-08-28 08:47:00我覺得是訂閱制的ai都有用量限制,寧願讓本地ai跑久一點達成任務,也不要跑到一半要等下週額度重置XD,
作者:
napyang (愛唱歌的大男孩)
2026-08-28 10:25:00跑LLM記憶體是最重要的,GPU是讓你速度變快,但是RAM決定你能不能用。這兩台我認為48GB mac mini才是好選擇。不然36GB的 Qwen3.8-27B-4bit的context length大概只能開到100K,遠低於模型能力的262K。
跑AI堆記憶就是了! 不只模型本身、上下文也吃記憶體,上下文不給夠生產力會打折。
....本地也沒有多強 Gemma 31b掛agent沒有聰明多少
那是因為gemma本來就跟笨蛋一樣36GB放不下27B嗎?KV沒quant?
作者:
airnoon (正午烈日)
2026-08-29 17:38:00gemma不用指望coding,但不代表他是笨蛋吧本地強弱也要看幾B模型吧,31B跟70B比還是有差距吧,不過70B的Q4模型大概也要64GB RAM才塞的進去
兩台跑本地模型都不太夠,至少64g要玩這至少預算要10萬以上參數太少的模型乾脆用租的