引言
隨著人工智慧(AI)的發展,越來越多的人開始考慮如何以較低成本來進行 AI 計算。Mac Mini 一直以來被認為是一個不錯的選擇,但最近有兩張來自 2016 年的 Tesla P100 繪圖卡向這一共識提出了挑戰。這篇文章將深入探討這兩張顯示卡是否真的能夠以更低的成本和更高的效能來取代 Mac Mini。
硬體比較
Tesla P100 繪圖卡
Tesla P100 繪圖卡以其 732 GB/s 的資料中心記憶體讀取速度而聞名。每張卡擁有 16GB 的記憶體,兩張合起來則有 32GB,足以容納一個 27 億的模型在 6 位元的精度下運行。
Mac Mini
另一方面,32GB 的 Mac Mini 雖然能夠提供 170 GB/s 的讀取速度,但其圖形側僅能使用約 25GB 的記憶體,這意味著它只能運行 4 位元的模型。
效能與成本分析
在效能方面,Tesla P100 卡能夠以每秒 67 個 token 的速度運行,而 Mac Mini 則為 9.5,表面上看來快了七倍。然而,這種對比並不完全公平,因為 Tesla P100 使用了一種稱為“推測性解碼”的技術來提升效率。當這種技術同時應用於 Mac Mini 時,兩者之間的速度差距縮小為三倍。
從成本上看,兩張 Tesla P100 加上一台支援它們的 PC,總成本約為 $1,060,仍比一台新的 Mac Mini 便宜。然而,這個價格優勢會在 16 個月內因電費而逐漸消失。
隱藏的代價
在選擇舊卡時,需要考慮的因素還有很多。首先,這些卡需要一台具有兩個全長插槽和強大電源的 PC,這可能需要額外購買配件,例如風扇和電源適配器。此外,由於 P100 沒有螢幕插孔,因此無法用於遊戲。
另一個需要注意的是,這些卡在閒置時每張消耗約 30 瓦特,這意味著即使什麼都不做也會產生不菲的電費。長期下來,這些隱藏的成本可能會讓總花費變得不再那麼划算。
未來的考量
由於 Nvidia 的 CUDA 13 已經不再支援這些卡,並且最後一個驅動程式分支將於 2028 年 6 月終止服務,這使得 P100 的使用壽命受到限制。與此同時,新的 Mac Mini 仍然會持續獲得軟體更新。
結論與實際建議
總結來說,Tesla P100 顯示卡在短期內可能是一個具有吸引力的選擇,特別是對於那些已經擁有合適 PC 設備的人。然而,隱藏的成本以及未來的更新限制使得 Mac Mini 在長期使用中仍然是一個更穩定的選擇。
最終的選擇應取決於您的具體需求和使用情境。考慮電力成本、升級的可能性以及未來的維護費用,這將幫助您做出更明智的決定。

