二手的2017年Tesla V100 GPU在生成式AI仍輕鬆擊敗等值的新一代消費級顯示卡

2026.05.11 11:39AM

NVIDIA在2017年公布基於Volta架構的Tesla V100 GPU,如今已是問世超過8年、並已更迭超過4個世代的老產品,不過卻是NVIDIA首次在加速GPU導入Tensor Core與HBM記憶體的產品;也由於Tesla V100並非如H100般引領AI世代,如今在eBay甚至僅需100美金即可購入功能正常的2手SXM2模組,Hardware Haven決定挑戰這款8年前老產品在當代大型語言模型的潛力,結果意外的是在230美金的總建置成本,仍可擊敗價格相近的Radeon 7800XT與NVIDIA RTX 3060。

從1萬美金變100美金的V100 SXM2模組

▲Tesla V100在2017年問世時高達1萬美金

Tesla V100有兩種版本,當今以100美金落入市場的是採用為高性能伺服器DGX-1設計的SXM2模組,最大的特色是搭載16GB HBM記憶體;不過要在消費級PC使用SXM2模組需解決轉接PCIe介面與散熱問題,故除了購入模組的100美金以外,還需要添購轉接板與散熱器改裝的成本,總成本約略在230美金左右。

仍領先價格相近的新款消費級顯示卡

▲相較Radeon RX 7800XT的Token產生性能仍領先

雖然架構較舊,但由於具備5,120個CUDA核心與頻寬高達898GB/s的16GB HBM記憶體,在預設的250W功率設定下,Hardware Heaven以20B參數的GPT-OSS進行測試,作為對照組的Radeon RX7800 XT約達到90 Token/s的性能,而Tesla V100則達到130 Token/s的表現。

▲對比RTX 3060無論性能或能源效率也都領先

另外把對照組換成(最近即將死灰復燃的)GeForce RTX 3060 12GB,在進行Gemma4:e4b(ollama+openwebui)的測試,RTX 3060的性能約為76 Token/s,而V100則可達到108 Token/s,單看能源效率領先12%,且把兩款產品限制在170W功率,V100的的性能仍高於235W下的RTX 3060,並在170W限制的能源效率大幅領先40%。

有趣、但仍受制架構不見得合乎經濟效益

▲雖然超值,但面對瞬息萬變的AI模型不見得在任何時刻都有絕佳經濟效益

雖然從結果來看,以相同的200美金等級價格,Tesla V100確實性能對比消費級產品出色,但即便撇除對一般人不確定是否能如法炮製的轉接與軟體設置,由於當前的AI模型不斷推陳出新,且也因應新一代架構支援更具效率的參數,倘若考慮的是性能的最大化,使用Tesla V100不見得完全符合經濟效益,尤其許多流行的模型需要更大容量的記憶體,而32GB版的V100價格則達到400至500美金,整體評量也不見得那麼划算。

相關消息

產業消息
代理式企業新時代來臨!年度雲端盛會 Google Cloud Day Taipei 七月重磅登場
癮特務
19 個小時前
快訊
華碩3公升迷你電競桌機ROG GR70六月初開賣,搭載Ryzen 9與RTX 50獨顯9萬元起
Chevelle.fu
1 天前
開箱評測
27吋4K電競螢幕跳水價6988元 華碩ROG Strix XG27UCG這價可買 3年保固還有USB-C
Tandee
1 天前
開箱評測
老公寓插座救星 威剛壁插轉接器2入特價539元 獨立開關好管理、1A1C支援QC和PD快充
Zero圈圈
1 天前
次世代MMORPG《Arche Age》展現遊戲多樣玩法
皮耶哈
15 年前
開箱評測
Sony隨身空調Reon Pocket 5大特價2990元 可連續使用8小時、溫度自動調節
Zero圈圈
1 天前
新品資訊
Sony BRAVIA 9 II/7 II 電視搭載 True RGB 技術 劇院級音響系統同步登場
Mash Yang
21 個小時前
快訊
Valve宣布調漲Steam Deck售價,512GB增加240美金
Chevelle.fu
1 天前
產業消息
虹彩光電搶攻日本市場 B3 尺寸真全彩膽固醇液晶電子紙挑戰元太地位
Mash Yang
1 天前