OpenAI買幾萬台Mac搞強化訓練!輝達的活被蘋果搶了

wallstreetcnwallstreetcn

OpenAI已購入門萬台Mac mini和Mac Studio專攻強化學習,Anthropic也透過AWS租用Mac訓練「電腦使用智慧體」。蘋果M系列晶片的統一記憶體和散熱優勢使其適合此類任務,Mac銷售額增長近29%。蘋果未主動規劃企業市場,但供應已斷貨數月,合作夥伴正推動Mac進入更深企業市場。

OpenAI被爆瘋狂掃貨Mac,一買就是幾萬台。

一不小心給買斷貨了,還要想盡辦法搞到更多。

MacBook筆記型電腦不要,專買沒有螢幕、沒有鍵盤的Mac mini和Mac Studio。

那麼問題來了:什麼樣的AI業務,輝達GPU和谷歌TPU搞不定,非得用Mac?

 

幾萬台Mac搞強化學習,Anthropic也幹了

據The Information消息,OpenAI已經購買了數以萬計的Mac mini和Mac Studio,專門用於強化學習。

不只是OpenAI,Anthropic也在透過亞馬遜雲端服務AWS租用Mac mini來做類似的任務。

這些Mac被用來訓練「電腦使用智慧體」(computer-use agent),也就是能自主操作電腦、完成編輯測試程式碼、自動整理信箱、總結文件等多步驟任務的AI系統。

這股熱潮直接反映在了蘋果財報上。

最近一個季度,Mac銷售額同增長近29%,達到103億美元,增速超過了iPhone、iPad等蘋果旗下所有其他產品線,Mac成了蘋果增長最快的業務。

6月23日,蘋果總部Apple Park舉辦了一場名為「Business at the Park」的活動。這在蘋果歷史上並不常見,蘋果向來專注消費者市場,極少專門面向企業客戶辦活動。

這場活動迪士尼和福特的高管到了,Anthropic聯合創辦人Jared Kaplan也到了,蘋果即將卸任的CEO Tim Cook和即將接任的John Ternus都在。

據一位參會者透露,蘋果在活動上反覆強調其硬體非常適合在在地處理AI任務,Mac mini是整場活動的焦點。

AI訓練長期以來由輝達GPU主導,但Mac能在強化學習這個細分場景中被大規模採購,靠的是統一記憶體。

輝達GPU的顯示記憶體和系統記憶體是分開的,數據在兩者之間傳輸會產生瓶頸。蘋果M系列晶片則採用單一共享記憶體池,CPU和GPU直接訪問同一塊記憶體,在處理AI工作負載時具備性能優勢。

另外,與輕薄的MacBook不同,Mac mini和Mac Studio配備了專門的散熱系統,長時間運行複雜AI任務不會因為過熱而降頻。這對需要持續數小時甚至數天的強化學習訓練來說至關重要。

蘋果還在推廣EXO Labs開源軟體專案,可以將多台Mac組成集群,在在地運行萬億參數級別的AI模型。

蘋果剛剛發布的新款Mac Studio也特別強調了集群能力,多台Mac Studio可以串聯組成更強大的系統來運行前沿模型。

這次新品發布的時間也不尋常。蘋果通常在每年10月或11月進行年末更新Mac產品線,這次提前到了8月。

 

輝達盯上了,蘋果倉促應對

Mac在在地AI領域的崛起已經引起了輝達的注意。

據一位與輝達高管討論過競爭形勢的知情人士透露,輝達將蘋果視為在地AI領域最大的競爭對手。

去年底,輝達發布了DGX Spark,一款與Mac mini設計風格相似的AI桌上型電腦,直接瞄準這個市場。

蘋果這邊面臨供應跟不上的現實問題。

AI資料中心對記憶體晶片的巨大需求導致了歷史性的全行業短缺,蘋果也未能幸免。

對AI開發者最有吸引力的高配版Mac mini和Mac Studio已經斷貨數月。

蘋果前AI產品企業行銷經理Todd Dailey透露,過去一年由於Mac供應受限,一些企業已經開始尋找替代方案,輝達DGX Spark是被頻繁提及的選項,而且現在有現貨。

Dailey今年4月從蘋果離職,目前是獨立AI顧問。榻還透露Mac在企業AI市場的火爆完全是意外,而非蘋果的主動規劃。蘋果沒有專門面向企業客戶的工程團隊,也沒有任何專注於開發者關係的員工。

蘋果上一次出售伺服器產品還是2011年就停產的Xserve。基於Mac的伺服器作業系統也已於2022年停止開發。

不過已經有人嗅到了機會。

前OpenAI計算基礎設施員工Peter Voell創辦了Mount Thor,一家基於蘋果硬體的雲端運算公司,目前仍處於隱身模式,官網將產品描述為「基於蘋果硬體的AI執行環境」。

蘋果也在寄希望於Mount Thor和webAI這樣的合作夥伴,把Mac推進更深的企業市場。

蘋果最近終於開始使用Mac晶片建構自己的伺服器。不過,這些伺服器僅供內部使用,用於私有雲端運算(Private Cloud Compute)服務,處理超出iPhone或Mac處理能力的AI任務。

一些企業客戶曾詢問蘋果是否可以出售這些伺服器的使用權,但蘋果目前為止都拒絕了。

以上內容僅用作資訊或教育之目的,不構成與BTCC相關的任何投資建議。 BTCC竭力但無法保證上述全部內容的真實性、準確性和原創性。

推薦閱讀

BTCC周熱點精選(9月8日-9月14日):油價重返100美元,AI安全爭議衝擊科技股BTCC 晨報要聞精選 (9月14日)果蠅大腦被谷歌開源後,竟學會了玩遊戲、炒幣...9月FOMC前瞻:有且僅有一次的升息,是否有必要?知名 PE 合夥人史丹佛授課:AI 時代的資金究竟流向了何處?