蘋果技術文件揭密:AI模型以Google客製晶片訓練 MoneyDJ新聞 2024-07-30 08:23:15 記者 郭妍希 報導 蘋果(Apple Inc.)透露,兩款支持「Apple Intelligence」的AI模型,都是以Google設計 的客製化「張量處理單元」(TPU)在雲端進行訓練。 CNBC報導,蘋果週一(7月29日)釋出的技術文件顯示,蘋果基礎模型(Apple Foundation Model, AFM)及AFM伺服器都是以「v4和v5p雲端TPU叢集」、運用蘋果軟體進行初步訓練。 這代表蘋果向一家雲端商租下伺服器來執行運算。蘋果在文件中表示,「該系統讓我們得 以有效擴大訓練AFM模型(當中包括AFM終端裝置、AFM伺服器),以及規模更大的模型。」 蘋果文件中顯示,AFM終端裝置是以2048顆TPU v5p組成的單一切片(slice)進行訓練。v5p 是最先進的TPU,首度於2023年12月發布。AFM伺服器則是以8192顆TPU v4晶片組成的八個 切片訓練。 根據Google官網,旗下最先進TPU若提前三年預定,則每使用一小時的成本不到2美元。 Google是在2015年首次發布TPU、供內部作業使用,2017年才對外推出。TPU如今是最成熟 的AI客製化晶片之一。 不過,Google仍是輝達(Nvidia Corp.)首要客戶之一,不但同時運用輝達GPU及自家TPU訓 練AI系統,也在自家雲端平台販售使用輝達科技的服務。 蘋果先前曾說,AI推論任務有部分會在使用蘋果自家晶片的自有資料中心執行。 根據之前的媒體報導,參與蘋果伺服器專案「Project ACDC (即Apple Chips in Data Center、蘋果資料中心晶片)」的人士強調,自家伺服器處理器的內部元件仍可捍衛用戶 隱私。蘋果處理器的「安全隔離區」(Secure Enclave)技術,可避免資料外洩。目前蘋果 計畫以自家的資料中心執行雲端功能,但最終仍會仰賴外部設施,如同iCloud等服務。 Meta執行長祖克柏(Mark Zuckerberg)最近接受彭博社記者Emily Chang主持的podcast節 目訪問時透露,雖然業界也許對AI基礎建設投資過度,但假使進度落後,則未來10~15年 將無法在這個最重要的科技市場佔有一席之地。 https://pse.is/69xdjm -- ※ 發信站: 批踢踢實業坊(pttbestweb.org.tw), 來自: 61.218.53.138 (臺灣) ※ 文章網址: https://pttbestweb.org.tw/Tech_Job/M.1722297049.A.BAA
peter98 : 那就是有了 07/30 07:53
DivineSX : Google母公司甲骨文? 07/30 07:55
zaiter : 那蘋果就等死了 手機已經爛到不行技術都偷安卓 vis 07/30 08:03
zaiter : ion pro沒人買 只能靠信仰假環保真斂財了 07/30 08:03
john65240 : 支持G哪來的客製化晶片 07/30 08:09
john65240 : Colab都還是用nv的 07/30 08:10
ReverieKai : Google有TPU,但它不是像NV那種通用計算卡 07/30 08:18
abyssa1 : 這記者的邏輯無法理解 07/30 08:23
abyssa1 : 我說我早餐喝咖啡 代表我沒有吃任何麵包? 07/30 08:24
aaa40303 : 蘋果近幾年的策略有哪個是正確的 07/30 08:26
antis : 可憐的頻果,正在加速殞落 07/30 08:37
Prado4840 : TPU至少供貨順暢? 07/30 08:44
bluezero000 : 選邊站? 07/30 08:48
tactics2100 : 代表時間夠的話 不用最新的晶片 也能訓練出堪用的模 07/30 08:49
tactics2100 : 型 變成cp值優先 07/30 08:49
blanka : 蘋果自己可以不用CUDA 其他人不行啊 感覺不太能比較 07/30 08:50
chrischiu : AI終端設備能做什麼?現在頂多AI相機而已 07/30 08:51
small314 : 怕爆 07/30 08:54
ayianayian : 你遲早要用輝達的 07/30 08:56
Max112358 : colab也能用tpu啊 。。。 07/30 09:39
lantimes : 支持 07/30 10:09
roccqqck : 訓練model跟run model 其實是兩回事 07/30 10:28
roccqqck : 這篇可能代表蘋果自己的ai晶片只能run model 07/30 10:38
roccqqck : 但是開發train model還是用tpu 07/30 10:38
ghchen1978 : 做出AI肝GG股票又要漲了 07/30 10:50
bnn : 沒事啦 蘋果本來也是綁架用戶的平台商 又不靠自己 07/30 10:53
kingofage111: 果粉的信仰還是能讓apple再賺20年的啦 07/30 11:36
mrsix : 人家中國手機都不需要這些訓練就可以達成AI,感覺 07/30 12:36
mrsix : 蘋果會是下一個NOKIA。 07/30 12:36
douge : 要付錢給google 才能一邊聽音樂一邊看網頁的果迷 07/30 13:10
douge : 本來就不太需要管他們的感受 07/30 13:10
chrischiu : ai跟5g就是相衝突,比如說離線翻譯,只有在出國下飛 07/30 13:38
chrischiu : 機當地sim卡買到前有用 07/30 13:38
chrischiu : 之前mtk推這個功能,我就問你到底要賣5g還是ai? 07/30 13:40
NexusPrime : 還租Google的? 那算力被別人掌握 07/30 15:16
kingofage111: Apple出一隻爛錶,一堆功能都要收費,果粉還不是爽 07/31 09:43
kingofage111: 爽買單 07/31 09:43