據(jù)報(bào)道,谷歌高達(dá)在本周的迄今Cloud Next大會(huì)上,Google發(fā)布了第七代TPU AI加速器芯片——Ironwood。最強(qiáng)
Google Cloud副總裁Amin Vahdat表示:Ironwood是芯第我們迄今為止功能最強(qiáng)大、性能最強(qiáng)、發(fā)布最節(jié)能的內(nèi)存 TPU。它專為大規(guī)模支持思考和推理AI模型而設(shè)計(jì)。容量
首先在計(jì)算性能上,迄今Ironwood實(shí)現(xiàn)4614 TFLOP的最強(qiáng)峰值算力,配備192GB專用RAM和7.4Tbps超高帶寬,芯第確保數(shù)據(jù)高速傳輸。發(fā)布
其次,內(nèi)存芯片間互連(ICI)帶寬提升至1.2Tbps,容量較前代提升50%,谷歌高達(dá)大幅優(yōu)化分布式訓(xùn)練效率。
最引人注目的是其可擴(kuò)展性——支持9216個(gè)液冷芯片集群部署,總功率接近10兆瓦,通過創(chuàng)新的ICI網(wǎng)絡(luò)實(shí)現(xiàn)超大規(guī)模AI工作負(fù)載處理。
Google Cloud為客戶提供256芯片和9216芯片兩種配置選擇,該芯片作為Google AI超級(jí)計(jì)算機(jī)架構(gòu)的核心組件,通過軟硬件協(xié)同優(yōu)化,將有力推動(dòng)生成式AI向更復(fù)雜場景演進(jìn)。