12 月 7 日消息,训练I芯谷歌在推出全新大语言模型 Gemini 1.0 之外,模型还宣布了增强版 Tensor Processing Unit(TPU)芯片,最高最新型号为 TPU v5p。快谷
谷歌目前已经在 YouTube、歌宣Gmail、训练I芯Google Maps、模型Google Play 和 Android 等产品服务中使用 TPU 芯片,最高最新版本是快谷谷歌迄今为止功能最强大、可扩展性最强和最灵活的歌宣 AI 加速器芯片。
注:在性能方面,训练I芯谷歌 TPU v5p 在 bfloat16 精度下,模型可以实现 459 teraFLOPS;在 Int8 精度下,最高可以实现 918 teraOPS。快谷
谷歌 TPU v5p 配备 95GB 的歌宣 HBM3 内存,内存带宽为 2.76TB / sec,每个 Pod 最多有 8960 个加速核心,并自研搭载 600GB/sec 芯片互联主控,可以更快、更准确地训练 AI 模型。
与 TPU v4 相比,新发布的 TPU v5p 具有两倍的 FLOPS(每秒浮点运算)和三倍的高内存带宽提升。
谷歌表示在 BF16 精度下,训练 OpenAI 拥有 1750 亿参数的 GPT3,比此前的 TPU v4 AI 加速器芯片快 90%;如果在 Int8 精度下可以达到 180%。
每个 TPU v5p 加速器的运行费用为每小时 4.20 美元,这比 TPU v4(每小时运行费用为 3.22 美元)和 TPU v5e(每小时运行费用为 1.20 美元)贵一点。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,所有文章均包含本声明。
(责任编辑:时尚)
“资产荒”加剧:AA级城投长期限债券发行利率跌破3% 天量理财资金配置难
北信源:推出兼容鲲鹏920处理器的“信源密信鲲鹏版V6.0”
“资产荒”加剧:AA级城投长期限债券发行利率跌破3% 天量理财资金配置难
精锻科技:轻量化产品年底前完成第一期产线和产能建设,预期2025年开始贡献收入