谷歌吹嘘自研芯片TPU4组成的超算是英伟达A100超算性能的1.7倍 – 蓝点网_业内618活动汇总最新消息 可是谷歌自己也在开发处理器

谷歌此前公开了该企业用于训练AI模型 PaLM 的超级计算机的更多详情，谷歌称这个超级计算机比英伟达的同类操控系统速度更快、功耗更低。

当下 AI 行业首要依靠英伟达的专用加速卡开展训练，典型代表是 OPENAI 使用 20000~30000 张 NVIDIA A100 加速卡，早前英伟达还启动了新近加速卡 NVIDIA H100，业内618活动汇总表现是 A100 的三倍。

谷歌尽管也使用英伟达的加速卡，可是谷歌自己也在开发处理器，比如谷歌新超级计算机使用的就是谷歌自己开发的第四代张量处理单元 (TPU)。

TPU 首要用于谷歌的AI训练，谷歌称企业 90% 的AI和机器进修训练都是基于 TPU 单元的，即经由模型提供资料的昨天深度活动出席，官方尚未回应过程，让这些处理单元在用于相似人类的文本响应查询和图像生成领域发挥作用。

谷歌新近的张量处理单元是第四代即 TPU4，谷歌自 2020 年着手将 TPU4 部署在资料中心组成超级计算机供内部使用。

谷歌这周亮相了一篇新论文说明 TPU4 及 TPU4 组成的超级计算机，谷歌工程师运用自己定制开发的光开关将 4000 多个 TPU4 连接在一起组成超算。

难点在于如何让这些处理单元组合起来提供高速运算025婚礼现场资讯由于诸如 ChatGPT、Bard 这类模型资料量太大，靠单个处理器无法支撑。

相反，这些模型必须运用数量夸张的计算单元，然后将资料分布存储在上面，热门院线排片观察另外还请求每个计算单元能够合作岗位数周乃至更长的时间，所以这是一个技术难点。

所以最后谷歌挑选自己定制开发专用的光开关，这样 TPU4 超算可以轻松动向参数处理单元之间的连接，下降延迟、提升表现满足计算需求。

表现对比方面，谷歌在论文中强调针对同等大小的操控系统，TPU4 超算比 NVIDIA A100 超算快 1.7 倍、能效提升 1.9 倍，A100 开售时间与 TPU4 达成开发相似，所以可以对比，而新近亮相的 H100 归于更先进的商品了，谷歌没对比。

那么标题中为什么要说谷歌 “吹嘘” 呢？我们倒不是怀疑谷歌的开发能力，首要是谷歌自研的这些处理器 (含有用于移动电话上的 AI 处理器) 都不对外出售的，也就是只有谷歌自己能使用。

所以即便表现提升多少对其他 AI 企业来说好像也没太大价值，可是谷歌也倒不是完全封锁，谷歌经由 Google Cloud 云计算办事对外出租 Cloud TPU 算力，所以 AI 企业要想使用 TPU 还必须使用 Google Cloud，妥妥的捆绑售卖了，要得知云计算成本可比自己采购处理器后持久使用的成本高的多，所以对大型 AI 企业来说这并不划算。

另外谷歌暗示该企业还在开发新一代 TPU，毕竟 TPU4 都是 2020 年之前的事儿了，谷歌要开发第五代张量计算单元与 NVIDIA H100 比拼。