OD体育传字节联手台积电自研5nm的AI芯片低沉硬件本钱省略依赖英伟达

 公司新闻     |      2024-09-18 16:12:20    |      小编

  9月16日音信,据媒体报道,有知爱人士败露称,字节跳动正正在自帮研发两款AI芯片,旨正在节减对高贵的NVIDIA芯片的依赖,并晋升其正在市集的竞赛力。

  而相合两款AI芯片的缔造方面OD体育,字节跳动策画与台积电团结,估计正在2026年前完毕这两款自研芯片的量产。

  这两款芯片划分针对模子熬炼和推理安排,个中一款用于加快修筑人为智能模子所需的豪爽数据盘算推算,即熬炼芯片。另一款则用于加快基于模子的预测和决议流程,即推理芯片,字节跳动已向台积电预订了数十万颗芯片硬件,估计通过采购自研芯片,可减削数十亿美元的本钱OD体育。

  旧年OD体育,字节跳动颁布了其首款AI闲谈呆板人“豆包”,该呆板人不妨天生文本和图像的天生式AI实质。本年,字节跳动宣告了一系列低本钱的大发言模子硬件,个中少许模子天生一个Token(即模子天生的一个词或词的逐一面)的本钱比OpenAI的肖似产物低99%硬件。

  然而,固然模子天生本钱下降OD体育,但硬件的本钱已经居高不下。据报道,本年字节下了跨越20万颗Nvidia H20芯片的订单,H20是Nvidia为中国市集缔造的最前辈芯片,正在美国出口法规下承诺出售OD体育,该订单代价跨越20亿美元。

  而现正在,字节跳动设计向台积电订购数十万颗其自研的熬炼和推理芯片。据《The Information》推断,这些内部安排的芯片本钱将比添置Nvidia芯片少数十亿美元。

  然而,据知爱人士败露硬件,这些芯片仍处于安排阶段OD体育传字节联手台积电自研5nm的AI芯片低沉硬件本钱省略依赖英伟达,字节跳动的策画恐怕会爆发转移。