OD体育【硬件资讯】更多AI芯片井喷式宣布!纠合应对NVIDIA及HBM内存垄断上风ARM或成为通用挑选??

 公司新闻     |      2024-08-20 18:20:21    |      小编

  Ampere透露,过去几年里平昔一心于为各品种型的云端劳动负载和底子步骤斥地的立异本领,因为通用和人为智能(AI)劳动负载正正在云中敏捷交融到AI谋划中,所以他日的平台必需包罗以下个性,分离是:

  当以上请求勾结Ampere的本领,包罗定造内核、专有网格、幼芯片互联等,再参预本身的AI加快时,就出生了革命性的AmpereOne Aurora。其厉重特征包罗以下几点:

  Ampere称,该产物可能正在一系列AI推理和磨练用例中实行扩展,拥有壮健的AI谋划成效,合用于RAG和矢量数据库等劳动负载,为AI谋划供给当先的每机架职能。更厉重的是,AmpereOne Aurora可能采用风冷散热,这意味着可能计划正在环球任何现有的数据中央。

  预计2024年第四时度,Ampere计算推出AmpereOne M系列,重心数目还是连结正在192个,但是会引入到12通道DDR5的平台上。到了2025年OD体育硬件,Ampere将带来加强版本,将惩罚器的重心数目升高到256个,并改用3nm工艺修造,以进一步擢升职能。

  AmpereOne系列行动Ampere公司旗下主打的ARM架构专业惩罚器硬件,也正在这个AI时期带来了新产物——AmpereOne Aurora。遵照Ampere公司的描绘,新的产物将会对AI有更突出的帮帮,且自己重心数等硬性规格也是进一步擢升了硬件,其古代运算职能的擢升也是不幼。其它,Ampere前期曾发表与高通配合优化能耗,不了解是否有功能了,恐怕真能成为代替NVIDIA的通用AI芯片的新采选也说大概??

  新 闻 ②: 印度汽车修造商Ola发表首款AI芯片,声称其职能与能效优于英伟达GPU

  遵照wccftech 报道 ,印度汽车修造商Ola正在克日布告,它们将正在2026年之前打算、修造并推出Bodhi系列AI芯片,这些芯片将采用 ARM架构 。报道作品称,Ola的首席推行官Bhavish Aggarwal说道,印度需求自帮寻找人为智能周围及研发干系产物,而不是依赖第三方代替品。

  其余,报道作品还提到Ola目前已显示了Bodhi系列的部门AI芯片,以及Sarv-1云原生CPU和Ojas角落AI芯片。此中Bodhi-1 AI芯片估计正在2026年发表,Ola称该产物专为大范围LLM打算硬件,将具有“最佳的能效出现”,旨正在投合AI细分墟市的大部门需求,同时其下一代产物Bodhi-2估计正在2028年发表,Ola称Bodhi-2是一款对标业界顶级芯片推出的产物,职能和能效方面将优于英伟达的GPU(未注明整体型号),额定功耗为200W。而Sarv-1芯片,Ola称这是一款云原生芯片,是一款基于ARM 指令集 的通用任职器CPU,专为云谋划周围打算,同时有据说称Sarv-1或者采用ARM Neoverse N3内核。至于Ojas角落AI芯片,Ola则透露该系列芯片将集成到自家的下一代电动汽车中,以帮帮其运转充电、ADAS等体系,同时该系列芯片将通过AI原生架构帮帮渊博的生态体系。

  至于正在代工方面,Bhavish Aggarwal声称他们将与环球一级或二级代工场配合,或者是台积电或三星。

  印度的第一颗AI芯片正式布告了,印度汽车修造商Ola正式推出,原本汽车厂商搞芯片也不算稀罕,到底有需求就有动力,特斯拉不也是云云吗?但是印度这个国度的科技产物总给人极少不靠谱的感受……再加上此次更是直接高调布告职能与能效优于英伟达GPU,值得一提的是,Ola正在不久前方才杀青了全印度最大的IPOOD体育,此次的芯片发表恐怕将进一步推进股价。

  克日,NEO Semiconductor 发表 了3D X-AI芯片本领,以代替目前用于AI GPU的HBM。这款3D DRAM内置AI惩罚成效,可能惩罚和天生不需求数学谋划的输出。当大宗数据正在内存和惩罚器之间传输时,可能缓解数据总线的瓶颈题目,升高了AI职能和作用OD体育。

  NEO Semiconductor创始人兼首席推行官Andy Hsu透露:“因为架构和本领作用低下,目前的AI芯片糟蹋了大宗的职能和功率。目前的AI芯片架构将数据存储正在HBM中,并依赖GPU来推行全豹谋划。这种差另表数据存储和数据惩罚系统机闭,使得数据总线成为不成避免的职能瓶颈。通过数据总线传输大宗的数据会导致职能受限,况且功耗极端高。3D X-AI可能正在每个HBM芯片长实行AI惩罚。这可能大大削减HBM和GPU之间的数据传输,从而升高职能并显着下降功耗。”

  3D X-AI芯片的底部有一个神经元电道层,用于惩罚存储正在统一芯片上的300个存储层中的数据。该3D DRAM中有8000个神经道电道,正在存储器中实行AI惩罚,比拟古代计划职能升高了100倍。其容量为128GB,每个芯片可能帮帮10TB/s的AI惩罚速率。若是将12个芯片堆叠正在一个HBM封装旅馆中,可能告竣1.5TB以上的存储容量以及120TB/s的惩罚含糊量OD体育。

  遵照NEO Semiconductor说法,采用3D X-AI本领的芯片正在存储密度上是目前HBM产物的八倍,更厉重的是,通过削减高能耗GPU需求惩罚的数据量,使得下降99%的功耗。

  除了NVIDIA是正在全豹AI芯片厂商眼前的一座大山表,HBM内存也成为绕但是的门槛,但真的绕但是吗?先前三星一经布告过一款操纵LPDDR内存的轻量AI芯片OD体育,而NEO Semiconductor本次发表3D X-AI芯片才是真正的可以代替HBM的新采选。遵照先容硬件,通过3D X-AI芯片本领可能升高AI职能,相当于是对AI特化的内存芯片优化本领OD体育【硬件资讯】更多AI芯片井喷式宣布!纠合应对NVIDIA及HBM内存垄断上风ARM或成为通用挑选??。只是我有个疑难,若是这项本领能运用于大凡DRAM内存,那岂不是同样也能用于HBM内存吗?届时民多都更强了,最高职能的AI芯片岂不是照样相同采选HBM内存?不了解我的设念是否或者。