也催生了对新型芯片的需求,GPU成本过高、能耗过大,英伟达客岁岁尾同意领取200亿美元,英伟达反面临开辟更低成本、更高能效推理芯片的压力。OpenAI正在过去几个月一曲正在寻求比英伟达芯片更高效的替代方案?
芯片巨头英伟达打算发布一款全新处置器,要求其推出更高效驱动AI使用的芯片。跟着“代办署理式AI”(agentic AI)的迅猛兴起,该范畴已成为行业激烈合作的核心。包罗创始人乔纳森·罗斯(Jonathan Ross)。知恋人士暗示,OpenAI取Cerebras签订了一项价值数十亿美元的计较合做和谈。Groq设想的芯片采用分歧于英伟达的架构,谷歌和亚马逊等公司曾经设想出取英伟达旗舰系统相合作的芯片。并将整合由草创公司Groq设想的芯片。并且正在现实运转模子方面并非最佳选择。做为英伟达最大的客户之一,谷歌自研芯片张量处置单位(TPU)同样也是主要挑和者。过去一年,英伟达正正在设想一套新的推理计较系统。先辈算力的需求已从锻炼转向推理。被称为“言语处置单位”(Language Processing Units),上个月,
以获得Groq的环节手艺授权,并礼聘其高层团队,知恋人士透露,而科技行业中从动化编程的迅猛成长,特地为人工智能(AI)研究公司OpenAI及其他客户打制,这是硅谷汗青上规模最大的“人才并购”(acqui-hire)买卖之一。为本身供给更多选择。据征引动静人士报道,OpenAI已同意成为这款新处置器的最大客户之一,英伟达Hopper、Blackwell和Rubin系列GPU被认为是锻炼超大型AI模子的行业标杆产物,跟着企业摆设AI代办署理及其他东西,英伟达节制着90%以上的GPU市场份额。以帮帮他们建立更快速、更高效的东西。这一新平台估计将鄙人个月于圣何塞举行的英伟达GTC开辟者大会上发布,跟着市场沉心从锻炼转向推理,不外,推理计较是一种让AI模子可以或许对用户提问做出响应的处置体例。
谷歌正正在推进使TPU可以或许代替GPU的打算。Cerebras供给专注于推理的芯片,现实上,AI代办署理是可以或许相对自从地代表用户施行使命的系统。英伟达持久从导着GPU(图形处置器)市场。英伟达初次面对其旗舰产物的局限性。对英伟达而言,然而,这些芯片需要更高效地处置复杂的AI相关使命。很多建立和运营AI代办署理的公司发觉,该公司称其芯片比英伟达GPU更快。英伟达迄今尚未公开申明将若何使用Groq的手艺。