首页 综合动态 > 内容

伊隆·马斯克的xAI使用100,000个NVIDIAH100GPU来训练Grok3AI模型Grok2将于8月推出

时间:2024-07-03 11:27:25 来源:
导读 伊隆·马斯克的AI初创公司计划利用GrokLLM模型取得重大突破,并利用100KNVIDIAH100AIGPU提升竞争力好吧,看起来每家专注于人工智能的公司都...

伊隆·马斯克的AI初创公司计划利用GrokLLM模型取得重大突破,并利用100KNVIDIAH100AIGPU提升竞争力好吧,看起来每家专注于人工智能的公司都在争相推出其LLM模型的高级版本,以满足对人工智能聊天机器人日益增长的需求。加入这场竞争的新公司是埃隆·马斯克的人工智能初创公司xAI,该公司此前宣布开发“Grok”系列LLM模型,专门设计用于将其集成为X上高级用户的人工智能助手。

相关报道Teclab制造了自己的GeForceRTX4090SUPERGPU,配备26GbpsG6X内存、NVIDIAAD102,安装在3090TiHOFOCLabPCB上,比库存快13%

该公司已经发布了原始模型的更新版本,xAI目前正在为Grok2做准备;然而,埃隆在他的最新推文中已经开始推广下一代Grok3模型,声称它将比其前代产品大得多。

用于训练Grok3的硬件的披露是一件令人惊讶和兴奋的事情,因为利用100,000块NVIDIA高端H100AIGPU进行模型训练将产生市场尚未见过的结果。

为了支持这一说法,有传言称,OpenAI的GPT-4LLM模型是在40,000个NVIDIAA100AIGPU上训练的,与H100相比,这些GPU相对过时,数量也较少;因此,你可以想象Grok3AI模型本身所具备的能力。

SXM-To-PCIe适配器板可让用户将NVIDIA的顶级H100AIGPU转换为1或2插槽显卡1

在之前的一条推文中,埃隆·马斯克声称,通过互联网数据训练法学硕士非常繁琐,需要“大量工作”,尤其是在计算资源方面。他说,定于8月推出的Grok2AI模型在这方面有所改进,下一代Grok3LLM模型将以之前的模型为基础,最终成为xAI的一款大型产品。

除此之外,埃隆·马斯克此前宣布,他还计划为xAI收购NVIDIA的旗舰BlackwellB200AI加速器,价值90亿美元,考虑到市场的动态,这是一个巨大的数目。Grok3使用了100,000台NVIDIAH100,该模型仅在训练方面就需要花费约30亿美元,这证明了埃隆在xAI方面竭尽全力的事实。

看看xAI及其企业如何推动AI的炒作将会很有趣,而且从目前的情况来看,埃隆的AI初创公司可能是下一个大热门。

标签: