
发布日期:2025-02-23 12:30 点击次数:112
金吾财讯 | 华泰证券暗示,2025年2月18日,xAI发布了基于专家最大算力集群(约20万块GPU)磨练的新一代大模子:1)预磨练模子:Grok-3与Grok-3 mini,在Math、Science、Coding测评集上进步了Gemini-2 Pro、GPT-4o以及DeepSeek-V3;2)推理模子:Grok-3的Reasoning版块在性能上杰出了OpenAI o3 mini (high)。Grok-3系列将最初面向X平台的Premium Plus订阅用户怒放,包括聊天功能、DeepSearch与高档推理花式。该行以为,一方面Grok-3磨练集群已达到20万卡级别,确认预磨练在算力普及下仍能突破;另一方面,xAI将汲取“蔓延开源”政策,即在Grok-3打磨完善后,开源Grok-2,结束了交易化和开源的均衡,开源社区有望被合手续赋能。
该行提到,期货投资xAI指出,Big intelligence requires big compute,Grok-3比拟Grok-2普及了10x的磨练算力。2024年9月3日,马斯克告示xAI的10万卡H100集群上线,本次发布会再次暗示xAI的磨练集群GPU数已扩大到了20万。该行以为,固然当今在预磨练数据上存在瓶颈,然则合成数据、RL数据、工程材干优化,致使Transformer架构迭代,或能逐步冲突瓶颈,Grok-3仍是确认预磨练依然有突破空间,合手续看好专家头部大模子预磨练算力需求。