兌現(xiàn)承諾!馬斯克旗下xAI宣布Grok 2.5正式開源
埃隆·馬斯克的xAI開源模型了。周日(8月24日),xAI宣布將其人工智能模型Grok 2.5開源,并發(fā)布在了開放源代碼平臺(tái)Hugging Face上。
馬斯克在社交媒體X上寫道。“去年xAI最出色的Grok 2.5模型現(xiàn)已開源。至于Grok 3,其將在大約6個(gè)月內(nèi)實(shí)現(xiàn)開源。
馬斯克還發(fā)帖稱,“xAI很快就會(huì)超越除谷歌外的任何公司,然后也將超越谷歌。但中國公司將會(huì)是最強(qiáng)勁的競爭對(duì)手,因?yàn)樗麄兊碾娏Ρ让绹嗟枚?,而且在硬件建設(shè)方面實(shí)力超強(qiáng)?!?
此次開源Grok 2.5可以視作馬斯克兌現(xiàn)當(dāng)初的承諾。去年8月Grok 2.5發(fā)布時(shí),馬斯克曾公開表示,每當(dāng)創(chuàng)建Grok新版本的時(shí)候,就會(huì)開源之前的一個(gè)版本。
隨著最新Grok-4模型已于7月發(fā)布,馬斯克是時(shí)候開源去年的大模型版本了。今年7月,xAI發(fā)布了Grok 4系列最新推理模型,分為Grok 4和Grok 4 Heavy,支持最高25.6萬tokens的上下文窗口。
從Grok 2.5的水平來看,其總參數(shù)量高達(dá)9050億,在推理時(shí)每次激活其中的1360億參數(shù),使其成為目前最強(qiáng)大的開源模型之一;它還支持高達(dá)13.11萬tokens的上下文長度,剋一次性處理長文檔和對(duì)話歷史;其還采用混合專家(MoE)架構(gòu),可以在不斷增加巨大計(jì)算成本的前提下大幅擴(kuò)展模型規(guī)模。
關(guān)于開源權(quán)限,xAI表示,僅允許非商業(yè)與合規(guī)商業(yè)使用,但禁止用其訓(xùn)練其他基礎(chǔ)模型。xAI明確,僅當(dāng)關(guān)聯(lián)公司年收入低于一百萬美元時(shí),才可用于商業(yè)用途,超過此門檻的商業(yè)用途需獲得xAI的單獨(dú)許可。
對(duì)此,人工智能工程師Tim Kellogg將Grok的許可證描述為是“定制版”的,因?yàn)槠渲邪艘恍┓锤偁帡l款。