国产一区高清|日韩精品一区人妻|曰夲AV一区二区|美日韩一区二区三区|国产喷水在线观看|狼友网站成人大全|欧美日韩制服中文视频在线|久草加勒比手机在线|婷婷色综合无码专区|japanese 精品视频在线观看

馬斯克旗下xAI公司公開大模型Grok-1的權(quán)重與架構(gòu)

DoNews3月18日消息,據(jù)騰訊科技援引國外媒體報道,埃隆·馬斯克再次在人工智能領(lǐng)域掀起風(fēng)暴,這次他選擇以公開Grok背后代碼的方式,進(jìn)一步推進(jìn)他在這場技術(shù)大戰(zhàn)中的攻勢。此前,他曾因相關(guān)議題對OpenAI提起訴訟。

周日,馬斯克公開了旗下xAI公司研發(fā)的人工智能聊天機(jī)器人Grok的原始計算機(jī)代碼。Grok是2023年發(fā)布的,其設(shè)計理念源于科幻小說《銀河系漫游指南》(the Hitchhiker’s Guide to the Galaxy),旨在為用戶提供尖刻而富有洞見的回答。

盡管xAI是一個獨(dú)立于X的實(shí)體,但其技術(shù)已經(jīng)被整合到社交媒體平臺中,通過用戶帖子的訓(xùn)練來不斷提升其智能水平。訂閱X高級功能的用戶可以向Grok提問,并收到其回復(fù)。

xAI在其官方網(wǎng)站上宣稱,它正在公開其大語言模型Grok-1的基本模型權(quán)重和網(wǎng)絡(luò)架構(gòu)。Grok-1是由該公司從頭開始訓(xùn)練、擁有3140億參數(shù)的混合專家模型。

xAI表示,這是Grok-1預(yù)訓(xùn)練階段的原始基礎(chǔ)模型檢查點(diǎn)(Checkpoint,指在特定時間點(diǎn)保存模型狀態(tài)的操作,以便在未來某個時間點(diǎn)恢復(fù)模型狀態(tài)),該階段于2023年10月結(jié)束。這意味著該模型沒有針對任何特定的應(yīng)用程序(例如對話)進(jìn)行微調(diào)。

xAI正在Apache 2.0許可下發(fā)布權(quán)重和架構(gòu)。該模型的細(xì)節(jié)包括:在大量文本數(shù)據(jù)上訓(xùn)練的基礎(chǔ)模型,沒有針對任何特定任務(wù)進(jìn)行微調(diào);3140億參數(shù)混合專家模型,在給定Token上活動的權(quán)重為25%;2023年10月,xAI使用JAX和Rust之上的自定義訓(xùn)練堆棧從頭開始訓(xùn)練。

馬斯克此次選擇將Grok的代碼開源,即公開給所有人查看和使用,再次體現(xiàn)了他對開源理念的堅定支持。去年,他就曾對X的推薦算法進(jìn)行同樣的開源操作,盡管之后并未進(jìn)行更新。?

馬斯克上周日在談及開源X推薦算法時表示:“雖然還有很多工作要做,但這一平臺已然成為目前最透明、最能尋求真相的平臺之一,盡管它的門檻相對較低?!?

開放Grok聊天機(jī)器人代碼的舉動是馬斯克與ChatGPT的創(chuàng)造者OpenAI之間的最新一次交鋒。馬斯克曾是OpenAI的創(chuàng)始人,但后來離開并提起訴訟,指控其違反了開放和透明的承諾。

馬斯克堅信,如此重要的技術(shù)不應(yīng)該只被谷歌、微軟等少數(shù)科技巨頭所控制,而應(yīng)該讓更多的人參與進(jìn)來。微軟是OpenAI的親密合作伙伴。OpenAI已表示將尋求采取行動駁回馬斯克的訴訟。

在過去的一年里,隨著人工智能技術(shù)的快速發(fā)展和普及,關(guān)于開源生成式人工智能的爭議在科技界中愈發(fā)激烈。這一技術(shù)能夠創(chuàng)建逼真的圖像、視頻,并產(chǎn)生類似人類的文本回復(fù),其潛力巨大,但也伴隨著一系列的安全和倫理問題。因此,在人工智能底層代碼是否應(yīng)該公開的問題上,硅谷內(nèi)部存在著嚴(yán)重的分歧。

一方認(rèn)為,這種強(qiáng)大的技術(shù)必須防范入侵者,因此應(yīng)該保持代碼的封閉和專有。而另一方則堅信透明的好處大于壞處。通過公開自己的人工智能代碼,馬斯克堅定地站在了支持開源的陣營,這一決策可能使他在開發(fā)這項技術(shù)方面超越已有的競爭對手。

代碼的開放將極大地促進(jìn)技術(shù)的共享和創(chuàng)新。其他公司和獨(dú)立軟件開發(fā)商可以基于馬斯克的代碼進(jìn)行修改和重用,這將加速聊天機(jī)器人和其他人工智能系統(tǒng)的研發(fā)進(jìn)程。

Facebook和Instagram的母公司Meta也開放了其名為LLaMA的人工智能技術(shù)。谷歌和一家著名的法國初創(chuàng)企業(yè)Mistral AI也做了一些開源項目。?

馬斯克在2023年的行動中展現(xiàn)出了他在人工智能領(lǐng)域的雄心壯志。他成立了xAI,一個以“理解現(xiàn)實(shí)”為使命的公司。去年11月,他表示,參與他440億美元私有化X交易的投資者將持有xAI 25%的股份。

對于聊天機(jī)器人的態(tài)度,馬斯克一直持開放和包容的立場。他反對限制聊天機(jī)器人討論的話題,認(rèn)為這種限制是對技術(shù)潛力的浪費(fèi)。?

標(biāo)簽: xAI
馬斯克旗下xAI公司公開大模型Grok-1的權(quán)重與架構(gòu)
掃描二維碼查看原文
分享自DoNews
Copyright ? DoNews 2000-2025 All Rights Reserved
蜀ICP備2024059877號-1