標(biāo)題:百度文心大模型4.5系列模型正式開源:10款模型涵蓋更多應(yīng)用場(chǎng)景
隨著人工智能技術(shù)的飛速發(fā)展,百度文心大模型4.5系列模型正式開源的消息引起了業(yè)界的廣泛關(guān)注。該系列模型涵蓋了47B、3B激活參數(shù)的混合專家(MoE)模型,以及0.3B參數(shù)的稠密型模型等10款模型,實(shí)現(xiàn)了預(yù)訓(xùn)練權(quán)重和推理代碼的完全開源。這一舉措不僅彰顯了百度在人工智能領(lǐng)域的實(shí)力,也為廣大開發(fā)者提供了更多的應(yīng)用場(chǎng)景和選擇。
首先,讓我們來(lái)了解一下文心大模型4.5系列開源模型的特點(diǎn)。據(jù)介紹,該系列針對(duì)MoE架構(gòu)提出了一種創(chuàng)新性的多模態(tài)異構(gòu)模型結(jié)構(gòu),適用于從大語(yǔ)言模型向多模態(tài)模型的持續(xù)預(yù)訓(xùn)練范式。這種結(jié)構(gòu)在保持甚至提升文本任務(wù)性能的基礎(chǔ)上,顯著增強(qiáng)了多模態(tài)理解能力。此外,文心大模型4.5系列均使用飛槳深度學(xué)習(xí)框架進(jìn)行高效訓(xùn)練、推理和部署,在大語(yǔ)言模型的預(yù)訓(xùn)練中,模型FLOPs利用率(MFU)達(dá)到47%。這一系列模型的優(yōu)異性能主要得益于多模態(tài)混合專家模型預(yù)訓(xùn)練、高效訓(xùn)練推理框架和針對(duì)模態(tài)的后訓(xùn)練等關(guān)鍵技術(shù)點(diǎn)。
在文本模型方面,文心大模型4.5開源系列基礎(chǔ)能力強(qiáng)、事實(shí)準(zhǔn)確性高、指令遵循能力強(qiáng)、推理和編程能力出色。這使得該系列模型在多個(gè)主流基準(zhǔn)評(píng)測(cè)中超越了DeepSeek-V3、Qwen3等模型。而在多模態(tài)模型方面,文心大模型4.5開源系列擁有卓越的視覺(jué)感知能力,同時(shí)精通豐富視覺(jué)常識(shí),并實(shí)現(xiàn)了思考與非思考的統(tǒng)一。這使得該系列模型在視覺(jué)常識(shí)、多模態(tài)推理、視覺(jué)感知等主流的多模態(tài)大模型評(píng)測(cè)中優(yōu)于閉源的OpenAI o1。尤其值得一提的是,在輕量模型上,文心4.5-21B-A3B-Base文本模型效果與同量級(jí)的Qwen3相當(dāng),而文心4.5-VL-28B-A3B多模態(tài)模型更是目前同量級(jí)最好的多模態(tài)開源模型,甚至與更大參數(shù)模型Qwen2.5-VL-32B不相上下。
此次百度一次性推出10款文心大模型4.5系列開源模型,在獨(dú)立自研模型數(shù)量占比、模型類型數(shù)量、參數(shù)豐富度、開源寬松度與可靠性等關(guān)鍵維度上,均處于行業(yè)領(lǐng)先位置。這得益于百度在算力、框架、模型到應(yīng)用的四層布局構(gòu)建了明顯的AI全棧技術(shù)優(yōu)勢(shì)。作為國(guó)內(nèi)最早投入AI研發(fā)的企業(yè)之一,百度在深度學(xué)習(xí)框架、預(yù)訓(xùn)練大模型、多模態(tài)融合建模等方面擁有深厚的技術(shù)積累和豐富的實(shí)踐經(jīng)驗(yàn)。
值得一提的是,百度文心大模型4.5系列模型的權(quán)重按照Apache 2.0協(xié)議開源,這為開展學(xué)術(shù)研究和產(chǎn)業(yè)應(yīng)用提供了廣闊的空間。同時(shí),基于飛槳提供開源的產(chǎn)業(yè)級(jí)開發(fā)套件,該系列模型廣泛兼容多種芯片,降低了模型的后訓(xùn)練和部署門檻。飛槳是中國(guó)首個(gè)自主研發(fā)、功能豐富、開源開放的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái),其開源的產(chǎn)業(yè)級(jí)開發(fā)套件為開發(fā)者提供了開箱即用的工具和全流程支持。
總的來(lái)說(shuō),百度文心大模型4.5系列模型的正式開源,無(wú)疑將為開發(fā)者們帶來(lái)更多的選擇和可能性。該系列模型的優(yōu)異性能和廣泛的應(yīng)用場(chǎng)景,將推動(dòng)人工智能技術(shù)在各個(gè)領(lǐng)域的發(fā)展和應(yīng)用。我們有理由相信,隨著百度在人工智能領(lǐng)域的不斷深耕細(xì)作,我們將迎來(lái)更加智能、便捷、美好的未來(lái)。
- 穩(wěn)定幣風(fēng)波再起,京東嚴(yán)正聲明:堅(jiān)決維護(hù)市場(chǎng)秩序
- 知乎直答升級(jí):解鎖訂閱與內(nèi)容分享,探索知識(shí)新玩法!
- 百望股份攜手沐曦集成電路,共創(chuàng)智能芯片新紀(jì)元
- 螞蟻科技開放香港四大核心技術(shù):助力香港區(qū)塊鏈與人工智能發(fā)展,打造未來(lái)科技新生態(tài)
- 福特CEO反思中國(guó)電動(dòng)汽車崛起:中國(guó)速度引發(fā)深思,電動(dòng)汽車發(fā)展如何令人自慚形穢
- 小馬智行第七代Robotaxi落地新加坡:打破自動(dòng)駕駛落地之困?
- 蘋果將推廉價(jià)版MacBook:破繭之作,A18 Pro芯片領(lǐng)銜,輕薄與性能并存
- 小鵬預(yù)定小米車,雷軍回應(yīng)力爭(zhēng)早交車,期待小鵬G7發(fā)布會(huì)新突破
- 豐田大發(fā)日本工廠因零部件供應(yīng)不足暫停運(yùn)營(yíng),汽車業(yè)供應(yīng)鏈挑戰(zhàn)引關(guān)注
- Intel新CEO陳立武大刀闊斧改革,首席戰(zhàn)略官離職:高層調(diào)整風(fēng)暴來(lái)襲
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。