春節(jié)期間,DeepSeek憑借其卓越的技術(shù)性能和創(chuàng)新性的功能,在市場(chǎng)中迅速崛起,實(shí)現(xiàn)了C端用戶數(shù)量的爆發(fā)式增長(zhǎng)。然而,當(dāng)考慮將其應(yīng)用于企業(yè)業(yè)務(wù)時(shí),除了模型本身強(qiáng)大的性能之外,穩(wěn)定性和安全性也是關(guān)鍵因素。因此,如何將具有與DeepSeek官方對(duì)話服務(wù)一致體驗(yàn)的應(yīng)用,部署在安全的環(huán)境與平臺(tái)中,成為眾多企業(yè)關(guān)注的焦點(diǎn)。
如今,百度百舸基于昆侖芯P800,發(fā)布部署 “滿血版DeepSeek R1+聯(lián)網(wǎng)搜索” 服務(wù),為解決這一問(wèn)題提供了有效路徑。通過(guò)聯(lián)網(wǎng)搜索功能,將最新的互聯(lián)網(wǎng)數(shù)據(jù)融入答案生成,為企業(yè)提供更及時(shí)、準(zhǔn)確的信息支持,讓企業(yè)業(yè)務(wù)不再等待,高效運(yùn)轉(zhuǎn)成為常態(tài)。
昆侖芯:強(qiáng)大算力,卓越性能
目前,百度智能云已成功點(diǎn)亮昆侖芯P800萬(wàn)卡集群,這也是國(guó)內(nèi)首個(gè)正式點(diǎn)亮的自研萬(wàn)卡集群。百度智能云將進(jìn)一步點(diǎn)亮3萬(wàn)卡集群。昆侖芯P800在性能上表現(xiàn)卓越。其顯存規(guī)格比同類(lèi)主流GPU高出20%-50%,對(duì)MoE架構(gòu)更為友好,并且率先支持8bit推理,單機(jī)8卡就能運(yùn)行671B模型。這使得昆侖芯在部署上更加輕松,運(yùn)行成本顯著降低,還能輕松完成DeepSeek-V3/R1全版本推理任務(wù)。不僅如此,昆侖芯P800在DeepSeek系列MoE模型大規(guī)模訓(xùn)練任務(wù)中也表現(xiàn)出色,全面支持MLA、多專(zhuān)家并行等特性,僅需32臺(tái)即可支持模型全參訓(xùn)練,高效助力模型的持續(xù)訓(xùn)練和微調(diào)。
聯(lián)網(wǎng)搜索:多源聚合,智能協(xié)作
不僅如此,為了讓用戶具備與DeepSeek官方同樣的使用體驗(yàn),本次還創(chuàng)新性的集成了智能聯(lián)網(wǎng)搜索功能,采用「多源多引擎的聚合搜索+智能體協(xié)作」的方案,聚合來(lái)自各種搜索服務(wù)和數(shù)據(jù)庫(kù)的結(jié)果,相比單一搜索引擎,多源聚合能夠增加搜索結(jié)果的廣度和深度,不再受限于單一信息來(lái)源。同時(shí),智能搜索也融入了智能體協(xié)作能力,實(shí)現(xiàn)用戶問(wèn)題重寫(xiě)、網(wǎng)頁(yè)解析、信息排序、信息源分類(lèi)等功能,能夠?yàn)榇竽P吞峁┡c用戶問(wèn)題更加相關(guān)好的高質(zhì)量數(shù)據(jù),同時(shí)方便用戶進(jìn)一步查看高質(zhì)量的內(nèi)容。
百度百舸:創(chuàng)新架構(gòu),穩(wěn)行高效
國(guó)產(chǎn)昆侖芯萬(wàn)卡集群以及未來(lái)三萬(wàn)卡集群的建設(shè),從硬件到軟件,技術(shù)挑戰(zhàn)是全方位的。而24年9月升級(jí)的百度百舸AI異構(gòu)計(jì)算平臺(tái)4.0,圍繞落地大模型全旅程的算力需求,在集群創(chuàng)建、開(kāi)發(fā)實(shí)驗(yàn)、模型訓(xùn)練、模型推理四大方面,能為企業(yè)提供“多、快、穩(wěn)、省”的AI基礎(chǔ)設(shè)施,在萬(wàn)卡集群的建設(shè)中發(fā)揮了至關(guān)重要的作用。在DeepSeek最擅長(zhǎng)的推理能力方面,百度百舸還提供了針對(duì)在線推理服務(wù)的全生命周期管理、彈性擴(kuò)縮容、自研框架推理加速、完備的運(yùn)維監(jiān)控體系等優(yōu)勢(shì)能力,結(jié)合昆侖芯P800的強(qiáng)大算力,為用戶提供服務(wù)穩(wěn)定性的聯(lián)合保障,同時(shí)有效降低推理成本并提升推理性能。
現(xiàn)在,企業(yè)用戶及開(kāi)發(fā)者朋友們可以通過(guò)訪問(wèn)aihc.baidu.com申請(qǐng)?bào)w驗(yàn)測(cè)試資格。如果對(duì)百度百舸相關(guān)服務(wù)有更多疑問(wèn)或咨詢需求,可通過(guò)發(fā)郵件到AIHC-help@baidu.com尋求幫助。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )