聯(lián)想發(fā)布端側(cè)AI新技術(shù),讓PC本地推理能力媲美 OpenAI-mini

2025 年 5 月 7 日,聯(lián)想創(chuàng)新科技大會(huì)(Tech World)以“讓AI成為創(chuàng)新生產(chǎn)力”為主題,聚焦混合式人工智能,從個(gè)人到企業(yè),全方位展示聯(lián)想創(chuàng)新技術(shù)成果。會(huì)上,聯(lián)想首次定義“超級(jí)智能體”三大核心功能——感知與交互、認(rèn)知與決策、自主與演進(jìn),并正式發(fā)布“聯(lián)想天禧”個(gè)人超級(jí)智能體、“聯(lián)想樂享”企業(yè)超級(jí)智能體。

聯(lián)想展示了其在端側(cè)算力方面的最新創(chuàng)新成果 —— “聯(lián)想推理加速引擎”。這款由聯(lián)想、清華大學(xué)及無問芯穹聯(lián)合研發(fā)的推理引擎,是專為高效AI PC推理而設(shè)計(jì)的軟硬件協(xié)同優(yōu)化平臺(tái),可以讓一臺(tái)普通PC的本地推理能力,媲美OpenAI去年發(fā)布的o1-mini云端模型。

 “聯(lián)想推理加速引擎”通過高性能并行解碼、算子融合優(yōu)化以及異構(gòu)計(jì)算技術(shù), 實(shí)現(xiàn)了多種應(yīng)用場(chǎng)景下推理速度的大幅提升,以及功耗和內(nèi)存占用的顯著降低。與大模型推理芯片相結(jié)合,通過硬件加速與軟件優(yōu)化的無縫協(xié)作,進(jìn)一步放大了性能提升,形成了疊加效應(yīng)。

為直觀展示 “聯(lián)想推理加速引擎”的實(shí)力,現(xiàn)場(chǎng)設(shè)置了一場(chǎng)“競(jìng)速賽”。三臺(tái)配置相同的AI PC同時(shí)解答2024年高考數(shù)學(xué)壓軸題:

? 初代大模型:耗時(shí)27秒,答案0分。

? 二代大模型:耗時(shí)26秒,答案滿分。

? 二代大模型+“聯(lián)想推理加速引擎”:耗時(shí)13秒,答案滿分。

這表明模型能力的提升和 “聯(lián)想推理加速引擎”對(duì)算力的提升,讓設(shè)備的預(yù)填充更為迅速、解碼速度更快、推理時(shí)間更短,同時(shí)占用內(nèi)存更少,能耗更低,設(shè)備上的 AI 能力得到了大幅提升。

過去一年,AI 領(lǐng)域創(chuàng)新不斷。尤其是DeepSeek 的出現(xiàn)將算法創(chuàng)新與工程優(yōu)化深度融合,推動(dòng)了 AI 算力和模型技術(shù)的普及,更進(jìn)一步加速了強(qiáng)推理模型端側(cè)化的發(fā)展。

聯(lián)想集團(tuán)董事長(zhǎng)兼CEO楊元慶表示,很快大家就會(huì)在即將發(fā)布的下一代 AI PC 上體驗(yàn)到 “聯(lián)想推理加速引擎”帶來的強(qiáng)大本地推理能力,其性能可以與云端大模型相媲美,但成本卻低得多?!敖裉祀S著AI需求的爆發(fā)式增長(zhǎng),端側(cè)計(jì)算和推理能力的提升將依然保持指數(shù)級(jí)增長(zhǎng)的速度,甚至更快。未來12個(gè)月,端側(cè)AI綜合能力實(shí)現(xiàn)至少三倍的提升,這也許不是夢(mèng)想! ”

也正是由于端側(cè)AI能力的提升,以及跨設(shè)備跨生態(tài)的端邊云協(xié)同,使得個(gè)人可信計(jì)算成為可能,這也為個(gè)人超級(jí)智能體形成了技術(shù)基礎(chǔ)。 聯(lián)想集團(tuán)發(fā)布的可供用戶訓(xùn)練與完善的天禧個(gè)人超級(jí)智能體,正是得益于此技術(shù)的推動(dòng)。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2025-05-07
聯(lián)想發(fā)布端側(cè)AI新技術(shù),讓PC本地推理能力媲美 OpenAI-mini
2025 年 5 月 7 日,聯(lián)想創(chuàng)新科技大會(huì)(Tech World)以“讓AI成為創(chuàng)新生產(chǎn)力”為主題,聚焦混合式人工智能,從個(gè)人到企業(yè),全方位展示聯(lián)想創(chuàng)新技術(shù)成果。

長(zhǎng)按掃碼 閱讀全文