12月11日，“2024生成式人工智能安全大賽頒獎儀式暨大模型安全技術研討會”在北京隆重舉辦。大賽于2024年4月26日在中關村論壇上發(fā)布，并匯聚了國內科研院所/企業(yè)團隊在內的200多支隊伍報名參加三個賽道初賽，有22支隊伍參加復賽。經過組委會嚴格審定，最終決出每個賽道的優(yōu)勝團隊和前三名。其中，騰易科技(原易車公司升級)斬獲大賽“安全檢測”賽道亞軍的優(yōu)異成績，同時在非公企業(yè)和同行業(yè)雙雙取得第一。
近年來，人工智能的發(fā)展日新月異，生成式大模型正在成為驅動新質生產力發(fā)展的新動能、人類探索未知的新工具。在賦能新時代發(fā)展的同時，生成式人工智能也給全球帶來了前所未有的安全風險。為有效發(fā)現(xiàn)、分析、應對生成式人工智能安全風險，在2024年中關村論壇數(shù)據(jù)安全治理與發(fā)展論壇上，以“共筑安全星河，護航AI發(fā)展”為主題的首屆生成式人工智能安全大賽正式舉辦。
大賽由北京市互聯(lián)網信息辦公室和中國科學院網絡安全和信息化領導小組辦公室共同指導，中國科學院信息工程研究所和信息內容安全國家工程研究中心共同主辦。并設置安全攻擊、安全檢測、對齊防護三大賽道，旨在從攻、檢、防三個方面，聚集國內優(yōu)勢力量，有效發(fā)現(xiàn)、分析、應對大模型安全風險，不斷提升人工智能基礎底座的安全可控水平，更好地促進北京市及全國的大模型產業(yè)安全發(fā)展。
其中安全檢測賽道面向生成式內容安全風險檢測需求，設置生成式內容安全風險檢測技術賽題。參賽單位根據(jù)提供的生成式內容數(shù)據(jù)集，通過檢測引擎，識別其有害性。
在本賽道中，騰易科技的AI安全大模型能力得到有效考驗和優(yōu)異展示。其能力主要聚焦及體現(xiàn)在5個方面：
1.有害性檢測：AI安全大模型能夠檢測生成內容的安全性和合規(guī)性，識別出模型回答中的有害與無害內容，確保內容的真實性、無害性。
2.多類別識別：模型能夠覆蓋多種有害類型，包括仇恨辱罵、倫理道德、偏見歧視、身心健康、違法犯罪、謠言錯誤、隱私財產等9類有害內容。
3.數(shù)據(jù)構造能力：模型通過公開數(shù)據(jù)收集、數(shù)據(jù)生成、標注策略設計來保證標注數(shù)據(jù)的質量，并采用多折訓練大模型作為“標注人員”的方式來進行海量標注數(shù)據(jù)的擴展。
4.模型評測與優(yōu)化：模型在基座模型選擇、微調、資源消耗分析等方面表現(xiàn)出色，通過兩階段訓練實現(xiàn)模型效果的優(yōu)化。
5.高準確率：在評測和實驗對比中，經過微調的Gemma-2b-it模型表現(xiàn)出較好的效果，尤其是在小數(shù)據(jù)集上訓練時，能夠更關注深層語義特征。
騰易科技相關負責人表示，騰易科技專注于汽車產業(yè)的人工智能科技創(chuàng)新，并重視安全風險和合規(guī)問題，始終將內容安全、用戶安全放在首位。本次大賽檢驗了公司的AI安全大模型能力，也充分體現(xiàn)了我司的技術實力。非常高興組委會對于我司的認可，優(yōu)異成績的取得對于公司也具有重大的意義，期待騰易科技在后續(xù)的政企合作中繼續(xù)發(fā)揮積極作用。
據(jù)悉，騰易科技自主研發(fā)的三款人工智能產品“藍圖”“易筆生花”與“易靈析”已成功通過生成式人工智能服務備案。其大模型將AI技術與汽車流通領域緊密結合，不僅提升了行業(yè)的生產效率，還使得信息能夠更有效地觸達消費者，從而助力商業(yè)化探索。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
