今日，媒體紛紛報道一條新聞：百度最早發(fā)現大模型核心理論scaling law。其源頭是英文報紙南華早報報道稱，盡管美國在AI模型創(chuàng)新方面一直被視為領先者，但最新的討論顯示，中國在探索這些概念上可能更為超前。業(yè)界意識到，百度在OpenAI之前就發(fā)現了Scaling Law。
Scaling Law也被稱為“尺度定律”，被業(yè)界認為是大模型預訓練第一性原理，即訓練數據和模型參數越大，模型的智能能力就越強。OpenAI在2020年發(fā)表了論文《Scaling Laws for Neural Language Models》，自那以后，這個概念已成為AI研究的基石。
推出ChatGPT系列大模型，讓OpenAI一鳴驚人，成為AI領域炙手可熱的明星，加之美國Google、Meta、xAI等公司不斷推出性能強大的大模型，使得不少國人潛意識認為美國在AI領域大幅領先。事實上，中國AI技術并不弱，一直以來處于并跑狀態(tài)，這也是為何2023年出現“百模大戰(zhàn)”的原因。而“百度率先發(fā)現Scaling Law”的往事曝光，反映出中國在AI領域的深厚底蘊。
不用懷疑，已經“實錘”
百度比OpenAI更早發(fā)現Scaling Law，很多國人即歡欣鼓舞，又有一些疑惑。畢竟OpenAI如日中天，對其發(fā)起任何挑戰(zhàn)都需要強有力的證據。
從各方報道看，這一事件已經“實錘”。主要有三個方面的佐證：
首先是AI行業(yè)大牛、Anthropic創(chuàng)始人Dario Amodei在11月初的播客節(jié)目中提到，2014年與吳恩達在百度研究AI的時候，他就已經發(fā)現了模型發(fā)展的規(guī)律Scaling Law。而Dario Amodei曾于2014年11月-2015年10月期間在百度硅谷實驗室工作，并擔任過OpenAI研究副總裁，堪稱當事人，其言論極具分量。
其次是Meta研究員、康奈爾大學博士候選人Jack Morris在X（推特）上公開力挺：“Scaling Law的原始研究來自2017年的百度，而不是2020年的OpenAI”。隨后有媒體人貼出了百度在2017年發(fā)表的《DEEP LEARNING SCALING IS PREDICTABLE, EMPIRICALLY》論文，詳細討論了機器翻譯、語言建模等領域的Scaling現象，進一步證明其言論。
此外還有一個重要證據：之前曾在Open AI工作，參與了GPT-3等重要項目開發(fā)的AI專家Gwern Branwen，也經常在公開場合提起：百度的這篇論文確實被忽視了。
百度在AI理論領域的投入和貢獻可見一斑。此后，百度繼續(xù)向前走，并在國內率先推出了大語言模型文心一言。中國互聯網絡信息中心發(fā)布的《生成式人工智能發(fā)展應用發(fā)展報告（2024）》顯示，文心一言已經成為國內使用率第一的生成式人工智能平臺。
百度往事：招攬多位AI大牛
百度能領先于OpenAI發(fā)現Scaling Law，與其早早投資AI研究、招攬AI人才是分不開的，包括來自全球各地的AI大牛。
除了上述提到的Dario Amodei，百度還招攬了國內更知名的AI頂級科學家、原谷歌大腦創(chuàng)始人吳恩達，當年亦引發(fā)媒體熱議。
此外據媒體之前爆料，AI教父、2024年度諾貝爾物理學獎得主Geoffrey Hinton，也在百度招攬之列。2012年，李彥宏親自派人前往美國向其遞出了橄欖枝，甚至驚動了硅谷的兩家巨頭Google和微軟紛紛發(fā)出邀請。Hinton由于年齡等因素考量，最后留在了美國，百度才遺憾地失之交臂。
盡管外部對百度與Scaling Law的認知才剛剛被爆料，但這也讓業(yè)界意識到，百度此前對包括大模型在內的AI技術已有深厚積累。資料顯示，百度早在2019年就發(fā)布了第一代文心大模型，幾乎與OpenAI處于同一時期。2023年以來，大模型如雨后春筍般冒出，百度始終處在領跑地位。
例如，中國軟件評測中心《人工智能大語言模型技術發(fā)展研究報告（2024年）》顯示，文心大模型技術、產品、應用全面領跑；沙利文《2024年中國大模型能力評測》顯示，文心大模型穩(wěn)居國產大模型首位，獲4項第一。百度AI技術的10多年積累，在2024年厚積薄發(fā)。
中國AI產業(yè)展現創(chuàng)新力
實際上，不僅是百度，整個中國AI產業(yè)，處在高度繁榮的發(fā)展狀態(tài)，國內AI頭部公司無論是技術創(chuàng)新、產品創(chuàng)新還是應用創(chuàng)新，與海外頭部公司并沒有明顯的差距，整體處在同一水平線上。
據上海社科院最新發(fā)布的《全球信息社會藍皮書：全球信息社會發(fā)展報告(2024)》顯示，中國、美國、歐盟在人工智能研究、創(chuàng)新、教育、應用等方面體量相當，人工智能仍然是中國、美國、歐盟三極為主的世界發(fā)展格局。
百度作為代表性AI公司之一，更是與Google、OpenAI一道，共同被沙利文2024全球AI全景報告評為“AI-Native Giant”，處于領導者地位。
當前，AI時代已經來臨，展現出變革經濟社會的巨大潛能，AI產業(yè)競爭愈加火熱。AI技術已成為大國科技競爭的勝負手，美國不斷使出盤外招限制我國AI技術發(fā)展，候任總統(tǒng)特朗普更是計劃任命一位人工智能部長（AI czar），打響AI軍備競賽。
在這一大背景下，國人要對國內AI產業(yè)發(fā)展抱有信心。在這場長跑中，包括百度在內，有很多中國公司正在高強度投資AI技術創(chuàng)新，并已取得大量成果，將推動AI產業(yè)發(fā)展走向繁榮，成為經濟高質量轉型發(fā)展的助推器。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
