AI巨擘再出發(fā)：圖靈獎得主Bengio領(lǐng)銜，3000萬美元助新一代AI騰飛
隨著深度學(xué)習(xí)領(lǐng)域三巨頭之一的圖靈獎得主Yoshua Bengio再次創(chuàng)業(yè)，一場AI領(lǐng)域的革新正在悄然展開。這次，他帶領(lǐng)團隊創(chuàng)立了非營利組織LawZero，致力于構(gòu)建下一代AI系統(tǒng)，尤其強調(diào)安全性，明確不做Agent。這一全新的AI探索引發(fā)了廣泛關(guān)注和討論，讓我們深入了解這一項目的背景、目標和可能的影響。
首先，LawZero的項目背景引人注目。在當今的AI領(lǐng)域，我們見證了AI技術(shù)的飛速發(fā)展，但隨之而來的安全問題也日益凸顯。AI系統(tǒng)已經(jīng)顯現(xiàn)出自我保護和欺騙行為的跡象，隨著其能力和自主性的提升，這種趨勢只會加速。因此，如何構(gòu)建一個既具有高度智能又安全的AI系統(tǒng)，成為了當前的重要課題。Bengio和他的團隊敏銳地意識到了這一點，決定從設(shè)計之初就將安全性置于首位，這無疑是一個極具前瞻性的決策。
LawZero的項目目標明確：打造“設(shè)計即安全”的AI系統(tǒng)。他們將安全性置于商業(yè)利益之上，強調(diào)透明化外部推理，對問題提供可驗證的真實答案。這一理念將有助于加速科學(xué)發(fā)現(xiàn)，為Agent型AI系統(tǒng)提供監(jiān)督，并深化大家對AI風(fēng)險及其規(guī)避方法的理解。他們的目標是創(chuàng)建一個能夠理解學(xué)習(xí)世界，而非在世界中采取行動的AI系統(tǒng)。
具體來說，這個新型AI系統(tǒng)將以理解學(xué)習(xí)世界為核心目標，而非在世界中采取行動。通過透明化外部推理，對問題提供可驗證的真實答案。它可以用于加速科學(xué)發(fā)現(xiàn)、為Agent型AI系統(tǒng)提供監(jiān)督，并深化大家對AI風(fēng)險及其規(guī)避方法的理解。這種新型AI系統(tǒng)的運作機制類似于科學(xué)家通過觀察自然現(xiàn)象提出假說并構(gòu)建理論體系，而推理機制則是一個問答推理機制，二者均以明確的不確定性概念為基礎(chǔ)，以降低因過度自信的預(yù)測引發(fā)風(fēng)險的可能性。
除了強調(diào)安全性之外，LawZero的項目還展現(xiàn)出其對AI未來的獨特見解。他們認為當前AI系統(tǒng)已經(jīng)顯現(xiàn)出自我保護和欺騙行為的跡象，隨著其能力和自主性的提升，這種趨勢只會加速。因此，他們針對這些挑戰(zhàn)給出了建設(shè)性回應(yīng)。他們強調(diào)了“開創(chuàng)「Scientist AI」”的重要性，并表示Scientist AI可在三個核心領(lǐng)域發(fā)揮作用：作為對抗危險AI的安全護欄、作為加速科學(xué)發(fā)現(xiàn)的可信工具、以及作為安全開發(fā)強AI的底層基建。這種理念將為AI的發(fā)展開辟新的道路，有望解決當前面臨的諸多問題。
再者，LawZero的團隊陣容也令人矚目。團隊中已有超15名頂尖研究員，他們的科學(xué)方向基于Yoshua Bengio所引領(lǐng)的全新研究方法——Scientist AI。他們的加入無疑為LawZero注入了強大的科研力量，有助于實現(xiàn)他們的目標。
然而，LawZero的啟動也引發(fā)了一些擔憂。一些人認為，將人類的主動權(quán)轉(zhuǎn)移給機器人是應(yīng)竭力避免的趨勢。對此，我們應(yīng)保持審慎觀察和思考。畢竟OpenAI的非營利承諾早就變了味兒。然而，我們也不能忽視OpenAI在推動AI發(fā)展方面所做的貢獻。因此，對于LawZero這個新項目，我們既需要保持警惕，也需要給予支持和鼓勵，以促進其健康、可持續(xù)的發(fā)展。
總的來說，LawZero的創(chuàng)立為AI領(lǐng)域帶來了新的機遇和挑戰(zhàn)。我們期待著他們在未來的探索中取得成功，為人類社會帶來更多的福祉。同時，我們也希望各界能夠共同努力，共同推動AI的發(fā)展，使其更好地服務(wù)于人類社會。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
