credit: 銳景創(chuàng)意
去年，一輛奇怪的自動駕駛汽車被投放到新澤西州蒙茅斯縣安靜的道路上。由芯片制造商Nvidia(英偉達)的研究人員開發(fā)的這輛實驗車看似與其他無人駕駛汽車并沒有什么不同，但與Google，特斯拉或通用汽車公司所展示的車輛相比，它顯示了人工智能能力的升級。這輛車并沒有遵循由工程師或程序員提供的指令。相反，它完全依賴于一套通過觀察人類來教導自己駕駛的算法來完成學習。
讓一輛車如此行駛是一個令人印象深刻的壯舉，但這也有點令人不安，因為人類并不完全清楚汽車如何做出各項駕駛操作的決定。在機器學習的過程中，來自車輛傳感器的信息直接進入人造神經元的巨大網絡，處理數據，然后傳遞操作方向盤，制動器和其他系統(tǒng)所需的命令給車輛。結果似乎與人類駕駛員的預期反應相匹配。但是，如果有一天它做了一些意想不到的事情——例如，撞倒一棵樹，或者停在綠燈前呢？根據現有的技術，可能很難找出原因。由于該系統(tǒng)非常復雜，即使是設計它的工程師也很難提取出單一車輛動作的原因。并且你不能向控制系統(tǒng)提問：目前，還沒有合適的方法可以設計一個總能解釋為什么的人工智能系統(tǒng)。
這輛車的神秘“思想”指出人工智能一個迫在眉睫的問題。被稱為深度學習的底層AI技術，近年來已經被證明在解決問題上非常給力。它已被廣泛應用于字幕處理，語音識別和語言翻譯等任務。現在，人類寄希望于同樣的技術來診斷致命的疾病，做出價值百萬美元的交易決定，和其他無數的事情來改變整個行業(yè)。
但這不會發(fā)生，或者不應該發(fā)生。除非我們找到方法，使深入深度學習的技術更容易被創(chuàng)造者所理解，并對其用戶負責。否則，難以預測何時會發(fā)生故障，而且一旦發(fā)生，后果將無法避免，甚至不堪設想。 因此，Nvidia的自動駕駛汽車仍處于試驗階段。
credit: 煎蛋畫師seηz
數學模型已經被用來幫助決定誰被假釋，誰被批準貸款，以及誰被聘請工作。如果我們知曉這些數學模型，可能可以理解決策背后的原因。但是銀行，軍方，雇主等等正在將注意力轉向更復雜的機器學習方法，使自動化決策完全無法解釋。深入深度學習作為一種常見的機器學習方法，代表了一種從本質上不同的計算機程序。麻省理工學院教授塔米·賈科科拉(Tommi Jaakkola)說：“這是一個已經(和人類)息息相關的問題，未來關系將會更加密切。無論是投資決定，醫(yī)療決定還是軍事決定，人類都不希望只依靠黑箱算法?！?/p>
能夠詢問人工智能系統(tǒng)如何達成結論似乎應是一項基本的法律權利。從2018年夏天開始，歐盟可能要求公司能夠給用戶提供自動化系統(tǒng)決策背后的解釋。即使對于看似相對簡單的系統(tǒng)，例如使用深度學習來投放廣告或推薦歌曲的應用程序和網站，這或許也是不可能的。運行這些服務的計算機已經利用程序以我們無法理解的方式完成了這些。即使是構建這些應用程序的工程師也無法完全解釋程序的行為。
這引起了令人難以置信的問題。隨著技術的進步，我們可能很快會越過一個門檻——超過這個閾值，使用AI需要一次觀念的飛躍。誠然，我們人類也不能總是真正地解釋我們的思想過程，但是我們可以直觀地信任和衡量人們。對于與人類作出決定方式不同的機器人來說，這現實嗎？我們從未建造以造物者不明白的方式運作的機器，卻又如何與這些不可預知和難以置信的機器溝通交流？
為了探索這些形而上學的概念，我去了塔夫茨大學，與著名的研究意識和心靈的哲學家和認知科學家丹尼特(Daniel Dennett)會面。丹尼特最新的一本書《從細菌到巴赫，再反回來》(From Bacteria to Bach and Back)，一本關于意識的百科全書式論文，表明智力發(fā)展的一個自然部分是發(fā)明能使其創(chuàng)造者無法解釋的系統(tǒng)。 “問題是，我們如何明智地創(chuàng)造出這樣一套系統(tǒng)？對于機器和我們自己，分別有什么標準？”他在他那坐落于田園詩般的校園內，但是雜亂無章的辦公室里告訴我。
他還有一個關于追求可解釋性的警告。 “我認為，如果我們要使用這些東西并依靠它們，那么讓我們盡可能地掌控機器如何以及為什么給我們答案。”他說。但由于可能沒有完美的答案，我們應該像對待人類彼此一樣謹慎的面對AI的決策——無論機器看起來有多聰明。他說：“如果機器不能比人類更好地解釋其行為背后的原因，那就不能予以信任?！?/p>
本文譯自MIT Tech Review，由譯者 雁洲向北 基于創(chuàng)作共用協(xié)議(BY-NC)發(fā)布。
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
