《The Selfish Ledger》會成為谷歌版的“新黑鏡”嗎？

原標(biāo)題：《The Selfish Ledger》會成為谷歌版的“新黑鏡”嗎？

文 | 柯鳴

來源 | 智能相對論（aixdlun）

谷歌最近并不太平。

最近，谷歌兩年前制作的一個僅供內(nèi)部傳發(fā)的視頻被曝光，視頻中提出了“Ledger”概念，Ledger收集用戶所有數(shù)據(jù)，然后根據(jù)用戶的行為、習(xí)慣等信息，引導(dǎo)用戶完成一個目標(biāo)。視頻一曝光，引發(fā)輿論嘩然的同時也讓許多人再次陷入對于信息安全的深深擔(dān)憂之中。

這部名為《The SelfishLedger》的短片，由谷歌 X 實驗室設(shè)計負責(zé)人、Near Future Labortatory 聯(lián)合創(chuàng)立人 Nick Foster 親自操刀制作。在長達9分鐘的視頻中，F(xiàn)oster 定義了“Ledger（數(shù)據(jù)賬本）”，并假設(shè)這些數(shù)據(jù)檔案可以被建立，也可被用于修改行為以及進行用戶之間的相互轉(zhuǎn)移。

谷歌提出“全系統(tǒng)設(shè)置”概念

基于Ledger的概念，視頻中谷歌提出了概念性的解決方案（conceptualResolutions by Google system）——提示用戶選擇一個生活的目標(biāo)，在此后每次用戶與手機的互動中，手機均會引導(dǎo)用戶去實現(xiàn)這一目標(biāo)。

谷歌認為其可以實現(xiàn)一個“有組織的價值觀”，其包括用戶在叫Uber出行時會建議用戶使用拼車以及更加環(huán)保的出行方式，或者是引導(dǎo)用戶從Safeway購買一些本地產(chǎn)品。

谷歌解決方案引導(dǎo)用戶購買商品

實現(xiàn)這一切的前提，就是實現(xiàn)Ledger對更多數(shù)據(jù)的貪婪。它通過訪問大量的用戶數(shù)據(jù)和決策，對數(shù)據(jù)進行搜集和學(xué)習(xí)，進而提出建議。在未來，“以目標(biāo)為導(dǎo)向的Ledger概念將變得更加可行，提出的建議可能不會由用戶轉(zhuǎn)化得出，而是由Ledger本身作出的”。

令人擔(dān)憂的谷歌版“新黑鏡”

一旦Ledger本身能夠自主作出決斷，這就讓人細思極恐了。

Foster設(shè)想了一個未來：“目標(biāo)驅(qū)動的Ledger概念變得容易被接受，并且行動建議可能不是由用戶而是由Ledger本身提供的”，這就是《黑鏡》描述的景象。而Ledger積極地尋求填補數(shù)據(jù)的空白，甚至選擇購買它認為可以吸引用戶的產(chǎn)品，以便采集數(shù)據(jù)。

隨后，視頻中舉了一個浴室體重秤的例子。一開始，Ledger 并不知道用戶的體重。隨后，視頻畫風(fēng)開始趨向科幻情景，設(shè)想 Ledger 可能會變得十分精明，能夠依靠3D打印技術(shù)打印自己的設(shè)計：“歡迎回家，Dave，我給你打印了一個體重秤?！?/p>

基于Foster對Ledger的構(gòu)想，其如若照進現(xiàn)實，智能相對論（aixdlun）分析師柯鳴認為，這仍然存在著幾個不容忽視的問題。

1.恐成控制大眾的反烏托邦視野

Foster對Ledger的構(gòu)想并不僅僅是一個自我提升的工具。這個系統(tǒng)還能夠“填補知識空白”、“改進人類的行為模型”，這不僅僅包括你我的特定行為，更包含著整個人類的群體行為。雖然視頻指出試圖通過使用思想控制技術(shù)來解決貧困和全球變暖等問題，但視頻認真討論在全球范圍內(nèi)大規(guī)模行為改變的事實是令人恐懼的。

工智能之父馬文·明斯基認為“大腦不過是肉做的機器”，而人類思維是一個復(fù)雜的過程。比如“為什么人類下雨不想被淋濕，卻愿意在衛(wèi)生間沐浴”這種3歲小孩都知道的問題，計算機就會感到費解。

對于用戶而言，Ledger的預(yù)期設(shè)計讓大家感到隱憂。一位X的發(fā)言人說明道：這是多年前設(shè)計團隊的一個思想實驗，他們使用一種被稱為“推測設(shè)計（speculative design）”的技術(shù)來探索讓人不舒服的想法和概念，從而引發(fā)討論和辯論。它與任何當(dāng)前或未來的產(chǎn)品無關(guān)。

但其實，早在2015年谷歌所提交的專利申請中，就有存在“檢測和糾正用戶行為中的潛在錯誤”的提法，這與Ledger的功能十分相似。當(dāng)其真正普及于人類生活之中，其依然是讓人恐慌的。

2.信息倫理問題再上風(fēng)口浪尖

“想要得到多少便利，在于你愿意放棄多少信息隱私”，這好像已經(jīng)成為諸多谷歌類公司的永恒二分法。信息倫理隨著Ledger以及亞馬遜Alexa再爆將私人對話發(fā)給同事的事故時，其再次成為人們關(guān)注的熱點。

而此種事件，早已不是個例。早前Facebook被指控利用個人信息系統(tǒng)，預(yù)測和影響選民的政治傾向，扎克爾伯格對此承諾將進行嚴(yán)厲整改，并表示將專門成立人工智能倫理團隊來保障信息安全問題。

其實在大衛(wèi)·惠特克事件中，谷歌早就存在著信息泄露的問題。谷歌主宰著用戶的信息獲取，而依靠這種壟斷性的力量，谷歌在早年的時候也用競價排名的方式來推廣一些不良、虛假信息。2009年便發(fā)生了美國政府假裝在谷歌上販賣假藥并得以推廣的丑聞事件。

此后的“棱鏡門”事件，以及通過人為操作搜索詞，干涉美國大選等問題，依然是借用信息資源而進行的不良行為。

“不再作惡”的谷歌

不太平的事情還有一件。

近日谷歌在其最新的行為準(zhǔn)則中，將“不作惡”的文本已經(jīng)幾乎徹底刪除，雖然2015年谷歌重組并將Alphabet作為母公司時，該公司幾乎完全放棄了“不作惡”的口號，改為了“做正確的事”。

修改后的谷歌準(zhǔn)則

同時，谷歌已有十幾名員工正式請辭，以抗議公司繼續(xù)參與軍方的Maven項目。此外，學(xué)術(shù)界有364名人工智能專業(yè)人士也聯(lián)名上書，反對谷歌。為表示抗議，先是有近4000名谷歌員工聯(lián)署請愿書，之后約12名谷歌員工向公司辭職。

這些辭職的員工對將人工智能運用在無人機作戰(zhàn)感到擔(dān)憂，同時也擔(dān)心谷歌的政治決策，這些都可能導(dǎo)致用戶對谷歌的信任被削弱。雖然谷歌強調(diào)，它的人工智能技術(shù)不會被用來殺戮，但也承認把人工智能運用在五角大樓的無人機項目中，會為技術(shù)工作者和研究人員帶來倫理和道德問題。

拋開谷歌本身而言，人工智能從通用AI（General AI）發(fā)展到“心智社會”后，智能相對論（aixdlun）分析師柯鳴認為其依然有著許多“恐怖之處”。

1.對社會優(yōu)先問題錯位的恐懼

目前，機器人已經(jīng)取代了部分體力勞動。用不了多久，它們便可勝任一度被認為只有人類才能完成的認知工作。自動駕駛汽車將取代出租車司機；自動駕駛飛機將取代飛行員。

也許有朝一日，所有人類工作都將被機器取代。我們所有的工作也可能被許多速度更快、不知疲倦的機器代替，由它們來生產(chǎn)更多更迅速的內(nèi)容產(chǎn)品。

在現(xiàn)代社會中，自動化導(dǎo)致許多人失業(yè)。機器所有者變得愈發(fā)富有，其他人則愈發(fā)貧窮。這并不是科學(xué)問題，而是政治和社會經(jīng)濟問題。

誠然，若依靠AI做惡是有違科學(xué)家的初衷的，畢竟技術(shù)知識手段和工具，其真正的好壞在于使用它的人。在技術(shù)和人類面前，人類本身的安全性、穩(wěn)定性是第一位的，機器優(yōu)先、智能優(yōu)先的社會錯位只會加深人們的不安定感和恐懼感。

2.對濫用的恐懼

從 1920 年的戲劇《R.U.R.》中憤怒的機器人到《2001：太空漫游》中的殺人計算機 HAL9000，人工智能的發(fā)展總是伴隨著暗黑的神話。人工智能對人類很多好處。其中一些已經(jīng)實現(xiàn)，比如搜索引擎和機器翻譯；另一些則即將實現(xiàn)，比如自動駕駛汽車。但是，隨著人工智能能力的增長，使用的便捷性更容易促進濫用的產(chǎn)生，而AI的濫用無疑是讓人恐懼的。

近日一份由25名技術(shù)人員與公共政策研究員共同發(fā)布的報告指出，隨著人工智能的發(fā)展，被惡意利用的風(fēng)險也呈上升趨勢。報告中還稱，一旦人工智能遭到了黑客攻擊，將增加諸如無人駕駛車禍，商業(yè)無人機變成針對性武器的可能性。

誠然，惡意使用人工智能會對數(shù)字、物理和政治安全造成迫在眉睫的威脅，因為它可能被利用來實施大規(guī)模的、極具針對性的高效攻擊。 而在去年底，一個色情視頻流傳到網(wǎng)上，一些名人的面孔經(jīng)過智能摳圖，被嫁接到了不同身體上，甚至有些影片可以以假亂真，因此導(dǎo)致了很多明星名譽受損。

如今人工智能的發(fā)展可謂是突飛猛進，很多曾經(jīng)看似不可能實現(xiàn)的事情，現(xiàn)在已經(jīng)變成了可能。然而服務(wù)于人類的人工智能如果被不法分子運用，那將會帶來災(zāi)難性的后果。

總結(jié)

從爆出《TheSelfish Ledger》短片到刪除“不作惡”的準(zhǔn)則，谷歌的人工智能領(lǐng)域確為多事之秋。但是，不可否認的是，技術(shù)的進步與革新帶來的是整個行業(yè)的發(fā)展。《The Selfish Ledger》是否會成為谷歌版的“新黑鏡”，這還需要時間和市場來檢驗，而谷歌本身的發(fā)展，依然需要辯證的來看待。

智能相對論（微信id:aixdlun）：深挖人工智能這口井，評出咸淡，講出黑白，道出深淺。重點關(guān)注領(lǐng)域：AI+醫(yī)療、機器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機交互等。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。