從難以普及的數據增強技術,看AI的性價比時代

原標題:從難以普及的數據增強技術,看AI的性價比時代

數據是AI訓練的核心,這一點已經被確認再確認了。雖然數據驅動不是AI算法訓練的唯一途徑,但在產業(yè)中已經出現了很明顯的趨勢,那些數據豐富廉價的領域,就是會更容易孕育出AI技術。像是漢英之間的機器翻譯能力會大大強于小語種間的機器翻譯,數據收集更容易的人臉識別應用率也高于虹膜、眼紋等等生物特征的智能識別。

可以說數據的缺乏或昂貴,往往是阻礙AI發(fā)展的直接緣由。

當然面對這種情況,也出現了相應的技術解決方案——數據增強技術。

數據的有絲分裂,是怎樣進行的?

所謂數據增強技術,可以理解為數據的繁殖皿,可以讓數據進行“有絲分裂”,增強樣本擴大數據集。

以圖像數據為例,當圖像數據不足時,可以對圖像進行一些輕微的改變,例如裁剪、旋轉、鏡像反轉、輕微的扭曲、增加噪點、增加遮擋物等等。對于人類來說,雖然可以一眼識破兩者之間沒有區(qū)別。但對于AI來說,即使幾個像素點的變動,也是全新的數據樣本。

而應用于文本數據,則有互譯和詞向量替換兩種方法。通過機器翻譯,將一句話從中文翻譯成英文,再由英文翻譯成中文,就可以實現語序、同義詞等等的調整替換,得到語料乘二的效果。以及通過自然語言生成技術,將一句話中的不同對象進行劃分并替換生成新的句子。

這些數據增強技術也開始通過深度學習的加持逐漸提升效率,例如去年4月谷歌就推出了一項名為AutoAugment的技術,這一模式設計了一個自動搜索空間,利用搜索算法來確定適合數據集的圖像增強策略(例如上述的平移、縮放等等),制定執(zhí)行的順序并且自動執(zhí)行。

例如將一個動物照片數據集輸入給AutoAugment,AutoAugment通過計算會確定出先平移再剪裁是讓AI對于數據“陌生感”最大化的解決方案,然后開始自動執(zhí)行。

為什么數據增強沒能普及?AI企業(yè)的成本怪圈

看到了這些解決方案,大家是不是有種“天亮了”感覺?既然數據可以“自我繁殖”,那么數據的累積和采集就再也不是AI發(fā)展的阻礙。小語種的翻譯、冷門植物動物的識別都可以快速AI化,巨頭移動互聯網企業(yè)霸權下的數據壟斷也即將被破解……等等,如果數據增強技術有如此之強的能力,這項技術至少應該像BERT一樣在學術界和產業(yè)界引起極高的關注,并且迅速形成產業(yè)鏈。

可實際上今天我們仍然能看到大量AI企業(yè)為如何獲取數據而憂慮。

為什么數據增強技術沒能徹底解決他們的問題呢?這背后其實是老生常談的成本問題。

數據增強技術從來都不是免費利用的,很多時候AI技術接口本身就需要按調用次數收費,更別提背后的計算成本和時間成本了。

就拿文本數據經常利用的機器翻譯來說,百度、搜狗、有道等等提供的機器翻譯服務對于普通用戶來說雖然是免費的,但是超過了一定流量值之后也要進行收費。數據增強技術顯然屬于收費范疇之中。曾有知乎用戶表示,幾款主流的機器翻譯軟件的收費標準大概在48元-60元/百萬字符不等。對于企業(yè)來說,這也是一項不小的花銷。

而應用于圖片數據增強的AutoAugment,更是一種十分昂貴的算法。應用時要對15000個模型進行收斂,這對算力的消耗是巨大的。如果以CIFAR-10這樣的對象作為數據集,需要利用英偉達Tesla P100 GPU計算幾千個小時,以谷歌云的收費標準需要花費7500美元。

換句話說,如果數據增強的收費成本超過了人工去拍照收集,企業(yè)自然會去選擇更劃算的方法。實際上大多數時候企業(yè)既不能覆蓋人工獲取數據的成本,也不能覆蓋數據增強技術應用的成本。

當AI走進性價比時代

這一現象提醒了我們,AI正在進入一個“性價比”時代。

資本對于AI一擲千金的歲月已經過去,隨著巨頭的AI技術逐漸產業(yè)化,其他AI企業(yè)已經無法向以前那樣不計成本的投入。同時隨著產業(yè)鏈發(fā)展的越來越完善,AI企業(yè)發(fā)展過程中的“計費標準”也逐漸清晰起來。在巨頭占據市場的情況下,AI企業(yè)很容易看到在未來業(yè)務的發(fā)展中究竟經歷著哪些成本上的商業(yè)風險。

這時,幫助降低數據增強這一類技術的應用成本就成了一件很重要的事。

例如最近伯克利人工智能研究院就推出了一種群體增強技術,通過數據結組方法,更高效地找到數據增強策略。相比單純的應用AutoAugment,可以提升近千倍的效率。讓很多無法負擔高昂計算成本的企業(yè)甚至個人都能利用起數據增強技術。

而這種旨在降低AI研發(fā)成本的技術,或許未來會成為典型。其中的原因在于,谷歌這樣的巨頭企業(yè),以及OpenAI這樣的研究機構,本身擁有雄厚的資本和資源支持,導致他們在研發(fā)技術時,很難會考慮技術的“性價比”。何況很多時候這些企業(yè)本身也是算力資源的掌握著,他們在某種程度上掌握著技術與算力之間的定價權。從谷歌的角度來說,他們當然希望企業(yè)在研發(fā)AI時需要消耗盡可能多的算力資源,畢竟從算法技術到云計算資源都是他們的一套買賣。

如此以往下去,如果技術的計算標準和計算資源都被壟斷,AI企業(yè)在發(fā)展時會遇到一條明顯的閾值。一旦超過這一閾值,AI企業(yè)就會很難跨越成本,于是直接被攔在門外。甚至科技巨頭可以利用這種方式對于產業(yè)進行間接的操控,舉例來講,如果谷歌想保護自己在小語種機器翻譯上的優(yōu)勢,只需要提高該語種機器翻譯應用費用,就能通過加大企業(yè)獲取語料數據成本的方式,阻礙他們進行相關研究。

在這種情況下,打破壟斷、重塑定價權,讓AI研發(fā)更具性價比,或許能夠打造出一條獨辟蹊徑的道路。

免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

2019-07-17
從難以普及的數據增強技術,看AI的性價比時代
小語種的翻譯、冷門植物動物的識別都可以快速AI化,巨頭移動互聯網企業(yè)霸權下的數據壟斷也即將被破解……等等,如果數據增強技術有如此之強的能力,這項技術至少應該像BERT一樣在學術界和產業(yè)界引起極高的關注

長按掃碼 閱讀全文