AI 傻嗎？這個問題很難回答。

通常情況下，它都是非常聰明的。但是，利用深度神經(jīng)網(wǎng)絡(luò)為輸入（圖像或語音）進行分類的 AI 卻總會出現(xiàn)一些“智障”操作，犯的錯誤也可以低級到讓人驚嘆。這種情況就是科研人員經(jīng)常提到的 AI 的脆弱性。

換一種更學術(shù)的方式解釋 AI 的脆弱性：因為 AI 目前仍然非常缺乏像人類一樣的對現(xiàn)實世界復雜性的理解能力，而導致了它有時會以意想不到的方式迅速崩潰。

下面讓我們用一個最近發(fā)生的有趣的案例，來真切的感受一下 AI 的脆弱性。

足球與光頭，傻傻分不清楚

由于新冠疫情的大流行，廣大球迷們不能到現(xiàn)場去觀看比賽，為了給球迷們帶來更好的觀看體驗，蘇格蘭的因弗內(nèi)斯足球俱樂部啟用了 AI 攝像師。AI 攝像師可以在比賽直播時追蹤足球的位置，確�？梢詾橛^眾持續(xù)提供比賽的最佳視角

但是，在最近的一場比賽直播中，AI 攝像師被一名裁判的光頭迷惑。它無法正確判斷哪個是真正的足球，多次將自己的目光焦距在裁判的光頭上，甚至給了特寫鏡頭，導致觀眾無法正常觀看比賽。

圖 ｜ AI 攝像師：在這里在這里。

圖 ｜ AI 攝像師：我的天啊，寶貝，你怎么跑的這么快。

圖 ｜ AI 攝像師：回手，掏！原來你在這兒。

圖 ｜ AI 攝像師：上天了。哎？剛才那個追錯了？

圖 ｜ AI 攝像師：是你？不，是你。啊不！到底是誰！

鐵證如山，AI 攝像師確實是足球與光頭傻傻分不清楚。比賽期間，情況一度非常糟糕，以至于比賽的解說員不得不為攝像頭的故障道歉。甚至有球迷表示，因為 AI 的不專注，他錯過了觀看自己喜愛球隊進球的精彩時刻。

比賽結(jié)束后，該俱樂部使用的 AI 攝像頭技術(shù)公司 Pixellot 發(fā)表聲明稱，這個問題是因為這名裁判的頭部和足球之間的視覺相似性。而且本場比賽的用球是黃色的，這進一步讓 AI 陷入混亂。

該公司發(fā)言人說：＂上個月，我們在沒有任何工作人員在現(xiàn)場的情況下，完成了 10．5 萬小時的直播。這大約是 5 萬場比賽。只有這場確實出現(xiàn)了追蹤問題�，F(xiàn)在該情況已經(jīng)被解決。＂

AI 脆弱性的危害

這是一個展示 AI 脆弱性的有趣案例。人類是不會出現(xiàn)這種錯誤，但一個對足球和人類構(gòu)造都理解有限的機器學習系統(tǒng)來說，卻很容易犯這種錯誤。

這個例子很特殊，因為它讓人們感覺好笑，并沒有產(chǎn)生太大的危害。但事實上，這類錯誤可能發(fā)生在任何 AI 系統(tǒng)上。產(chǎn)生錯誤的原因是：當環(huán)境數(shù)據(jù)與智能系統(tǒng)訓練的環(huán)境大相徑庭，或者實際的應(yīng)用場景發(fā)生變化，或者這種變化超出機器可理解的范圍時，AI 可能就立刻失去判斷能力。

這種錯誤與自動駕駛汽車所犯的一些導致致命車禍的錯誤是類似的相似，因為它們的視覺識別系統(tǒng)都不能準確地判斷物體。在足球比賽上無傷大雅，但是在自動駕駛汽車上確是人命關(guān)天。

圖 ｜ 特斯拉的 ＂自動駕駛 ＂軟件未能識別前方障礙導致駕駛員死亡

此外，AI 的這種弱點也會伴隨著很大的網(wǎng)絡(luò)安全問題。如果攻擊者在源數(shù)據(jù)上增加人類難以通過感官辨識到的細微改變，而這些改變卻可以讓機器學習模型接受并做出錯誤的分類決定，那么攻擊者就可以“趁虛而入”。

美國智庫“新美國安全中心”發(fā)布的《人工智能：每個決策者需要知道什么》報告顯示，人工智能的一些弱點可能對國家安全等領(lǐng)域造成巨大影響。

如何讓 AI“更聰明”

AI 的發(fā)展勢不可擋，我們不能否認 AI 為人類做出的貢獻。尤其是在全球疫情大流行的狀態(tài)下，當人與人的交往受到限制時，AI 發(fā)揮了它前所未有的作用。

科學技術(shù)的發(fā)展從來不是一帆風順的，AI 技術(shù)亦是如此。存在弱點，受到質(zhì)疑是必然要經(jīng)歷的過程。因此我們需要的是面對它、接受它、解決它。

對于 AI 的脆弱性，有專家提出過解決思路。一個解決思路是給 AI 更多數(shù)據(jù)，讓 AI 反復暴露在有問題的例子下，不斷地糾正它的錯誤。在這種“對抗訓練”的方式下，其中一個網(wǎng)絡(luò)會學習識別物體，另一個網(wǎng)絡(luò)則嘗試改變前一個網(wǎng)絡(luò)的輸入來使它出錯。這樣就能把對抗樣本變成深度神經(jīng)網(wǎng)絡(luò)訓練數(shù)據(jù)的一部分。

而另一個解決思路是減少 AI 學習的數(shù)據(jù)，讓其學會學習。當訓練一個新的任務(wù)時，通過復用部分或整體的預訓練網(wǎng)絡(luò)來作為訓練的起始點，從而實現(xiàn)遷移學習，甚至進一步學會如何學習。

目前來說，雖然科學家們意識到 AI 的脆弱性，但沒有人知道如何讓它變得更好，所有都還停留在思路構(gòu)建和嘗試中。但是 AI 正在飛速發(fā)展，通過巨量的計算資源訓練神經(jīng)網(wǎng)絡(luò)，在各行各業(yè)都交出了兩眼的成績單。因此我們也有理由相信，未來 AI 可以被進一步完善，變得更加“聰明”。