在人工智能爆炒中的冷思維，深度學(xué)習(xí)的地板和天花板在哪里？一文中，我們給狂熱的人工智能炒作澆了一盆冷水，指出了人工智能，尤其是深度學(xué)習(xí)的局限性，但是令人擔(dān)憂的不僅僅是人工智能的局限性，威力強(qiáng)大的人工智能技術(shù)，在當(dāng)今這個(gè)開源化的技術(shù)世界，如果被網(wǎng)絡(luò)犯罪分子和地下黑產(chǎn)所用，會給世界帶來何種負(fù)面影響？紐約時(shí)報(bào)近日撰文表達(dá)了這方面的擔(dān)憂，由FreeBuf翻譯整理如下：

請各位同學(xué)想象一下這個(gè)場景：你老媽打電話跟你說她把銀行密碼忘記了，讓你告訴她銀行卡密碼。想必你也知道了，跟你通話的其實(shí)不是她本人，而是電腦合成的聲音，只是聽起來很像而已，這就是人工智能技術(shù)的杰作。

人工智能技術(shù)正在不斷發(fā)展

雖然利用人工智能在電話中偽裝某人的這種技術(shù)仍然只會出現(xiàn)在科幻電影中，但這種高科技犯罪手法在未來很可能會成為現(xiàn)實(shí)。目前，這種偽裝技術(shù)所需要的軟件組件正在飛速發(fā)展之中。例如，最近Alphabet公司旗下的子公司DeepMind（該公司開發(fā)了一款能打敗頂尖棋手的人工智能圍棋程序AlphaGo）宣布，他們已經(jīng)設(shè)計(jì)出了一款能夠模仿人類聲音的新程序，而且聲音聽起來比目前最好的文本語音轉(zhuǎn)換系統(tǒng)更自然，并且成功將機(jī)器語音與人類聲音的差異縮小了50%以上。

需要注意的是，年收入高達(dá)750億美元的計(jì)算機(jī)安全行業(yè)已開始討論機(jī)器學(xué)習(xí)這個(gè)話題了。因?yàn)樾畔�安全研究人員打算通過機(jī)器學(xué)習(xí)和模式識別技術(shù)來改善目前計(jì)算機(jī)安全方面的糟糕狀況。

人工智能的阿喀琉斯之踵

雖然一切聽起來十分美好，但人工智能技術(shù)也有其自身的缺陷。

Marc Goodman是某執(zhí)法機(jī)構(gòu)的一名顧問，同時(shí)他也是《FutureCrimes》的作者，他表示：“可能很多人現(xiàn)在還沒有意識到，網(wǎng)絡(luò)犯罪正趨向于自動(dòng)化，而且擴(kuò)張速度驚人。現(xiàn)在已經(jīng)不是Matthew Broderick躲在地下室去攻擊別人計(jì)算機(jī)的年代了（電影《戰(zhàn)爭游戲》（1983年）中的情節(jié)）�！�

今年年初，美國國家情報(bào)局的負(fù)責(zé)人JamesR. Clapper發(fā)出了關(guān)于惡意使用人工智能技術(shù)的警告。Clapper在他的年度安全報(bào)告中強(qiáng)調(diào)，雖然人工智能系統(tǒng)可以讓我們的生活變得更加簡單，但與此同時(shí)網(wǎng)絡(luò)世界中的“薄弱之處”也會因?yàn)槿斯ぶ悄艿某霈F(xiàn)而不斷被放大。

如今計(jì)算機(jī)犯罪活動(dòng)日益復(fù)雜化，從不斷升級更新的攻擊工具身上就可以看出了。比如目前得到了廣泛使用的惡意軟件Blackshades，這款惡意軟件的開發(fā)者叫Goodman，他是個(gè)瑞典人。不過悲劇的是，他已于去年在美國被定罪了。

這款惡意軟件在地下黑市的銷量非常高，據(jù)Goodman所說，由于Blackshades可以為犯罪分子提供很多強(qiáng)大的功能，因此這款惡意軟件也被大家稱為“網(wǎng)絡(luò)犯罪分子的潘多拉魔盒”。在Blackshades的幫助下，使用者壓根不需要懂得任何的黑客技術(shù)，用戶只需要點(diǎn)擊幾下鼠標(biāo)便可以實(shí)現(xiàn)攻擊。這款惡意軟件不僅可以輕易地讓目標(biāo)計(jì)算機(jī)感染勒索軟件，而且還能對目標(biāo)進(jìn)行視頻和音頻監(jiān)控。

人工智能領(lǐng)域的研究人員目前正在研究如何提升機(jī)器學(xué)習(xí)的能力，因?yàn)樗麄兿Ｍ�改善�?jì)算機(jī)視覺、語音理解、語音合成和自然語言理解的處理質(zhì)量。但這也會帶來一些不好的影響，因?yàn)榉缸锓肿右部梢栽谙乱淮鷲阂廛浖�中增加這種機(jī)器學(xué)習(xí)的能力。有一些安全研究專家則認(rèn)為，其實(shí)早在五年前就已經(jīng)有犯罪分子在利用人工智能技術(shù)進(jìn)行網(wǎng)絡(luò)犯罪活動(dòng)了。

安全保護(hù)技術(shù)與人工智能的博弈

現(xiàn)在，幾乎所有的互聯(lián)網(wǎng)服務(wù)都會要求用戶在使用前輸入驗(yàn)證碼，而犯罪分子們一直都在試圖破解驗(yàn)證碼技術(shù)。驗(yàn)證碼（Captcha）的全稱是“全自動(dòng)區(qū)分計(jì)算機(jī)和人類的圖靈測試”，這項(xiàng)技術(shù)是美國卡內(nèi)基梅隆大學(xué)的研究員于2003年發(fā)明的，網(wǎng)站運(yùn)營者可以利用這項(xiàng)技術(shù)來防止自動(dòng)化程序盜取用戶的網(wǎng)絡(luò)賬戶數(shù)據(jù)。

來自加利福尼亞大學(xué)的計(jì)算機(jī)安全研究專家StefanSavage表示：

“近五年來，人工智能專家和網(wǎng)絡(luò)犯罪分子都在嘗試使用計(jì)算機(jī)視覺軟件來破解驗(yàn)證碼技術(shù)。如果你兩年來都沒有更改過你的驗(yàn)證碼，那么你的驗(yàn)證碼肯定會被計(jì)算機(jī)視覺算法搞定�！�

社會工程學(xué)

毫無疑問，隨著科技的不斷發(fā)展，網(wǎng)絡(luò)犯罪分子肯定會嘗試?yán)�用新興的技術(shù)來進(jìn)行犯罪活動(dòng)。像蘋果的Siri和微軟的Cortana這樣的語音識別技術(shù)目前已經(jīng)得到了廣泛使用。亞馬遜的聲控智能音箱Echo和Facebook的人工智能聊天機(jī)器人也成為了電商與顧客之間的溝通工具。與以前一樣，每當(dāng)類似語音識別技術(shù)這樣的新型技術(shù)成為了市場上的主流之后，犯罪分子一定會利用這項(xiàng)技術(shù)去大做文章。

調(diào)查記者Brian Krebs在krebsonsecurity.com上發(fā)表文章稱：

“在我看來，那些為客戶提供了智能聊天服務(wù)的公司絕對忽略了一個(gè)問題：在信息安全領(lǐng)域中，想要獲得便捷性，往往就會以犧牲安全性作為代價(jià)。通過聊天機(jī)器人來服務(wù)客戶，這一切看似非常方便，但這也使得攻擊者有可能通過社會工程學(xué)技術(shù)來攻擊這些網(wǎng)絡(luò)服務(wù)�！�

社會工程學(xué)技術(shù)針對的是人性的弱點(diǎn)，而這也是計(jì)算機(jī)安全鏈中最薄弱的一個(gè)環(huán)節(jié)，網(wǎng)絡(luò)犯罪分子通常會把那些容易輕信別人或樂于助人的人們作為攻擊目標(biāo)。假如犯罪分子有能力去研發(fā)人工智能惡意軟件，并利用這種惡意軟件在網(wǎng)上進(jìn)行犯罪活動(dòng)的話，那么計(jì)算機(jī)安全形勢將會變得更加嚴(yán)峻。

話雖如此，但是智能聊天機(jī)器人目前仍然得到了廣泛的應(yīng)用。例如政府在進(jìn)行某些宣傳時(shí)，或者在政治選舉之類的活動(dòng)中，我們都可以看到智能聊天機(jī)器人的身影。值得一提的是，政治聊天機(jī)器人在英國脫歐公投中可是扮演了一個(gè)非常重要的角色��！

總結(jié)

總之，網(wǎng)絡(luò)犯罪分子遲早會利用人工智能技術(shù)來進(jìn)行攻擊，一切只是時(shí)間問題。但值得慶幸的是，目前還沒有人利用機(jī)器學(xué)習(xí)技術(shù)來進(jìn)行網(wǎng)絡(luò)犯罪活動(dòng)。

本文來源：FreeBuf  英文原文：Nytimes