人工智能與信息安全——從柯潔大戰(zhàn)AlphaGo說(shuō)起

據(jù)媒體最新消息，圍棋人工智能程序AlphaGo將于2017年5月22—27日在浙江烏鎮(zhèn)與包括柯潔在內(nèi)的中國(guó)頂尖棋手對(duì)決，這可能是人類最頂尖棋手與人工智能程序的“終極對(duì)決”。不過(guò)，這次終極對(duì)決的焦點(diǎn)不是棋藝，而是兩種不同方式產(chǎn)生的智能誰(shuí)更強(qiáng)。本文將揭開(kāi)人工智能的神秘面紗。

人工智能

人工智能（Artificial Intelligence, AI）是研究、開(kāi)發(fā)用于模擬、延伸和擴(kuò)展人類智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門(mén)新的科學(xué)技術(shù)，是計(jì)算機(jī)科學(xué)的一個(gè)分支，試圖了解智能的實(shí)質(zhì)，并生產(chǎn)出一種新的能以人類智能相似的方式做出反應(yīng)的智能機(jī)器。AI的主要研究?jī)?nèi)容包括：機(jī)器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、計(jì)算機(jī)視覺(jué)、智能機(jī)器人、自然語(yǔ)言理解、自動(dòng)推理和搜索方法等。總體來(lái)說(shuō)，AI研究的一個(gè)主要目標(biāo)是使機(jī)器能夠勝任一些通常需要人類智能才能完成的“復(fù)雜工作”，即以前繁重的科學(xué)和工程計(jì)算本來(lái)是要人腦來(lái)承擔(dān)的，如今計(jì)算機(jī)不但能完成這種計(jì)算，而且能夠比人腦做得更快。

人工智能與信息安全

隨著技術(shù)革新，AI逐漸走入千家萬(wàn)戶，一些看似只有在電影中出現(xiàn)的場(chǎng)景正在成為現(xiàn)實(shí)，隨之而來(lái)的安全漏洞問(wèn)題同樣不容忽視，有些甚至已經(jīng)顯現(xiàn)。傳統(tǒng)網(wǎng)絡(luò)漏洞帶來(lái)的損失一般是信息泄露、銀行卡盜刷等欺詐、盜竊行為，這些損失往往可以用金錢(qián)衡量。而隨著技術(shù)的逐漸完善，AI已越來(lái)越多地進(jìn)入到工業(yè)、生活等諸多領(lǐng)域。針對(duì)AI的網(wǎng)絡(luò)攻擊所帶來(lái)的損失，有可能迅速傳導(dǎo)給消費(fèi)者，嚴(yán)重時(shí)甚至危及生命。特斯拉去年已經(jīng)在利用AI來(lái)研究無(wú)人駕駛，依靠遍布車身的上百個(gè)傳感器將源源不斷的數(shù)據(jù)發(fā)送給車的自動(dòng)駕駛系統(tǒng)，來(lái)實(shí)現(xiàn)等紅燈、保持車距、躲避障礙物、并線等一系列安全駕駛功能。然而研究發(fā)現(xiàn)，可利用數(shù)據(jù)欺詐等手段遠(yuǎn)程控制汽車，讓汽車偏航，甚至逼停汽車造成事故。這種AI的網(wǎng)絡(luò)攻擊就不僅僅是財(cái)產(chǎn)損失了，有時(shí)還將威脅到生命。此外，相比人類而言，AI很難從極少數(shù)的例子上學(xué)到有價(jià)值的信息，并針對(duì)某個(gè)情境獨(dú)立建造一個(gè)抽象模型進(jìn)行具有一定高度的歸納總結(jié)。“小數(shù)據(jù)”的不穩(wěn)定性給AI帶來(lái)了不可靠、不準(zhǔn)確和不公平，而且還存在較大的安全風(fēng)險(xiǎn)。簡(jiǎn)言之，AI目前還存在著很多漏洞，尚無(wú)法確保其的絕對(duì)安全性。

（作者：康雙勇，原載于《保密科學(xué)技術(shù)》2017年第4期）