智能機器人自信地“走上”舞臺擔綱主持；無(wú)人車(chē)在測試道路上完成一系列動(dòng)作，司機卻穩坐千里之外；智能健康“魔鏡”能實(shí)時(shí)顯示測試者“睡眠”“情緒”“皮膚”等一系列健康指標系數……曾經(jīng)在科幻電影中才能看到的炫酷片段已經(jīng)在生活中得以實(shí)現，種種“黑科技”被廣泛應用，人工智能的發(fā)展深刻地影響著(zhù)社會(huì )生活。
但同時(shí)，隨著(zhù)人工智能技術(shù)應用越來(lái)越廣泛，人工智能“脆弱面”也逐漸暴露，機器人“自我意識”、技術(shù)濫用等安全漏洞引起業(yè)界更多關(guān)注。專(zhuān)家表示，要加強對潛在風(fēng)險的研判和防范，確保人工智能各項技術(shù)安全、可靠、可控。
催生新攻擊方式
當今，世界各國紛紛布局人工智能，國際競爭日趨激烈。然而，人工智能的快速發(fā)展也使得網(wǎng)絡(luò )安全的風(fēng)險點(diǎn)和攻擊方式出現新變化，進(jìn)而引發(fā)更深層次的網(wǎng)絡(luò )安全風(fēng)險。
2018年4月，歐盟委員會(huì )計劃2018年至2020年在人工智能領(lǐng)域投資240億美元。2018年5月，法國發(fā)布《法國人工智能戰略》，目的是使法國成為人工智能強國。2018年6月，日本《未來(lái)投資戰略》重點(diǎn)推動(dòng)物聯(lián)網(wǎng)建設和人工智能的應用。
對于人工智能，我國同樣高度重視。2017年，政府先后發(fā)布了《新一代人工智能發(fā)展規劃》和《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計劃（2018—2020年）》。
北京郵電大學(xué)教授李小勇表示，我國是受到網(wǎng)絡(luò )攻擊最嚴重的國家之一，也是遭受物聯(lián)網(wǎng)攻擊最嚴重的國家之一，網(wǎng)絡(luò )攻擊手段和攻擊形式越來(lái)越多。從行業(yè)來(lái)看，經(jīng)濟、教育、政府等部門(mén)成為攻擊的主要目標。
360公司董事長(cháng)兼CEO周鴻祎說(shuō)，網(wǎng)絡(luò )攻擊每天都在發(fā)生。目前網(wǎng)絡(luò )黑客的攻擊目標非常明確，就是能源、交通等基礎設施，因為這樣產(chǎn)生的影響是最大的。未來(lái)在萬(wàn)物互聯(lián)的情況下，每個(gè)集裝箱、每輛卡車(chē)，甚至城市里的每個(gè)井蓋都實(shí)現互聯(lián)，虛擬層面的攻擊可能引發(fā)物理空間的損害。
事實(shí)上，劫持智能設備已經(jīng)成為網(wǎng)絡(luò )攻擊的重要手段。網(wǎng)絡(luò )安全專(zhuān)家表示，許多無(wú)人值守系統運用人工智能技術(shù)，一旦遭網(wǎng)絡(luò )劫持，將帶來(lái)嚴重的安全問(wèn)題。例如，智能汽車(chē)可與車(chē)廠(chǎng)服務(wù)器連接，通過(guò)手機遠程控制，車(chē)主需要定期更新軟件保證汽車(chē)的駕駛模式，如此一來(lái)就可能被網(wǎng)絡(luò )劫持。
天津大學(xué)法學(xué)院院長(cháng)孫佑海稱(chēng)，網(wǎng)絡(luò )攻擊者可通過(guò)漏洞控制人工智能算法，實(shí)現物理硬件操縱、實(shí)施輿論引導、制造虛假圖像或影響、制造信息噪音等，造成安全隱患。
此外，圖像、聲音合成滋生新的風(fēng)險。國家互聯(lián)網(wǎng)應急中心的相關(guān)專(zhuān)家稱(chēng)，隨著(zhù)技術(shù)的發(fā)展，現在的合成圖像、語(yǔ)音越來(lái)越逼真。如果把該技術(shù)用于網(wǎng)絡(luò )詐騙，虛構人臉和語(yǔ)音，是非?？膳碌氖虑?。
暴露安全軟肋
由于人工智能技術(shù)依托的算法、大數據等可以很低的成本進(jìn)行復制和擴散，其傳播渠道廣，監管難度大，封控幾率低。
目前，人工智能技術(shù)正由“弱人工智能”向“強人工智能”階段躍進(jìn)，能夠依據其所掌握的算法、數據，在短時(shí)間內快速突破人類(lèi)傳承多年的經(jīng)驗積累。
2016年，由谷歌旗下“深度思維”（DeepMind）公司開(kāi)發(fā)的AlphaGo橫空出世，經(jīng)深度學(xué)習后橫掃人類(lèi)圍棋界翹楚。一年后，零基礎起步的新程序AlphaGo Zero，通過(guò)自我訓練，在三天內與自身對弈490萬(wàn)局后，以100：0的成績(jì)擊敗“前輩”AlphaGo。
2017年，美國社交媒體平臺臉書(shū)公司實(shí)驗室中的兩個(gè)人工智能機器人使用機器學(xué)習相互對話(huà)，并不斷進(jìn)行對話(huà)策略迭代升級，逐漸發(fā)展出了一種機器之間能理解但人類(lèi)無(wú)法理解的語(yǔ)言。
“事實(shí)表明，人工智能通過(guò)算法和大數據進(jìn)行深度學(xué)習，不排除演化出‘自我意識’的可能，輔助甚至代替人類(lèi)做出分析和決策，這易于發(fā)生反噬風(fēng)險?！睂O佑海說(shuō)。
當前，人工智能研究高度開(kāi)放附帶源代碼的海量論文可免費下載，即便編寫(xiě)一種折型算法的時(shí)間成本也只需幾天，人工智能技術(shù)的濫用風(fēng)險激增。此外，人工智能既有多學(xué)科綜合、高度復雜等特性，帶有天然的技術(shù)壁壘，給監管部門(mén)的監督管理和風(fēng)險防范提出了不小的挑戰。
除技術(shù)發(fā)展外，人工智能帶來(lái)的社會(huì )影響不容小覷。通過(guò)特定算法全方位了解用戶(hù)偏好和需求，為消費者“量身定制”的“精準推送”正成為商家引導消費的新途徑。
近年來(lái)，北京、上海、重慶、濟南等地的商圈開(kāi)始試水“智慧商圈”模式，可以根據顧客的特征更精準地推送優(yōu)惠券商品信息，讓用戶(hù)更有消費動(dòng)力。比如，給年輕的未婚白領(lǐng)女性推送化妝品和奢侈品的品牌商券；給媽媽們推薦嬰兒用品店；給男性推送運動(dòng)品牌門(mén)店活動(dòng)，等等。
“智慧商圈”帶來(lái)生活便捷卻容易引發(fā)“信息騷擾”問(wèn)題。消費者的一個(gè)簡(jiǎn)單操作就有可能暴露想要購買(mǎi)某件商品的想法，后續會(huì )不斷收到同類(lèi)商品的廣告宣傳，產(chǎn)生困擾。長(cháng)此以往，商場(chǎng)導購等從事決策分析、藝術(shù)創(chuàng )作等工作也有被機器人取代的可能，人工智能技術(shù)的日臻成熟將打碎傳統職業(yè)群體的“飯碗”，進(jìn)而引發(fā)新產(chǎn)業(yè)革命和經(jīng)濟結構調整，形成“去勞動(dòng)力”傾向，最終產(chǎn)生失業(yè)風(fēng)險。
不僅如此，人工智能產(chǎn)生的道德倫理隱憂(yōu)不斷。有專(zhuān)家表示，人工智能設計者的價(jià)值導向和行為偏好易于被有意或無(wú)意地反映到算法、數據當中，并通過(guò)機器學(xué)習被人工智能所承繼，進(jìn)而演進(jìn)為算法歧視。而在具體適用過(guò)程中，容易受到對抗樣本的干擾或污染，被應用者二次形塑，做出背離設計初衷的錯誤決策。
2016年3月，美國微軟公司發(fā)布了名為T(mén)ay的最新版本人工智能機器人。然而，上線(xiàn)不到24小時(shí)，Tay就“學(xué)壞”了：出言不遜、臟話(huà)不斷，言語(yǔ)甚至涉及種族主義、色情、納粹，充滿(mǎn)歧視、仇恨和偏見(jiàn)。微軟只得不停刪除Tay的不當言論，進(jìn)行下線(xiàn)調整。
用好“雙刃劍”
專(zhuān)家表示，在人工智能飛速發(fā)展的時(shí)代，安全問(wèn)題日益凸顯，需要我們加強對潛在風(fēng)險的研判和防范，切實(shí)維護好人民利益和國家安全，確保人工智能安全可靠、可控。
南開(kāi)大學(xué)周恩來(lái)政府管理學(xué)院教授吳曉林認為，數字化、網(wǎng)絡(luò )化、智能化已經(jīng)是時(shí)代的主題，智能讓生活變得更美好，但安全問(wèn)題無(wú)處不在、無(wú)時(shí)不在?；ヂ?lián)網(wǎng)下半場(chǎng)是工業(yè)互聯(lián)網(wǎng)，以后國家的基礎設施安全、工業(yè)互聯(lián)網(wǎng)安全非常關(guān)鍵，還是要把人工智能的雙刃劍用好，趨利避害，讓科技的智能與人類(lèi)的智慧并存、和諧。
在網(wǎng)絡(luò )安全防護上，應加強技術(shù)研究，建立有效安全防護，抵御網(wǎng)絡(luò )攻擊。專(zhuān)家建議，可以建立主動(dòng)免疫的計算架構，對計算進(jìn)行安全防護，使計算全程可測可控，不被干擾。利用人工智能應對網(wǎng)絡(luò )攻擊，“免疫系統”中不管哪個(gè)系統受到攻擊，都有統一的人工智能系統發(fā)出指令，采取相應措施。
在法治建設保障上，中國法學(xué)會(huì )副會(huì )長(cháng)兼秘書(shū)長(cháng)張鳴起建議高度重視立法工作，適時(shí)安排宏觀(guān)立法，人工智能的發(fā)展離不開(kāi)一部反映時(shí)代需求的《人工智能法》以及配套法規組成的法律法規體系。
孫佑海建議，全國人大宜進(jìn)行立法上的一些準備，建議有關(guān)部門(mén)優(yōu)先對無(wú)人機的管理、自動(dòng)駕駛、圖像識別相對成熟的技術(shù)應用制定法律規章，以剛性的法規條款引領(lǐng)秩序。
同時(shí)，要進(jìn)一步健全精準務(wù)實(shí)的政策支撐體系，構建政策集群。孫佑海說(shuō)，要進(jìn)一步升級全流程的安全防控體系，并制定行業(yè)安全標準，做好應急防范的預案，加大重點(diǎn)領(lǐng)域的防控，加大對代碼數據、算法等重點(diǎn)領(lǐng)域的綜合管控力度，保障技術(shù)安全、產(chǎn)品安全、數據安全和應用安全。
針對新一代人工智能可能引發(fā)的結構性失業(yè)等風(fēng)險，吳曉林建議，由勞動(dòng)部門(mén)牽頭加強與人工智能產(chǎn)業(yè)需求配套的在職培訓和再就業(yè)培訓體系，打好勞動(dòng)力轉型的主動(dòng)仗。
