消息：人工智能“脆弱面”暗藏安全風(fēng)險(xiǎn)

2019-07-09 16:53:18來源：經(jīng)濟(jì)參考報(bào)

智能機(jī)器人自信地走上舞臺擔(dān)綱主持;無人車在測試道路上完成一系列動作，司機(jī)卻穩(wěn)坐千里之外;智能健康魔鏡能實(shí)時(shí)顯示測試者睡眠情緒皮膚等一...

智能機(jī)器人自信地“走上”舞臺擔(dān)綱主持;無人車在測試道路上完成一系列動作

，司機(jī)卻穩(wěn)坐千里之外;智能健康“魔鏡”能實(shí)時(shí)顯示測試者“睡眠”“情緒”“皮膚”等一系列健康指標(biāo)系數(shù)……曾經(jīng)在科幻電影中才能看到的炫酷片段已經(jīng)在生活中得以實(shí)現(xiàn)

，種種“黑科技”被廣泛應(yīng)用

，人工智能的發(fā)展深刻地影響著社會生活。

但同時(shí)

，隨著人工智能技術(shù)應(yīng)用越來越廣泛

，人工智能“脆弱面”也逐漸暴露，機(jī)器人“自我意識”

、技術(shù)濫用等安全漏洞引起業(yè)界更多關(guān)注

。專家表示

，要加強(qiáng)對潛在風(fēng)險(xiǎn)的研判和防范

，確保人工智能各項(xiàng)技術(shù)安全、可靠

、可控

。

催生新攻擊方式

當(dāng)今

，世界各國紛紛布局人工智能，國際競爭日趨激烈

。然而，人工智能的快速發(fā)展也使得網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)點(diǎn)和攻擊方式出現(xiàn)新變化

，進(jìn)而引發(fā)更深層次的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)

。

2018年4月，歐盟委員會計(jì)劃2018年至2020年在人工智能領(lǐng)域投資240億美元

。2018年5月

，法國發(fā)布《法國人工智能戰(zhàn)略》，目的是使法國成為人工智能強(qiáng)國

。2018年6月，日本《未來投資戰(zhàn)略》重點(diǎn)推動物聯(lián)網(wǎng)建設(shè)和人工智能的應(yīng)用

。

對于人工智能

，我國同樣高度重視。2017年

，政府先后發(fā)布了《新一代人工智能發(fā)展規(guī)劃》和《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計(jì)劃(2018—2020年)》

。

北京郵電大學(xué)教授李小勇表示，我國是受到網(wǎng)絡(luò)攻擊最嚴(yán)重的國家之一

，也是遭受物聯(lián)網(wǎng)攻擊最嚴(yán)重的國家之一，網(wǎng)絡(luò)攻擊手段和攻擊形式越來越多

。從行業(yè)來看

，經(jīng)濟(jì)、教育

、政府等部門成為攻擊的主要目標(biāo)

。

360公司董事長兼CEO周鴻祎說，網(wǎng)絡(luò)攻擊每天都在發(fā)生

。目前網(wǎng)絡(luò)黑客的攻擊目標(biāo)非常明確

，就是能源

、交通等基礎(chǔ)設(shè)施

，因?yàn)檫@樣產(chǎn)生的影響是最大的。未來在萬物互聯(lián)的情況下

，每個集裝箱

、每輛卡車，甚至城市里的每個井蓋都實(shí)現(xiàn)互聯(lián)，虛擬層面的攻擊可能引發(fā)物理空間的損害

。

事實(shí)上

，劫持智能設(shè)備已經(jīng)成為網(wǎng)絡(luò)攻擊的重要手段

。網(wǎng)絡(luò)安全專家表示

，許多無人值守系統(tǒng)運(yùn)用人工智能技術(shù)，一旦遭網(wǎng)絡(luò)劫持

，將帶來嚴(yán)重的安全問題

。例如，智能汽車可與車廠服務(wù)器連接

，通過手機(jī)遠(yuǎn)程控制

，車主需要定期更新軟件保證汽車的駕駛模式

，如此一來就可能被網(wǎng)絡(luò)劫持

。

天津大學(xué)法學(xué)院院長孫佑海稱，網(wǎng)絡(luò)攻擊者可通過漏洞控制人工智能算法

，實(shí)現(xiàn)物理硬件操縱

、實(shí)施輿論引導(dǎo)、制造虛假圖像或影響

、制造信息噪音等

，造成安全隱患。

此外

，圖像、聲音合成滋生新的風(fēng)險(xiǎn)

。國家互聯(lián)網(wǎng)應(yīng)急中心的相關(guān)專家稱

，隨著技術(shù)的發(fā)展

，現(xiàn)在的合成圖像、語音越來越逼真

。如果把該技術(shù)用于網(wǎng)絡(luò)詐騙，虛構(gòu)人臉和語音

，是非常可怕的事情

。

暴露安全軟肋

由于人工智能技術(shù)依托的算法

、大數(shù)據(jù)等可以很低的成本進(jìn)行復(fù)制和擴(kuò)散，其傳播渠道廣，監(jiān)管難度大

，封控幾率低

。

目前

，人工智能技術(shù)正由“弱人工智能”向“強(qiáng)人工智能”階段躍進(jìn)

，能夠依據(jù)其所掌握的算法、數(shù)據(jù)

，在短時(shí)間內(nèi)快速突破人類傳承多年的經(jīng)驗(yàn)積累

。

2016年，由谷歌旗下“深度思維”(DeepMind)公司開發(fā)的AlphaGo橫空出世

，經(jīng)深度學(xué)習(xí)后橫掃人類圍棋界翹楚

。一年后

，零基礎(chǔ)起步的新程序AlphaGo Zero

，通過自我訓(xùn)練，在三天內(nèi)與自身對弈490萬局后

，以100：0的成績擊敗“前輩”AlphaGo

。

2017年，美國社交媒體平臺臉書公司實(shí)驗(yàn)室中的兩個人工智能機(jī)器人使用機(jī)器學(xué)習(xí)相互對話

，并不斷進(jìn)行對話策略迭代升級

，逐漸發(fā)展出了一種機(jī)器之間能理解但人類無法理解的語言。

“事實(shí)表明

，人工智能通過算法和大數(shù)據(jù)進(jìn)行深度學(xué)習(xí)，不排除演化出‘自我意識’的可能

，輔助甚至代替人類做出分析和決策

，這易于發(fā)生反噬風(fēng)險(xiǎn)。”孫佑海說

。

當(dāng)前

，人工智能研究高度開放附帶源代碼的海量論文可免費(fèi)下載，即便編寫一種折型算法的時(shí)間成本也只需幾天

，人工智能技術(shù)的濫用風(fēng)險(xiǎn)激增

。此外

，人工智能既有多學(xué)科綜合

、高度復(fù)雜等特性，帶有天然的技術(shù)壁壘

，給監(jiān)管部門的監(jiān)督管理和風(fēng)險(xiǎn)防范提出了不小的挑戰(zhàn)

。

除技術(shù)發(fā)展外，人工智能帶來的社會影響不容小覷。通過特定算法全方位了解用戶偏好和需求

，為消費(fèi)者“量身定制”的“精準(zhǔn)推送”正成為商家引導(dǎo)消費(fèi)的新途徑

。

近年來

，北京

、上海、重慶

、濟(jì)南等地的商圈開始試水“智慧商圈”模式

，可以根據(jù)顧客的特征更精準(zhǔn)地推送優(yōu)惠券商品信息，讓用戶更有消費(fèi)動力

。比如

，給年輕的未婚白領(lǐng)女性推送化妝品和奢侈品的品牌商券;給媽媽們推薦嬰兒用品店;給男性推送運(yùn)動品牌門店活動，等等

。

“智慧商圈”帶來生活便捷卻容易引發(fā)“信息騷擾”問題。消費(fèi)者的一個簡單操作就有可能暴露想要購買某件商品的想法

，后續(xù)會不斷收到同類商品的廣告宣傳

，產(chǎn)生困擾。長此以往

，商場導(dǎo)購等從事決策分析

、藝術(shù)創(chuàng)作等工作也有被機(jī)器人取代的可能，人工智能技術(shù)的日臻成熟將打碎傳統(tǒng)職業(yè)群體的“飯碗”

，進(jìn)而引發(fā)新產(chǎn)業(yè)革命和經(jīng)濟(jì)結(jié)構(gòu)調(diào)整

，形成“去勞動力”傾向，最終產(chǎn)生失業(yè)風(fēng)險(xiǎn)

。

不僅如此，人工智能產(chǎn)生的道德倫理隱憂不斷

。有專家表示

，人工智能設(shè)計(jì)者的價(jià)值導(dǎo)向和行為偏好易于被有意或無意地反映到算法、數(shù)據(jù)當(dāng)中

，并通過機(jī)器學(xué)習(xí)被人工智能所承繼

，進(jìn)而演進(jìn)為算法歧視。而在具體適用過程中

，容易受到對抗樣本的干擾或污染

，被應(yīng)用者二次形塑

，做出背離設(shè)計(jì)初衷的錯誤決策

。

2016年3月

，美國微軟公司發(fā)布了名為Tay的最新版本人工智能機(jī)器人

。然而

，上線不到24小時(shí)，Tay就“學(xué)壞”了：出言不遜

、臟話不斷

，言語甚至涉及種族主義、色情

、納粹，充滿歧視

、仇恨和偏見

。微軟只得不停刪除Tay的不當(dāng)言論，進(jìn)行下線調(diào)整

。

用好“雙刃劍”

專家表示

，在人工智能飛速發(fā)展的時(shí)代，安全問題日益凸顯

，需要我們加強(qiáng)對潛在風(fēng)險(xiǎn)的研判和防范

，切實(shí)維護(hù)好人民利益和國家安全，確保人工智能安全可靠

、可控。

南開大學(xué)周恩來政府管理學(xué)院教授吳曉林認(rèn)為

，數(shù)字化

、網(wǎng)絡(luò)化、智能化已經(jīng)是時(shí)代的主題

，智能讓生活變得更美好

，但安全問題無處不在、無時(shí)不在

?div id="d48novz" class="flower left">

；ヂ?lián)網(wǎng)下半場是工業(yè)互聯(lián)網(wǎng)，以后國家的基礎(chǔ)設(shè)施安全

、工業(yè)互聯(lián)網(wǎng)安全非常關(guān)鍵，還是要把人工智能的雙刃劍用好

，趨利避害

，讓科技的智能與人類的智慧并存、和諧

。

在網(wǎng)絡(luò)安全防護(hù)上

，應(yīng)加強(qiáng)技術(shù)研究

，建立有效安全防護(hù)，抵御網(wǎng)絡(luò)攻擊

。專家建議

，可以建立主動免疫的計(jì)算架構(gòu)，對計(jì)算進(jìn)行安全防護(hù)

，使計(jì)算全程可測可控，不被干擾

。利用人工智能應(yīng)對網(wǎng)絡(luò)攻擊

，“免疫系統(tǒng)”中不管哪個系統(tǒng)受到攻擊，都有統(tǒng)一的人工智能系統(tǒng)發(fā)出指令

，采取相應(yīng)措施

。

在法治建設(shè)保障上，中國法學(xué)會副會長兼秘書長張鳴起建議高度重視立法工作

，適時(shí)安排宏觀立法

，人工智能的發(fā)展離不開一部反映時(shí)代需求的《人工智能法》以及配套法規(guī)組成的法律法規(guī)體系。

孫佑海建議

，全國人大宜進(jìn)行立法上的一些準(zhǔn)備，建議有關(guān)部門優(yōu)先對無人機(jī)的管理

、自動駕駛

、圖像識別相對成熟的技術(shù)應(yīng)用制定法律規(guī)章，以剛性的法規(guī)條款引領(lǐng)秩序

。

同時(shí)

，要進(jìn)一步健全精準(zhǔn)務(wù)實(shí)的政策支撐體系，構(gòu)建政策集群

。孫佑海說

，要進(jìn)一步升級全流程的安全防控體系，并制定行業(yè)安全標(biāo)準(zhǔn)

，做好應(yīng)急防范的預(yù)案，加大重點(diǎn)領(lǐng)域的防控

，加大對代碼數(shù)據(jù)

、算法等重點(diǎn)領(lǐng)域的綜合管控力度，保障技術(shù)安全

、產(chǎn)品安全

、數(shù)據(jù)安全和應(yīng)用安全。

針對新一代人工智能可能引發(fā)的結(jié)構(gòu)性失業(yè)等風(fēng)險(xiǎn)

，吳曉林建議

，由勞動部門牽頭加強(qiáng)與人工智能產(chǎn)業(yè)需求配套的在職培訓(xùn)和再就業(yè)培訓(xùn)體系

，打好勞動力轉(zhuǎn)型的主動仗。

責(zé)任編輯：孫知兵

免責(zé)聲明：本文僅代表作者個人觀點(diǎn)

，與太平洋財(cái)富網(wǎng)無關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)

，對本文以及其中全部或者部分內(nèi)容

、文字的真實(shí)性

、完整性

、及時(shí)性本站不作任何保證或承諾，請讀者僅作參考

，并請自行核實(shí)相關(guān)內(nèi)容

。
如有問題，請聯(lián)系我們

！

精彩推薦

閱讀排行

5G加持民用無人機(jī)將飛得更“高” 多領(lǐng)域應(yīng)用瓜分市場蛋糕
上一篇2019-07-09 15:50:31

關(guān)于我們　-　聯(lián)系方式　-　版權(quán)聲明　-　招聘信息　-　友鏈交換　-　網(wǎng)站統(tǒng)計(jì)

太平洋財(cái)富主辦版權(quán)所有：太平洋財(cái)富網(wǎng)

?中國互聯(lián)網(wǎng)違法和不良信息舉報(bào)中心

未經(jīng)過本站允許請勿將本站內(nèi)容傳播或復(fù)制業(yè)務(wù)QQ：331986683

五月婷婷操大逼,我和岳坶一起看片,久久精品无码一区二区三区,好硬好大我还要好爽视频,日本99热爱精品,日韩美女乱婬试看视频网站 ,寡妇下面水多好紧视频 ,亚洲AⅤ一区二区三区,色www亚洲国产张柏芝,亚洲av无码男人的天堂无广告,精品久久久久久久免费自慰,久久精品国产大片免费观看,AV影片影音先锋一本大道香蕉,香蕉97超级碰碰碰免费公开 ,啊轻点好爽在线观看,亚洲视频欧美不卡,久久精品国产99久