首頁(yè) > 資訊 > 財(cái)經(jīng) > 正文

意大利禁令起波瀾 ChatGPT遭遇數(shù)據(jù)安全挑戰(zhàn)

2023-04-07 08:47:14來(lái)源：第一財(cái)經(jīng)

意大利率先在本國(guó)禁止ChatGPT的使用后

，多國(guó)安全機(jī)構(gòu)表示將會(huì)考慮對(duì)ChatGPT采取措施

。

(相關(guān)資料圖)

對(duì)于外界的普遍關(guān)注

，OpenAI在4月6日凌晨發(fā)表博客回應(yīng)稱(chēng)：“我們認(rèn)為，強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受?chē)?yán)格的安全評(píng)估

。需要有監(jiān)管來(lái)確保這種做法被采納，我們積極與政府接觸

，探討這種監(jiān)管可能采取的最佳形式

。”

另外

，OpenAI在與意大利監(jiān)管機(jī)構(gòu)的會(huì)議中

，承諾提高個(gè)人數(shù)據(jù)使用的透明度，并表示愿意與該機(jī)構(gòu)進(jìn)行合作

。OpenAI還將增強(qiáng)數(shù)據(jù)主體權(quán)利行使機(jī)制以及對(duì)兒童的保護(hù)措施

。

正如ChatGPT引發(fā)的爭(zhēng)議，在新一輪人工智能浪潮中

，海內(nèi)外科技企業(yè)均面臨著技術(shù)發(fā)展與數(shù)據(jù)安全

、隱私保護(hù)之間的平衡難題。

面臨大面積被禁風(fēng)險(xiǎn)

當(dāng)?shù)貢r(shí)間3月31日

，負(fù)責(zé)意大利信息監(jiān)管的意大利數(shù)據(jù)保護(hù)局宣布暫時(shí)禁止ChatGPT的使用

，同時(shí)對(duì)ChatGPT背后的OpenAI公司展開(kāi)調(diào)查，限制其處理意大利用戶(hù)的信息

。

意大利數(shù)據(jù)保護(hù)局稱(chēng)，ChatGPT沒(méi)有任何法律依據(jù)證明大規(guī)模收集和存儲(chǔ)個(gè)人信息是為了“訓(xùn)練”這種聊天機(jī)器人

，OpenAI有20天時(shí)間采取補(bǔ)救措施

，否則可能面臨高達(dá)2000萬(wàn)歐元(約合1.49億元人民幣)的罰款

。作為回應(yīng)

，OpenAI已在該國(guó)下線了ChatGPT的相關(guān)服務(wù)

。

促成意大利數(shù)據(jù)保護(hù)局禁用ChatGPT的是發(fā)生在3月20日的聊天記錄“泄露門(mén)”事件

。

當(dāng)時(shí)

，由于數(shù)以百萬(wàn)計(jì)的用戶(hù)蜂擁登錄ChatGPT，龐大的訪問(wèn)數(shù)量使得服務(wù)器一度崩潰

，在修復(fù)之后，有登錄者發(fā)現(xiàn)

，系統(tǒng)中的漏洞開(kāi)始把一些用戶(hù)的個(gè)人詳細(xì)信息隨機(jī)發(fā)送給了其他用戶(hù)

，包括他們的名字

、與ChatGPT的聊天記錄

，甚至還有信用卡賬號(hào)等敏感信息。這些私密信息隨后在社交平臺(tái)上傳播

。

次日

，OpenAI回應(yīng)稱(chēng)

，已暫時(shí)下線聊天歷史功能

，并強(qiáng)調(diào)發(fā)生泄露的只涉及聊天歷史的標(biāo)題，用戶(hù)無(wú)法看到他人的詳細(xì)聊天內(nèi)容

。3月23日，OpenAI首席執(zhí)行官阿爾特曼（Sam Altman）表示

，此次嚴(yán)重問(wèn)題是由開(kāi)源代碼庫(kù)的一個(gè)程序錯(cuò)誤導(dǎo)致的

，開(kāi)發(fā)團(tuán)隊(duì)已發(fā)布修復(fù)程序

，并完成驗(yàn)證

。

事件的影響遠(yuǎn)沒(méi)有因此結(jié)束，意大利的禁令在全球范圍內(nèi)引發(fā)討論

，不少?lài)?guó)家開(kāi)始追隨意大利，考慮對(duì)ChatGPT采取行動(dòng)

。

歐盟國(guó)家已有動(dòng)向

。當(dāng)?shù)貢r(shí)間4月3日

，德國(guó)聯(lián)邦數(shù)據(jù)保護(hù)專(zhuān)員Ulrich Kelber表示

，出于對(duì)數(shù)據(jù)安全問(wèn)題的考量，該國(guó)存在暫時(shí)禁止使用ChatGPT的可能性。德國(guó)聯(lián)邦數(shù)據(jù)保護(hù)機(jī)構(gòu)已要求意大利監(jiān)管機(jī)構(gòu)提供其禁止ChatGPT的進(jìn)一步信息。

據(jù)外媒報(bào)道

，愛(ài)爾蘭和法國(guó)的個(gè)人數(shù)據(jù)監(jiān)管機(jī)構(gòu)已經(jīng)和意大利同行取得聯(lián)系

，以了解更多有關(guān)該禁令的依據(jù)。西班牙的數(shù)據(jù)監(jiān)管機(jī)構(gòu)也表示

，雖然暫未收到任何有關(guān)ChatGPT的投訴，但不排除未來(lái)對(duì)該軟件展開(kāi)調(diào)查的可能性

。

英國(guó)信息專(zhuān)員辦公室已向科技公司發(fā)出警告，不要使用個(gè)人信息來(lái)開(kāi)發(fā)聊天機(jī)器人

。包括英國(guó)信息監(jiān)管局局長(zhǎng)在內(nèi)的其他監(jiān)管者都表示

，正在密切關(guān)注這一情況。

此外

，當(dāng)?shù)貢r(shí)間4月4日，加拿大聯(lián)邦隱私監(jiān)管機(jī)構(gòu)宣布

，已經(jīng)對(duì)OpenAI展開(kāi)調(diào)查

，因?yàn)樵摴旧嫦印拔唇?jīng)同意收集、使用和披露個(gè)人信息”

。

深度科技研究院院長(zhǎng)張孝榮表示，在缺乏有效的法律規(guī)制之前

，ChatGPT或?qū)⑸婕按罅侩[私問(wèn)題和網(wǎng)絡(luò)安全問(wèn)題

，對(duì)世界各國(guó)來(lái)說(shuō)都是一種挑戰(zhàn)

。

潛在安全問(wèn)題重重

早在今年2月

，業(yè)界就開(kāi)始關(guān)注ChatGPT可能帶來(lái)的數(shù)據(jù)安全問(wèn)題。

除上述“泄露門(mén)”事件外

，ChatGPT還疑似有“前科”。2月23日

，有外媒報(bào)道

，亞馬遜公司律師稱(chēng)，在ChatGPT生成的內(nèi)容中發(fā)現(xiàn)了與公司機(jī)密“非常相似”的文本

，可能是由于一些亞馬遜員工在使用ChatGPT生成代碼和文本時(shí)輸入了公司內(nèi)部數(shù)據(jù)信息，該律師擔(dān)心輸入的信息可能被用作ChatGPT迭代的訓(xùn)練數(shù)據(jù)

。

距離用戶(hù)更近的風(fēng)險(xiǎn)是

，用戶(hù)在使用ChatGPT等AI工具時(shí)，可能會(huì)不經(jīng)意間將私密數(shù)據(jù)輸入到云端模型

，這些數(shù)據(jù)可能成為訓(xùn)練數(shù)據(jù)

，也可能成為提供給他人答案的一部分，從而導(dǎo)致數(shù)據(jù)泄露和合規(guī)風(fēng)險(xiǎn)

。

安全企業(yè)方面也開(kāi)始對(duì)可能的問(wèn)題進(jìn)行審查。Fortinet北亞區(qū)首席技術(shù)顧問(wèn)譚杰表示

，盡管ChatGPT本身尚不具備直接攻擊網(wǎng)絡(luò)安全和數(shù)據(jù)安全的能力

，但由于它具有自然語(yǔ)言生成和理解的能力

，可以被用于偽造虛假信息

、攻擊社交工程等方面。

ChatGPT等AI技術(shù)還極大降低了網(wǎng)絡(luò)攻擊的門(mén)檻

。“攻擊者可以使用自然語(yǔ)言來(lái)讓ChatGPT生成相應(yīng)的攻擊代碼

、惡意軟件代碼

、垃圾郵件等。因此

，可以讓那些原本沒(méi)有能力發(fā)起攻擊的人基于AI生成攻擊，并大大提高攻擊成功率

?div id="4qifd00" class="flower right">

！弊T杰對(duì)記者說(shuō)。

OpenAI在最新發(fā)布的安全舉措中表示

，將構(gòu)建越來(lái)越安全的人工智能系統(tǒng)；從實(shí)際使用中學(xué)習(xí)

，以改進(jìn)保障措施

；加強(qiáng)保護(hù)兒童措施，要求用戶(hù)必須年滿(mǎn)18歲(或經(jīng)父母批準(zhǔn)年滿(mǎn)13歲)才能使用OpenAI工具

，并正在研究驗(yàn)證選項(xiàng)；尊重隱私

，努力在可行的情況下從訓(xùn)練數(shù)據(jù)集中刪除個(gè)人信息

。OpenAI稱(chēng)，解決人工智能安全問(wèn)題的一個(gè)切實(shí)可行的方法是投入更多時(shí)間和資源來(lái)研究有效的緩解和校準(zhǔn)技術(shù)

，并在現(xiàn)實(shí)世界的濫用情況下測(cè)試它們

。

就此張孝榮表示，OpenAI難以解決兩個(gè)固有問(wèn)題

，一是用戶(hù)濫用問(wèn)題，各國(guó)用戶(hù)濫用技術(shù)的方法層出不盡

，OpenAI無(wú)法全面預(yù)防

，只能采用事后糾正的做法

。二是訓(xùn)練數(shù)據(jù)的缺陷問(wèn)題，ChatGPT基于公開(kāi)數(shù)據(jù)訓(xùn)練

，但公開(kāi)數(shù)據(jù)質(zhì)量參差不齊

，盡管OpenAI努力做好對(duì)齊，但可能永遠(yuǎn)無(wú)法實(shí)現(xiàn)

。

AI浪潮下的兩難

人工智能浪潮下的數(shù)據(jù)隱私安全引發(fā)關(guān)注，但如何平衡技術(shù)發(fā)展與數(shù)據(jù)隱私之間的關(guān)系更需考量

。一位人工智能行業(yè)人士對(duì)記者表示

，所有AI都是有“偏見(jiàn)”的

，這更多是訓(xùn)練數(shù)據(jù)的問(wèn)題

，也可以通過(guò)負(fù)例反饋去修正。但要做到完全的數(shù)據(jù)脫敏和安全沒(méi)那么容易

。畢竟通過(guò)原始數(shù)據(jù)的訓(xùn)練效果和效率是最好的，加入噪聲或脫敏會(huì)對(duì)數(shù)據(jù)的保真度造成降低

。而在監(jiān)管方面

，歐洲GDPR（《通用數(shù)據(jù)保護(hù)條例》）是很好的數(shù)據(jù)安全保護(hù)條例，但反觀歐洲的人工智能技術(shù)發(fā)展如何

？

張孝榮也表示，數(shù)據(jù)隱私安全和技術(shù)發(fā)展之間是個(gè)動(dòng)態(tài)博弈過(guò)程

，兩者難以做到真正的平衡

，而是在互相拉扯中實(shí)現(xiàn)螺旋式逐漸進(jìn)步。

科大訊飛高級(jí)副總裁杜蘭此前在談及馬斯克等近千名科技人員呼吁未來(lái)6個(gè)月暫停對(duì)巨型GPT模型訓(xùn)練時(shí)表示

，AI的快速發(fā)展的確會(huì)帶來(lái)失業(yè)、隱私侵犯、信息不對(duì)稱(chēng)等問(wèn)題

，但它更多是在提升效率

、提升醫(yī)療能力

、改善環(huán)境等發(fā)揮了重要作用

。

杜蘭稱(chēng)，人工智能訓(xùn)練也很難停止

，因?yàn)椴煌瑖?guó)家

、公司

、實(shí)驗(yàn)室等都會(huì)去爭(zhēng)奪領(lǐng)先位置

，所以全球范圍內(nèi)的協(xié)調(diào)和執(zhí)行可能會(huì)面臨挑戰(zhàn)。

杜蘭還表示

，對(duì)人工智能企業(yè)整理和標(biāo)注后的數(shù)據(jù)保護(hù)是當(dāng)前最大的問(wèn)題。目前行業(yè)確實(shí)存在通過(guò)版權(quán)

、商業(yè)秘密路徑都無(wú)法周密保護(hù)數(shù)據(jù)的問(wèn)題

，所以對(duì)于數(shù)據(jù)應(yīng)該有明確的權(quán)利歸屬和保護(hù)措施。同時(shí)

，通過(guò)AI可以輸出一幅模仿梵高或吳冠中的畫(huà)作，但如果非?div id="jfovm50" class="index-wrap">？贪宓匾竺恳黄恼?div id="jfovm50" class="index-wrap">、每一幅畫(huà)、每本書(shū)都需要作者同意才能夠進(jìn)入數(shù)據(jù)庫(kù)

，以今天這么大的數(shù)據(jù)量來(lái)說(shuō)，執(zhí)行的成本就太高了

?div id="d48novz" class="flower left">

！八赃@確實(shí)是一個(gè)需要去解決的問(wèn)題

?div id="jpandex" class="focus-wrap mb20 cf">！倍盘m稱(chēng)。

清華大學(xué)交叉信息研究院助理教授

、人工智能?chē)?guó)際治理研究院國(guó)際交流項(xiàng)目主任于洋表示

，ChatGPT改變了人工智能和經(jīng)濟(jì)之間的關(guān)系

，AI已成為一種“有自主意識(shí)形態(tài)和價(jià)值觀的界面基礎(chǔ)設(shè)施”

。當(dāng)人們?nèi)ダ斫釧I產(chǎn)品時(shí)

，不能只看表現(xiàn)好不好

、速度快不快

，還要看它是否能夠很好地符合一個(gè)地區(qū)的法律法規(guī)、公序良俗