難以破解的AI“黑匣子”

，特別是那些基于深度學(xué)習(xí)、模仿神經(jīng)元之間連接的算法。這些系統(tǒng)宛如黑匣子，數(shù)據(jù)科學(xué)家、學(xué)術(shù)界頂尖人才，以及榮獲諾貝爾獎(jiǎng)的OpenAI和谷歌的工程師們，也難以窺探其內(nèi)部奧秘。

圖片來(lái)源：西班牙《國(guó)家報(bào)》網(wǎng)站

模型與數(shù)據(jù)具有不透明性

《科學(xué)美國(guó)人》雜志報(bào)道稱

，AI黑匣子指的是內(nèi)部運(yùn)作方式對(duì)用戶完全不可見(jiàn)的AI系統(tǒng)。用戶可以向這些系統(tǒng)輸入信息并獲得輸出，但無(wú)法檢查其代碼或了解產(chǎn)生輸出的邏輯。

機(jī)器學(xué)習(xí)作為AI的主要分支

，是ChatGPT等生成式AI系統(tǒng)的基石。機(jī)器學(xué)習(xí)包含算法、訓(xùn)練數(shù)據(jù)和模型3個(gè)核心部分。算法是一系列程序指令，在機(jī)器學(xué)習(xí)中，算法通過(guò)大量訓(xùn)練數(shù)據(jù)，學(xué)會(huì)識(shí)別數(shù)據(jù)中的模式。當(dāng)機(jī)器學(xué)習(xí)算法完成訓(xùn)練，其產(chǎn)物便是機(jī)器學(xué)習(xí)模型，這也是用戶實(shí)際使用的部分。

機(jī)器學(xué)習(xí)系統(tǒng)這3個(gè)部分中

，任何一個(gè)都可能被隱藏起來(lái)，即被置于黑匣子中。通常情況下，算法是公開(kāi)的。但為了保護(hù)知識(shí)產(chǎn)權(quán)，AI軟件開(kāi)發(fā)者通常會(huì)將模型或訓(xùn)練數(shù)據(jù)放進(jìn)黑匣子。

模型架構(gòu)復(fù)雜到難以解釋

盡管許多AI算法背后的數(shù)學(xué)原理已被人們充分理解