人工智能詐騙接二連三 更高層面監(jiān)管亟須落地-環(huán)球熱訊

(資料圖)

證券時(shí)報(bào)記者 陳霞昌

近日，包頭、安慶等地先后發(fā)生不法分子利用人工智能（AI）進(jìn)行詐騙，涉及金額數(shù)百萬元。資本市場(chǎng)同樣出現(xiàn)AI負(fù)面影響的事件，某上市公司因?yàn)樯墒紸I寫作虛假小作文導(dǎo)致股價(jià)大幅下跌。

在歐美，利用人工智能進(jìn)行犯罪也有增多趨勢(shì)。歐洲刑警組織在一份最新報(bào)告中警告，犯罪分子可能會(huì)利用人工智能精進(jìn)犯罪手段。從發(fā)動(dòng)網(wǎng)絡(luò)釣魚攻擊、散布不實(shí)信息到安裝惡意軟件等，聊天機(jī)器人快速發(fā)展出的能力，被不法之徒頻頻利用來吸金詐財(cái)。

人工智能被譽(yù)為第四次工業(yè)革命的核心，長期以來都受到政府和行業(yè)的高度關(guān)注。今年以ChatGPT為代表的生成式人工智能更是在全球刮起旋風(fēng)，資本市場(chǎng)對(duì)相關(guān)企業(yè)也給予了高度關(guān)注。但人們探討的，更多是人工智能對(duì)各行各業(yè)帶來的正面變革，甚少看到它高速發(fā)展可能帶來的負(fù)面影響。業(yè)內(nèi)僅有少數(shù)有識(shí)之士提出，希望人工智能在迅猛發(fā)展的同時(shí)，也要受到足夠的約束和監(jiān)管。

今年3月，在ChatGPT火出圈后，包括特斯拉總裁馬斯克、蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克在內(nèi)的一批高科技人士發(fā)表聯(lián)名信，呼吁所有AI實(shí)驗(yàn)室立即暫停更強(qiáng)大的AI系統(tǒng)訓(xùn)練至少6個(gè)月，以保證人類能夠跟上人工智能進(jìn)化速度，同時(shí)要求訓(xùn)練過程必須公開化、透明化，堅(jiān)決防止人工智能出現(xiàn)自我意識(shí)。

“人工智能教父”杰弗里·辛頓今年年初就曾經(jīng)警告，人工智能對(duì)人類構(gòu)成的威脅將比氣候變化更加緊迫。辛頓認(rèn)為，人工智能是一種智能工具，可以輔助人類做一些繁瑣、重復(fù)和創(chuàng)意性工作，但也會(huì)有不法之徒用它來做違法亂紀(jì)的勾當(dāng)。人工智能不但能撰寫文章，還能生成圖像、視頻。如果用來弄虛作假，幾乎可以亂真，普通人很難識(shí)別出來。如果有人用它來制作虛假圖像、視頻，傳遞錯(cuò)誤信息，其破壞力遠(yuǎn)大于單純的文字形式。

當(dāng)前在國內(nèi)外發(fā)生的種種違法犯罪，正在應(yīng)驗(yàn)辛頓的警告。可以預(yù)見，未來利用人工智能進(jìn)行違法犯罪的事情會(huì)越來越多。金融市場(chǎng)和金融機(jī)構(gòu)因?yàn)樯婕百Y產(chǎn)價(jià)格和國家安全，人工智能犯罪的概率會(huì)更大。

今年4月，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，旨在促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。但作為一個(gè)行業(yè)管理辦法，顯然不足以對(duì)洶涌而來的人工智能發(fā)展進(jìn)行約束和管理。期待監(jiān)管機(jī)構(gòu)能夠在更高層面對(duì)這一行業(yè)發(fā)展進(jìn)行更多關(guān)注和規(guī)范。