提起ChatGPT，想必大家都不陌生。面世兩個(gè)月，月活用戶(hù)量就迅速過(guò)億，ChatGPT爆火全球的速度讓人又驚又喜。寫(xiě)論文、寫(xiě)小說(shuō)、寫(xiě)代碼、找bug、編劇本、畫(huà)漫畫(huà)……簡(jiǎn)直沒(méi)有它干不了的事！

不過(guò)，隨著ChatGPT等大型人工智能模型的興起，一些問(wèn)題也逐漸暴露了出來(lái)。

01

三星被曝機(jī)密數(shù)據(jù)泄漏

近日，有媒體報(bào)道稱(chēng)，三星電子引入ChatGPT不到20天，就曝出3起內(nèi)部機(jī)密資料外泄事故。其中，2起跟半導(dǎo)體設(shè)備有關(guān)，1起跟會(huì)議內(nèi)容有關(guān)。目前，這些機(jī)密資料可能已被存入ChatGPT的數(shù)據(jù)庫(kù)中，隨時(shí)都面臨著被泄露的風(fēng)險(xiǎn)。

據(jù)了解，這3起事故分別為：

1）三星DS設(shè)備解決方案部門(mén)的員工，在操作半導(dǎo)體測(cè)試設(shè)備下載軟件的過(guò)程中，發(fā)現(xiàn)復(fù)制有問(wèn)題，于是便將有問(wèn)題的代碼復(fù)制到ChatGPT中尋找答案，這就有可能讓ChatGPT把三星的機(jī)密信息當(dāng)作訓(xùn)練資料來(lái)使用；

2）同樣是該部門(mén)員工，本想用ChatGPT來(lái)優(yōu)化代碼，可這些代碼是涉及芯片良率的；

3）三星內(nèi)部人員想讓ChatGPT記錄會(huì)議內(nèi)容，雖然不是技術(shù)機(jī)密，但也可能導(dǎo)致其它機(jī)密外泄。

該報(bào)道指出，為杜絕類(lèi)似事故再發(fā)生，三星正在制定相關(guān)保護(hù)措施。若之后又發(fā)生類(lèi)似事故，三星內(nèi)部可能會(huì)切斷ChatGPT服務(wù)。

▲相關(guān)報(bào)道截圖

值得注意的是，三星存儲(chǔ)事業(yè)部?jī)?nèi)的“運(yùn)算新事業(yè)組”正在開(kāi)發(fā)與ChatGPT相關(guān)的超大型AI用“定制款新一代存儲(chǔ)器”。

據(jù)悉，“運(yùn)算新事業(yè)組”是存儲(chǔ)事業(yè)部中的先行事業(yè)開(kāi)發(fā)組織，負(fù)責(zé)人為首席金鎮(zhèn)賢，此前該部門(mén)集中研發(fā)具運(yùn)算能力的存儲(chǔ)處理器（Processing In Memory，PIM）。PIM除了可以存儲(chǔ)數(shù)據(jù)之外，還能在存儲(chǔ)器內(nèi)對(duì)數(shù)據(jù)進(jìn)行整合和運(yùn)算。

如果三星內(nèi)部決定切斷ChatGPT服務(wù)，屆時(shí)“運(yùn)算新事業(yè)組”所研發(fā)的“定制款新一代存儲(chǔ)器”可能也將被叫停。

據(jù)了解，三星從今年3月11日才允許DS部門(mén)員工使用ChatGPT，而對(duì)DX裝置體驗(yàn)部門(mén)員工仍然禁用ChatGPT。結(jié)果，還不到一個(gè)月就出現(xiàn)了3次意外，這也證實(shí)了先前部分觀點(diǎn)對(duì)ChatGPT的擔(dān)憂。

對(duì)此，三星透過(guò)公告叮囑員工要注意ChatGPT的使用方式，并提醒使用者在ChatGPT輸入內(nèi)容后，相關(guān)數(shù)據(jù)都將傳送到外部服務(wù)器。由于三星無(wú)法回收這些外流數(shù)據(jù)，因此如果讓ChatGPT學(xué)習(xí)三星內(nèi)部數(shù)據(jù)，可能會(huì)讓敏感內(nèi)容外流。

02

ChatGPT引發(fā)學(xué)術(shù)界擔(dān)憂

事實(shí)上，這并不是ChatGPT第一次陷入“泄露”風(fēng)波。此前，Redis的開(kāi)源庫(kù)bug就曾導(dǎo)致ChatGPT發(fā)生故障和數(shù)據(jù)泄露，造成了部分用戶(hù)可以看見(jiàn)其他用戶(hù)的個(gè)人信息和聊天查詢(xún)內(nèi)容。

同樣，OpenAI的ChatGPT由于開(kāi)源庫(kù)中的一個(gè)錯(cuò)誤，也導(dǎo)致了部分用戶(hù)信息泄露，其中包括訂閱者的姓名、電子郵件地址、支付地址、信用卡號(hào)后四位數(shù)字等個(gè)人隱私。

然而，人們對(duì)于ChatGPT的擔(dān)憂，還遠(yuǎn)不止“信息泄漏”這一點(diǎn)。盡管ChatGPT在回復(fù)時(shí)經(jīng)常會(huì)帶有一種異常堅(jiān)定的語(yǔ)氣，但這個(gè)回復(fù)卻可能存在大量的常識(shí)性錯(cuò)誤。如果僅僅是常識(shí)性錯(cuò)誤，還比較容易鑒別，可一旦涉及到比較專(zhuān)業(yè)的問(wèn)題，非相關(guān)專(zhuān)業(yè)人士就很可能被ChatGPT帶入歧途。

比如，有人就曾利用ChatGPT搜索“Cr-Zr近共晶點(diǎn)行為特征”，ChatGPT給出的回復(fù)乍一看有理有據(jù)，甚至還有參考文獻(xiàn)?？梢坏┥罹烤蜁?huì)發(fā)現(xiàn)，這些參考文獻(xiàn)完全是ChatGPT偽造的。

浙江大學(xué)醫(yī)學(xué)院附屬第一醫(yī)院，更是在研究ChatGPT時(shí)發(fā)現(xiàn)，其醫(yī)學(xué)專(zhuān)業(yè)知識(shí)根本不及格。

在一次測(cè)試中，該醫(yī)院人員從2020年臨床執(zhí)業(yè)醫(yī)師資格考試真題庫(kù)中篩選出100道單選題，結(jié)果ChatGPT僅僅答出56分的成績(jī)，就連一些書(shū)上有標(biāo)準(zhǔn)答案的基礎(chǔ)題，ChatGPT也會(huì)出錯(cuò)。

對(duì)此，該醫(yī)院人員分析認(rèn)為，可能是ChatGPT從網(wǎng)上學(xué)到了錯(cuò)誤的答案。同時(shí)，該醫(yī)院人員發(fā)現(xiàn)，ChatGPT存在嚴(yán)重的偏科現(xiàn)象，比如內(nèi)科領(lǐng)域準(zhǔn)確率僅20%，而微生物學(xué)則能夠達(dá)到70%。

03

意大利成首個(gè)封禁ChatGPT的國(guó)家

那么，在信息安全威脅下，我們還能安心使用ChatGPT嗎？近日來(lái)，反AI浪潮聲四起，繼馬斯克等千人聯(lián)名呼吁之后，意大利準(zhǔn)備全面封殺ChatGPT。

當(dāng)?shù)貢r(shí)間3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，暫時(shí)禁止使用人工智能軟件ChatGPT，限制其開(kāi)發(fā)公司OpenAI處理意大利用戶(hù)信息，并開(kāi)始立案調(diào)查。該機(jī)構(gòu)認(rèn)為，OpenAI公司非法收集用戶(hù)個(gè)人數(shù)據(jù)，且沒(méi)有設(shè)置年齡驗(yàn)證系統(tǒng)防止未成年人接觸非法材料，因此將采取限制措施“直到ChatGPT尊重隱私”。

至此，意大利成為了首個(gè)封禁ChatGPT的國(guó)家！

該機(jī)構(gòu)稱(chēng)，3月20日ChatGPT平臺(tái)出現(xiàn)用戶(hù)對(duì)話數(shù)據(jù)和付款服務(wù)信息丟失。此外，該平臺(tái)沒(méi)有就收集處理用戶(hù)信息進(jìn)行告知，且缺乏大量收集和存儲(chǔ)個(gè)人信息的法律依據(jù)。因此，意大利監(jiān)管機(jī)構(gòu)要求OpenAI公司必須在20天通報(bào)采取了哪些措施來(lái)確保用戶(hù)數(shù)據(jù)隱私，否則將被處以最高2000萬(wàn)歐元或公司全球年?duì)I業(yè)額4%的罰款。

隨后，OpenAI表示已在意大利將ChatGPT下線。但OpenAI首席執(zhí)行官Sam Altman回應(yīng)稱(chēng)，其工作是“為了在訓(xùn)練ChatGPT等人工智能系統(tǒng)時(shí)減少個(gè)人數(shù)據(jù)，因?yàn)槲覀兿Ｍ覀兊?a href="/tags/人工智能" target="_blank">人工智能了解世界，而不是了解個(gè)人”。

Sam Altman認(rèn)為，公司并沒(méi)有違反任何規(guī)定，愿與意大利個(gè)人數(shù)據(jù)保護(hù)局密切合作。

▲Sam Altman回應(yīng)“封殺ChatGPT”一事

其實(shí)，任何事情都具有兩面性。作為顛覆性科技，ChatGPT為人類(lèi)帶來(lái)了前所未有的機(jī)遇，但因其產(chǎn)生的安全隱患也不容忽視。對(duì)此，我們應(yīng)該理性對(duì)待，更多的監(jiān)管與限制也應(yīng)同步跟上，提高駕馭ChatGPT的能力，讓ChatGPT成為人類(lèi)的好助手。