|
來源：芯東西 據(jù)韓媒報道，三星設(shè)備解決方案（DS）部門才啟用聊天機器人ChatGPT 20多天，就鬧出了3起數(shù)據(jù)泄露事故，導(dǎo)致其與半導(dǎo)體設(shè)備測量、良品率/缺陷、內(nèi)部會議內(nèi)容等相關(guān)信息被上傳到ChatGPT的服務(wù)器中。 這一事件立即引起了韓國全網(wǎng)的關(guān)注與熱議。DS部門主管三星的存儲、芯片設(shè)計、晶圓代工等半導(dǎo)體核心業(yè)務(wù)，自今年3月11日起允許員工使用ChatGPT。結(jié)果有3位員工為了“圖省事”，把機密數(shù)據(jù)送到海外了。 美國人工智能（AI）企業(yè)OpenAI是ChatGPT的開發(fā)商，但這3起泄密事故的鍋可背不到OpenAI頭上。在ChatGPT使用指南中，OpenAI已經(jīng)明確說明輸入ChatGPT聊天框的文本內(nèi)容會被用于進一步訓(xùn)練模型，警告用戶不要提交敏感信息。 三星已采取限制ChatGPT輸入問題長度、限制辦公電腦使用等緊急措施，籌備以防再發(fā)生類似信息泄露事故的保護措施，并正考慮在構(gòu)建自己的人工智能服務(wù)。當前，多家海外企業(yè)已采取措施阻止或限制員工使用ChatGPT。 一、3位員工將三星機密數(shù)據(jù)輸入ChatGPT 美國初創(chuàng)公司OpenAI會獲取用戶們在ChatGPT輸入的內(nèi)容，并將這些數(shù)據(jù)用于進一步訓(xùn)練模型。如果用戶提問的內(nèi)容涉及企業(yè)機密，相關(guān)內(nèi)容將會遭到大范圍泄露。OpenAI也在ChatGPT使用指南中告知“不要輸入敏感內(nèi)容”。 三星電子擔心ChatGPT的內(nèi)部使用可能會發(fā)生公司內(nèi)部機密等信息泄露的問題，一直在阻止在企業(yè)內(nèi)使用ChatGPT。但從3月11日開始，DS部門允許使用ChatGPT。負責影像顯示、家電、移動通信、醫(yī)療設(shè)備等業(yè)務(wù)的三星設(shè)備體驗部門（DX部門）目前還禁止使用ChatGPT。 允許DS部門使用ChatGPT的原因是該部門負責人認為員工有必要認識到當代技術(shù)發(fā)生的變化。三星只是允許使用ChatGPT，并向員工們發(fā)布公告稱：“注意公司內(nèi)部信息安全，不要輸入私人內(nèi)容。” DS部門實施這項運營政策不到20天，就發(fā)生了令人擔憂的“公司內(nèi)部信息泄露”事故。三星電子掌握的事故內(nèi)容為兩起“設(shè)備信息泄露事故”和一起“會議內(nèi)容泄露事故”。三星在得知相關(guān)事實后，實施了“緊急措施”事項，包括將每個問題的上傳容量限制在1024字節(jié)。三星計劃調(diào)查企業(yè)信息泄露事故經(jīng)過，必要時給予當事員工懲戒。 三星電子DS部門員工A某在運行半導(dǎo)體設(shè)備測量數(shù)據(jù)庫（DB）下載程序的源代碼時發(fā)生了錯誤。于是他復(fù)制所有有問題的源代碼，輸入ChatGPT，詢問解決方法。 員工B某將為“設(shè)備測量”及“產(chǎn)量和缺陷”編寫的程序代碼整個相關(guān)源輸入ChatGPT，要求其優(yōu)化代碼。 員工C某通過NAVER Clova應(yīng)用程序（APP）將用智能手機錄制的會議內(nèi)容轉(zhuǎn)換為文檔文件后，輸入到ChatGPT中，目的是要求制作會議記錄。 三星電子向員工通告了上述情況，并提醒員工謹慎使用ChatGPT。三星通過內(nèi)部公告警示說：“在ChatGPT中輸入內(nèi)容的瞬間，數(shù)據(jù)就會發(fā)送到外部服務(wù)器并存儲，公司無法收回。如果ChatGPT學習相關(guān)內(nèi)容，敏感內(nèi)容可能會提供給不特定的多數(shù)人。” 二、三星電子提高對生成式AI理解，限制使用ChatGPT 三星電子正在制定防止通過ChatGPT泄露信息事故再次發(fā)生的保護措施方案。該公司告知員工：“如果在采取信息保護緊急措施后仍發(fā)生類似事故，公司內(nèi)部網(wǎng)可能會阻止ChatGPT連接。” 一位三星電子相關(guān)人士對詢問此次信息泄露事故的記者說：“因為是公司內(nèi)部情況，很難確認。” 三星電子認為生成式AI可能會使半導(dǎo)體生態(tài)系統(tǒng)發(fā)生變化，因此敦促管理層采取應(yīng)對措施。上月22日，以全體高管為對象，以“ChatGPT登場，生成式AI創(chuàng)造未來”為主題舉行了在線研討會。三星電子副會長韓鐘熙曾強調(diào)ChatGPT的重要性，強調(diào)有必要提高對生成型AI的理解。 為了防止今后公司主要機密和個人信息等泄露，DX部門就ChatGPT的使用情況對公司員工進行問卷調(diào)查。 問卷不僅包括詢問是否有使用ChatGPT的經(jīng)驗，還包括詢問對公司內(nèi)部使用ChatGPT的看法等內(nèi)容。 三星電子計劃以問卷調(diào)查結(jié)果為基礎(chǔ)，制定上傳容量限制或業(yè)務(wù)PC（個人電腦）使用限制等內(nèi)部規(guī)定，并與員工共享。 三星電子設(shè)備解決方案部門（DS部門）在最近的公告欄上發(fā)布了提醒注意ChatGPT誤用的信息。各組長還對組員進行了ChatGPT可用范圍等培訓(xùn)。 三、各大公司限制ChatGPT使用，制定ChatGPT使用指南 半導(dǎo)體業(yè)務(wù)大部分屬于國家機密，一不小心就會上傳報告等內(nèi)部信息，泄露機密。全球鋼鐵制造廠巨頭韓國浦項制鐵為了防止通過ChatGPT泄露信息，正在準備通過內(nèi)部Intranet（企業(yè)內(nèi)部網(wǎng)）利用ChatGPT的途徑，向員工進行引導(dǎo)。浦項制鐵公司在內(nèi)部協(xié)作平臺“Teams”中引入ChatGPT功能，只在內(nèi)部系統(tǒng)內(nèi)使用ChatGPT，從而同時加強安全性和工作效率。 市場調(diào)查公司Gartner對62名企業(yè)人事負責人進行了問卷調(diào)查，結(jié)果顯示，其中48%的人表示正在制定ChatGPT等AI聊天機器人業(yè)務(wù)的使用指南。 全球第二大存儲芯片巨頭韓國SK海力士除必要時刻外幾乎禁止公司內(nèi)部網(wǎng)使用ChatGPT。 韓國液晶面板龍頭公司LG Display通過公司內(nèi)部帖子和教育、活動等，隨時強調(diào)公司內(nèi)部信息保護和防止泄露等信息安全認識。海外因擔心機密信息泄露而限制使用ChatGPT的企業(yè)越來越多。各家公司擔心如果在ChatGPT中輸入信息，AI可能會學習并泄露給外界。 最近，JP摩根大通、美國銀行、花旗集團、高盛、德意志銀行等美國銀行限制使用ChatGPT等AI聊天機器人。 據(jù)《日本經(jīng)濟新聞》等媒體報道，日本軟銀集團最近向全體員工通報了禁止在ChatGPT中輸入機密信息等注意事項，該集團還計劃制定了哪些業(yè)務(wù)或用途可以使用交互式AI的規(guī)則。 在日本，瑞穗金融集團、三菱UFJ銀行、三井住友銀行禁止將ChatGPT等交互式AI用于業(yè)務(wù)。此外，松下控股旗下松下Connect在制定信息泄露對策后才允許使用交互式AI。富士通設(shè)置了“AI倫理治理室”，提醒用戶使用交互式AI時的注意點。 一位韓國商界相關(guān)人士稱，ChatGPT一直以來都是熱門話題，現(xiàn)在大家都在試著使用和學習，企業(yè)也需要更加警惕信息泄露等問題。 結(jié)語：三星電子企業(yè)機密泄露，制定ChatGPT使用的保護措施 三星電子批準內(nèi)部使用ChatGPT不久后，公司內(nèi)部與半導(dǎo)體“設(shè)備測量”及“產(chǎn)量和缺陷”有關(guān)的程序內(nèi)容被傳送到美國。ChatGPT在聊天界面和輸入的信息極有可能會泄露，關(guān)于這一點并沒有任何安全保障。各大公司紛紛意識到了這一點并立馬開始建立完善的ChatGPT使用說明以提示員工謹慎使用這一軟件。 ChatGPT像一把雙刃劍，在為大家提出各種問題解決方案的同時，也讓提問者經(jīng)受著輸入信息被泄露的風險。要想安全有效的使用這一軟件，還需提高謹慎，在有完善的信息保護體系之前，不要輸入任何有關(guān)企業(yè)機密信息的問題。 |
