導(dǎo)讀：監(jiān)管與技術(shù)發(fā)展如何兼顧?
作者 | 第一財(cái)經(jīng) 劉佳 高雅 樊雪寒
類ChatGPT的生成式人工智能(AIGC)大模型引發(fā)資本競(jìng)逐，各國(guó)對(duì)于AIGC合規(guī)性的重視正在推動(dòng)相應(yīng)的監(jiān)管措施出臺(tái)。
4月11日，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》(下稱《征求意見(jiàn)稿》)公開(kāi)征求意見(jiàn)，《征求意見(jiàn)稿》共21條，從生成式人工智能服務(wù)商的準(zhǔn)入，到算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型到內(nèi)容，以及用戶實(shí)名和個(gè)人隱私、商業(yè)秘密等方面提出了相關(guān)要求。這意味著，當(dāng)下爆火的生成式AI產(chǎn)業(yè)將迎來(lái)首份監(jiān)管文件。
有關(guān)ChatGPT可能引發(fā)的安全和倫理問(wèn)題，目前正引發(fā)全球關(guān)注。美國(guó)拜登政府已經(jīng)開(kāi)始研究是否需要對(duì)ChatGPT等人工智能工具實(shí)行檢查。作為潛在監(jiān)管的第一步，美國(guó)商務(wù)部11日就相關(guān)問(wèn)責(zé)措施正式公開(kāi)征求意見(jiàn)，包括新人工智能模型在發(fā)布前是否應(yīng)經(jīng)過(guò)認(rèn)證程序。
值得關(guān)注的是，前述《征求意見(jiàn)稿》中也明確了對(duì)生成式AI產(chǎn)業(yè)的支持和鼓勵(lì)態(tài)度?！墩髑笠庖?jiàn)稿》提出，國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。
給AI立規(guī)矩
“這次《征求意見(jiàn)稿》出臺(tái)速度非?？欤梢哉f(shuō)實(shí)現(xiàn)了與技術(shù)發(fā)展和應(yīng)用態(tài)勢(shì)的同步推動(dòng)，反映了中國(guó)網(wǎng)絡(luò)監(jiān)管、數(shù)字監(jiān)管日益成熟和敏捷高效的演進(jìn)態(tài)勢(shì)?！北本煼洞髮W(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括在接受第一財(cái)經(jīng)記者采訪時(shí)說(shuō)。
生成式人工智能是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。以ChatGPT為代表的生成式人工智能，正在激發(fā)包括微軟、谷歌、Meta、百度、阿里巴巴等國(guó)內(nèi)外科技巨頭以及創(chuàng)業(yè)者的新一輪AI軍備競(jìng)賽。僅在《征求意見(jiàn)稿》發(fā)布的前一天，就有前搜狗CEO王小川的百川智能，商湯科技以及昆侖萬(wàn)維三家企業(yè)宣布?xì)⑷肷墒饺斯ぶ悄艽竽Ｐ皖I(lǐng)域。
吳沈括提到，從《征求意見(jiàn)稿》中能夠看到，關(guān)于國(guó)內(nèi)對(duì)于生成式人工智能的監(jiān)管思路有三個(gè)特點(diǎn)：一是充分利用現(xiàn)行法律法規(guī)所提供的制度、機(jī)制;二是強(qiáng)調(diào)風(fēng)險(xiǎn)防范、風(fēng)險(xiǎn)應(yīng)對(duì)和風(fēng)險(xiǎn)管理的基本思路;三是突出了生態(tài)式、流程式的監(jiān)管方式，特別表現(xiàn)在技術(shù)應(yīng)用全生命周期的多層次監(jiān)管。
《征求意見(jiàn)稿》體現(xiàn)了監(jiān)管前置的思路。在準(zhǔn)入資格方面，《征求意見(jiàn)稿》提出，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照相關(guān)規(guī)定向國(guó)家網(wǎng)信部門(mén)申報(bào)安全評(píng)估，并履行算法備案和變更、注銷備案手續(xù)。
《征求意見(jiàn)稿》還要求，企業(yè)提供生成式人工智能產(chǎn)品或服務(wù)，應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗;尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)實(shí)施不公平競(jìng)爭(zhēng)。而對(duì)于使用該服務(wù)的用戶，需要提供真實(shí)身份信息。《征求意見(jiàn)稿》還提到，利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。
在責(zé)任劃分方面，《征求意見(jiàn)稿》提出，利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，包括通過(guò)提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任;涉及個(gè)人信息的，承擔(dān)個(gè)人信息處理者的法定責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。
在保護(hù)個(gè)人隱私、商業(yè)機(jī)密等方面，《征求意見(jiàn)稿》中有多條提到相關(guān)要求。例如，提供者在提供服務(wù)過(guò)程中，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫(huà)像，不得向他人提供用戶輸入信息;以及禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。
同時(shí)，對(duì)于提供者，還要采取適當(dāng)措施防范用戶過(guò)分依賴或沉迷生成內(nèi)容，保證服務(wù)的安全、穩(wěn)健、持續(xù)運(yùn)營(yíng);對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)等。提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過(guò)程中違反法律法規(guī)，違背商業(yè)道德、社會(huì)公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評(píng)、制造垃圾郵件、編寫(xiě)惡意軟件，實(shí)施不正當(dāng)?shù)纳虡I(yè)營(yíng)銷等，應(yīng)當(dāng)暫?；蛘呓K止服務(wù)。
上海君悅律師事務(wù)所的陳怡然律師對(duì)第一財(cái)經(jīng)記者表示，《征求意見(jiàn)稿》的發(fā)布可以幫助司法實(shí)踐更好地明確權(quán)責(zé)劃分和責(zé)任主體。例如，管理辦法針對(duì)生成式人工智能能夠以及不能向用戶提供的服務(wù)進(jìn)行了劃定，同時(shí)還明確了處罰金額，這將有助于企業(yè)為其提供的AI服務(wù)承擔(dān)相應(yīng)的法律責(zé)任。
例如，《征求意見(jiàn)稿》提到，提供者違反本辦法規(guī)定的，由網(wǎng)信部門(mén)和有關(guān)主管部門(mén)按照《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律、行政法規(guī)的規(guī)定予以處罰。其中拒不改正或者情節(jié)嚴(yán)重的，責(zé)令暫停或者終止其利用生成式人工智能提供服務(wù)，并處一萬(wàn)元以上十萬(wàn)元以下罰款。
全球醞釀監(jiān)管措施
擴(kuò)大到全球范圍看，有關(guān)ChatGPT的首個(gè)禁令來(lái)自意大利。就在3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布即日起暫時(shí)禁止使用ChatGPT。隨后，歐盟國(guó)家開(kāi)始跟進(jìn)醞釀相關(guān)監(jiān)管措施。
據(jù)悉，由于創(chuàng)建ChatGPT的公司OpenAI沒(méi)有在歐盟設(shè)立當(dāng)?shù)乜偛?，這意味著歐盟任何成員國(guó)的數(shù)據(jù)保護(hù)機(jī)構(gòu)都可以對(duì)其發(fā)起新的調(diào)查和執(zhí)行禁令。據(jù)媒體報(bào)道，ChatGPT的技術(shù)應(yīng)用已經(jīng)開(kāi)始激怒歐洲政府，其風(fēng)險(xiǎn)范圍包括數(shù)據(jù)保護(hù)、錯(cuò)誤信息、網(wǎng)絡(luò)犯罪、欺詐和學(xué)?？荚囎鞅椎?。
很快，愛(ài)爾蘭數(shù)據(jù)保護(hù)委員會(huì)發(fā)表聲明稱，其正“與意大利監(jiān)管機(jī)構(gòu)跟進(jìn)情況，以了解其采取行動(dòng)的依據(jù)”，并將“與所有歐盟數(shù)據(jù)保護(hù)機(jī)構(gòu)就此事進(jìn)行協(xié)調(diào)”。
德國(guó)數(shù)據(jù)保護(hù)專員對(duì)媒體表示，德國(guó)可能會(huì)追隨意大利的腳步，出于數(shù)據(jù)安全的考慮，禁用ChatGPT。
法國(guó)數(shù)據(jù)隱私監(jiān)管機(jī)構(gòu)國(guó)家信息與自由委員會(huì)(CNIL)稱，該局收到兩份關(guān)于ChatGPT的投訴后已開(kāi)始進(jìn)行調(diào)查。該局已與意大利監(jiān)管機(jī)構(gòu)聯(lián)系，以了解更多出臺(tái)禁令的依據(jù)。
比利時(shí)數(shù)據(jù)保護(hù)當(dāng)局也表示，ChatGPT的潛在侵權(quán)行為“應(yīng)在歐洲層面進(jìn)行討論”。
英國(guó)信息專員辦公室警告說(shuō)，人工智能開(kāi)發(fā)人員絕不應(yīng)違反數(shù)據(jù)隱私，那些不遵守?cái)?shù)據(jù)保護(hù)法律的人將面臨后果。
挪威數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)Datatilsynet則稱，其至今沒(méi)有對(duì)ChatGPT進(jìn)行調(diào)查，但“不排除未來(lái)會(huì)有任何事情發(fā)生”。
在布魯塞爾，歐盟委員會(huì)正就人工智能法案進(jìn)行辯論。不過(guò)，歐盟委員會(huì)執(zhí)行副主席維斯塔格(MargretheVestager)則對(duì)禁用人工智能系統(tǒng)顯得更謹(jǐn)慎。“無(wú)論我們使用哪種技術(shù)，我們都必須繼續(xù)推進(jìn)我們的自由，保護(hù)我們的權(quán)利。”維斯塔格在推特上表示，“這就是為什么我們不監(jiān)管人工智能技術(shù)，而是監(jiān)管人工智能的用途。我們不要在幾年內(nèi)丟掉花了幾十年才建立起來(lái)的東西?！?/FONT>
美國(guó)的政策制定者也存有同樣隱憂。近日，美國(guó)眾議院委員會(huì)10名議員組成的兩黨代表團(tuán)前往硅谷，與頂級(jí)技術(shù)主管和風(fēng)險(xiǎn)資本家會(huì)面，比如微軟總裁史密斯(BradSmith)、谷歌全球事務(wù)總裁沃克(KentWalker)以及大數(shù)據(jù)分析公司Palantir和人工智能公司ScaleAI的高管們。
據(jù)消息人士透露，他們的討論主要集中在人工智能的最新發(fā)展上。其中，許多高管對(duì)美國(guó)政府監(jiān)管人工智能持開(kāi)放態(tài)度。但也有人警告稱，現(xiàn)有的反壟斷法可能會(huì)限制美國(guó)競(jìng)爭(zhēng)的能力。例如，微軟發(fā)言人表示，該公司總裁不認(rèn)為競(jìng)爭(zhēng)法應(yīng)該因人工智能而被修改。高管們還呼吁美國(guó)聯(lián)邦政府增加對(duì)人工智能的投資。
監(jiān)管與技術(shù)發(fā)展如何兼顧?
每一次技術(shù)革命都伴隨著帶來(lái)巨大的機(jī)遇和風(fēng)險(xiǎn)。對(duì)于生成式人工智能而言，只有建立起真實(shí)的用戶調(diào)用和模型迭代之間的飛輪，AI模型才能變得越來(lái)越聰明，而如何在政策監(jiān)管和技術(shù)發(fā)展之間找到平衡也考驗(yàn)著各方。
美國(guó)眾議院小組主席卡拉格(MikeGallagher)對(duì)美國(guó)能否采取一些技術(shù)專家提議的極端措施表示懷疑，比如暫停部署人工智能?！拔覀儽仨氄业揭环N方法，把這些防護(hù)欄放在適當(dāng)?shù)奈恢茫瑫r(shí)允許我們的技術(shù)部門(mén)進(jìn)行創(chuàng)新，確保我們的創(chuàng)新?！笨ɡ裾f(shuō)。
投資咨詢公司BCAResearch美國(guó)資產(chǎn)部首席策略師唐克爾(IreneTunkel)則在接受第一財(cái)經(jīng)記者采訪時(shí)認(rèn)為，在AI領(lǐng)域的競(jìng)爭(zhēng)，將刺激政策制定者確保人工智能和相關(guān)技術(shù)不會(huì)遇到重大瓶頸。
“為了使美國(guó)保持相對(duì)于世界其他國(guó)家的技術(shù)優(yōu)勢(shì)，美國(guó)政府將需要利用政策和財(cái)政支出來(lái)促進(jìn)人工智能在多年內(nèi)的增長(zhǎng)。我們預(yù)計(jì)，(美國(guó))更多的政府資源將被分配給人工智能，包括國(guó)防和非國(guó)防性質(zhì)的資源，而監(jiān)管環(huán)境將促進(jìn)整個(gè)經(jīng)濟(jì)領(lǐng)域在公共和私營(yíng)部門(mén)越來(lái)越多地采用人工智能?！碧瓶藸柗Q。
談及全球監(jiān)管趨勢(shì)，吳沈括對(duì)記者表示，面對(duì)新技術(shù)新應(yīng)用，需要持續(xù)地探索一套敏捷高效的監(jiān)管機(jī)制和監(jiān)管方式，最大限度地及時(shí)應(yīng)對(duì)和處置伴生的各種風(fēng)險(xiǎn)類型。此外也需要持續(xù)地構(gòu)建和完善一套經(jīng)濟(jì)、便利、可行的合規(guī)指引，使各方主體有清晰的合規(guī)標(biāo)準(zhǔn)和指向。
“良好的生態(tài)治理也需要各方最大限度地凝聚共識(shí)，在更大范圍內(nèi)形成有關(guān)新技術(shù)、新應(yīng)用的治理的價(jià)值共同點(diǎn)以及共同認(rèn)可的行為準(zhǔn)則。”吳沈括表示。
而陳怡然則認(rèn)為，實(shí)踐領(lǐng)域還有不少現(xiàn)實(shí)問(wèn)題需要關(guān)注。例如，“由AI提供的服務(wù)，應(yīng)該明確提示消費(fèi)者為AI提供的服務(wù)，不得AI偽裝成人工，由AI服務(wù)造成的問(wèn)題，由企業(yè)擔(dān)責(zé)。如果是涉密的大型企業(yè)，則需要限制員工對(duì)開(kāi)源型AI的使用，因?yàn)槊恳淮翁釂?wèn)都有可能造成泄密?！?/FONT>
在談及對(duì)于監(jiān)管更進(jìn)一步的建議時(shí)，華東政法大學(xué)教授、數(shù)據(jù)法律研究中心主任高富平對(duì)第一財(cái)經(jīng)記者表示，大語(yǔ)言模型的應(yīng)用涉及個(gè)人和公共利益的問(wèn)題，目前無(wú)法控制大語(yǔ)言模型向用戶輸出的內(nèi)容，其輸出具有較高的智能性和隨機(jī)性，這也將是未來(lái)監(jiān)管的難點(diǎn)和重點(diǎn)。
（第一財(cái)經(jīng)）
