當前，新一代人工智能技術(shù)正在全球范圍內(nèi)蓬勃興起，與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應，為經(jīng)濟社會發(fā)展尤其是數(shù)字經(jīng)濟發(fā)展注入新動能，正在深刻改變著人類的生產(chǎn)生活方式。與此同時，如何在新技術(shù)變革浪潮中始終立于主動，實現(xiàn)人工智能等前沿科技領(lǐng)域有效治理，確保其持續(xù)健康發(fā)展，也成為國際國內(nèi)、社會各界廣泛關(guān)注的重要現(xiàn)實問題、重大時代議題。
黨的十八大以來，以習近平同志為核心的黨中央高度重視前沿科技領(lǐng)域發(fā)展與治理，中央政治局就人工智能、區(qū)塊鏈、量子科技等新技術(shù)領(lǐng)域相關(guān)問題分別進行集體學習。習近平總書記高度重視新一代人工智能發(fā)展與治理，提出“要深刻認識加快發(fā)展新一代人工智能的重大意義，加強領(lǐng)導，做好規(guī)劃，明確任務(wù)，夯實基礎(chǔ)，促進其同經(jīng)濟社會發(fā)展深度融合，推動我國新一代人工智能健康發(fā)展”。
剛剛過去的2020年，波瀾壯闊、極不平凡。“兩個一百年”目標歷史交匯，中華民族偉大復興戰(zhàn)略全局與世界百年未有之大變局相互激蕩、相互作用，新冠肺炎疫情仍在多國肆虐，人工智能在疫情防控、社會治理、國際協(xié)作等多個領(lǐng)域發(fā)揮重要作用，新一代人工智能技術(shù)發(fā)展取得諸多重大成果，世界各國積極探索與人工智能發(fā)展相適應的治理路徑，出現(xiàn)諸多具有標志性意義、可能產(chǎn)生深遠影響的重要事件。對這些事件進行梳理總結(jié)、深入研究，有助于深化對人工智能治理規(guī)律的認識，有助于更精準把握人工智能技術(shù)、產(chǎn)業(yè)、生態(tài)發(fā)展趨勢，有助于引發(fā)社會各界就人工智能治理領(lǐng)域關(guān)鍵問題、重點難點進行深入思考，形成更廣泛共識。
人工智能治理是復雜性、系統(tǒng)性很高的社會議題，涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國際關(guān)系等諸多領(lǐng)域。對國際國內(nèi)人工智能治理標志性事件開展研究，也必然需要各界共同推動。為此，人民智庫與曠視AI治理研究院成立聯(lián)合課題組，共同開展“2020年度全球十大人工智能治理事件”遴選、評議，組織相關(guān)領(lǐng)域權(quán)威專家學者，從AI與公眾福祉、AI與公平正義、AI政府(企業(yè))治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全等四個主要維度出發(fā)，依據(jù)理論價值、實踐價值、新聞價值、研究價值等四個評價標準進行評議，并面向社會公眾開展在線問卷調(diào)查，對人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者，相關(guān)部委、行業(yè)協(xié)會領(lǐng)導專家等典型群體進行深入訪談。經(jīng)綜合各方面資料、數(shù)據(jù)、意見、觀點，最終評選出2020年度全球十大人工智能治理事件。
這些事件，反映著人工智能治理領(lǐng)域?qū)嵺`探索和前沿趨勢，反映著新一代人工智能技術(shù)的廣泛應用前景，反映著公眾對人工智能治理引導科技向善，助力政府、機構(gòu)、企業(yè)的多層次、多樣化參與，通過新一代信息技術(shù)的良性發(fā)展增進人類福祉、改善民生的熱切期待。
以下為報告全文
助手還是殺手?讀懂人類意識的AI或者擁有自主意識的AI?關(guān)系人類福祉的人工智能，要走“邊發(fā)展，邊治理”的新模式
人工智能這一概念，自1956年美國達特茅斯會議提出至今，經(jīng)歷了漫長的野蠻生長初生階段?；艚鹛岢觥叭斯ぶ悄芤灿锌赡苁侨祟愇拿魇返慕K結(jié)，除非我們學會如何避免危險”;馬斯克認為，人工智能的“風險大得多”，并且這是“威脅人類文明存在的根本性風險”。
近年來，伴隨無人駕駛、人臉識別、智能語音等人工智能技術(shù)的廣泛應用，以及基于深度學習、跨界融合、人機協(xié)同、群智開放、自主操控為特征的新一代人工智能技術(shù)發(fā)展的第三次浪潮來臨，對于人工智能治理的討論再次被社會各界廣泛提及。
中國互聯(lián)網(wǎng)飛速發(fā)展近30年，相關(guān)專家總結(jié)互聯(lián)網(wǎng)治理的經(jīng)驗教訓時，認為過去我們的治理模式之一就是“先發(fā)展，后治理”，即先“摸著石頭過河”，待問題出現(xiàn)或者積累到一定程度，再進行專項治理并建立規(guī)范。然而人工智能在我國的爆發(fā)式發(fā)展所具備的新特征更為明顯：
一是政策支持和重視程度更高;二是與社會資本的結(jié)合度更高;三是原本已成規(guī)模的互聯(lián)網(wǎng)企業(yè)紛紛涉足人工智能領(lǐng)域;四是技術(shù)基礎(chǔ)、產(chǎn)業(yè)基礎(chǔ)及經(jīng)濟社會發(fā)展需求更為強烈。
這些因素都直接決定了人工智能治理不可能重復互聯(lián)網(wǎng)治理的老路，對治理結(jié)構(gòu)、治理路徑和治理范圍都提出了更多、更新的挑戰(zhàn)，也需要我們以更創(chuàng)造性的理念來應對。
本次十大事件評選中，涉及人工智能與人類福祉、公平正義高度的事件受到的關(guān)注度最高，如：
● 通過算法黑箱侵犯外賣小哥利益的事件“AI成‘監(jiān)工’：算法下外賣騎手挑戰(zhàn)交通規(guī)則，‘助手’可能變‘殺手’”(排名第1，得票率51.20%);
● 假借人工智能技術(shù)進行違法行為的事件“湖南岳陽警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人”(排名第9，得票率48.75%)。
國際方面，最受關(guān)注的是人工智能技術(shù)突破現(xiàn)有邊界，有可能對人類福祉造成不良影響的事件，如：
● “人工智能可以翻譯大腦想法將大腦信號轉(zhuǎn)化為文本數(shù)據(jù)，‘讀懂意識’讓隱私無處遁藏”(排名第2，得票率50.09%);
● “人工智能技術(shù)突破現(xiàn)有邊界，具備‘自主意識’，可實現(xiàn)獨立研發(fā)、自我修復等功能”(排名第8，得票率48.75%)。
黨的十九屆四中全會《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進國家治理體系現(xiàn)代化的重要組成部分，是以習近平同志為核心的黨中央在全球范圍新一輪科技革命和產(chǎn)業(yè)變革蓬勃興起、人類發(fā)展面臨前所未有的新機遇和新挑戰(zhàn)的歷史時刻作出的重大部署，對于克服科技領(lǐng)域存在的倫理問題、促進我國科技事業(yè)健康發(fā)展，具有重要意義。
發(fā)展負責任的人工智能并非一國之責，而是全球之事;人工智能治理亟需建立國際共識，探索協(xié)同共治新模式
據(jù)有關(guān)機構(gòu)預測，2030年，人工智能將帶動全球GDP增長14%;其中，最大的收益將來自中國與北美，總計高達10.7萬億美元，占全球經(jīng)濟影響的近70%。如此巨大的經(jīng)濟體量，若失去法律、道德和倫理的約束，有可能造成不可逆轉(zhuǎn)的負面影響。本次調(diào)查中，全球性、地區(qū)性及各國涉及法律、倫理、道德規(guī)范建設(shè)的事件得到了專家和公眾的廣泛關(guān)注，
● 如“歐美、韓國相繼出臺AI治理新規(guī)，嚴格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場景的發(fā)展和應用”(排名第4，得票率49.73%)等。
此外，西方國家推動人工智能在軍事領(lǐng)域的使用也受到廣泛關(guān)注，
● “人工智能首次控制美國軍用系統(tǒng)，或?qū)㈤_啟算法戰(zhàn)新時代”(排名第10，得票率48.22%)這一事件受到案例評審專家的多次提及。
清華大學人工智能國際治理研究院名譽院長傅瑩指出：“既然人工智能武器化不可避免，專家們研究的方向應是尋找合適的治理路徑。”
上海交通大學文科資深教授、中國法與社會研究院季衛(wèi)東院長認為，當今世界面臨著圍繞人工智能和數(shù)據(jù)的國際規(guī)則的博弈，中國在全球化時代和數(shù)字經(jīng)濟轉(zhuǎn)型過程中相對處于比較領(lǐng)先的位置。但由于我們過去對人工智能治理重視程度不夠，導致人工智能產(chǎn)品、產(chǎn)業(yè)在“走出去”的過程中，往往會在歐美國家遇到限制或指責，有些問題的確可以促進我國產(chǎn)品、技術(shù)、規(guī)范的進步，但我們也要學習適當?shù)?、巧妙地利用?guī)則來維護國家和企業(yè)的合法權(quán)益。同時也要注意到不同國家人工智能治理模式的區(qū)別，比如美國強調(diào)人工智能企業(yè)的商業(yè)利益與企業(yè)在競爭中保持優(yōu)勢地位;歐盟則強調(diào)公民權(quán)利保障及在該前提下的規(guī)則博弈;中國在上述兩個方面都有所涉及。
當前，我國正在積極融入人工智能全球治理體系，盡管偶有逆流和阻撓，但依然肩負起了一個負責任大國應肩負的責任，在人工智能全球治理中積極貢獻自己的智慧和經(jīng)驗。目前的基本共識是人工智能的治理體系需要“柔性的倫理”和“硬性的法律”共同構(gòu)建，更需要各個國家、國際組織、行業(yè)組織、企業(yè)、公眾的多元主體參與，倫理、技術(shù)、規(guī)范、立法等治理舉措齊頭并進的協(xié)同共治模式。
從頂層設(shè)計方面實施國家規(guī)劃并確定立法步驟。
2017年，國家印發(fā)了《新一代人工智能發(fā)展規(guī)劃》和《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018—2020年)》，其中對人工智能倫理道德、法律政策提出了明確要求。要秉持“一張藍圖繪到底”的精神，根據(jù)規(guī)劃要求實施人工智能法律政策“三步走”：
到2020年，部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立;到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力：到2030年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。
積極從全球治理角度凝聚人工智能倫理共識。
2019年5月《人工智能北京共識》發(fā)布，針對人工智能的研發(fā)、使用、治理三方面，提出了各個參與方應該遵循的有益于人類命運共同體構(gòu)建和社會發(fā)展的15條原則。我國還鼓勵不同層次主體圍繞科技向善等核心倫理價值，擬定評價規(guī)則，構(gòu)建人工智能的評估評價體系。一方面，引導人工智能健康持續(xù)發(fā)展，通過產(chǎn)業(yè)發(fā)展反哺人工智能治理領(lǐng)域法律法規(guī)等規(guī)則的建立健全;另一方面，借助人工智能等現(xiàn)代信息技術(shù)手段全面提升治理能力和治理現(xiàn)代化水平。2019年11月，《關(guān)于<中共中央關(guān)于堅持和完善中國特色社會主義制度推進國家治理體系和治理能力現(xiàn)代化若干重大問題的決定>的說明》中指出：更加重視運用人工智能、互聯(lián)網(wǎng)、大數(shù)據(jù)等現(xiàn)代信息技術(shù)手段提升治理能力和治理現(xiàn)代化水平。
清華大學發(fā)布的相關(guān)領(lǐng)域研究報告顯示，在人工智能領(lǐng)域，中國在科技產(chǎn)出與人才投入、產(chǎn)業(yè)發(fā)展和市場應用、發(fā)展戰(zhàn)略和政策環(huán)境等方面表現(xiàn)亮眼，特別是論文總量和高被引論文數(shù)量、專利數(shù)量均排名世界第一，企業(yè)數(shù)量全球第二。2019年6月，《亞太及日本企業(yè)人工智能倫理道德研究》報告顯示，中國企業(yè)在運用人工智能指導方針及管理標準方面位居亞洲前列。這些成績的取得，與我國對人工智能“先行一步”的態(tài)度與積極主動地發(fā)展先進技術(shù)密不可分。
企業(yè)加強自律與內(nèi)省是負責任的第一步，作為技術(shù)創(chuàng)造者，企業(yè)應成為AI治理中的重要力量
企業(yè)不僅是技術(shù)的創(chuàng)造者，更是技術(shù)應用的決斷者、技術(shù)價值的設(shè)計者。企業(yè)價值觀與行為，將直接影響技術(shù)為人類社會帶來的改變。因此，企業(yè)是AI治理中決不能缺席的力量。AI治理是企業(yè)發(fā)展的必選項，而不是錦上添花。
但是目前，全球AI治理尚未形成統(tǒng)一標準與成熟路徑。各國法律法規(guī)、標準規(guī)范各異，且落后于企業(yè)的商業(yè)實踐，因此，企業(yè)自律成為有責任感、有長遠發(fā)展意識的AI企業(yè)的首要準則。企業(yè)邁出自律的第一步，對AI行業(yè)整體發(fā)展來說就是重大進步。
縱觀近年來人工智能治理領(lǐng)域內(nèi)的爭議事件，與人工智能頭部企業(yè)相關(guān)的事件不勝枚舉，尤其在2020年，國際科技巨頭、中國領(lǐng)先科技企業(yè)都開始加速企業(yè)行動，提出企業(yè)自律措施。
● 本次調(diào)查中，與企業(yè)AI治理相關(guān)的事件有“美國科技巨頭依據(jù)自身道德判斷，加強企業(yè)自律及對人工智能技術(shù)的監(jiān)管”，排名第6，得票率49.55%;
● “自動駕駛服務(wù)駛上快車道，百度、滴滴等‘無人車’行駛背后的權(quán)責歸屬引關(guān)注”，排名第7，得票率48.89%。
人工智能的“自我進化”會隨著相關(guān)技術(shù)研究的深入而越來越高，需要對技術(shù)發(fā)展中可能存在的風險與不確定性進行準確判斷，更需要來自研究機構(gòu)或前沿科技企業(yè)等專業(yè)力量的支持，以確?？萍贾卫淼挠行?。中外前沿科技企業(yè)在人工智能治理中扮演著重要角色，頭部企業(yè)對人工智能治理實踐探索與理論研究的深度參與，為AI向善提供了重要指針。正如曠視副總裁蔣燕所言，“企業(yè)不能缺席人工智能治理，行勝于言，企業(yè)要將人工智能治理的每一步都落實到工作中”。2020年，AI企業(yè)曠視在AI治理上進行了更為深入的學術(shù)研究、探索并成功運行企業(yè)嵌入式治理模式。
上述事件背后與之緊密相關(guān)的看似是企業(yè)，卻不僅僅是孤立的企業(yè)個體行為，政府、社會、研發(fā)人員都在其中發(fā)揮重大作用。企業(yè)是AI治理重要的承載方和落地執(zhí)行者，更多企業(yè)的加入可以更為有效的落地法律法規(guī)。科研人員是人工智能的“技術(shù)源頭”，在絕大多數(shù)情況下可以從源頭上對人工智能的行為與能力進行限制。2018年10月，在中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢舉行第九次集體學習時，習近平總書記指出，“要加強基礎(chǔ)理論研究，支持科學家勇闖人工智能科技前沿的‘無人區(qū)’，努力在人工智能發(fā)展方向和理論、方法、工具、系統(tǒng)等方面取得變革性、顛覆性突破，確保我國在人工智能這個重要領(lǐng)域的理論研究走在前面、關(guān)鍵核心技術(shù)占領(lǐng)制高點”。
AI應回歸初心，為更美好的人類社會而生;人類應以更大的善意擁抱AI，與向善的AI和諧共處
當前社會上關(guān)于是否需要賦予人工智能法律主體地位，以及對于人工智能創(chuàng)造出來的作品或產(chǎn)品，其是否擁有著作權(quán)或受到知識產(chǎn)權(quán)保護等問題存在諸多討論。
● “全國首例：法院認定人工智能生成文章構(gòu)成作品，擁有著作權(quán)”，在本次評選中排名第3，得票率49.78%。這一標志性事件，為今后應對此類問題提供了參考樣本。
特別值得一提的是，公眾對AI與民生相關(guān)的問題高度關(guān)心，
● “AI向善，技術(shù)預警獨居老人水表及校園暴力行為”，排名第5，得票率49.69%，這一事件引發(fā)了很多網(wǎng)友的討論。
國安新一代人工智能治理專業(yè)委員會發(fā)布的《新一代人工智能治理原則——發(fā)展負責任的人工智能》突出了發(fā)展負責任的人工智能這一主題，強調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八項原則。在該原則指引下，我們會發(fā)現(xiàn)AI技術(shù)的“初心”——讓人類擁有更加美好的生活。中國特色社會主義進入新時代，我國社會主要矛盾已經(jīng)轉(zhuǎn)化為人民日益增長的美好生活需要和不平衡不充分的發(fā)展之間的矛盾。日益增長的美好生活需要科技助力，更需要科技向善的力量。
在全球化浪潮下，人類命運共同體正在加速構(gòu)建，在人工智能及其他領(lǐng)域的治理中，沒有國家可以獨善其身。亦沒有任何一個社會主體能作壁上觀。在此，我們發(fā)出三點呼吁：
全球?qū)υ捝?，我們希望各國能夠展開更加積極地對話，在AI治理上達成廣泛共識，構(gòu)建并推動既符合全球人類福祉又符合各個國家特色發(fā)展的的人工智能治理框架，形成多維度、多層次、多主題的協(xié)同共治模式。
企業(yè)責任上，企業(yè)不僅是技術(shù)的創(chuàng)造者，同時也是技術(shù)的自省者。希望越來越多的企業(yè)，能夠積極參與到AI治理中來，實現(xiàn)企業(yè)實踐與學術(shù)研究更加緊密的結(jié)合，實現(xiàn)新治理模式的有效落地。
社會認知上，AI這一關(guān)乎每個人生活的前沿技術(shù)，需要社會大眾更加理性地關(guān)注與看待。希望創(chuàng)造更加良性的公眾反饋機制與輿論環(huán)境，實現(xiàn)AI可持續(xù)發(fā)展。
AI技術(shù)作為推動人類社會可持續(xù)發(fā)展的使能技術(shù)，為社會帶來的改變還存在很大空間。與此同時，AI產(chǎn)業(yè)自身的可持續(xù)發(fā)展之路，也是漫長且充滿艱辛。我們必須合力并進，才能實現(xiàn)共贏共享。AI時代，為了構(gòu)建更好的人類命運共同體，我們?nèi)孕璨恍概?
【本文將刊發(fā)于《國家治理》周刊2021年1月3-4期合刊】
課題組成員
人民智庫：孫墨笛 康培培 韓冰曦 李懿 賀勝蘭 郝顏玉
曠視AI治理研究院：徐云程 蔣燕 張義涵 楊曉蘭
（轉(zhuǎn)載）
