7月2日下午，上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢委員會(huì)成立儀式暨第一次會(huì)議召開(kāi)。上海市政府副秘書(shū)長(zhǎng)陳鳴波出席會(huì)議并致辭。會(huì)議由市經(jīng)濟(jì)信息化委主任吳金城主持。安全專(zhuān)委會(huì)主任、中國(guó)科學(xué)院院士何積豐，安全專(zhuān)委會(huì)副主任、東華大學(xué)校長(zhǎng)蔣昌俊，上海市法學(xué)會(huì)專(zhuān)職副會(huì)長(zhǎng)施偉東等專(zhuān)委會(huì)委員，以及市委網(wǎng)信辦、市發(fā)展改革委、市科委有關(guān)負(fù)責(zé)同志出席會(huì)議。會(huì)議發(fā)布了《人工智能安全發(fā)展上海倡議》，同時(shí)面向全球啟動(dòng)人工智能產(chǎn)業(yè)安全創(chuàng)新實(shí)踐案例和優(yōu)秀論文征集活動(dòng)。
上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢委員會(huì)在會(huì)上宣布成立。該專(zhuān)委會(huì)是在上海市人工智能戰(zhàn)略咨詢專(zhuān)家委員會(huì)基礎(chǔ)上成立的，旨在瞄準(zhǔn)國(guó)際人工智能產(chǎn)業(yè)發(fā)展前沿，服務(wù)上海發(fā)展的定位和需求，構(gòu)建專(zhuān)家協(xié)同網(wǎng)絡(luò)，推動(dòng)人工智能產(chǎn)業(yè)健康發(fā)展。安全專(zhuān)委會(huì)由來(lái)自高校、科研院所和企業(yè)的相關(guān)專(zhuān)家組成，中國(guó)科學(xué)院院士何積豐擔(dān)任主任。秘書(shū)處設(shè)在上海賽博網(wǎng)絡(luò)安全產(chǎn)業(yè)創(chuàng)新研究院，承擔(dān)相關(guān)日常工作。
陳鳴波副秘書(shū)長(zhǎng)指出，為履行國(guó)家交給上海的使命，落實(shí)市委、市府的工作要求，基于上海科技創(chuàng)新、場(chǎng)景豐富和人才集聚的優(yōu)勢(shì)，組建成立上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢委員會(huì)，為國(guó)家人工智能產(chǎn)業(yè)安全發(fā)展先行先試。按照技術(shù)突破、產(chǎn)業(yè)創(chuàng)新和法律研究各方面需求，兼顧地域和領(lǐng)域代表性，召集跨界別的專(zhuān)家、學(xué)者和企業(yè)精英，探討“產(chǎn)學(xué)研用”深度融合，既推動(dòng)上海人工智能安全產(chǎn)業(yè)蓬勃發(fā)展，又進(jìn)一步推動(dòng)引領(lǐng)全國(guó)人工智能產(chǎn)業(yè)安全發(fā)展。依托專(zhuān)委會(huì)平臺(tái)，將緊扣國(guó)家戰(zhàn)略、上海定位和區(qū)域需求，圍繞中長(zhǎng)期戰(zhàn)略規(guī)劃、重大項(xiàng)目評(píng)估、重點(diǎn)應(yīng)用領(lǐng)域安全實(shí)踐、前沿課題研究等，共商共治、群策群力，為上海探索一條更有包容性、更具開(kāi)放性的安全發(fā)展模式和工作路徑。
與會(huì)專(zhuān)家圍繞推進(jìn)上海人工智能產(chǎn)業(yè)安全發(fā)展的主題，從法律支撐體系、保障機(jī)制創(chuàng)新、重點(diǎn)領(lǐng)域規(guī)范、關(guān)鍵技術(shù)研發(fā)、參與國(guó)際合作等方面展開(kāi)交流，提出意見(jiàn)和建議。
當(dāng)前，對(duì)人工智能產(chǎn)生的安全風(fēng)險(xiǎn)加強(qiáng)戰(zhàn)略性、前瞻性的研究部署，逐漸建立相應(yīng)的法律法規(guī)、倫理規(guī)范和政策體系，已經(jīng)成為國(guó)內(nèi)外的共識(shí)。一些國(guó)家、地區(qū)和國(guó)際組織、私營(yíng)企業(yè)、社會(huì)團(tuán)體等積極推動(dòng)人工智能安全與治理的進(jìn)程。中國(guó)是世界人工智能安全治理的重要參與者，上海正在加快推進(jìn)人工智能高地建設(shè)，此次會(huì)議發(fā)布的《人工智能安全發(fā)展上海倡議》不僅是安全專(zhuān)委會(huì)成立后發(fā)布的首份倡議文件，更是上海向全國(guó)、全世界發(fā)出的錚錚宣言。倡議在充分吸納國(guó)內(nèi)外人工智能安全共識(shí)的基礎(chǔ)上，從應(yīng)對(duì)人工智能安全挑戰(zhàn)，守護(hù)智能時(shí)代人類(lèi)未來(lái)的主旨出發(fā)，包含“面向未來(lái)、以人為本、責(zé)任明晰、隱私保護(hù)、算法公正、透明監(jiān)管、和平利用、開(kāi)放合作”等八大目標(biāo)原則及其基本要求。
會(huì)上，安全專(zhuān)委會(huì)主任何積豐院士宣布啟動(dòng)2019世界人工智能產(chǎn)業(yè)安全創(chuàng)新實(shí)踐案例征集和優(yōu)秀論文征集活動(dòng)。面向全球企業(yè)征集人工智能產(chǎn)業(yè)安全領(lǐng)域的標(biāo)準(zhǔn)規(guī)范、研發(fā)成果、產(chǎn)品/服務(wù)、解決方案等實(shí)踐案例，面向全球高校、科研院所、國(guó)際組織等機(jī)構(gòu)中從事人工智能安全領(lǐng)域研究的科研人員和青年學(xué)生，征集高質(zhì)量、高水平的學(xué)術(shù)論文。征集活動(dòng)的評(píng)選成果將在2019世界人工智能大會(huì)期間對(duì)外公布。
人工智能安全發(fā)展上海倡議全文如下：
為了應(yīng)對(duì)人工智能安全挑戰(zhàn)，守護(hù)智能時(shí)代人類(lèi)未來(lái)，上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢委員會(huì)在充分吸納國(guó)內(nèi)外人工智能安全共識(shí)的基礎(chǔ)上，聯(lián)合人工智能安全領(lǐng)域的專(zhuān)家學(xué)者和產(chǎn)業(yè)界同仁，共同發(fā)起“人工智能安全發(fā)展上海倡議”，內(nèi)容如下：
面向未來(lái)：人工智能發(fā)展需要實(shí)現(xiàn)創(chuàng)新與安全的協(xié)同，以安全保障創(chuàng)新，以創(chuàng)新驅(qū)動(dòng)安全。在確保人工智能自身安全的同時(shí)，積極將人工智能技術(shù)應(yīng)用于解決人類(lèi)社會(huì)的安全難題。
以人為本：國(guó)際社會(huì)應(yīng)一道科學(xué)規(guī)劃人工智能的發(fā)展路徑，確保人工智能按照人類(lèi)預(yù)期并服務(wù)人類(lèi)福祉方向發(fā)展，機(jī)器自主進(jìn)化和自我復(fù)制等關(guān)鍵進(jìn)程須進(jìn)行風(fēng)險(xiǎn)評(píng)估和安全監(jiān)管。
責(zé)任明晰：人工智能發(fā)展應(yīng)當(dāng)建立完備的安全責(zé)任框架，需要針對(duì)人工智能的應(yīng)用場(chǎng)景，不斷創(chuàng)新法律法規(guī)和倫理規(guī)范，明確人工智能安全責(zé)任認(rèn)定和分擔(dān)機(jī)制。
隱私保護(hù)：人工智能發(fā)展需要保障用戶的數(shù)據(jù)安全，人工智能發(fā)展不得以犧牲用戶隱私為代價(jià)，需要加強(qiáng)數(shù)據(jù)保護(hù)立法，豐富人工智能的技術(shù)路線，不斷強(qiáng)化人工智能應(yīng)用中的用戶隱私保護(hù)。
算法公正：人工智能發(fā)展應(yīng)避免由于算法設(shè)計(jì)對(duì)公眾產(chǎn)生的危害，須明確算法動(dòng)機(jī)和可解釋性，克服算法設(shè)計(jì)和數(shù)據(jù)收集引發(fā)的不公正影響。
透明監(jiān)管：人工智能發(fā)展應(yīng)當(dāng)避免技術(shù)黑箱導(dǎo)致的安全風(fēng)險(xiǎn)，需要通過(guò)建立可審查、可回溯、可推演的監(jiān)管機(jī)制，確保目標(biāo)功能和技術(shù)實(shí)現(xiàn)的統(tǒng)一。
和平利用：人工智能技術(shù)應(yīng)當(dāng)審慎運(yùn)用在軍事領(lǐng)域，自主化武器的研發(fā)和使用須遵循嚴(yán)格的風(fēng)險(xiǎn)評(píng)估，避免由于人工智能技術(shù)在軍事領(lǐng)域?yàn)E用對(duì)全球和平穩(wěn)定的威脅。
開(kāi)放合作：人工智能發(fā)展需要各國(guó)、各方的協(xié)同共進(jìn)，應(yīng)當(dāng)積極在國(guó)際范圍建立人工智能安全發(fā)展的規(guī)范和標(biāo)準(zhǔn)，避免技術(shù)和政策不兼容導(dǎo)致的安全風(fēng)險(xiǎn)。
上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢委員會(huì)
2019年7月2日
（轉(zhuǎn)載）
