當下，人工智能成為新一輪推動產(chǎn)業(yè)變革的驅(qū)動力，在經(jīng)濟、軍事、醫(yī)療、文化等各領域蓬勃發(fā)展。然而，任何新技術(shù)新應用都具有兩面性，人工智能技術(shù)及其應用為人們生產(chǎn)生活提供便利的同時，也帶來了安全隱患。如何讓人工智能最終走向樂觀變得尤為重要。
人工智能面臨安全隱憂
中國科學院院士何積豐教授在會上演講
人工智能技術(shù)威脅網(wǎng)絡空間安全。
中國科學院院士何積豐教授在“2018世界人工智能大會·人工智能安全高端對話”會上指出，在工業(yè)安全領域，人工智能既可以進行安全防范，包括攻防對抗、內(nèi)容分析、代碼混淆、異常檢測等，也存在開發(fā)工具漏洞和算法具有不確定性等問題。針對安全問題，需建立主動防御的智能體系。
以自動駕駛汽車為例，其毫米波雷達、激光雷達、攝像頭等感知設備都可以被干擾，而且自動駕駛系統(tǒng)本身可能存在的漏洞，都會導致信息安全問題。騰訊科恩實驗室總監(jiān)呂一平總監(jiān)在會上表示，汽車行業(yè)目前處于網(wǎng)聯(lián)階段，通往自動駕駛階段還需一定時間，除了技術(shù)達標以外，更重要的是法律法規(guī)的問題。
車輛會因為地上的三個貼紙駛?cè)肱赃呠嚨?示意圖)
在人工智能安全領域，隱私性問題也是民眾普遍關心的問題。
人工智能的快速發(fā)展，可能加劇個人信息泄露，威脅個人隱私安全。對此，華東政法大學人工智能與大數(shù)據(jù)指數(shù)研究院院長高奇琦在去年大會上用了“透明人”概念，認為“未來人是‘透明人’，這恐怕是一個無法阻擋的趨勢?！?/P>
為研發(fā)人工智能而大量使用數(shù)據(jù)過程中，如果數(shù)據(jù)被濫用，也會觸及隱私安全。此前，美國百萬人使用的社交app——Ever通過“周末與爺爺”、“最佳時刻”等溫情的主題，誘導用戶上傳照片，未經(jīng)授權(quán)使用人們照片進行面部識別技術(shù)進一步開發(fā)，并將這項技術(shù)出售給私營公司、執(zhí)法部門和軍方，以此來大大提升其財務狀況。無獨有偶，社交網(wǎng)絡巨頭Facebook在過去兩年被爆出多起侵犯個人隱私的丑聞。
人工智能與安全需要平衡發(fā)展
人工智能時代，網(wǎng)絡空間安全威脅全面泛化，但是人工智能也可以成為網(wǎng)絡安全的“救世主”。如何平衡好人工智能與安全的關系，利用人工智能思想和技術(shù)應對各類安全威脅，是國內(nèi)外產(chǎn)業(yè)界共同努力的方向。
騰訊公司安全管理部副總經(jīng)理楊鵬致辭
為應對網(wǎng)絡安全，騰訊基于其黑產(chǎn)對抗經(jīng)驗技術(shù)和反欺詐 AI 模型建造能力，打造出“賓果反詐騙防控系統(tǒng)”，自投入使用以來，全國重點詐騙區(qū)域詐騙號碼大幅下降接近70%，有效遏制了詐騙態(tài)勢蔓延。
阿里巴巴開發(fā)出云盾內(nèi)容安全系統(tǒng)，該系統(tǒng)可以基于深度學習技術(shù)，提供文字、圖片、視頻等多媒體的內(nèi)容風險智能識別服務，有效減少涉及恐怖、暴力、色情等違法違規(guī)信息。
作為人工智能領域的先行者，百度的人工智能安全平臺目前已有近百家合作伙伴，覆蓋超過1億部智能設備?？蓭椭鷱S商有效應對智能終端、智能車機面臨的各類安全風險，全面確保云、內(nèi)外部通信、操作系統(tǒng)、應用、硬件、數(shù)據(jù)和手機終端安全。
在去年大會分論壇，眼神科技創(chuàng)始人兼CEO周軍介紹了人工智能在金融安全領域的應用，用人臉、指紋、虹膜等多模態(tài)生物識別技術(shù)識別技術(shù)幫助金融機構(gòu)降本增效，增強安全認證。
圍繞著“人工智能帶來信息安全挑戰(zhàn)”，大會現(xiàn)場眾多專家、學者和產(chǎn)業(yè)精英都紛紛建言獻策，提出應對之道。
聯(lián)合國人工智能和機器人中心主任伊萊克利?伯利茲在會上演講
聯(lián)合國人工智能和機器人中心主任伊萊克利?伯利茲建議對現(xiàn)階段人工智能的發(fā)展充分評估，并建立起各方參與的協(xié)同合作模式;中國移動研究院首席科學家馮俊蘭女士指出，5G網(wǎng)絡服務眾多垂直工業(yè)，數(shù)據(jù)挖掘技術(shù)更易保護用戶隱私信息，并提出了“通信改變社會”的愿景，強調(diào)電信運營商應當加強與垂直行業(yè)的互信和協(xié)作;在碁震KEEN公司創(chuàng)始人兼CE王琦看來，最重要的是法律保障，用法律的手段讓人工智能行業(yè)的從業(yè)者加強自律，保持敬畏之心;上海優(yōu)刻得信息科技公司CEO季昕華則表示，還需要技術(shù)手段對人工智能進行約束，“讓AI可以分析數(shù)據(jù)，但是不獲取數(shù)據(jù)，這應該是技術(shù)層面努力的方向”。
人工智能的安全問題與人工智能的快速發(fā)展相伴相隨，只有妥善解決安全問題，才能實現(xiàn)人工智能的長期可持續(xù)發(fā)展，而這個過程不僅是一個技術(shù)問題，更是一個社會問題、倫理問題。如何使用好人工智能這把“雙刃劍” ，是全世界所需解決的實際問題。
在即將于8月29日-31日舉辦的2019世界人工智能大會上，關于如何實現(xiàn)由傳統(tǒng)安全時代的強管理向AI時代強技術(shù)支撐下的核心管理轉(zhuǎn)變，業(yè)界權(quán)威們將再次為人工智能安全防護提供創(chuàng)新性的解決思路。
（轉(zhuǎn)載）
