AI系統(tǒng)變得越來越強(qiáng)大、通用，且已經(jīng)融入到社會中。像ChatGPT和文心一言這樣的聊天機(jī)器人能夠在許多不同的領(lǐng)域中理解并解決問題，包括數(shù)學(xué)、物理、醫(yī)學(xué)、法律等等。
鑒于這些AI系統(tǒng)的強(qiáng)大威力，國際領(lǐng)先的工業(yè)實(shí)驗(yàn)室已經(jīng)建立了安全研究團(tuán)隊(duì)，并于近期陸續(xù)發(fā)布了關(guān)于安全的聲明，多位知名學(xué)者也都表達(dá)了對AI安全性的擔(dān)憂。
中國對于AI安全性的關(guān)注也是日漸上升。尤其在過去的一年里，涉及AI安全性的出版物數(shù)量急劇上漲。由于技術(shù)越來越被廣泛應(yīng)用，不僅是研究人員，中國各大公司也開始研究AI的安全性。中國最近制定的有關(guān)生成式AI的規(guī)定也表明了政府對AI安全性的重視。
2023年世界人工智能大會(WAIC 2023)將于2023年7月6日至8日在上海舉行。7日上午，在WAIC 2023北美分會場，Center for AI Safety (人工智能安全中心)將通過線上舉辦人工智能安全和風(fēng)險(xiǎn)論壇。論壇的重點(diǎn)在于討論人工智能可能帶來哪些社會風(fēng)險(xiǎn)，以及我們該如何減小這些風(fēng)險(xiǎn)。
活動將聚焦諸多AI安全領(lǐng)域的新熱點(diǎn)，集結(jié)來自西方頂尖高校的的著名教授以及全球領(lǐng)先AI實(shí)驗(yàn)室的研究人員，旨在希望能夠從國際視角提供一些如何對待AI安全和倫理的見解。我們希望建立一個(gè)促進(jìn)西方和中國之間交流的溝通渠道，并促進(jìn)全球關(guān)于AI安全的討論。
亮點(diǎn)
亮點(diǎn)1：峰會集齊學(xué)界與業(yè)界最頂尖的AI安全研究者。重磅嘉賓包括加州大學(xué)伯克利分校、劍橋大學(xué)的知名教授、人工智能安全中心的專家、谷歌DeepMind的研究科學(xué)家等將對人工智能風(fēng)險(xiǎn)與安全問題發(fā)表主題演講并進(jìn)行圓桌討論。
亮點(diǎn)2：人工智能安全中心將重磅發(fā)布《災(zāi)難性人工智能風(fēng)險(xiǎn)概述》白皮書，涵蓋西方對AI風(fēng)險(xiǎn)最前沿的思考。該文件旨在提供人工智能風(fēng)險(xiǎn)最前沿的案例和分析，并探討改善人工智能安全研究及治理的方法。
亮點(diǎn)3：峰會將涵蓋AI安全領(lǐng)域的最新研究進(jìn)展，包括人工智能災(zāi)難性風(fēng)險(xiǎn)的分析，大語言模型及擴(kuò)散模型的社會風(fēng)險(xiǎn)，智能體的道德學(xué)習(xí)等。我們聚集哲學(xué)、生物和機(jī)器學(xué)習(xí)領(lǐng)域的專家進(jìn)行深度跨學(xué)科討論。
此論壇將于7月7日上午9點(diǎn)至12點(diǎn)在線舉行。我們邀請所有相關(guān)人員參與這一關(guān)鍵性討論，為了安全和有益的人工智能未來共同努力。
（世界人工智能大會）
