可以開門并找到電插座為自己充電的機器人、沒有人能消滅的電腦病毒、盡管還要受到人類的遙控，但越來越接近自動殺人機器的“捕食者”無人駕駛飛機……
由于人工智能方面令人吃驚的進展，一些計算機科學家正在爭論是否應(yīng)該對某些研究設(shè)限。這些研究可能導(dǎo)致人類失去對計算機體系的控制，而這些系統(tǒng)承擔著越來越多的從發(fā)動戰(zhàn)爭到同顧客電話聊天的社會工作。
他們的擔憂是，人工智能的進一步發(fā)展可能制造重大的社會混亂，甚至帶來危險后果。
計算機科學家說，有理由擔心，技術(shù)進步可能通過消滅大量工作機會，并強迫人類學會同越來越多地復(fù)制人類行為的機器共存來改變勞動者。
在加利福尼亞州蒙特里灣一家酒店召開會議的計算機科學家、人工智能研究人員和機器人專家通常懷疑高度集中控制的超級智能的可能性以及智能可以從互聯(lián)網(wǎng)自發(fā)產(chǎn)生的想法。但是他們都認為，可以自動殺人的機器人或者已經(jīng)產(chǎn)生，或者很快將會出現(xiàn)。
他們尤其擔心，犯罪分子可能在人工智能系統(tǒng)一經(jīng)開發(fā)就開始利用它們。犯罪分子可能使用一個能偽裝成人類的語音合成系統(tǒng)來做什么呢？如果人工智能技術(shù)被用來從智能電話上挖掘個人信息該怎么辦？
研究人員還討論了人工智能———例如自動駕駛汽車、個人助理軟件和家庭中的機器人保姆———對人類工作造成的威脅。就在上個月，硅谷一家企業(yè)研發(fā)的一種機器人已經(jīng)表明它可以在現(xiàn)實世界完成一系列綜合性操作。
這次會議的一份報告將在今年底發(fā)表。會議是由人工智能促進會組織的。該機構(gòu)負責人埃里克·霍維茨說，他認為計算機科學家必須對超級智能機器和人工智能系統(tǒng)會發(fā)狂的看法做出反應(yīng)。
“智能爆炸”是數(shù)學家I.J.古德在1965年提出的思想。它指的是智能機器將設(shè)計出更多的智能機器。后來，計算機科學家弗諾·溫格在演講和科幻小說中推廣了這樣一種觀念，即人類將制造出比人更聰明的機器，并迅速帶來“人類時代終結(jié)”這種變化。他稱這種變化為“奇點”。
一些科學家認為，電影和文學作品中的這種觀點似乎是對的，并且令人不安。其他一些技術(shù)專家已經(jīng)在鼓吹超智能機器的到來，說它們將為人類生活的拓展和財富的制造帶來巨大的進步。
霍維茨說：“過去5到8年發(fā)生了一些新的情況?！?
他說：“由于博客上的有關(guān)呼聲越來越高，并且一些人非常擔心智能機器的崛起，我覺得，我們遲早要做個聲明或評估。”
該會議的報告將試圖評估“人類失去對計算機智能的控制”的可能性。霍維茨說，它還將處理有關(guān)社會經(jīng)濟、法律和道德以及人類—計算機關(guān)系的改變等問題。例如，同與你的配偶一樣聰明的機器相處會怎樣？
霍維茨說，科學家正在尋求不同方法以指導(dǎo)研究，使得技術(shù)可以推動社會進步，而不是帶來災(zāi)難。比如，一些研究可能在一種高度安全的實驗室里進行。
（轉(zhuǎn)載）
