那些打著AI萬(wàn)金油旗號(hào)的產(chǎn)品欺騙大眾，如何識(shí)別?

　　人們正在學(xué)習(xí)如何利用這些虛假系統(tǒng)來(lái)工作，并在社交媒體上分享一些恐怖的故事

　　這為什么會(huì)發(fā)生?為什么人事部門(mén)如此容易受欺騙?除了雇傭，其它哪些領(lǐng)域還有打著AI旗號(hào)的萬(wàn)金油工具?

　　以上是作者的關(guān)于為什么有如此多的AI萬(wàn)金油工具，以及為什么決策者會(huì)被它們欺騙的假設(shè)。

　　例如，AlphaGo是一項(xiàng)非凡的成就，并且值得稱(chēng)贊。大多數(shù)專(zhuān)家都沒(méi)想到這種可能。

　　但是，它與聲稱(chēng)可以預(yù)測(cè)工作績(jī)效的工具之間，卻大相徑庭。

　　媒體大肆宣傳公司可以將AI作為解決所有問(wèn)題的解決方案。因此，美國(guó)公眾認(rèn)為，所有工種的自動(dòng)化僅10年之遙!

　　如果決策者認(rèn)為這種根本性變革即將到來(lái)，請(qǐng)想象一下它將如何扭曲我們正在進(jìn)行的優(yōu)先事項(xiàng)。我相信在如今社會(huì)這實(shí)際上是正在發(fā)生的。

　　請(qǐng)注意，AI專(zhuān)家對(duì)人工智能或強(qiáng)AI的預(yù)測(cè)距離尚有50多年之久，但是歷史告訴我們，即使是專(zhuān)家，也往往對(duì)AI的發(fā)展太樂(lè)觀了。

　　讓我們更具體一點(diǎn)。我將把AI應(yīng)用程序分為三類(lèi)(并非詳盡無(wú)遺)。

　　這張幻燈片上的所有內(nèi)容都是一個(gè)識(shí)別問(wèn)題(Deepfakes并不是純粹的識(shí)別而是緊密相關(guān)的。它們是使用生成對(duì)抗網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)的)。識(shí)別是人工智能快速發(fā)展的幾個(gè)領(lǐng)域之一。

　　在這張幻燈片上的所有任務(wù)中，AI都已經(jīng)達(dá)到或超過(guò)了人類(lèi)的準(zhǔn)確性，并且正在不斷迅速提高。

　　取得進(jìn)展的根本原因是，這些任務(wù)沒(méi)有不確定性或模棱兩可。給定兩張圖像，關(guān)于它們是否代表同一個(gè)人是有一個(gè)基本事實(shí)。因此，如果有足夠的數(shù)據(jù)和計(jì)算能力，人工智能能夠?qū)W到將一張臉與另一張臉區(qū)分開(kāi)的模式。人臉識(shí)別存在一些明顯的失敗，但是我很高興地預(yù)測(cè)它將能變得更加準(zhǔn)確(不過(guò)這也正是我們應(yīng)該擔(dān)心的原因)。

　　第二類(lèi)是關(guān)于嘗試自主判別的應(yīng)用程序。人的思維是具有啟發(fā)性的，例如什么是垃圾郵件，而不是垃圾郵件，并且給出足夠的例子。機(jī)器會(huì)嘗試去學(xué)習(xí)它。

　　在這些任務(wù)上，人工智能將永遠(yuǎn)是不完美的，因?yàn)樗鼈兩婕芭袆e力，并且理性的人可能會(huì)不同意正確的決定。

　　我們似乎已經(jīng)準(zhǔn)備部署這些系統(tǒng)，并且必須決定如何最好地管理它們，例如為被錯(cuò)刪內(nèi)容的人們找出適當(dāng)?shù)某绦驒C(jī)制。

　　我將把剩下的話(huà)題集中在第三類(lèi)，那里有大量的萬(wàn)金油。

　　上面已經(jīng)展示了聲稱(chēng)可以預(yù)測(cè)工作適合程度的工具。類(lèi)似的，基于慣犯的算法來(lái)預(yù)測(cè)保釋金的多少。人們使用算法去分析社交媒體帖子并預(yù)測(cè)恐怖分子的危險(xiǎn)程度，因而被拒之門(mén)外。

　　這些問(wèn)題很難解決，因?yàn)槲覀儫o(wú)法預(yù)測(cè)未來(lái)。而這些應(yīng)該是常識(shí)。但在涉及AI時(shí)，我們似乎已經(jīng)決定忘記常識(shí)。

　　當(dāng)然，這甚至與AI所面向的事物(如機(jī)器人技術(shù))都不相近。但，要點(diǎn)是說(shuō)明對(duì)于不同類(lèi)型的任務(wù)，數(shù)據(jù)的數(shù)量和質(zhì)量對(duì)精度的限制上是如何不同的。

　　接下來(lái)將展示，無(wú)論你投入多少數(shù)據(jù)，第三類(lèi)應(yīng)用不會(huì)有真正的改善。

　　我知道這是一次衡量社會(huì)結(jié)果可預(yù)測(cè)性，非常嚴(yán)格的嘗試。

　　他們根據(jù)深入訪(fǎng)談和多年來(lái)多次重復(fù)進(jìn)行的家庭觀察收集了有關(guān)每個(gè)孩子和家庭的大量數(shù)據(jù)。

　　他們使用了與許多其他機(jī)器學(xué)習(xí)競(jìng)賽相似的挑戰(zhàn)環(huán)境。

　　任務(wù)是根據(jù)訓(xùn)練實(shí)例學(xué)習(xí)背景數(shù)據(jù)和結(jié)果數(shù)據(jù)之間的關(guān)系。比賽期間在排行榜上評(píng)估準(zhǔn)確性，比賽結(jié)束后根據(jù)保留的數(shù)據(jù)評(píng)估準(zhǔn)確性。

　　完美預(yù)測(cè)對(duì)應(yīng)于R^2為1。預(yù)測(cè)每個(gè)實(shí)例的均值對(duì)應(yīng)于R^2為0(即，該模型完全沒(méi)有學(xué)會(huì)區(qū)分實(shí)例)。

　　大多數(shù)人的直覺(jué)似乎都認(rèn)為R^2的值在0.5到0.8之間。并且組織競(jìng)賽的許多專(zhuān)家都寄予厚望。

　　這是實(shí)際發(fā)生的情況。

　　記?。簲?shù)百名AI / ML研究人員和學(xué)生嘗試過(guò)這樣做，他們需要最大限度地提高預(yù)測(cè)準(zhǔn)確性，每個(gè)家庭都有13,000個(gè)特征。圖上的是表現(xiàn)最好的模型。

　　這就是問(wèn)題所在。

　　回歸分析已有一百年歷史了。

　　在許多領(lǐng)域都有相同的發(fā)現(xiàn)。

　　請(qǐng)注意，上圖所示是準(zhǔn)確度，而不是R^2，因此65%僅比隨機(jī)數(shù)略好。

　　實(shí)際準(zhǔn)確性可能更低，這是因?yàn)殡m然該工具聲稱(chēng)可以預(yù)測(cè)累犯，但實(shí)際上是能預(yù)測(cè)重新逮捕，因?yàn)檫@就是數(shù)據(jù)中記錄的內(nèi)容。因此，至少算法的某些預(yù)測(cè)性能來(lái)自預(yù)測(cè)策略的偏差。

　　這是個(gè)人的意見(jiàn)。當(dāng)然，如果發(fā)現(xiàn)相反的證據(jù)，我愿意改變主意。但是，鑒于目前的證據(jù)，這似乎是最謹(jǐn)慎的看法。

　　駕照的欠費(fèi)可以被視為預(yù)測(cè)事故風(fēng)險(xiǎn)的一種方式。一些研究發(fā)現(xiàn)此類(lèi)系統(tǒng)可以進(jìn)行合理的使用。

　　很長(zhǎng)時(shí)間以來(lái)，我們就知道，如果我們真正想做的只是預(yù)測(cè)，那么簡(jiǎn)單的公式比人類(lèi)的預(yù)測(cè)更準(zhǔn)確， 甚至是經(jīng)過(guò)多年訓(xùn)練的專(zhuān)家。丹尼爾·卡尼曼(Daniel Kahneman)解釋說(shuō)，這是因?yàn)槿祟?lèi)的預(yù)測(cè)往往“太多雜念”：如果輸入相同，則不同的人(甚至在同一時(shí)間的同一個(gè)人)將做出非常不同的預(yù)測(cè)。而使用統(tǒng)計(jì)公式則可以消除這種不同。

　　與人工評(píng)分規(guī)則相比，使用AI進(jìn)行預(yù)測(cè)有許多缺點(diǎn)。也許最重要的是缺乏可解釋性。想象一下這樣一個(gè)系統(tǒng)，在該系統(tǒng)中，每次您被警務(wù)人員攔下時(shí)，警務(wù)人員都會(huì)將您的數(shù)據(jù)輸入計(jì)算機(jī)，這并不像駕照上的積分。大多數(shù)情況下，您可以免費(fèi)離開(kāi)，但是在某些時(shí)候，黑匣子系統(tǒng)會(huì)告訴您不再允許被開(kāi)車(chē)。

　　不幸的是，實(shí)際上如今我們?cè)谠S多領(lǐng)域都擁有這種系統(tǒng)。

（轉(zhuǎn)載）