“盡管AI產生的“幻覺”可能令人擔憂，但該技術仍然是塑造行業(yè)以及開創(chuàng)未來的重要一環(huán)。”—Shoshana Kranish
人工智能通常被視為有助于解決當今社會中大量緊迫問題的良策，其強大的功能包括：快如閃電的數據整理速度、準確的預測功能、無人可及的分類效率，不一而足。但其仍然是一項不斷發(fā)展、存在缺陷的技術，最近，“幻覺”成為了關于AI的焦點議題。
具體而言，AI會提出一些不合常理的建議，比如在披薩上涂膠水，以免奶酪滑落，而且在被要求進行法律研究時，它還會虛構整個法庭案件。然而，盡管存在這些幻覺問題，AI仍然是一種備受依賴的工具：如今，企業(yè)、政府以及整個行業(yè)都將其作為運營的重要支柱。
但是，一款經常產生錯誤結果的工具怎么能用于對精度要求極高的工業(yè)應用呢?答案有點復雜。
何為AI幻覺?
AI幻覺是其由于處理失誤以及不良的訓練數據等多種原因而可能生成不準確或誤導性的結果。
以谷歌最近推出的AI概覽(AI Overviews)功能為例，AI概覽幾乎從一開始就產生了“幻覺”，給用戶的建議包括吃石頭來避免礦物質缺乏，或者從金門大橋上跳下去。但當這些概覽答案出現之后，谷歌立即迅速撤回了大部分答案。
達索系統(tǒng)自然語言處理專家和AI專家Eric Vernet解釋道：“大型語言模型(LLM)通過大量公共文本得到訓練，而這些文本大多來自互聯網。其學習環(huán)境自然而然地會包含大量通用信息，其中一些為垃圾信息。”
“掌握所有這些同時包括了有用和誤導性的知識后，AI可能會在某些情況下得出完全錯誤的答案”，他補充道。
AI系統(tǒng)必須對來自LLM的海量數據進行分類，才能執(zhí)行相關功能
像大多數技術一樣，AI也有弱點，而生成式AI工具尤為脆弱。AI本身不會思考，只會分類。它會查閱大量數據，識別模式并從中推斷真理。它本身不具備思維，無法權衡其給出的想法，而且在接收海量信息(其中一些是垃圾信息)時，它不知道如何區(qū)分對錯。
在解釋谷歌概覽功能的爭議時，谷歌搜索副總裁Liz Reid表示，該產品經過訓練，“會顯示排序最靠前的網頁結果所支持的信息”，不過指定網頁的瀏覽量與其發(fā)布內容的正確性并無關系。
AI最大的缺陷之一是，其智能取決于所接收的數據，如果接收的信息質量不高，那輸出結果也不盡如人意。
盡管存在幻覺，但仍有用武之地：
AI超越了聊天機器人的范疇
毋庸置疑，生成式AI存在一定缺陷。但還有很多其它類型的人工智能對于企業(yè)的日常運營不可或缺。
例如，汽車制造商可能會使用判別式AI對零件進行分類，然后將其與預測式AI進行耦合，后者可以識別模式并做出預測，以便用于決策制定。這些預測可應用于從材料成本到機器維護的任何環(huán)節(jié)，在業(yè)務運營的各個層面，AI用例屢見不鮮。
汽車制造商利用AI來優(yōu)化零件采購與設計，調整工作流程并確保機器的準確性和高效率。
這類可自由支配的工具比一些公開的程序更準確、實用，而且更容易獲得成功，這都要歸功于其所采用的訓練方式。
面向公眾的程序是通過LLM進行訓練，但用于工業(yè)用途的AI并非如此。它在僅包含所需信息的孤島環(huán)境中學習，以確保工具提供準確性和實用性。由于只接觸相關的特定信息，這種AI不太可能產生幻覺。
Vernet表示：“根據企業(yè)自己的專有數據和分類標準訓練的后端AI要比生成式AI準確得多。一些企業(yè)擁有自己專用的詞匯和流程等，因此，如果AI專門根據這些信息集進行訓練，它將變得‘更智能’。”
這對于擁有重要專有信息或使用特定內部語言的企業(yè)而言尤為重要。通過部署基于公共數據訓練的工具將無法勝任這項工作，只有熟悉企業(yè)術語、縮略詞及流程等的獨特工具才能實現其所需要的目標。
我們能夠解決AI幻覺嗎?
與所有技術一樣，AI需要經歷NLP專家Kelly Stone所提出的“人機回圈”驗證階段。通過將人類納入到檢查和改進AI輸出的流程之中，這將確保此類技術能夠持續(xù)學習，從而最終產生更精細、更準確的答案。
AI企業(yè)一直在努力改進其產品，通常有幾種重要的方式來實現這些改進。擁有海量數據已經讓人感到開頭難了，但真正的挑戰(zhàn)在于采用一種易于訪問和使用的方式來組織這些數據。同時，考慮到大多數企業(yè)的數據都在不斷增長，有時甚至呈指數級增長，這就說明穩(wěn)健可靠的結構非常重要。
在3DEXPERIENCE平臺等統(tǒng)一位置維護數據庫，可讓企業(yè)在一致的環(huán)境和狀態(tài)下保存信息。這些數據可從統(tǒng)一位置高效應用于任何類型的功能，無論是預測成本波動還是通過執(zhí)行NLP來描述市場趨勢，都易如反掌。托管的平臺擺脫了孤島信息，讓用戶能夠訪問高級分析功能，從而有望優(yōu)化流程，發(fā)現新機遇，并改進企業(yè)運營。
達索系統(tǒng)信息情報品牌NETVIBES的Stone主張進一步開發(fā)和使用此類程序。通過完善AI，這將減少幻覺問題，為各類用戶帶來更值得信賴的工具。再結合不斷擴展的后端程序以及為其提供動力的AI，我們將獲得完美的情報風暴。
Stone表示：“我確信，未來的AI將非?？煽?。”盡管她承認我們尚未成功，但她認為，將生成式、判別式和預測式等所有類型的AI的準確率提高到接近100%，而非80%左右，這并非天方夜譚。
眾所周知，人無完人，人類尚且如此，因此要創(chuàng)建一臺完美無缺的機器有點強人所難。但克服生成式AI幻覺等重重障礙，將開啟一個無限可能的新世界，并幫助我們兌現這類新興技術的全部承諾。
為未來AI完善解決問題的方法
和所有其它技術及創(chuàng)新一樣，AI也面臨“最后一英里”的終極問題。
公交車會?？吭诮K點站，但乘客的旅程永無止境。禁止通行的道路和失靈的GPS設備會給送貨上門設置障礙，但這依舊阻擋不了我們在線購物的行動。人工智能也不例外。其生成式功能就是這最后幾英里，正如那些尚未開通地鐵的社區(qū)或者只有無人機才能到達的偏遠地區(qū)。
當公共交通系統(tǒng)并未覆蓋城市的每個街區(qū)時，我們沒有棄之不用;當一些偏遠的地址難以到達時，我們也沒有放棄在線購物的想法。我們仍在努力向所有人提供這些機會，而且AI趨于完美的坎坷之路也如出一轍。
盡管生成式AI可能會繼續(xù)產生幻覺，但后端AI將不遺余力地為整個行業(yè)發(fā)光發(fā)熱。持續(xù)改進、訓練和接觸高質量的結構化數據，將是確保人工智能臻于卓越的必要條件。實踐證明，在實現完美的路途中，最后一英里的終極挑戰(zhàn)(細微的差別、不可言喻的人情味、未預見情況的應對之策)往往都晦澀難懂。但晦澀難懂并非不可實現。雖然AI幻覺現象帶來了一系列獨特的挑戰(zhàn)，但也凸顯了人類協(xié)作在AI開發(fā)和部署中的重大意義。
隨著企業(yè)和技術專家持續(xù)開發(fā)用于提高AI性能的戰(zhàn)略，業(yè)界對其有能力實現行業(yè)變革的信心不斷提升。完善AI的旅程遍布荊棘，但對于跨越“最后一英里”鴻溝的不懈追求正是人們共同向往美好未來的良好例證。未來，AI解決方案不僅近乎完美，而且值得信賴、高度可靠，將成為解決世界上一些最緊迫挑戰(zhàn)的關鍵利器。
作者：Shoshana Kranish：
Shoshana目前擔任達索系統(tǒng)企業(yè)出版部門高級經理。她在新聞、市場營銷和公關方面擁有豐富的經驗，其作品已在世界各地出版，并在互聯網上發(fā)表。
（來源：達索系統(tǒng)）
