如今人工智能(AI)已成為技術(shù)領(lǐng)域最時(shí)髦的用語(yǔ)之一，它在廣義上通常用來(lái)描述互連的“智能”技術(shù)。然而，考慮到AI可以實(shí)現(xiàn)的各種不同的功能，以及AI解決方案產(chǎn)出的成果，AI的格局及其開(kāi)發(fā)可以說(shuō)都十分復(fù)雜。事實(shí)上，AI技術(shù)的特定應(yīng)用不僅將它從眾多技術(shù)中區(qū)別開(kāi)來(lái)，還決定了它的開(kāi)發(fā)方式，開(kāi)發(fā)的標(biāo)準(zhǔn)和要求以及需要進(jìn)行的測(cè)試。因此，與其說(shuō)AI是一種“包括萬(wàn)象”的技術(shù)，不如說(shuō)是一種定制化解決方案的網(wǎng)絡(luò)，用于解決復(fù)雜的技術(shù)挑戰(zhàn)。
最近萊迪思市場(chǎng)營(yíng)銷(xiāo)副總裁Matt Dobrodziej和TECHnalysis Research總裁兼首席分析師Bob O'Donnell在一場(chǎng)圓桌會(huì)議上探討了為特定應(yīng)用開(kāi)發(fā)AI解決方案的流程問(wèn)題。本篇博文將回顧此次會(huì)議中的主要內(nèi)容，并就特定應(yīng)用如何決定AI模型的開(kāi)發(fā)、創(chuàng)建AI模型的挑戰(zhàn)以及如何利用市場(chǎng)上的一些領(lǐng)先技術(shù)等內(nèi)容提供一些思考。
AI成為主流以及網(wǎng)絡(luò)邊緣計(jì)算的崛起
曾經(jīng)難以想象的技術(shù)如今正通過(guò)智能手機(jī)、PC、汽車(chē)、其它各種互連設(shè)備進(jìn)入消費(fèi)領(lǐng)域和從工廠車(chē)間到醫(yī)療保健設(shè)備的各類(lèi)商業(yè)領(lǐng)域。并且由于人們對(duì)AI和機(jī)器學(xué)習(xí)(ML)抱有極大的熱情，這些技術(shù)的創(chuàng)新步伐通常遠(yuǎn)超其實(shí)現(xiàn)水平。
設(shè)計(jì)師面臨的創(chuàng)造性的挑戰(zhàn)和機(jī)遇在于，如何應(yīng)用模式匹配或劃分等復(fù)雜概念，將萊迪思當(dāng)前的設(shè)備變得更加智能、用途更廣。過(guò)去，運(yùn)行AI推理應(yīng)用需要大型數(shù)據(jù)中心強(qiáng)大的計(jì)算能力和功能。而現(xiàn)在，同樣的應(yīng)用可以在本地運(yùn)行，并且功耗要低得多，精度也能達(dá)到曾經(jīng)只能在服務(wù)器上達(dá)到的水平。
這種轉(zhuǎn)變的推動(dòng)因素主要包括用戶(hù)安全性、隱私和延遲方面的要求以及高效運(yùn)行AI模型的新硬件(其效率與基于服務(wù)器的云實(shí)現(xiàn)不相上下)的出現(xiàn)。人工智能和數(shù)據(jù)處理越來(lái)越多地由本地設(shè)備實(shí)現(xiàn)，這對(duì)系統(tǒng)開(kāi)發(fā)影響巨大。
AI問(wèn)題和解決方案框架
希望進(jìn)入AI和ML領(lǐng)域的開(kāi)發(fā)人員在了解特定AI應(yīng)用和設(shè)計(jì)目標(biāo)后，必須識(shí)別并采合適的基礎(chǔ)技術(shù)。這個(gè)過(guò)程通常遵循三個(gè)步驟：
1. 構(gòu)思——選定應(yīng)用和確定相關(guān)要求
構(gòu)建AI應(yīng)用需要了解應(yīng)用的要求，包括性能。應(yīng)用需要多少處理能力?可用的功率預(yù)算是多少?電池的尺寸是多少，效率如何?請(qǐng)記住退后一步以全局的眼光審視正在構(gòu)建的系統(tǒng)。哪些傳感器可用于獲取數(shù)據(jù)以使應(yīng)用智能化?
2. 設(shè)計(jì)——構(gòu)建模型或者采用預(yù)設(shè)模型然后進(jìn)行訓(xùn)練
定義好參數(shù)后，下一個(gè)任務(wù)是選用合適的模型。模型實(shí)質(zhì)上決定了設(shè)計(jì)人員想要的應(yīng)用類(lèi)型以及支持所需功能需要的硬件。根據(jù)當(dāng)前的問(wèn)題，可以選擇多種模型，包括開(kāi)源社區(qū)中提供的各種模型，例如音頻處理模型或者視覺(jué)模型。
3. 測(cè)試——確保設(shè)計(jì)如預(yù)期正常工作
從概念到實(shí)際的解決方案產(chǎn)品需要經(jīng)過(guò)大量的測(cè)試，確保它在不同的環(huán)境和特定的使用場(chǎng)景中按預(yù)期運(yùn)行。例如，跟蹤用戶(hù)注意力的應(yīng)用需要在不同的使用場(chǎng)景和環(huán)境條件下為所有用戶(hù)正常工作。測(cè)試可以通過(guò)不同的方式完成;模型驗(yàn)證使用Tensor Board等標(biāo)準(zhǔn)工具將許多具有代表性的樣本引入模型，以初步了解模型的工作情況。其他測(cè)試則是通過(guò)回歸測(cè)試完成，最好是在目標(biāo)硬件上進(jìn)行。最后在系統(tǒng)用戶(hù)體驗(yàn)(UX)測(cè)試中，可以在現(xiàn)實(shí)生活使用場(chǎng)景下測(cè)試極端案例，發(fā)現(xiàn)模型的不足之處。
FPGA為網(wǎng)絡(luò)邊緣AI創(chuàng)造獨(dú)特價(jià)值
現(xiàn)場(chǎng)可編程門(mén)陣列(FPGA)能為網(wǎng)絡(luò)邊緣AI帶來(lái)各種機(jī)遇。這類(lèi)靈活的集成電路支持自定義的工作流程開(kāi)發(fā)和最終系統(tǒng)設(shè)計(jì)，有助于應(yīng)對(duì)AI開(kāi)發(fā)中的諸多挑戰(zhàn)。
設(shè)計(jì)人員通常要在選用硬件方面做出艱難的決策。這些選擇可能在流程后期讓他們囿于特定的設(shè)計(jì)中，限制了他們?cè)诨A(chǔ)組件的功能之上開(kāi)展額外的工作。FPGA自身的靈活性使其成為網(wǎng)絡(luò)邊緣計(jì)算的理想選擇，因?yàn)樗鼈兗词乖诓渴鸬阶罱K系統(tǒng)中后，只要需要對(duì)功能進(jìn)行更改，就能通過(guò)軟件更新快速適應(yīng)。
人工智能在不斷變化中，其發(fā)展和創(chuàng)新的速度往往超過(guò)系統(tǒng)設(shè)計(jì)。在AI和ML領(lǐng)域，適應(yīng)性強(qiáng)、可重新編程的硬件解決方案是跟上創(chuàng)新速度的關(guān)鍵。由于FPGA本身可編程，因此它們可以縮短產(chǎn)品上市時(shí)間，并且不限于固定功能，可延長(zhǎng)系統(tǒng)或應(yīng)用的生命周期。同樣重要的是它們擁有并行處理能力，這對(duì)于高性能人工智能應(yīng)用非常關(guān)鍵，可以在提供更高性能的同時(shí)降低功耗。
萊迪思Nexus? FPGA平臺(tái)可在配置和運(yùn)行時(shí)提供低功耗、高性能、小尺寸和安全特性，這些優(yōu)勢(shì)可以幫助AI和ML解決方案脫穎而出。萊迪思FPGA根據(jù)FPGA支持的應(yīng)用類(lèi)型進(jìn)行分類(lèi)：
通用型——滿(mǎn)足廣泛的應(yīng)用需求
嵌入式視覺(jué)——視頻橋接和處理
超低功耗——功耗和設(shè)計(jì)空間有限的應(yīng)用
系統(tǒng)控制和安全——平臺(tái)管理和安全應(yīng)用
除了用于網(wǎng)絡(luò)邊緣AI解決方案的FPGA外，萊迪思sensAI?解決方案集合可以為設(shè)計(jì)人員提供評(píng)估、開(kāi)發(fā)和部署基于FPGA的AI和ML方案所需的一切資源，從而在網(wǎng)絡(luò)邊緣加速靈活、低功耗推理的集成。萊迪思集成解決方案可以幫助開(kāi)發(fā)人員快速輕松地為各種應(yīng)用部署設(shè)備端AI功能。
（轉(zhuǎn)載）
