● IBM 提供 Mixtral-8x7B 的優(yōu)化版本，該版本可將延遲時(shí)間最多縮短 75%
● IBM、第三方和開源模型的目錄不斷增加，為客戶提供更多選擇和靈活性
● 是 watsonx 人工智能與數(shù)據(jù)平臺上最新的開源模型，watsonx 提供企業(yè)就緒的人工智能開發(fā)平臺、數(shù)據(jù)存儲和治理功能
IBM(紐約證券交易所代碼：IBM)近日宣布，由 Mistral AI 公司開發(fā)的廣受歡迎的開源 Mixtral-8x7B 大型語言模型(LLM)已經(jīng)可在其 watsonx 人工智能與數(shù)據(jù)平臺上使用。
IBM 提供了 Mixtral-8x7B 的優(yōu)化版本，在內(nèi)部測試中，與常規(guī)模型相比，該版本能夠?qū)⑼掏铝?即在給定時(shí)間段內(nèi)可處理的數(shù)據(jù)量)提高 50% 。這可能可以將時(shí)間延遲減少 35-75%，從而加快獲得洞察的時(shí)間，具體取決于批處理量的大小。這是通過一個(gè)稱為量化的過程來實(shí)現(xiàn)的，該過程減少了 LLM 的模型大小和內(nèi)存需求，進(jìn)而可以加快處理速度，有助于降低成本和能耗。
Mixtral-8x7B 的加入擴(kuò)展了 IBM 的開放、多模型戰(zhàn)略，隨時(shí)隨地滿足客戶的需求，并為他們提供選擇和靈活性，使其可以跨業(yè)務(wù)來擴(kuò)展其企業(yè)級人工智能解決方案。通過數(shù)十年的人工智能研發(fā)、與 Meta 和 Hugging Face 開放式協(xié)作，以及與模型領(lǐng)導(dǎo)者的合作伙伴關(guān)系，IBM 正在擴(kuò)展其 watsonx.ai 模型目錄，并引入新的功能、語言和模式。
IBM 的企業(yè)就緒基礎(chǔ)模型選擇及其 watsonx 人工智能和數(shù)據(jù)平臺可幫助客戶利用生成式人工智能獲得新的洞察力和效率，并基于信任原則創(chuàng)建新的業(yè)務(wù)模式。IBM 可幫助客戶根據(jù)所針對的業(yè)務(wù)領(lǐng)域(如金融)的合適用例及性價(jià)比目標(biāo)來選擇合適的模型。
Mixtral-8x7B 結(jié)合了稀疏建模與專家混合技術(shù)來構(gòu)建，“稀疏建模”是只查找和使用數(shù)據(jù)中最重要部分以創(chuàng)建更高效的模型的創(chuàng)新技術(shù);而“專家混合技術(shù)”是把擅長并解決不同部分問題的不同模型(“專家”)結(jié)合在一起的技術(shù)。Mixtral-8x7B 模型因其能夠快速處理和分析海量數(shù)據(jù)以提供與上下文相關(guān)的見解而廣為人知。
IBM 軟件公司產(chǎn)品管理與增長高級副總裁 Kareem Yusuf 博士表示："客戶要求在部署最適合其獨(dú)特用例和業(yè)務(wù)要求的模型時(shí)擁有選擇權(quán)和靈活性。通過在 watsonx 上提供 Mixtral-8x7B 和其它模型，我們不僅為客戶提供了部署人工智能的可選性，還為人工智能構(gòu)建者和業(yè)務(wù)領(lǐng)導(dǎo)者提供了一個(gè)強(qiáng)大的生態(tài)系統(tǒng)，使他們能夠利用工具和技術(shù)推動(dòng)不同行業(yè)和領(lǐng)域的創(chuàng)新。"
在同一周，IBM 還宣布在 watsonx 上提供由 ELYZA 公司開源的日本 LLM 模型 ELYZA-japanese-Llama-2-7b。IBM 還在 watsonx 上提供 Meta 的開源模型 Llama-2-13B-chat 和 Llama-2-70B-chat 以及其它第三方模型，未來幾個(gè)月還將推出更多模型。
（來源：IBM中國）
