IBM日前宣布，DeepSeek-R1 的 Llama 3.1 8B 和 Llama 3.3 70b 蒸餾版本現(xiàn)已在 IBM 的企業(yè)級 AI 開發(fā)平臺 watsonx.ai 上提供。
DeepSeek-R1 到底是啥?
DeepSeek-R1 是中國人工智能(AI)初創(chuàng)公司 DeepSeek 的推理大語言模型(LLM)，是世界上最強(qiáng)大的開源模型之一，甚至可以與 OpenAI 的 o1 相媲美。DeepSeek-R1 在 MIT 許可證下發(fā)布，主要是通過在基礎(chǔ)模型 DeepSeek-V3 上直接使用強(qiáng)化學(xué)習(xí)(RL)開發(fā)的，這是微調(diào) LLM 的一項重大創(chuàng)新。
DeepSeek 還使用了一種稱為知識蒸餾的技術(shù)，使用較大的 R1 模型生成的數(shù)據(jù)來微調(diào)多個 Llama 和 Qwen 模型。用戶可以通過兩種方式在 watsonx.ai 上訪問 DeepSeek 蒸餾模型：
● IBM 通過 “按需部署目錄”在 watsonx.ai 中提供兩種 Llama 蒸餾變體，允許用戶部署專用實例進(jìn)行安全推理。
● 用戶還可以使用自定義基礎(chǔ)模型導(dǎo)入功能導(dǎo)入 DeepSeek-R1 模型的其他變體，如 Qwen 蒸餾模型。
DeepSeek-R1 支持哪些類型的用例?
DeepSeek-R1 是一種先進(jìn)的 AI 模型，以其卓越的推理能力而著稱，支持各行各業(yè)的廣泛應(yīng)用：
● 規(guī)劃：DeepSeek-R1 專注于思維邏輯鏈，能夠執(zhí)行需要逐步推理的任務(wù)，因此非常適合為智能體(代理)應(yīng)用程序提供支持。
● 編碼：DeepSeek-R1 擅長編碼任務(wù)，提供代碼生成、調(diào)試輔助和優(yōu)化建議。
● 數(shù)學(xué)問題解決：該模型強(qiáng)大的推理能力使其善于解決復(fù)雜的數(shù)學(xué)問題，這對學(xué)術(shù)研究、工程和科學(xué)計算大有裨益。
開發(fā)人員可在 IBM watsonx.ai 中使用 DeepSeek-R1 等已部署的模型和解決方案功能構(gòu)建人工智能解決方案：
● 以易于理解的格式和用戶界面測試和評估模型輸出
● 通過連接各種向量數(shù)據(jù)庫和嵌入模型來構(gòu)建 RAG 管道
● 與 LangChain、CrewAI 等流行框架和連接器協(xié)同工作
為何要在 watsonx.ai 上使用 DeepSeek 蒸餾模型
?IBM watsonx.ai 使客戶能夠定制實施 DeepSeek-R1 等開源模型，從部署環(huán)境的完全靈活性到智能體(代理)開發(fā)、微調(diào)、RAG、提示工程和與企業(yè)應(yīng)用程序集成的直觀工作流，用戶可以利用 watsonx.ai 的內(nèi)置護(hù)欄來保護(hù)他們的應(yīng)用程序。
當(dāng)然，數(shù)據(jù)安全和 AI 治理是客戶最關(guān)心的問題。除防護(hù)欄外，在 watsonx.ai 上部署時，這些模型將成為專用實例，這意味著除平臺外，不會在其他任何地方共享數(shù)據(jù)。此外，與 IBM watsonx.governance 這一功能強(qiáng)大的治理、風(fēng)險和合規(guī)性(GRC)工具包的無縫集成，可確?？蛻舻?AI 在整個 AI 生命周期內(nèi)都是負(fù)責(zé)任、透明和可解釋的。
開始在 IBM watsonx.ai 上使用 DeepSeek
