近日消息,阿里巴巴(中國)有限公司面向外界正式發(fā)文宣告,阿里云PAI Model Gallery現已具備對DeepSeek-V3、DeepSeek-R1以及所有蒸餾小參數模型(DeepSeek-R1-Distill)進(jìn)行一鍵部署的強大功能。
據介紹,Model Gallery 是阿里云人工智能平臺 PAI 的產(chǎn)品組件,它集成了國內外 AI 開(kāi)源社區中優(yōu)質(zhì)預訓練模型,涵蓋了 LLM、AIGC、CV、NLP 等各個(gè)領(lǐng)域。
附 PAI Model Gallery 一鍵部署Deep Seek-V3、Deep Seek-R 步驟如下:
1. 進(jìn)入Model Gallery。
登錄 PAI 控制臺。
在頂部左上角根據實(shí)際情況選擇地域。
在左側導航欄選擇工作空間列表,單擊指定工作空間名稱(chēng),進(jìn)入對應工作空間內。
在左側導航欄選擇快速開(kāi)始 > Model Gallery。
2.在 Model Gallery 頁(yè)面的模型列表中,單擊找到并點(diǎn)擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進(jìn)入模型詳情頁(yè)面。
3.單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務(wù),生成一個(gè) PAI-EAS 服務(wù)。
4. 使用推理服務(wù)。部署成功后,在服務(wù)頁(yè)面可以點(diǎn)擊“查看調用信息”獲取調用的 Endpoint 和 Token,想了解服務(wù)調用方式可以點(diǎn)擊預訓練模型鏈接,返回模型介紹頁(yè)查看調用方式說(shuō)明。
Copyright 2025 //m.mrigadava.com/ 版權所有 豫ICP備2021037741號-1 網(wǎng)站地圖