模型服务介绍

模型服务（Model Serving）是指将机器学习模型部署为服务，以便其他应用程序或系统可以调用这些模型进行预测或决策。模型服务是机器学习生命周期中的一个重要环节，它使得模型能够从开发环境顺利过渡到生产环境，从而实现商业价值。

在Versatile中，模型服务为智能体提供了最核心的智能，使智能体能够自主、智能地完成复杂任务。

为满足不同用户的技术能力、业务场景及需求，Versatile提供了多样化的模型服务模式。以下从模型来源对各类模型服务进行介绍，具体如表1所示。

表1 模型服务分类介绍
分类	特征	典型模型	使用流程
平台预置的供应商模型服务	由供应商部署，平台接入供应商提供的模型服务API。	MiniMax、月之暗面、智谱AI、百川智能、深度求索、阿里云、盘古大模型服务、ModelArts Studio（MaaS）等。	接入预置的供应商模型服务流程
平台预置的模型服务	平台预置，免费试用的模型服务。	DeepSeek-V3-64K、DeepSeek-R1-64K	-
用户自主接入的模型服务	由用户或第三方部署在外部环境，平台调用外部已存在的模型服务API。	/	接入自定义的供应商模型服务流程

父主题： 接入模型服务

提供反馈

提交成功！非常感谢您的反馈，我们会继续努力做到更好！您可在我的云声建议查看反馈及问题处理状态。

系统繁忙，请稍后重试

在使用文档中是否遇到以下问题

内容与产品页面不一致

内容不易理解

缺失示例代码

步骤不可操作

搜不到想要的内容

缺少最佳实践

意见反馈（选填）

0/500

请至少选择一项反馈信息并填写问题反馈

字符长度不能超过500

直接提交取消

如您有其它疑问，您也可以通过华为云社区问答频道来与我们联系探讨