Agent 生态大爆发-CVM 弹性算力如何实现高效运维.docxVIP

Agent生态大爆发

CVM弹性算力如何实现高效运维?

01Agent是什么？03实战演示-

01

Agent是什么？

03

实战演示-AI运维

04

安全的试验场

Agent如何使用工具？

Agent是什么？

我们一起揭开它的神秘面纱

1.Agent是什么？

从“百模大战”到“应用狂飙”

AI基座大模型的迭代速度趋于放缓，而基于大模型的应用生态正在蓬勃发展，AI-enabled/AI-native应用层出不穷

AI原生应用AI-nativeApplications

AI原生应用

AI-nativeApplications

AI是应用的“中枢神经”，核心业务逻辑深度依赖AI技术

崇perplexity

AI赋能/增强应用

AI-enabled/AI+Applications

在现有应用中叠加AI模块，AI作为辅助、增强工具存在

AI基座大模型的市场格局趋于稳定，迭代发展速度放缓，国内外头部大模型之间的差距在缩小

1.Agent是什么？

一种能够感知环境、自主决策并执行动作以达成特定目标的人工智能系统。

反应性

反应性

能够对周围环境

的变化和信息输入做出及时响应

自主性能在没有人类直接干预的情况下自主运作

自主性

能在没有人类

直接干预的情况下自主运作

学习能力通过经验不断改进

学习能力

通过经验不断改进

自身的性能和决策策略

目标导向

拥有明确的目标或任务，

并制定策略以实现这些目标

1.Agent是什么？

AIAgent落地的核心技术

AIAgent感知-决策-行动LLM大模型RAG查资料能力MCP使用工具能力

AIAgent感知-决策-行动

LLM

大模型

RAG

查资料能力

MCP

使用工具能力

Fine-Tuning领域专家能力

LLM大模型是聪明但有缺陷的“语言接龙器”，离落地应用还有距离

AIAgent(智能体)是当前大模型应用落地的核心载体

能够感知环境、自主决策并执行任务的智能软件实体

如何掌握更多的知识？

?RAG（检索增强生成）：让AI先“查外部资料”再回答问题

如何更便捷使用外部工具？

?MCP（模型上下文协议）：大模型连接外部工具的标准

如何成为垂直领域专家？

?Fine-Tuning（微调/精调）

还有其他的吗？

?PE（提示词工程）---大模型时代的编程语言，VibeCoding

?FunctionCalling、A2A…

?传统软件工程所需要的：部署架构、权限、安全、可观测性…

2

Agent如何使用工具？

关键协议—MCP（ModelContextProtocol）

2.Agent如何调用工具？

MCP(模型上下文协议)：为大模型提供工具箱

MCP(模型上下文协议)：为AI大模型与外部工具、数据源提供标准化的交互接口，类似AI应用的USB-C接口

FunctionCallingPrompt提示词

三大组件：MCPServer、MCPClient、MCPHost

为什么需要MCP？

?LLM大模型本身不具备调用外部工具的能力，之前业界提出了FunctionCalling方式来实现，但不同大模型的实现不同，导致每个工具对于不同大模型都需要分别适配

封装通用的协议，同一MCPServer可供不同大模型使用

MCP对我们有何价值？我们怎么用好MCP？

?将内部工具、产品API、AIAgent封装为MCP

Server，方便内外部的AI应用来调用，更好的连接外部AI生态

?产品能力：MCPServer一键部署和云端托管

2.Agent如何调用工具？

基于XX云提供的MCPSever托管服务开箱即用

当前已经上线云服务器CVM/XX云自动化助手TAT/自动伸缩AS等多个计算产品MCPServer

2.Agent如何调用工具？

基于MCP连接XX云服务，管理云资源

业务痛点?

业务痛点

?云平台传统的管控方式依赖于官网控制台、API，操作路径复杂

?不同AI客户端、大模型的接入标准各异，调用云API的实现繁琐

通过MCP接入外部AI生态，在元宝/元器等AI应用生态中构建智

能体，对话式操控云资源、执行“带内”操作

MCPServer“带外”管控APICVM计算产品

MCPServer

“带外”管控

APICVM

计算产品AI智能体

TAT

“帮我在上海

四区快速

创建一台

SA5.LARGE8实例”

CVM

MCPServer

LighthouseMCPServer

应用场景

为不同的大模型调用API操控云资源提供统