智能体体检报告——安全全景扫描.pdfVIP

  1. 1、本文档共35页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

智能体体检报告

——安全全景扫描

前言

2025年,被称为“智能体元年”。这是AI发展路径上的一次范式突变:

从“我说AI答”到“我说AI做”,从对话生成跃迁到自动执行,智能体正

成为最重要的商业化锚点和下一代人机交互范式。

但越接近落地,风险也越有实感。智能体的核心能力——自主性、行动力,

也恰恰是风险滋生的窗口。越能干的智能体,越可能越权、越界,甚至失控。

结合调查问卷和行业访谈,本次《智能体体检报告》从必威体育精装版发展状况、

合规认知度、合规实际案例三个角度,试图回答清楚一个关键问题:智能体

狂奔之时,安全合规是否就绪了?

观点速览

1.概念正热。垂直智能体领跑,编程场景已诞生ARR破5亿美元产品。

2.地图扩张中。从AI手机到AI浏览器,智能体正在接管日常入口。

3.谁更“能自理”谁能走得远。容错性与自主性,可以为智能体划分价

值象限。

4.“安全重要,但不着急”。业内普遍认同智能体安全合规很重要,但

优先级排不进TOP3。

5.出错与泄露。业内最关心的智能体风险仍是AI幻觉和用户数据泄露。

6.下一代应用商店?智能体广场的安全监测、安全标识还不完善。

7.智能体进化之路。智能体协作是落地关键,安全风险问题待解。

8.多工具调用暗角丛生。用户数据流向和责任分配问题待解。

2

01

什么是智能体?

作为市场最火热的概念,今年资本市场及公司动态几乎都与智能体挂

钩。但不少讨论中的智能体定义混乱,以至于一千个人眼中有一千个智

能体。为了准确把握市场动态,必须清晰界定真正的AI智能体,并与前

代技术区分开来。

OpenAI将AI发展阶段分为L1到L5五个阶段。L3阶段即为智能

体(Agent),能够自主规划和执行复杂任务,同时具备了对话能力、推理

1

能力、长记忆、工具调用这四项能力。

其中,工具调用是最核心的区分要素,只有对话能力的是L1阶段的

聊天机器人(Chatbot),只有对话和推理能力的是L2阶段的推理者

(Reasoner)。这种定义有助于我们识别并警惕一些夸大产品能力,将

自动化软件或对话式助手包装成智能体。

智能体强大能力的自主性、规划能力以及与外部世界交互的能力,也

带来了一个核心的矛盾:效用与风险共生。不过,在深入探讨安全风险

之前,我们需要先了解智能体必威体育精装版的技术和产业情况。

(一)通用vs垂直:编程产品领跑

我们将智能体划分为通用型智能体和垂直型智能体,这两者在技术

栈、优化目标和应用范围上存在显著差异。

通用智能体能够跨多个领域,提供基本认知能力,泛化能力强,能

实现多模态交互和生态协同。比如助推了智能体概念的Manus,其定位

是“首个通用智能体”,核心能力在于任务拆解与工具调用,通过提示

完成复杂的分析项目。

垂直智能体专注于特定领域,深度融合专业知识和行业数据,通过

定制优化使行业数据更精准,训练效果更稳定。2024年以来,垂直智

能体在办公软件(WPS、钉钉、飞书)、金融(支付宝、微信风控)、

1[东吴证券.AIAgent深度(二):2025Agent元年,AI从L2向L3发展.(2025.05.04)]

4

智能体体检报告——安全全景扫描

法律(通义法睿、金山晓法)等领域开始落地。

总的来说,通用智能体在挑战“上限”和“广度”,而垂直智能体

则夯实“下限”和“深度”。通用和垂直方向各有价值。

目前来看,垂直型智能体凭借其深度领域知识和定制化能力,或许

更容易找到精准用户并形成可持续的商业模式。比如,从数据隐私与合

规性角度看,在金融、法律等高度敏感和受监管的行业,市场更倾向于

选择了解并能满足特定数据安全和合规要求的垂直解决方案提供商。

红杉在AI峰会上提到,“企业级市场中,真正先跑出来的入口是

垂直领域智能体,因为它们能听懂行业语言,理解真实需求。2”而智

能体最先落地的行业和场景可能是知识工作,尤其是代码编程。根据

Anthropic在2025年3月发布的论文,ClaudeAI

文档评论(0)

情报猿 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档