- 1、本文档共35页,可阅读全部内容。
- 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
智能体体检报告
——安全全景扫描
前言
2025年,被称为“智能体元年”。这是AI发展路径上的一次范式突变:
从“我说AI答”到“我说AI做”,从对话生成跃迁到自动执行,智能体正
成为最重要的商业化锚点和下一代人机交互范式。
但越接近落地,风险也越有实感。智能体的核心能力——自主性、行动力,
也恰恰是风险滋生的窗口。越能干的智能体,越可能越权、越界,甚至失控。
结合调查问卷和行业访谈,本次《智能体体检报告》从必威体育精装版发展状况、
合规认知度、合规实际案例三个角度,试图回答清楚一个关键问题:智能体
狂奔之时,安全合规是否就绪了?
观点速览
1.概念正热。垂直智能体领跑,编程场景已诞生ARR破5亿美元产品。
2.地图扩张中。从AI手机到AI浏览器,智能体正在接管日常入口。
3.谁更“能自理”谁能走得远。容错性与自主性,可以为智能体划分价
值象限。
4.“安全重要,但不着急”。业内普遍认同智能体安全合规很重要,但
优先级排不进TOP3。
5.出错与泄露。业内最关心的智能体风险仍是AI幻觉和用户数据泄露。
6.下一代应用商店?智能体广场的安全监测、安全标识还不完善。
7.智能体进化之路。智能体协作是落地关键,安全风险问题待解。
8.多工具调用暗角丛生。用户数据流向和责任分配问题待解。
2
01
什么是智能体?
作为市场最火热的概念,今年资本市场及公司动态几乎都与智能体挂
钩。但不少讨论中的智能体定义混乱,以至于一千个人眼中有一千个智
能体。为了准确把握市场动态,必须清晰界定真正的AI智能体,并与前
代技术区分开来。
OpenAI将AI发展阶段分为L1到L5五个阶段。L3阶段即为智能
体(Agent),能够自主规划和执行复杂任务,同时具备了对话能力、推理
1
能力、长记忆、工具调用这四项能力。
其中,工具调用是最核心的区分要素,只有对话能力的是L1阶段的
聊天机器人(Chatbot),只有对话和推理能力的是L2阶段的推理者
(Reasoner)。这种定义有助于我们识别并警惕一些夸大产品能力,将
自动化软件或对话式助手包装成智能体。
智能体强大能力的自主性、规划能力以及与外部世界交互的能力,也
带来了一个核心的矛盾:效用与风险共生。不过,在深入探讨安全风险
之前,我们需要先了解智能体必威体育精装版的技术和产业情况。
(一)通用vs垂直:编程产品领跑
我们将智能体划分为通用型智能体和垂直型智能体,这两者在技术
栈、优化目标和应用范围上存在显著差异。
通用智能体能够跨多个领域,提供基本认知能力,泛化能力强,能
实现多模态交互和生态协同。比如助推了智能体概念的Manus,其定位
是“首个通用智能体”,核心能力在于任务拆解与工具调用,通过提示
完成复杂的分析项目。
垂直智能体专注于特定领域,深度融合专业知识和行业数据,通过
定制优化使行业数据更精准,训练效果更稳定。2024年以来,垂直智
能体在办公软件(WPS、钉钉、飞书)、金融(支付宝、微信风控)、
1[东吴证券.AIAgent深度(二):2025Agent元年,AI从L2向L3发展.(2025.05.04)]
4
智能体体检报告——安全全景扫描
法律(通义法睿、金山晓法)等领域开始落地。
总的来说,通用智能体在挑战“上限”和“广度”,而垂直智能体
则夯实“下限”和“深度”。通用和垂直方向各有价值。
目前来看,垂直型智能体凭借其深度领域知识和定制化能力,或许
更容易找到精准用户并形成可持续的商业模式。比如,从数据隐私与合
规性角度看,在金融、法律等高度敏感和受监管的行业,市场更倾向于
选择了解并能满足特定数据安全和合规要求的垂直解决方案提供商。
红杉在AI峰会上提到,“企业级市场中,真正先跑出来的入口是
垂直领域智能体,因为它们能听懂行业语言,理解真实需求。2”而智
能体最先落地的行业和场景可能是知识工作,尤其是代码编程。根据
Anthropic在2025年3月发布的论文,ClaudeAI
您可能关注的文档
最近下载
- 重点中心乡镇卫生院门诊及收治住院基本病种、中医医疗技术目录.docx VIP
- 2023-2024学年山东省新泰市小学数学二年级期末通关考试题详细答案和解析.docx VIP
- 质量管理小组活动推进指南(TCAQ10208-2024).docx
- 门诊质量管理基本内容.docx VIP
- 马工程管理学全章节(共16章&绪论)思维导图.pdf VIP
- 东芝(TOSHIBA)变频器VF-S11使用手册说明书.pdf
- 2023-2024学年山东省新泰市小学数学五年级期末通关题详细答案和解析.docx VIP
- 四年级奥数---格点与面积---(学生版).docx VIP
- 初中数学教师招聘考试试题.doc VIP
- 中国农业科学院果树研究所人才招聘考试试题及答案.pdf VIP
文档评论(0)