LLM和Multi：在运维领域的实验探索.pdf

LLM和Multi-Agent

在运维领域的实验探索

QCon2024全球软件开发北京大会

张曦博士

华为云SREAI使能专家

目录

一、对传统运维方案的痛点思考

二、大模型给AIOps带来新机遇

三、LLM和Multi-Agent协同的运维方案

QCon2024全球软件开发北京大会

四、多模态基础模型

五、Multi-Agent协同框架

六、智能运维未来“自动、自主”

前几年的AIOps技术方案能用，但还不够好用

2年前的根因定位和故障分类方案

局限性/痛点

扩展性有限

虽然不同模态基础检测模型已做到通用且可快速适配，但是在下游任务

是耦合的：比如系统再新增一类数据或者去掉一类数据，那么根因定位

逻辑可能需要修改，基于有监督训练的故障分类模型可能部分失效

手动维护自动运维规则

传统方案下的自动运维，需要工程师写下来出现什么情况执行什么动作，

系统按照规则自动执行，不同系统的规则无法复用。

QCon2024全球软件开发北京大会

无法有效利用专家经验和领域知识

传统模型没有涌现能力，有些模块还依赖具体场景的标签数据，对没见

过的故障现象处理能力有限。

人机交互不友好

整个运维流程是固定的，人想要查看某个检测数据细节需要自己查询数

据库，无法随意指定中断或新增某个处理环节。

目录

一、对传统运维方案的痛点思考

二、大模型给AIOps带来新机遇

三、LLM和Multi-Agent协同的运维方案

QCon2024全球软件开发北京大会

四、多模态基础模型

五、Multi-Agent协同框架

六、智能运维未来“自动、自主”

大模型给AIOps带来新机遇

DevinBorn@Mar.2024运维三大能力

AI工程师Devin：根据issue描述和code-base生成diff，自动修复

针对运维领域海量知识快速获取、辅助诊断和故障分析能力