K+全球软件行业研发创新峰会北京站 - K+全球软件研发行业创新峰会-官方网站

2023上海站

基于LLM的下一代AIOps

分论坛：管理创新

专题：AIGC时代的软件研发新范式

中国人民大学硕士。日志易产品VP，曾任微博系统架构师等。信通院DevOps标准、AIOps标准、可观测性标准编写组专家。信创工委会大数据技术活动组组长，运维技术活动组技术标准副组长。著有《ChatGPT速通手册》、《ELK Stack权威指南》、《网站运维技术与实践》等书。

内容简介：

经过五六年的发展，智能运维在质量保障领域(故障发现、故障定位、故障修复)已经形成了一些有效的场景。在大语言模型出现后，我们可以借力大模型，进一步提升智能运维系统的效果。本次分享从大模型特性出发，先为大家介绍选择大模型运用场景的挑选原则，并用两个实际的反面案例加以佐证；然后根据国内外观点和个人经验，分析智能运维领域落地大模型的大概方向路线；最后，按照上述方向，具体介绍三个落地实践的场景，包括其思路、效果和经验教训。并总结对比不同场景中，直接使用大模型、结合嵌入向量与提示工程、开源模型微调等技术的差异。

演讲提纲：

1. 选择LLM应用场景的原则 2. 运维领域错误使用LLM的反面示例 3. AIOps领域落地LLM的路线图 4. ChatSPL：自然语言查询分析 5. ChatAPI：文档注入prompt模板 6. LogSummary：智能代理生成日志概要总结

听众收益：

1. 了解 LLM 特性，对其适用性具有一定的判断能力 2. 了解 LLM在运维领域的落地路线和发展方向 3. 了解 embedding 技术、langchain agent 技术在 LLM 上的运用 4. 了解目前国内外 LLM 技术在智能运维方向上可落地的成果进展