K+全球软件行业研发创新峰会北京站 - K+全球软件研发行业创新峰会-官方网站

2023上海站

用 Rust 实现 AI/ LLM 应用

分论坛：工具与平台创新

专题：Rust语言及生态

CNCF WasmEdge 项目的维护者，也是 Second State 的创始人。他撰写过5本软件工程书籍，由 Addison-Wesley、Prentice-Hall 和 O'Reilly 出版。 Michael 是一位长期的开源开发者和贡献者。他之前曾在许多行业会议上发表过演讲，包括 OpenSourceSummit、The Linux Foundation Member Summit 和 KubeCon。

内容简介：

LLM 和 ChatGPT 为当今的应用程序开发者提供了最重要的机会。由于这些应用程序独特的安全性、性能和占用空间要求，它们也是 Rust 从“系统语言”演变为“应用程序语言”的关键。在本次演讲中，我将讨论 Rust 在 AI 领域的挑战、机遇和创新。

演讲提纲：

1. LLM 应用与工具的现状：Python 占主导地位，但不是一个合适的选择。 LongChain、OpenAI plugin、fixie、flowise 等大多基于 Python。 Python 又慢又重。它需要将 Linux 容器部署为云原生解决方案。像 Mojo 这样的新 AI 语言声称通过摆脱 Python 可以将性能提高 10,000 倍。 2. Rust 怎么样？ 1). LLM chain 是答案的一部分 2). 但它只处理 LLM 集成。连接到其他系统，例如 UI、数据库和 SaaS 服务，在 Rust 中设置起来仍然很麻烦 3. 完整的基于 Rust 的 LLM 应用工具链介绍： LLM 的 Rust API；向量数据库的 Rust SDK；各种 SaaS and IM 产品的 Rust SDK. Hosted solution. 4. demo — 使用 Rust 实现LLM 应用

听众收益：

1. 了解 Rust 在 AI 方面的应用现状 2. 掌握使用 Rust 构建 LLM 应用

K+峰会

K+峰会主站

AiDD峰会