大型语言模型 (LLM) 改变了我们与信息交互的方式。基础 LLM 仅知道它所训练的信息。检索增强生成 (RAG) 可以通过提供其他数据源的上下文来解决此问题。在此会话中，我们将构建一个基于 RAG 的 LLM 应用程序，该应用程序结合外部数据源来增强 OSS LLM。我们将展示如何使用分布式 kubernetes 计算扩展工作负载，并展示一个提供事实答案的聊天机器人代理。