Douwe Kiela 是 Contextual AI 的首席执行官和联合创始人。他还是斯坦福大学符号系统系的客座教授。

此前，他是 Hugging Face 的研究负责人，以及 Meta 基础人工智能研究（FAIR）团队的研究主管，在那里他率先提出了检索增强生成（RAG）等其他关键 AI 突破。

他在多模态、对齐和评估方面的工作为 AI 领域设定了新标准，并使系统更加安全、可靠和准确。

视频地址：https://www.youtube.com/watch?v=kPL-6-9MVyA

00:00 RAG增强生成代理在企业应用中的挑战与经验本期播客深入探讨RAG增强生成代理在企业生产环境中的实际应用挑战与宝贵经验。主要基于AI06的CEO，同时也是RAG技术的开创者之一dv killer的分享，讨论了技术落地的难点和实践指导意义，强调了从实践中学习的重要性。

01:52 企业AI应用的现实痛点与突破面对AI每年为全球经济带来的高达4.4万亿美元的增值的期望，企业界对AI的期望极高。然而，福布斯研究显示，只有约四分之一的企业能从AI投资中获益，这反映了巨大的期望与实际成效之间的鸿沟。企业投入大量资金和人力，却未能实现预期的革命性变化，导致负责AI项目的高管面临巨大的压力。本次探讨旨在揭示企业AI应用的真实痛点，以及可能的关键突破口，特别关注RAG（Retrieval-Augmented Generation）的应用，为企业提供AI落地的前沿进展和启示。

03:57 企业AI挑战的核心：语境悖论与上下文处理对话探讨了企业AI项目面临的挑战，特别是处理复杂上下文问题的难度。提到莫拉维克悖论，指出AI在高度抽象任务上表现优异，但在依赖人类本能和常识的简单任务上表现欠佳。提出了语境悖论，即现代大型语言模型（如GPT4）在复杂任务上表现出色，但在处理特定上下文的简单任务时遇到困难。讨论了上下文处理能力对企业AI应用价值的重要性，并以金融、医疗和制造业为例，说明了在这些领域中理解和应用特定上下文的难度及重要性。

11:46 RAG系统构建中的十大经验教训在构建和优化RAG（Retrieval-Augmented Generation）系统时，首先应认识到系统工程的重要性，而非仅聚焦于模型。模型只占整体系统的20%，而剩余的80%涉及数据源获取、数据预处理、索引构建、检索策略、生成控制、评估体系、监控系统和用户接口等多个复杂环节。此外，专长在RAG系统中比通用人工智能更为关键，强调了针对特定领域优化的重要性。

16:40 企业AI应用：专长与规模的重要性对话探讨了在企业AI应用中，相较于通用大模型AGI，具有深度专长的AI系统更能解决具体高价值的业务问题。通用模型虽然知识面广、适应性强，但在处理特定领域复杂任务时，缺乏深度领域知识和对特定上下文的理解，且存在数据安全和隐私风险。

而特化训练的AI系统，如法律合同审查、医疗影像分析等，因其理解领域内的微妙差别，能提供更准确、更符合专家判断的输出，并且数据安全更有保障。尽管特化系统开发成本高、周期长，但其在特定场景下的差异化价值和竞争优势是通用模型无法比拟的。此外，对话还提到规模是护城河，利用大量嘈杂数据是企业AI发展的关键策略。

20:16 利用大规模嘈杂数据构建企业AI竞争优势对话探讨了在企业环境中，利用大规模、非结构化且嘈杂的数据作为AI竞争优势的观点。传统观念认为，数据需清洗干净才能喂给AI，但这种做法可能忽略了企业内部海量数据中蕴含的真实细节和隐性知识。通过发展技术，让AI能直接处理和理解大规模的复杂数据，企业可以构建出难以复制的竞争壁垒。这种方法要求在完美主义和实用主义之间找到平衡点，认识到数据规模和处理复杂数据的能力本身就是一种战略资产。

24:13 从试点到生产：AI项目实施的挑战对话深入探讨了从成功的试点项目扩展到大规模生产环境所面临的挑战，包括系统规模、健壮性、数据变化、用例多样性、安全合规性、成本控制、以及运维等方面。强调了从第一天开始就为生产环境设计的重要性，即使项目初始规模较小，也应前瞻性地考虑未来可能遇到的问题，以确保最终系统的稳定可靠。

28:04 速度大于完美：AI产品快速迭代策略在AI产品开发中，尤其是快速发展的RAG领域，速度大于完美的理念至关重要。与追求一开始就设计出完美系统的传统思维不同，应优先考虑快速推出一个能解决用户核心痛点的初步版本，并通过真实用户的反馈快速迭代优化。这种敏捷开发或经验创业的方法强调小步快跑和调整，逐步逼近最优解。关键在于平衡速度与质量，确保基本的代码规范和测试稳定性，同时避免过度设计和投入。通过真实的反馈驱动产品进化，拥抱不完美，快速行动，这在快速变化的AI赛道上尤为重要。

31:24 工程师应聚焦高价值任务而非繁琐重复工作对话围绕现代RAG（Retrieve and Generate）系统构建和维护过程中的无聊而耗时任务展开，讨论了诸如反复调试文本分块策略、设计和优化prompt、维护数据连接器等任务。指出这些任务虽然耗时但技术挑战不大，难以标准化，且对企业的核心竞争力贡献有限。提出现代RAG平台应通过提供良好的默认设置、自动化能力和易用工具，帮助工程师从这些低价值的重复劳动中解脱出来，让他们能够聚焦于真正创造差异化价值的任务，如设计更有效的RAG应用场景、整合独特领域知识、探索先进的检索算法等。从而实现工程师在最有价值的创新上的精力投入，避免资源浪费。

35:03 第七课：工作流整合使AI易于消费对话强调了将AI无缝嵌入到用户日常工作中，通过工作流整合提高AI应用的采用率和用户粘性的重要性。指出许多公司虽然开发了AI系统，但因用户体验不佳或操作复杂而难以实际应用。通过具体例子说明，将AI能力自然地融入用户现有的工作流程和工具中，如CRM系统、IDE、客服系统等，能够大幅提升用户接受度和使用效率。成功的AI应用应该作为一种增强智能的能力，悄无声息地融入各种现有业务系统中，而非独立的产品。

38:29 为哇哦时刻而设计：创造用户惊喜体验对话讨论了“哇哦时刻”在产品设计中的重要性，这是一种用户在使用产品时因惊喜和巨大价值而发出的惊叹。这种体验不仅能够提升用户留存率，激发口碑传播，还能在组织内部推广AI应用。通过高通公司RAG系统帮助工程师解决难题的案例，展示了如何有意识地设计和创造这种惊喜时刻，包括连接孤立信息、发现隐藏模式、提供全新视角等策略。对话强调，一个好的产品应超越用户的基本需求，通过精心设计为用户提供惊喜体验，这是用户爱上产品并积极推荐的关键驱动力。

42:16 AI系统的准确率与不准确率管理对话强调了在AI系统开发中，虽然准确率是基础，但更应关注不准确率的处理。在达到一定准确率后，重要的是理解剩余错误的原因，包括在什么情况下容易出错、出错的后果、如何检测和修正错误。特别是在高风险场景，如金融决策和医疗建议，即使是5%的错误也可能致命。为了处理这些不准确性，需要建立完善的评估机制、详细的审查记录、清晰的归因能力以及后处理校验。这种对不准确性的管理能力在强监管行业中尤为重要，它体现了系统的成熟度和可靠性，甚至比单纯追求高准确率更重要。

45:56 企业AI应用：从RAG经验到未来形态探讨本次讨论总结了企业AI应用的十条宝贵经验，从战略心态、系统构建、落地执行到用户价值层面进行了分类和分析。特别强调了专长聚焦、敢于设定挑战性目标以及利用特定领域的上下文和专长的重要性。最后，提出一个深入思考的问题：未来企业AI的主流形态是否会朝着由高度特化的领域智能体构成的协作网络方向发展，而非追求单一的通用人工智能（AGI），并探讨了这种变化可能带来的挑战和机遇。