自然语言处理中的幻觉减少技术

自然语言处理（NLP）领域，从聊天机器人到语言翻译，应用广泛。然而，NLP模型中最大的挑战之一是如何减少模型产生的幻觉或错误响应。本文将讨论减少NLP模型幻觉的技术与挑战。

减少幻觉的第一步是提高模型的可观测性。这包括建立反馈循环，以捕获用户反馈和模型在生产环境中的表现。调整涉及通过添加更多数据、纠正检索问题或更改提示来改善不良响应。测试是确保更改能够改善结果且不会导致回归的必要步骤。在可观测性方面面临的挑战包括客户发送不良响应的截图，导致挫败感。为了解决这个问题，可以使用数据摄取和秘密代码每天监控日志。

调试和调整语言模型的过程涉及理解模型的输入和响应。调试需要记录日志，以识别原始提示并将其过滤到特定的块或引用。日志需要可操作且易于任何人理解。调整涉及确定应该向模型输入多少文档。默认数字并不总是准确的，相似性搜索可能无法得出正确答案。目标是找出出了什么问题以及如何修复。

向量数据库查询应用程序的开发者在优化应用程序中使用的OpenAI嵌入的性能时面临挑战。第一个挑战是确定传递给模型的最佳文档数量，通过控制分块策略和引入可控的超参数来解决。第二个挑战是提示变化，通过使用一个名为Better Prompt的开源库来解决，该库根据困惑度评估不同提示版本的性能。第三个挑战是改善OpenAI嵌入的结果，发现其在多语言场景中的表现优于句子变换器。

文章讨论了AI开发中使用的三种不同技术。第一种技术是困惑度，用于评估给定任务上提示的性能。第二种技术是构建一个包，允许用户轻松测试不同的提示策略。第三种技术是运行索引，涉及在缺少或不理想时用额外数据更新索引。这允许更动态地处理问题。

演讲者讨论了他们使用GPT-3 API根据查询计算困惑度的经验。他们解释了通过API运行提示并返回最佳下一个标记的对数概率的过程。他们还提到了微调大型语言模型以模仿特定写作风格的可能性，而不是嵌入新信息。