微软透露了能修正 AI 幻觉的新工具 Correction。幻觉是大模型固有的缺陷，Correction 主要是通过交叉验证去修正幻觉，它并不能从根本上解决幻觉问题。Correction 首先标记潜在有错误的文本，然后将其与事实来源进行比较进行事实核查。Correction 作为 Azure AI Content Safety API 的一部分提供给用户，能与任何文本生成模型一起使用，包括 Meta 的 Llama 和 OpenAI 的 GPT-4o。华盛顿大学的博士生 Os Keyes 认为 Correction 可能会减少部分问题，但也会产生新的问题，因为它的幻觉检测库也会产生幻觉。

https://slashdot.org/story/24/09/25/0452207/microsoft-claims-its-new-tool-can-correct-ai-hallucinations