什么是人工智能幻觉，为什么会出现幻觉，如何检测幻觉？

您多久会反复检查人工智能生成的信息？对我们很多人来说，答案可能是 "不经常"。人工智能已迅速成为我们默认信任的东西。因为它是在大量数据的基础上训练出来的，所以很多人认为它的答案总是准确的。

但这种假设并不总是正确的。

虽然人工智能对学习很有帮助，但它仍然可能产生不准确、误导甚至捏造的信息。而这些错误往往是如此令人信服，以至于我们可能无法在第一时间发现它们。随着人工智能越来越多地融入日常生活，了解它的局限性与了解它的好处同样重要。

请继续阅读，了解人工智能幻觉、幻觉发生的原因、如何发现幻觉以及如何减少幻觉的影响。

什么是人工智能幻觉？

当人工智能系统生成虚假或误导性信息，却自信满满地将其呈现出来时，就会产生人工智能幻觉。这不是简单的错别字或微小的计算错误，而是毫无事实根据的事实、数字或说法。

例如，人工智能可能会描述一个实际上从未发生过的历史事件。它还可以添加虚假的日期、统计数据和资料来源，使答案看起来更有说服力。这就是为什么学生甚至专业人士 如果不核实信息，有时会被误导。

为什么使用 "幻觉 "一词？

为什么要用 "幻觉 "这个词，而不是简单地说人工智能犯了错？

这是因为，犯一个小错误是一回事，但产生完全虚构的信息则是另一回事。幻觉 "一词就是用来强调这种区别的。它指的是人工智能生成的信息看似真实，但并非基于真实数据。

就像幻觉会让人感知到实际上并不存在的东西一样，人工智能也会产生看似准确实则错误的反应。关键的区别在于，人工智能并没有意识到这种错误；它只是根据训练数据生成模式。

人工智能的幻觉是什么样的？

人工智能幻觉可能表现为编造的引文、不准确的事实、关于人的虚假信息、捏造的统计数据，甚至是编程输出中不存在的代码。这些都是人工智能幻觉最常见的表现形式。

然而，上述例子只是人工智能幻觉出现的一些常见方式。根据问题的类型，人工智能幻觉还可能出现在许多其他方面。下表解释了常见的幻觉类型及其含义和示例。

人工智能的幻觉和错误输出是一回事吗？

不，人工智能的幻觉和有缺陷的输出不是一回事。虽然两者都涉及错误信息，但错误的性质是不同的。

错误输出通常表现为语法错误、拼写错误或格式问题。而人工智能幻觉则是指系统生成的信息完全是编造的，但却被当作正确的信息。

下面是一个例子，可以更好地理解两者的区别。

如果仔细观察这三个例子，差异就会一目了然。有缺陷的版本仍然引用了同一份研究报告，但在格式和引用方面存在错误。与此同时，幻觉版本介绍了一项完全不同、根本不存在的研究，但在学术上似乎仍然有效。

Why Do AI Hallucinations Occurur?

人工智能的幻觉并不是随机出现的故障。它们是语言模型设计和训练的自然结果。由于人工智能系统是根据模式而不是经过验证的事实来生成反应的，因此某些条件会增加输出不准确的可能性。

让我们来详细分析一下这些关键原因：

1.人工智能模型基于可预测性而非事实

每个人工智能模型都是在大型数据集上训练出来的。因此，它可以从所接触的信息中学习模式、关系和语言结构。当用户提出问题时，模型会根据这些模式生成回复，而不是检查信息是否与事实相符。

理解这一点的一个好方法是想象一个二年级的学生被要求写一个他们并不熟悉的历史事件。他们并不承认自己的不确定性，而是试图利用自己记忆中的零星信息来填补空白。这样写出来的文章可能文笔优美、自信满满，但有些事实、日期或事件可能完全不准确。

人工智能模型也有类似的行为。当它们缺乏可靠信息时，可能会生成符合对话模式的细节，即使这些细节是不正确的。这就是为什么人工智能生成的回复应始终经过事实核查的原因，尤其是在教育和研究环境中。

2.模型可以从不准确或过时的信息中学习

人工智能系统从大量在线内容中学习，包括网站、文章、论坛、书籍和其他公开信息。因此，模型有时会吸收不正确的信息、过时的事实或相互矛盾的观点。

当被问到一个问题时，它可能会产生幻觉而不知道这些事实是错误的，因为它对什么是真什么是假没有内在的理解。例如，人工智能可能会提供一个过时的统计数据，或者错误地引用一个最初发布在不可靠网站上的引文。

3.人工智能平台可能会跟丢指令

在长时间对话中，人工智能并不总是能准确记住之前的指令。随着聊天时间的延长，它可能会更关注最近的信息而不是以前的信息。因此，它可能会开始改变语气和格式，甚至在回答问题时出错。

例如，如果用户在开始长时间对话时设定了严格的准则，那么模型可能会逐渐偏离这些准则。这可能会造成这样一种情况，即回答听起来很自信，但却不再完全符合最初的指示。

4.有时提示会令人困惑

有时出现幻觉并不是因为人工智能本身，而是因为提示不明确。

人工智能系统在很大程度上依赖于用户输入的清晰度和结构。如果提示过于宽泛或不清晰，模型就不得不做出假设来生成响应。这些假设很容易导致幻觉。

例如，在没有上下文的情况下询问 "告诉我那个理论"，会迫使模型猜测所引用的是哪个理论。人工智能工具可能会解释错误的理论，但会继续自信地做出回应。

同样，将多个不相关的问题合并到一个提示中也会混淆模型。它可能会混合来自不同主题的信息，从而降低准确性。清晰而具体的提示会大大降低这种风险。

如何检测人工智能幻觉？

无论您是将人工智能用于学习、研究还是常识普及，识别幻觉都是一项基本技能。它可以帮助你将可靠的信息与编造的内容区分开来。以下是识别幻觉的实用方法。

1.查找缺失的来源

幻觉内容的最大标志之一就是往往缺乏引文或提供的参考资料含糊不清。可靠的信息通常都有清晰可查的参考文献。如果人工智能提供的说法没有任何来源，就应该谨慎对待。

2.检查来源是否可以核实

即使人工智能以资料来源支持其主张，您仍应独立核实。幻觉也可能表现为虚假、不准确或错误的引用。在某些情况下，来源可能看起来合法，但实际上可能并不存在。快速搜索可以帮助确认来源是否真实，是否支持所做的声明。

3.注意自信但错误的答案

人工智能模型旨在生成最有可能延续的文本，即使它们缺乏有关某个主题的足够信息。因此，尽管答案包含事实错误，但仍可能显得具有权威性。

如果回答看起来异常肯定，请花点时间核实信息。请记住，自信可以使回答听起来可信，但并不能保证准确。

4.与教科书或可信来源比较

当您收到人工智能的回复时，请与值得信赖的来源进行核对，如教科书、学术期刊、官方网站或有信誉的教育资源。这是识别幻觉和确保准确性的最有效方法之一。

5.发现与你已知信息不符的细节

在评估人工智能回答时，尽量运用自己已有的知识。如果感觉某些细节与您从课堂、教科书或可靠来源中已经了解的知识不一致，则可能需要进一步验证。

6.要求人工智能解释其答案

永远不要把人工智能的第一反应当作最终真相。相反，请它进一步解释或阐述其答案。如果解释前后不一致或没有真凭实据，则可能是幻觉。在某些情况下，人工智能甚至会自相矛盾。

7.使用值得信赖的人工智能幻觉检测器

您还可以使用值得信赖的人工智能幻觉检测器来识别可能不准确或捏造的信息。这些工具会分析人工智能生成的内容，并突出显示可能需要进一步核实的说法。

减少人工智能幻觉的最佳做法

人工智能是一个强大的工具，但它并不完美。由于人工智能根据模式生成反应，因此无法完全消除幻觉。不过，几种实用的策略可以大大降低收到不准确信息的几率。

1.给出明确具体的提示

避免使用过于宽泛的提示。不明确的指示会迫使人工智能做出假设，从而增加产生幻觉的风险。明确定义您想要什么，包括相关上下文，并在必要时指定回复的格式或目标。提示越精确，回答就可能越准确和相关。

例如，与其提问 "解释光合作用"，不如提问 "用简单的语言为高中生解释光合作用，并举一个简单的例子"。

2.询问来源或推荐人

要求人工智能为其提出的主张提供资料来源或引文。例如，你可以直接要求"给我你提出的这一说法的来源"。收到来源后，一定要独立审查。检查它们是否确实存在，是否真正支持所提供的信息。

如果找不到来源或来源与说法不符，请谨慎对待答复，并再次向人工智能询问以求澄清。收到人工智能的引文后，考虑使用引文机器工具检查其格式是否正确，并确保其与真实出版物相对应。

3.将问题分解成更小的部分

如前文所述，人工智能的上下文窗口 是有限的，这意味着它在处理非常大或复杂的提示时会很吃力。当一个问题包含太多想法时，模型可能会遗漏细节或混合不相关的信息。

为了提高准确性，请将您的查询分成更小、更集中的部分。这可以让人工智能更清晰地处理每个想法，减少混淆或产生幻觉的机会。例如，在要求人工智能解释论文题目时，您可以将其分成摘要、目标和方法等部分。

4.仔细检查重要答案

人工智能本质上并不像人类那样理解真相或准确性。因此，请务必审查从人工智能接收到的任何重要信息。这一点在将人工智能用于教育目的或研究学术课题时尤为重要。在这种情况下，您绝不能盲目相信人工智能生成的回复。

人工智能幻觉检测器对教育工作者的益处

随着人工智能成为现代教学环境的重要组成部分，人工智能幻觉检测器可以成为教育工作者的重要辅助工具。它可以在以下方面提供帮助

• 识别人工智能生成的错误信息：它们可帮助教育工作者快速检测人工智能辅助学生作业中的虚假、误导或捏造内容。这可确保学术内容的准确性和可靠性。

• 节省检查学生作业的时间：教育工作者可以使用这些工具来标记潜在的不恰当信息以进行审查，从而简化评估过程，而不是手动核实每个细节。

• 支持公平可靠的评估：人工智能探测器工具可以突出显示人工智能生成的不准确内容，从而更容易保持评分的公平性和一致性。

• 帮助教授如何负责任地使用人工智能：当学生知道他们的作业会被检查是否有人工智能生成的错误时，他们就会更加谨慎地使用人工智能工具。这鼓励他们负责任地使用人工智能，而不是将其作为完成作业的捷径。

最后的想法

虽然人工智能可以大大提高工作效率和学习效率，但它绝不能取代批判性思维。关键的启示很简单：人工智能是一种辅助工具，而不是权威。当用户学会如何质疑、评估和完善人工智能生成的内容时，他们就能从人工智能的优势中获益，同时避免其弱点。

这种平衡的方法确保了人工智能的实用性、安全性和学术责任感。

FAQs

1.ChatGPT 会产生幻觉吗？

是的，ChatGPT 可以产生幻觉，因为它是一个基于概率的语言模型，而不是一个事实检索搜索引擎。它根据模式预测最有可能出现的词序，而不是根据实时事实数据库验证信息，从而生成回复。

2.简单的问题也会产生人工智能幻觉吗？

是的，如果模型缺乏精确或可靠的训练示例，即使是简单的问题也可能出现人工智能幻觉。在这种情况下，它仍可能根据模式预测生成一个有把握的答案。

3.哪些受试者受人工智能幻觉影响最大？

需要精确的领域，如医学、法律、历史和科学研究，更有可能面临幻觉风险。这是因为这些学科在很大程度上依赖于精确的数据和经过验证的来源，即使是很小的错误也会导致误导性的结论。