📢 转载信息
原文链接：https://www.bbc.com/news/articles/c62ndl2ydzxo?at_medium=RSS&at_campaign=rss
原文作者：BBC News
人工智能（AI）模型的“幻觉”现象——即生成看似可信但事实上错误的信息——一直被视为其广泛应用的主要障碍。
但一位研究人员提出了一个反直觉的观点：这些“幻觉”可能是AI产生真正创造力的关键。
当AI模型被设计成必须完全遵循训练数据时，它们往往会陷入思维定势。而当模型被允许“犯错”或产生不合逻辑的输出时，它们可能更接近于人类的直觉式思考，从而带来突破性的解决方案。
这种观点颠覆了人们对AI错误处理的传统认知。
AI“幻觉”的本质
“幻觉”是大型语言模型（LLM）生成内容时出现的一种常见现象。它们通常是流畅且自信的，但其内容却与事实脱节。
例如，一个模型可能会声称某位历史人物在某个从未发生过的事件中扮演了关键角色，或者引用不存在的科学文献。
传统上，研究人员努力通过更严格的训练数据和更精确的算法来消除这些幻觉，因为它们被视为不可靠的信号。
然而，加州大学圣巴巴拉分校（UC Santa Barbara）的计算机科学家大卫·詹姆斯（David James）提出，过度抑制这些随机性可能正在扼杀AI的创新潜力。
创造力与随机性的联系
詹姆斯的研究重点是AI的“探索空间”。他认为，人类的创造过程很少是纯粹逻辑驱动的；它往往依赖于偶然的联想、类比和非线性的跳跃。
他将AI的“幻觉”类比为人类思维中的“离题”或“白日梦”。
“我们认为，‘幻觉’是模型在尝试从其庞大知识库中构建新概念时，突破现有知识边界的一种表现。如果模型总是被要求保持绝对准确，它只会重复已知信息。”
詹姆斯的研究团队正在探索如何有意识地控制这些非线性输出，而不是试图完全消除它们。目标是让AI在需要事实准确性时保持严谨，而在需要创造性或解决棘手问题时，则允许其进行受控的“漫游”。
案例：解决未解的科学难题
在某些高难度、跨学科的问题上，标准的、基于证据的推理可能不足以找到解决方案。这些问题通常需要“横向思维”。
研究人员发现，当AI生成一些看似“荒谬”的连接时，人类专家往往能从中提取出有价值的灵感。
- 新颖的化学合成路径：模型可能提出基于不常见反应的假设，这些反应在传统教科书中未被强调。
- 理论物理的类比：AI可能将生物学概念应用于粒子物理学，这在严格的物理学框架内是不可想象的，但可能开启新的研究方向。
詹姆斯表示，这与奥卡姆剃刀原则形成对比，该原则主张“如无必要，勿增实体”（即倾向于最简单的解释）。在探索未知领域时，“增添实体”的幻觉可能正是突破口。
如何管理“幻觉”
将“幻觉”视为一种潜在的创新工具，需要对AI系统的设计进行根本性的转变。
詹姆斯强调，关键在于“度”和“情境”。
- 情境识别：系统必须能够判断当前任务是需要绝对事实（如法律文本摘要）还是需要发散性思维（如艺术概念生成）。
- 可控的随机性：引入一个可调的“温度”（Temperature）或“探索参数”，允许用户在“保守模式”和“创新模式”之间切换。
- 人类反馈循环：将人类的判断力集成进来，对AI生成的“幻觉”进行过滤和评估，保留那些有希望的非传统见解。
虽然“幻觉”在需要高度可靠性的领域（如医疗诊断或自动驾驶）仍然是重大风险，但对于探索性任务，这种“非理性”的输出可能代表了通往下一代更具适应性和创造性AI的桥梁。
最终，真正的智能或许不在于完美地记忆世界，而在于能够有效地想象一个不存在的世界。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区