大模型在复杂推理任务上潜力如何？多智能体互动框架ThinkThrice玩转剧本杀

剧本杀是一种广受欢迎的多角色扮演侦探游戏，要求玩家扮演不同的角色。通过阅读角色文本、理解各自的故事、搜集线索、以及逻辑推理，玩家们共同努力揭开谜团。游戏角色通常被分为平民和凶手两大类：平民的目标是找出隐藏在他们中间的凶手，而凶手则尽力隐藏自己的身份，避免被发现。那么，如果让 AI 加入游戏，会产生怎样的新变化呢？

剧本杀游戏流程。

加拿大蒙特利尔大学和 Mila 研究所的研究团队带来了一项令人兴奋的新研究，将 AI 的潜力引入到剧本杀游戏中。这项研究不仅展现了大型语言模型（LLM）在复杂叙事环境中的应用潜力，而且为 AI 智能体的推理能力评估设定了新的试验场。让我们一起深入了解这项研究的细节和其带来的启发。

研究动机：AI 与剧本杀的交汇

AI 的进步已经使其被广泛应用于各种游戏中。然而，剧本杀游戏以其独特的玩法和复杂的设置，仍是一块待开发的新领域。为了将 AI 引入剧本杀游戏中，蒙特利尔大学的研究团队面临三个主要挑战：

首先，剧本杀游戏中复杂的角色情节和人物关系要求 AI 不仅要理解所扮演的游戏角色的背景和动机，还要能够适应游戏剧情的多层次叙事，通过在游戏中和其他角色互动来收集其他角色的信息、还原案件原貌。

其次，由于缺乏专门为剧本杀设计的数据集，需要开发一个包含丰富文本的剧本杀数据集，这对于启动和评估 AI 模型至关重要。

最后，如何准确定量和定性地评估 AI 在剧本杀游戏中的表现也是极具挑战性的任务。因为在剧本杀游戏中，目标不仅是赢得比赛，更重要的是理解游戏剧情并揭露案件的真相。为此，AI 需要在参与游戏的过程中展示出卓越的沟通交流、信息收集以及逻辑推理能力。

这项研究的贡献主要涵盖四个方面：

首先，团队构建了一个专门针对剧本杀游戏的数据集，旨在启动和评估 AI 模型；

其次，团队设计了一个多智能体互动框架，允许剧本杀游戏自动进行，从而无需人为干预；

再者，团队开发了一套量化和质化评估方法，以评估 LLM 智能体在游戏中的信息搜集和推理能力；

最后，通过利用最新的上下文学习技术，团队设计了增强 LLM 智能体性能的模块。

此项研究不仅推动了 AI 在多角色互动的复杂叙事游戏：剧本杀中的应用研究，也为智能体的评估和性能优化提供了新的视角和方法。

数据集构建：剧本杀游戏的数字化转型

为了在剧本杀的环境下启动和评估 AI 模型，研究团队精心收集了 1115 个剧本杀游戏案例，创建了一个庞大的数据库。这些游戏包含了丰富的关于剧本杀游戏的游戏规则、剧情故事、角色背景、案件线索等文本信息，为 AI 的仿真和测试提供了理想的素材，使得研究人员能够在模拟的环境中准确观察和评估 AI 智能体的表现。此外，数据集还提供了图片、视频、音频等多模态的信息，为未来多模态的 AI 智能体的开发和测试提供了可能。

表 1. 剧本杀数据集中不同模态的游戏剧本数量

表 2：剧本杀数据集中游戏剧本的玩家数量和token统计。

ThinkThrice 框架：AI 如何玩转剧本杀

研究团队开发了一个名为 ThinkThrice (三思) 的多智能体互动框架，允许基于 LLM 的 AI 智能体自主参与剧本杀游戏。这个框架通过记忆检索、自我完善和自我验证三个使用上下文学习技术的 模块确保 AI 智能体能够有效地理解游戏情景，收集信息，并进行逻辑推理。AI 智能体的每一步动作，包括询问、回应、投票等，都是基于其角色剧本和以往的交互记录由 LLM 自动产生的。

ThinkThrice (三思) 框架。

评估方法：新的评价标准

研究者设计了事实性问题回答和推理性问题回答两项任务来评估 AI 智能体的表现。事实性问题旨在测试 AI 智能体在游戏过程中收集的信息量，而推理性问题则评估 AI 使用这些信息进行推理的能力。其中推理性问题不仅需要考察 AI 智能体对特定问题的答案，还要评估其背后的推理过程是否合理。

表 3：事实性问题示例。

表 4：推理性问题示例。

实验结果：AI 智能体的侦探能力评估

实验结果表明，与基线模型相比，引入记忆检索、自我完善和自我验证模块的 AI 智能体在回答关于其他角色的事实性问题时，准确率得到了显著提升。这证明了信息交流在理解游戏中其他角色的行为和动机方面至关重要。此外，AI 智能体信息收集能力的增强，也显著提高了其在推理解案和识别凶手方面的表现。这表明 AI 智能体通过收集充足的信息和进行有效的推理，能够更准确地确定凶手身份。

表 5：AI 智能体回答关于自己扮演角色的事实性问题 (Own Q) 和其他角色的事实性问题 (Other’s Q) 的准确率。

AI 智能体使用 GPT-3.5 和 GPT-4 时的推理准确率。

AI 智能体的凶手识别准确率和平民玩家胜率。

结语

该研究通过将大型语言模型（LLM）智能体引入侦探角色扮演游戏 “剧本杀”，探索了 LLM 智能体在复杂叙事环境中的应用潜力，为观察和评估 LLM 智能体的行为及能力提供了新的视角和方法，并为社区深入理解大型语言模型的能力开辟了新途径。通过实证研究，该团队证明了其设计的多智能体互动框架和上下文学习模块在信息收集、凶手识别和逻辑推理能力方面，相较于基线模型有了显著提升。这一发现预示着 LLM 在复杂推理任务中应用的广阔前景。预计在不远的将来，AI 将能够与人类携手解决复杂场景的推理问题。