GOFAI 遇见生成式 AI：通过大规模语言模型开发专家系统-计算机科学-大语言模型-专家系统.pdfVIP

GOFAI遇见生成式AI：通过大规模语言模型开发专家系统

1,23

EduardoC.Garrido-MerchánandCristinaPuente

1QuantitativeMethodsDepartment,ComillasPontificalUniversity

2InstituteofResearchinTechnology(IIT),Madrid,Spain.

3ComputerScienceDepartment,ICAISchoolofEngineering,ComillasPontificalUniversity,

28015Madrid,Spain

2025年7月

本摘要

译大型语言模型（LLMs）的发展成功地变革了基于知识的系统，如开放领域的问题回答系统，能

中够自动生成大量的看似连贯的信息。然而，这些模型存在一些缺点，比如幻觉现象或自信生成错误

1或无法验证的事实。本文介绍了一种利用LLMs以受控和透明的方式开发专家系统的全新方法。通

v

0过限定领域并采用结构良好的基于提示的提取方法，我们生成了Prolog中的知识符号表示形式，这

5种形式可以由人类专家进行验证和修正。这种方法还保证了所开发专家系统的可解释性、扩展性和

5

3可靠性。通过对ClaudeSonnet3.7和GPT-4.1进行定量和定性实验，我们展示了生成的知识库在

1事实准确性和语义连贯性方面具有很强的一致性。本文提出了一种透明的混合解决方案，将LLMs

.

7的记忆能力与符号系统的精度相结合，为敏感领域的可靠AI应用奠定了基础。

0

5

2

:1介绍

v

i

x

r自70年代和80年代开发出首批专家系统如DENDRAL[8,10],MYCIN[29],XCON[2]及其他一些

a

系统以来，这项技术作为知识与建议的辅助手段，在诸如医疗、法律、教学等众多任务中不断演进。

创建专家系统时面临的最大复杂性之一是为其提供完整且可靠的知识。为此任务，通常会使用一

位对该主题有深入了解的人类专家以及大量问卷或其他方法来捕捉以图、决策树、知识规则[13]等形

式获得的知识，以便尽可能有效地提取所获知识[23]。

随着2010年大型语言模型（LLM）的出现，拥有海量数据信息容量的系统，在生成针对特定任

务的小领域系统方面开启了一个全新的世界。因此，医疗、教育和完成类的聊天机器人迅速被创建出

来，允许流畅对话并回答多种新的问题[9]。问题是，并非系统返回的所有知识都是可靠的。正如[15]

和[18]所指出的那样，LLM在急于给出答案时会产生幻觉，即错误或不准确的知识作为答案。这里的

问题很严重，因为如果知识来源不可靠，答案也不应可靠，因此，除非我们进行检查，否则系统将传

播错误信息。

大规模语言模型中的幻觉是系统在数据不准确或内部故障时产生的虚假响应。在将大规模语言模

型应用于系统中时，检测这些幻觉至关重要，因为这可能会导致医疗、科学、商业等敏感过程中出现

严重错误，并且由于缺乏验证或解释[24]，可能导致网络中虚假信息的传播。

幻觉的产生可以归类为以下原因中的失败：[27,20]：数据失败[7]，因为它们不是必威体育精装版的、存在偏

见的数据或与假新闻混合在一起，访问某些信息源时存在知识产权问题等。在图1提出的情况下，有

1

明显的过时信息案例，因为在提问前的15天内系统数据中没有教宗弗朗西斯去世的信息。即便如此，

它仍然断言截至5月7日，教宗仍然健在。