可信人工智能自我评估的极简输入 RAG 基础工具：TAI 扫描工具-计算机科学-人工智能-检索增强生成.pdfVIP

可信人工智能自我评估的极简输入RAG基础工具：TAI

扫描工具

AthanasiosDavvetasXeniaZiouvelouYpatiaDamiAlexisKaponis

KonstantinaGiouvanopoulouMichaelPapademas

国家科学研究院“德谟克利特”

计算机与电信研究所

雅典

希腊

本{tdavvetas,xeniaziouvelou,ypatia,akaponis,kgiouvano,

译papademasmichael}@iit.demokritos.gr

中

1摘要

v

4本文介绍了TAI扫描工具，这是一个基于检索增强生成（RetrievalAugmentedGeneration）的极

1简输入型可信人工智能自我评估工具。该工具的当前版本支持法律上的TAI评估，并特别强调促进遵

5

7守《人工智能法案》。其采用两步方法，包括预筛选和评估阶段。系统的评估输出包括根据《人工智能

1法案》对AI系统风险水平的见解，同时检索相关条款以帮助合规并通知其义务。我们使用用例场景进

.

7行的定性评估结果令人鼓舞，在正确预测风险等级的同时在三个不同的语义组中检索相关文章。此外，

0结果解释表明该工具的推理依赖于与高风险系统的设置进行比较的行为，这种行为归因于它们部署时

5

2需要仔细考虑，因此经常出现在《人工智能法案》中。关键词：检索增强生成，可信AI，法律TAI自

:

v我评估，《人工智能法案》

i

x

r

a1介绍

人工智能（AI）的快速发展使其得以在全球范围内应用于众多领域，提供了经济和社会利益。

然而，它的出现既伴随着炒作也受到了质疑，关于其对人类和整个社会的影响存在不同的看法[1]。

最近，通用人工智能（GPAI）系统的使用和采用率不断增加，这主要是由于大型语言模型（LLMs）

的必威体育精装版进展以及它们的开放访问性。然而，这种广泛采纳揭示了许多新的复杂挑战，与新兴AI系

统的道德使用及法律监管相关[2]。因此，我们可以看到技术进步放大了对可信人工智能（TAI）的

重要性和需求，这正变得越来越具有适用性[3]。

对人工智能系统可信度的研究，旨在培养对此类系统的信任。欧盟委员会高级专家组[4]提供

了一个可信赖的人工智能（TAI）框架，该框架包含三个组成部分，即道德、法律和稳健性。此外，

它还包括一组作为实现TAI要求的TAI原则。这些组件确保它们保护人类价值观并尊重道德原则

（道德），遵守所有适用的法律法规（法律），并且从技术和社交角度来看是稳健的（稳健）。另外，

还指出这三个组成部分应贯穿整个系统的生命周期，使我们的社会能够实现“负责任的竞争”。此

外，采用TAI原则并通过技术手段和非技术手段对其进行评估，支持快速、安全且可靠地采用负责

任的人工智能系统。

1

DRAFT

然而，将所有三个组成部分整合并对其对齐的过程可能需要大量的人力资源和经济资源，特别

是对于微小组织和初创企业[5]。这可以归因于所需的专业知识以实现与这些原则的集成和协调，以

及在整个生命周期中评估AI系统以确保合规所需的努力。中小型企业(SMEs)或初创公司将大部

分资源用于在全球高度竞争的市场中开发新颖