《人工智能 终端硬件推理平台接口标准》.pdfVIP

ICS35.040

CCSL71

团体标准

T/AIXXX.XX—XXXX

人工智能终端硬件推理平台接口标准

ArtificialIntelligenceTerminalHardwareInferenceInterface

（征求意见稿）

在（提交反馈意见时，请将您知道的相关专利连同支持性文件一附上）

XXXX-XX-XX发布XXXX-XX-XX实施

中关村视听产业技术创新联盟发布

T/AIXXX-XXXX

目次

前言II

1范围1

2规范性引用文件1

3术语和定义1

4缩略语1

5整体架构2

5.1使用场景2

5.2接口分类2

6算子3

7模型构建接口3

7.1算子注册类接口3

7.2Graph接口5

7.3Model接口7

8模型编译接口

8.1BuildlRModel接口

模型执行接口

.1Init接口

.2Load接口

.3Process接口10

.4UnLoad接口10

.5Cancel接口10

.6）【elnit接口10

附录A（资料性附录）接口示例基于C++语言描述12

附录B（资料性附录）使用步骤描述1

T/AIXXX-XXXX

刖言

本文件按照GB/T1.1-2020《标准化工作导则第1部分:标准化文件的结构和起草规则》的规定起

草。

请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。

本文件由新一代人工智能产业技术创新战略联盟AI标准工作组提出。

本文件由中关村视听产业技术创新联盟归口。

本文件起草单位：华为技术有限公司、旷世科技有限公司、科大讯飞有限公司、字节跳动有限公司。

本文件主要起草人：文长春、马伟刚、秦巍、纪东良、麦睿楷、李小娟、关贺、刘勇。

II

T/AIXXX-XXXX

人工智能终端硬件推理平台接口标准

1范围

本文件规定了终端硬件推理平台的算子、模型构建、模型编译以及模型执行等不同类型

接口的定义。

本文件适用于终端硬件推理平台API的设计和开发，

2规范性引用文件

下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期

的引用文件，仅该日期对应的版本适用于本文件；不注明日期的引用文件，其必威体育精装版版本(包

括所有的修改单)适用于本文件。

T/AIXXX1-202X人工智能算子接口第