T/CESAXXXX—202X

向自動(dòng)駕駛應(yīng)用的計(jì)算芯片第3部分：人工智能應(yīng)用工具鏈

1范圍

本文件規(guī)定了面向自動(dòng)駕駛應(yīng)用的計(jì)算芯片配套人工智能應(yīng)用工具鏈的基本要求及其可靠性要求,

適用于面向自動(dòng)駕駛應(yīng)用的計(jì)算芯片。

本文件適用于面向自動(dòng)駕駛應(yīng)用的計(jì)算芯片配套人工智能應(yīng)用工具鏈的設(shè)計(jì),適用于第三方機(jī)構(gòu)對(duì)

面向自動(dòng)駕駛應(yīng)用的計(jì)算芯片進(jìn)行綜合性的性能測(cè)試與評(píng)估，也適用于用戶(hù)在面向自動(dòng)駕駛應(yīng)用的計(jì)算

芯片軟硬件產(chǎn)品的采購(gòu)、選型時(shí)參考。

2規(guī)范性引用文件

下列文件中的內(nèi)容通過(guò)文中的規(guī)范性引用而構(gòu)成本文件必不可少的條款。其中,注日期的引用文件,

僅該日期對(duì)應(yīng)的版本適用于本文件;不注日期的引用文件,其最新版本(包括所有的修改單)適用于本文

件。

GB/T34590-2017道路車(chē)輛功能安全

T/CESA1120—2020人工智能芯片面向邊緣側(cè)的深度學(xué)習(xí)芯片測(cè)試指標(biāo)與測(cè)試方法

ISO/PAS21448道路車(chē)輛預(yù)期功能安全（Roadvehicles—Safetyoftheintendedfunctionality）

EURONCAP.EuroNCAP2020Roadmap.Brussels.2015,2017。

3術(shù)語(yǔ)和定義

下列術(shù)語(yǔ)和定義適用于本文件。

3.1

面向自動(dòng)駕駛應(yīng)用的計(jì)算芯片computingchipforautomaticdrivingapplications

一種能夠同時(shí)滿(mǎn)足人工智能及異構(gòu)算力需求和通用計(jì)算的可靠性要求的邊緣側(cè)計(jì)算設(shè)備。

3.2

工作負(fù)載workload

為測(cè)試目的，運(yùn)行在計(jì)算系統(tǒng)中的給定任務(wù)集合。

注：一般包含輸入、輸出要求，計(jì)算數(shù)量和種類(lèi)及所要求的計(jì)算資源。

[來(lái)源：ISO/IEC/IEEE24765:2017，3.4618]

3.3

有效推理計(jì)算能力effectivecomputingability

在給定任務(wù)集合上，對(duì)每個(gè)任務(wù)的實(shí)際吞吐率與其基線(xiàn)吞吐率之比的加權(quán)幾何平均。

3.4

每秒浮點(diǎn)運(yùn)算次數(shù)floatingpointoperationspersecond

在執(zhí)行某項(xiàng)任務(wù)過(guò)程中，關(guān)于特定種類(lèi)操作的每秒執(zhí)行浮點(diǎn)運(yùn)算次數(shù)。

注：對(duì)訓(xùn)練、推理任務(wù)，一般設(shè)定特定種類(lèi)操作的范圍（如模型上的前向或反向計(jì)算所涉及的操作）。

3.5

1

T/CESA1218—2022

能量使用有效性powerusageeffectiveness

在同一時(shí)間段內(nèi)測(cè)量、計(jì)算或獲取的，面向自動(dòng)駕駛應(yīng)用的計(jì)算芯片消耗能量總量與信息技術(shù)設(shè)備

能量消耗總量的比值。

[來(lái)源：ISO/IEC30134-2:2016,3.1.3，有修改]

4縮略語(yǔ)

下列縮略語(yǔ)適用于本文件。

DFA相關(guān)失效分析(DependentFailureAnalysis)

DNN深度神經(jīng)網(wǎng)絡(luò)(DeepNeuralNetwork)

HMI人機(jī)接口(Human-MachineInterface)

SDK軟件開(kāi)發(fā)工具包(SoftwareDevelopmentKit)

SoC片上系統(tǒng)(System-on-a-Chip)

SOTIF預(yù)期功能的安全性(SafetyoftheIntendedFunctionality)

TOPS每秒萬(wàn)億次操作(TrillionOperationsPerSecond)

UT單元測(cè)試（UnitTest）

V&V驗(yàn)證和確認(rèn)(VerificationandValidation)

5基本要求

5.1工具鏈組成

面向自動(dòng)駕駛應(yīng)用的計(jì)算芯片的配套人工智能應(yīng)用工具鏈應(yīng)包含部分或全部以下工具：

a)自定義算子開(kāi)發(fā)相關(guān)工具，是AI工具鏈的重要組成部分，便于客戶(hù)根據(jù)需求進(jìn)行專(zhuān)用網(wǎng)絡(luò)的

驗(yàn)證和優(yōu)化；包括：自定義算子開(kāi)發(fā)本身的工具和相關(guān)插件的工具；

b)AI模型調(diào)優(yōu)相關(guān)工具，是AI性能優(yōu)化的重要工具，便于高效使用AI芯片；包括：

1)模型小型化工具：對(duì)AI模型進(jìn)行量化、剪枝、壓縮等降低計(jì)算量處理的工具。

2)模型調(diào)優(yōu)工具：針對(duì)車(chē)載自動(dòng)駕駛SoC基礎(chǔ)軟硬件架構(gòu)，對(duì)AI模型執(zhí)行過(guò)程進(jìn)行調(diào)優(yōu)的

工具。

3)模型編譯工具：將深度學(xué)習(xí)框架輸出的AI模型及算子編譯為車(chē)載自動(dòng)駕駛SoC的工具。

c)應(yīng)用開(kāi)發(fā)工具：自動(dòng)駕駛端到端業(yè)務(wù)的開(kāi)發(fā)工具；

d)運(yùn)行時(shí)工具，進(jìn)行功能和性能維測(cè)，包括：Debug工具，profiling工具等。

e)以及通用編譯工具鏈等，如C/C++編譯器。

AutoSar開(kāi)發(fā)框架工具：負(fù)責(zé)API接口，消息生成，AutoSar標(biāo)準(zhǔn)符合的工具。

寄存器配置讀寫(xiě)頭文件生成工具。

5.2工具鏈參考架構(gòu)圖

面向自動(dòng)駕駛應(yīng)用的計(jì)算芯片的人工智能應(yīng)用工具鏈參考架構(gòu)見(jiàn)圖1：

2

T/CESAXXXX—202X

圖1車(chē)載AI工具鏈參考架構(gòu)圖

6可靠性要求

6.1基線(xiàn)要求

6.1.1通用編譯器可靠性

一般為C/C++的編譯器。通過(guò)開(kāi)發(fā)過(guò)程滿(mǎn)足規(guī)范來(lái)保證可靠性：包括各種靜態(tài)和動(dòng)態(tài)檢查，包括測(cè)

試覆蓋率，包括代碼檢視等。

6.1.2小型化工具可靠性

常用的小型化方法包括量化，結(jié)構(gòu)化稀疏等。在保證工具開(kāi)發(fā)過(guò)程滿(mǎn)足規(guī)范獲得可靠性的前提下，

可基于小型化后的結(jié)果與預(yù)期的比較來(lái)驗(yàn)證和評(píng)估可靠性：例如基于精度對(duì)比的方式確保精度在設(shè)計(jì)范

圍。

小型化工具要具備確定性（可復(fù)現(xiàn)性），保證每次相同輸入可以得到相同結(jié)果的輸出。

6.1.3模型調(diào)優(yōu)工具

通過(guò)開(kāi)發(fā)過(guò)程滿(mǎn)足規(guī)范來(lái)保證可靠性：包括各種靜態(tài)和動(dòng)態(tài)檢查，包括測(cè)試覆蓋率，包括代碼檢視

等。

基于精度對(duì)比的方式確保精度在設(shè)計(jì)范圍。

6.1.4模型編譯工具

通過(guò)開(kāi)發(fā)過(guò)程滿(mǎn)足規(guī)范來(lái)保證可靠性：包括各種靜態(tài)和動(dòng)態(tài)檢查，包括測(cè)試覆蓋率，包括代碼檢視

等。具備確定性（可復(fù)現(xiàn)性），保證每次相同輸入可以得到相同結(jié)果的輸出。

6.1.5應(yīng)用開(kāi)發(fā)工具

3

T/CESA1218—2022

通過(guò)開(kāi)發(fā)過(guò)程滿(mǎn)足規(guī)范來(lái)保證可靠性：包括各種靜態(tài)和動(dòng)態(tài)檢查，包括測(cè)試覆蓋率，包括代碼檢視

等。具備確定性（可復(fù)現(xiàn)性），保證每次相同輸入可以得到相同結(jié)果的輸出。

6.1.6維測(cè)工具

通過(guò)開(kāi)發(fā)過(guò)程滿(mǎn)足規(guī)范來(lái)保證可靠性：包括各種靜態(tài)和動(dòng)態(tài)檢查，包括測(cè)試覆蓋率，包括代碼檢視

等。維測(cè)不影響業(yè)務(wù)本身。

6.2指標(biāo)要求

工具開(kāi)發(fā)本身測(cè)試滿(mǎn)足覆蓋率要求：如行覆蓋率100%，分支覆蓋率100%等。

確定性要求：同一版本相同輸入輸出結(jié)果二進(jìn)制一致。

7人工智能工具鏈可靠性測(cè)試

7.1工具開(kāi)發(fā)的功能安全合規(guī)

工具鏈功能安全符合ISO26262

7.2模型優(yōu)化工具可靠性

模型的優(yōu)化（Prunning）-》剪枝精度的可靠性比例-》量化

模型的量化（Quantization）-》量化后模型有效性的比例–》量化

模型的壓縮（Compressing）

7.3軟件工具可靠性

推理的實(shí)時(shí)能力。

VectorCast，UT覆蓋率100%

芯片設(shè)計(jì)工具的功能安全覆蓋度。

7.4故障檢測(cè)上報(bào)能力---硬件在環(huán)HIL

SOC內(nèi)部故障，包含硬件和軟件：推理/加速器件故障后，檢測(cè)時(shí)間多長(zhǎng)。

7.5加速器優(yōu)化工具鏈可靠性（模型轉(zhuǎn)換等）

人工智能計(jì)算中心的人工智能加速處理器，滿(mǎn)足以下可靠性要求：

a)應(yīng)支持以下故障的檢測(cè)，并提供容錯(cuò)方案實(shí)現(xiàn)：

1)HBM顆粒存儲(chǔ)空間失效，多比特ECC；

2)DDR顆粒存儲(chǔ)空間失效，多比特