人工智能軟件,特別是深學(xué)習(xí)組件,是目前實(shí)現(xiàn)自主汽車等自主系統(tǒng)的最先進(jìn)和經(jīng)濟(jì)上可行的解決方案。然而,DL算法的性質(zhì)及其當(dāng)前的實(shí)現(xiàn)與汽車、衛(wèi)星和火車等安全關(guān)鍵系統(tǒng)中嚴(yán)格的軟件開發(fā)過程不一致。

傳統(tǒng)的安全相關(guān)軟件采用自上而下的方法,對(duì)組件進(jìn)行分解,并相應(yīng)地傳播安全要求,直至達(dá)到足夠簡(jiǎn)單的軟件單元。這些軟件單元本身及其構(gòu)成是基于顯而易見的獨(dú)立數(shù)據(jù)控制算法--例如,算法處理數(shù)據(jù)--但是?算法 在不需要任何數(shù)據(jù)的情況下進(jìn)行設(shè)計(jì)和驗(yàn)證。

傳統(tǒng)的軟件設(shè)計(jì)過程與DL軟件的構(gòu)建方式相沖突。DL軟件體系結(jié)構(gòu)(層次的類型、數(shù)量和組織)是根據(jù)經(jīng)驗(yàn)建立的,遵循基于直覺的優(yōu)化過程,并與(?訓(xùn)練 )循環(huán)中的數(shù)據(jù),以調(diào)整DL模型參數(shù)。

因此,所獲得的DL軟件由大型原子軟件單元組成,有一個(gè)通用的目標(biāo)(例如:,盡可能準(zhǔn)確地進(jìn)行預(yù)測(cè)),由特定的培訓(xùn)數(shù)據(jù)集創(chuàng)建,這些數(shù)據(jù)集隱式地確定了DL軟件的功能,并將其分解為較小的組件即:神經(jīng)網(wǎng)絡(luò)的分層。這些組件本身很少或沒有意義,缺乏可據(jù)以評(píng)估它們的具體要求,并具有無法獨(dú)立修改的內(nèi)部特性,因?yàn)镈L軟件的培訓(xùn)是以原子方式進(jìn)行的,并且在DL軟件的所有組件(層)之間存在強(qiáng)耦合。

此外,越來越精確的DL軟件通常是從更復(fù)雜的實(shí)現(xiàn)中獲得的,其中組件(層)的數(shù)量、它們的大小(神經(jīng)元的數(shù)量)和用于培訓(xùn)的數(shù)據(jù)數(shù)量增加,從而擴(kuò)大了傳統(tǒng)的安全關(guān)鍵軟件開發(fā)過程與DL軟件開發(fā)過程之間的差距。

安全解釋 這是一個(gè)由歐洲聯(lián)盟資助的項(xiàng)目,旨在彌補(bǔ)這一差距,以便能夠認(rèn)證基于DL的軟件組件,包括那些繼承高完整性故障操作安全要求的組件。它同時(shí)考慮三個(gè)支柱:

· 基于數(shù)據(jù)基的軟件組件

· 認(rèn)證實(shí)踐?功能安全 標(biāo)準(zhǔn)

· 商業(yè)平臺(tái)的高效執(zhí)行

考慮到其中任何一個(gè)支柱本身都注定要失敗。例如,安全標(biāo)準(zhǔn)將軟件構(gòu)建的開發(fā)強(qiáng)加于在循環(huán)中沒有數(shù)據(jù)的明確定義的確定性算法上。然而,DL軟件往往具有隨機(jī)性。通過培訓(xùn)實(shí)例對(duì)預(yù)期算法進(jìn)行隱式學(xué)習(xí),可以產(chǎn)生不同信心的預(yù)測(cè),包括錯(cuò)誤預(yù)測(cè)。因此,試圖將DL軟件的特性限制在當(dāng)前的安全標(biāo)準(zhǔn)是一個(gè)沒有希望的任務(wù)。

相反,SAF解釋的工作是針對(duì)DL軟件的設(shè)計(jì),使其屬性符合一般的安全原則,如解釋性和?可追蹤性 ,自然而然地出現(xiàn)。這樣,即使基于DL的軟件組件是原子性質(zhì)的,它們已經(jīng)提供了可以詳細(xì)闡述驗(yàn)證參數(shù)的屬性。

與此同時(shí),SAF解釋了旨在調(diào)整安全標(biāo)準(zhǔn)的工作,使非常規(guī)的方法能夠認(rèn)證軟件;例如,繼承了故障率是開發(fā)過程一部分的硬件組件的實(shí)踐,同時(shí)保留了允許詳細(xì)闡述安全論據(jù)的關(guān)鍵原則,這樣,在安全關(guān)鍵系統(tǒng)的開發(fā)過程中,就有可能接受實(shí)現(xiàn)有意義的預(yù)測(cè)準(zhǔn)確性所需的DL軟件特性。

這兩個(gè)支柱--DL軟件開發(fā)和根據(jù)安全標(biāo)準(zhǔn)進(jìn)行認(rèn)證--都需要在第三個(gè)支柱--商業(yè)平臺(tái)上有效執(zhí)行的范圍內(nèi)進(jìn)行。換句話說,所實(shí)現(xiàn)的性能和所需的計(jì)算資源必須在范圍之內(nèi)。

因此,SAF解釋的設(shè)想是,DL軟件的開發(fā)在不改變其主要步驟的情況下受到限制,以保持準(zhǔn)確性和與平臺(tái)相關(guān)的要求,從而最終能夠詳細(xì)闡述替代安全論據(jù),從而能夠?qū)贒L的軟件解決方案進(jìn)行認(rèn)證。為此,SAF解釋將考慮到各種各樣的安全模式,考慮到完整性水平的差異,有不同的要求(例如:,從低到高的完整性)以及故障安全和故障操作功能。所有這些元素都將改變軟件體系結(jié)構(gòu),從而改變基于dl的軟件組件繼承的安全要求。

考慮到目前工業(yè)中與安全相關(guān)的認(rèn)證做法,以及與安全相關(guān)應(yīng)用相關(guān)的現(xiàn)有高性能平臺(tái),SAFSAL解釋將提供切合實(shí)際的解決方案,以定制工業(yè)應(yīng)用中使用的DL軟件解決方案。這項(xiàng)工作將根據(jù)汽車、空間和鐵路領(lǐng)域的工業(yè)案例研究,作為安全關(guān)鍵應(yīng)用的代表,不斷評(píng)估項(xiàng)目解決方案。