破解大模型 AI “黑箱”難題，三維天地牽頭研制神經(jīng)網(wǎng)絡(luò)可解釋評(píng)估標(biāo)準(zhǔn) 為產(chǎn)業(yè)高質(zhì)量發(fā)展賦能

2025-12-10

12月1日，人工智能領(lǐng)域標(biāo)準(zhǔn)化工作取得重要進(jìn)展，中國(guó)電子學(xué)會(huì)正式發(fā)布《神經(jīng)網(wǎng)絡(luò)關(guān)鍵特性可解釋評(píng)估要求》團(tuán)體標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)由北京三維天地科技股份有限公司牽頭，聯(lián)合大連理工大學(xué)、工業(yè)和信息化部電子第五研究所、清華大學(xué)等權(quán)威機(jī)構(gòu)共同研制，將于2026年1月1日起正式實(shí)施。此舉標(biāo)志著我國(guó)在神經(jīng)網(wǎng)絡(luò)可解釋性評(píng)估領(lǐng)域建立了首個(gè)系統(tǒng)性規(guī)范，填補(bǔ)了國(guó)內(nèi)外相關(guān)標(biāo)準(zhǔn)的空白。

隨著神經(jīng)網(wǎng)絡(luò)，特別是大模型的深度應(yīng)用，其運(yùn)行效率、抗干擾能力不足以及普遍存在的“黑箱”問題，日益成為制約人工智能技術(shù)在工業(yè)生產(chǎn)、自動(dòng)駕駛、醫(yī)學(xué)診斷等關(guān)鍵復(fù)雜場(chǎng)景中可靠落地與廣泛推廣的瓶頸。提升神經(jīng)網(wǎng)絡(luò)的可解釋性、可靠性與適用性，已成為推動(dòng)人工智能高質(zhì)量發(fā)展、落實(shí)國(guó)家相關(guān)戰(zhàn)略部署的核心攻關(guān)方向。

《神經(jīng)網(wǎng)絡(luò)關(guān)鍵特性可解釋評(píng)估要求》標(biāo)準(zhǔn)應(yīng)運(yùn)而生，旨在系統(tǒng)性地解決上述挑戰(zhàn)。標(biāo)準(zhǔn)聚焦于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)冗余性、抗噪聲干擾性及預(yù)測(cè)可靠性等關(guān)鍵性能，首次提出了一套可解釋的評(píng)估框架。該標(biāo)準(zhǔn)詳細(xì)規(guī)定了評(píng)估方法、輸入要求、操作流程、量化指標(biāo)、性能等級(jí)劃分及實(shí)施規(guī)范，為客觀、公平、可靠地衡量神經(jīng)網(wǎng)絡(luò)核心性能提供了統(tǒng)一標(biāo)尺。

業(yè)內(nèi)專家指出，盡管網(wǎng)絡(luò)剪枝、魯棒性評(píng)估等技術(shù)已廣泛研究，但現(xiàn)有方法多缺乏可解釋性，評(píng)估結(jié)果往往停留于概括性判斷，難以保障客觀公平，也無(wú)法靈活適配多樣化任務(wù)場(chǎng)景，其可信度與實(shí)用性因此受限。新標(biāo)準(zhǔn)基于可解釋性理論，致力于構(gòu)建一套多等級(jí)、全客觀、可解釋的關(guān)鍵性能評(píng)估體系，有望實(shí)現(xiàn)對(duì)神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)、訓(xùn)練、部署到維護(hù)的全生命周期關(guān)鍵性能進(jìn)行實(shí)時(shí)檢測(cè)與評(píng)估，為產(chǎn)業(yè)健康發(fā)展注入標(biāo)準(zhǔn)動(dòng)能。

評(píng)審專家一致認(rèn)為，該標(biāo)準(zhǔn)提出的評(píng)估方法和技術(shù)手段具有顯著創(chuàng)新性，達(dá)到了國(guó)際先進(jìn)水平。它的發(fā)布與實(shí)施，不僅將直接助力提升人工智能產(chǎn)品的可靠性與透明度，增強(qiáng)用戶信任，更將為我國(guó)人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)生態(tài)的規(guī)范化、高質(zhì)量發(fā)展提供至關(guān)重要的基礎(chǔ)支撐。

上一篇：三維天地打造全新疾控中心實(shí)驗(yàn)室AI+數(shù)智化標(biāo)桿工程