為進(jìn)一步推進(jìn)國(guó)檢中心建設(shè)高質(zhì)量開(kāi)展，優(yōu)化資源配置，強(qiáng)化人工智能領(lǐng)域布局，國(guó)檢中心成立專(zhuān)家委員會(huì)，邀請(qǐng)語(yǔ)音、圖像、數(shù)據(jù)治理、安全等人工智能重點(diǎn)領(lǐng)域的多位專(zhuān)家學(xué)者、企業(yè)家擔(dān)任中心的思想庫(kù)和智囊團(tuán)，未來(lái)持續(xù)推進(jìn)技術(shù)研發(fā)、標(biāo)準(zhǔn)制定、政策研究等相關(guān)工作，促進(jìn)人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展。近日，國(guó)家工業(yè)信息安全發(fā)展研究中心主辦的人工智能融合發(fā)展與安全應(yīng)用研討會(huì)上，國(guó)家語(yǔ)音及圖像識(shí)別產(chǎn)品質(zhì)量檢驗(yàn)檢測(cè)中心，正式發(fā)布首批人臉識(shí)別系統(tǒng)安全測(cè)評(píng)結(jié)果。

 

人臉識(shí)別安全測(cè)評(píng)的“國(guó)檢”標(biāo)桿仍需規(guī)范人臉識(shí)別安全測(cè)評(píng)體系本次測(cè)評(píng)工作也存在一些改善項(xiàng)。國(guó)家工信安全中心人工智能所圖像檢測(cè)室負(fù)責(zé)人表示，人臉識(shí)別系統(tǒng)的安全評(píng)估，不應(yīng)用一個(gè)尺度來(lái)衡量，比如門(mén)禁閘機(jī)、手機(jī)登錄、金融支付等身份認(rèn)證場(chǎng)景對(duì)安全性要求不同，從技術(shù)角度，安全性判定規(guī)則也應(yīng)加以區(qū)分，以及不同測(cè)試樣本間的測(cè)試結(jié)果也存在差異。建議，進(jìn)一步打造更細(xì)化的評(píng)測(cè)體系，包括按照不同場(chǎng)景、不同功能、不同應(yīng)用階段劃分安全等級(jí)，對(duì)測(cè)試樣本分級(jí)分類(lèi)，保證在同一基準(zhǔn)上衡量安全能力。同時(shí)，由于人臉識(shí)別技術(shù)采用大數(shù)據(jù)訓(xùn)練的方法實(shí)現(xiàn)，目前安全測(cè)試項(xiàng)未全部涵蓋，只通過(guò)呈現(xiàn)攻擊的方式做檢測(cè)，樣本量有限，導(dǎo)致不能完全覆蓋各種不安全情況。因此，檢測(cè)手段與技術(shù)水平也需加快跟進(jìn)。朱倩倩表示，加快研發(fā)自動(dòng)化測(cè)試工具，研究測(cè)試樣本差異，為企業(yè)提供高水準(zhǔn)測(cè)試服務(wù)，幫助企業(yè)精準(zhǔn)定位安全問(wèn)題，提出改進(jìn)及優(yōu)化建議。

 

保障人工智能安全應(yīng)用是一項(xiàng)系統(tǒng)工程，為人臉識(shí)別技術(shù)加裝“安全鎖”，除了開(kāi)展測(cè)評(píng)與研制標(biāo)準(zhǔn)之外，還須從政策監(jiān)管、技術(shù)攻關(guān)、合規(guī)建設(shè)等方面綜合發(fā)力，加強(qiáng)人臉識(shí)別系統(tǒng)的安全管控。從加強(qiáng)技術(shù)應(yīng)對(duì)的角度兼顧“主動(dòng)”和“被動(dòng)”的技術(shù)防御機(jī)制，被動(dòng)防御是為人臉應(yīng)用部署靜態(tài)的安全能力，比如人臉AI防火墻，對(duì)外部訪問(wèn)、輸入數(shù)據(jù)、行為決策等進(jìn)行檢測(cè)，提升人臉系統(tǒng)抵御攻擊的能力。最后，人臉識(shí)別具有高度的社會(huì)屬性，應(yīng)在法治框架下開(kāi)展協(xié)同治理。如何貫徹落實(shí)法規(guī)政策的要求，技術(shù)廠商可聯(lián)手律師事務(wù)所，針對(duì)數(shù)字經(jīng)濟(jì)時(shí)代新場(chǎng)景下監(jiān)管機(jī)構(gòu)的合規(guī)要求，對(duì)內(nèi)健全技術(shù)合規(guī)體系建設(shè)，對(duì)外輸出應(yīng)用合規(guī)咨詢(xún)服務(wù)，比如培育數(shù)據(jù)安全咨詢(xún)、數(shù)據(jù)保護(hù)設(shè)計(jì)與數(shù)據(jù)安全管理等服務(wù)，從技術(shù)流程和業(yè)務(wù)流程的角度提供完整的安全保障解決方案。