嚴(yán)望佳：加強(qiáng)人工智能應(yīng)用安全 促進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展
2021年3月11日
嚴(yán)望佳，CCG 常務(wù)理事，啟明星辰信息技術(shù)集團(tuán)股份有限公司首席執(zhí)行官
全國(guó)兩會(huì)期間，全國(guó)政協(xié)委員、啟明星辰CEO嚴(yán)望佳提交了三份提案，關(guān)注數(shù)字經(jīng)濟(jì)發(fā)展過程中的安全問題。嚴(yán)望佳建議，建立政務(wù)大數(shù)據(jù)全生命周期安全治理體系，加強(qiáng)人工智能應(yīng)用相關(guān)的數(shù)據(jù)安全及隱私保護(hù)技術(shù)研究，加強(qiáng)對(duì)智能網(wǎng)聯(lián)汽車的數(shù)據(jù)安全管控。
開展前沿技術(shù)研究
嚴(yán)望佳介紹，當(dāng)前人工智能應(yīng)用面臨不少安全問題，包括數(shù)據(jù)安全及隱私保護(hù)問題、算法“黑盒”應(yīng)用模式的安全隱患以及人工智能應(yīng)用的倫理安全問題。
嚴(yán)望佳表示，為穩(wěn)步推進(jìn)數(shù)字經(jīng)濟(jì)發(fā)展，充分發(fā)揮人工智能應(yīng)用在發(fā)掘數(shù)據(jù)要素價(jià)值方面的作用，須采取有效措施加強(qiáng)人工智能應(yīng)用的安全管控。
嚴(yán)望佳建議，加強(qiáng)人工智能應(yīng)用的相關(guān)數(shù)據(jù)安全及隱私保護(hù)技術(shù)研究，在不泄露隱私及敏感信息的前提下保留數(shù)據(jù)價(jià)值，支持人工智能應(yīng)用發(fā)展。建議設(shè)立相關(guān)專項(xiàng)課題，推動(dòng)產(chǎn)學(xué)研合作開展技術(shù)研究與應(yīng)用落地攻關(guān)等。
嚴(yán)望佳認(rèn)為，應(yīng)強(qiáng)化人工智能應(yīng)用的透明性要求，尤其在涉及社會(huì)、人身安全的關(guān)鍵領(lǐng)域應(yīng)避免“黑盒”應(yīng)用。建議制定相關(guān)法律及標(biāo)準(zhǔn)規(guī)范，明確各領(lǐng)域人工智能應(yīng)用的透明性要求與衡量指標(biāo)等。
人工智能應(yīng)用軟硬件供應(yīng)鏈的安全問題應(yīng)得到更多關(guān)注?？紤]到人工智能應(yīng)用越來越多源自開源軟件領(lǐng)域，建議高度關(guān)注并加強(qiáng)評(píng)估開源供應(yīng)鏈和開源軟件的安全問題，做好風(fēng)險(xiǎn)管控。
加強(qiáng)數(shù)據(jù)安全管控
對(duì)于智能網(wǎng)聯(lián)汽車的安全問題，嚴(yán)望佳表示，智能網(wǎng)聯(lián)汽車是一個(gè)復(fù)雜的系統(tǒng)工程，涉及分布式電子自動(dòng)控制的汽車電子控制系統(tǒng)，數(shù)十甚至上百個(gè)電子控制單元如駕駛控制單元、傳感單元等。這些元器件通過不同類型的總線相互連接，經(jīng)由固件代碼驅(qū)動(dòng)，再加上外部信息，通過無線通信接口實(shí)現(xiàn)車與車、車與網(wǎng)以及移動(dòng)蜂窩基站進(jìn)行數(shù)據(jù)交互，并與智慧交通系統(tǒng)互聯(lián)互通。
從智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)角度看，汽車電子信息系統(tǒng)及開發(fā)基礎(chǔ)平臺(tái)對(duì)境外企業(yè)存在高度的依賴性，影響了我國(guó)汽車產(chǎn)業(yè)的安全。從無人駕駛和輔助駕駛技術(shù)看，自身就存在漏洞。除了物理連接的攻擊方式外，還可以通過遠(yuǎn)程無線的方式建立連接，攻擊軟件安全漏洞，控制汽車總線系統(tǒng)、車路協(xié)同系統(tǒng)等，達(dá)到信息竊取、系統(tǒng)破壞、遠(yuǎn)程遙控等目的。
嚴(yán)望佳建議，統(tǒng)籌安排跨部門協(xié)調(diào)處理智能網(wǎng)聯(lián)汽車從生產(chǎn)制造到道路交通運(yùn)行的安全監(jiān)管，增強(qiáng)智能網(wǎng)聯(lián)汽車信息與控制系統(tǒng)安全能力和“云-管道-端”系統(tǒng)運(yùn)行安全能力，提升汽車信息電子控制系統(tǒng)的國(guó)產(chǎn)化比例。
此外，加強(qiáng)對(duì)智能網(wǎng)聯(lián)汽車的數(shù)據(jù)安全管控，尤其是進(jìn)口境外生產(chǎn)的車輛和相關(guān)零部件，對(duì)出境汽車數(shù)據(jù)則按照相關(guān)法規(guī)進(jìn)行管理。加強(qiáng)智能網(wǎng)聯(lián)汽車個(gè)人隱私信息保護(hù)力度，防止隱私信息泄露，保障公民隱私安全。
文章選自中證網(wǎng)，2021年3月11日
