現(xiàn)階段的人工智能，更像是一個無法歸納和理解的“黑盒”，只能匹配預設的模型并根據(jù)輸入導出結果。這也引發(fā)了人們對人工智能安全的顧慮。
7月9日，2021世界人工智能大會安全高端對話在上海舉行，此次安全高端對話以“數(shù)智轉型 安全先行”為主題。
上海市經濟和信息化委員會軟件和信息服務業(yè)處處長裘薇在會上透露，正和網(wǎng)信辦協(xié)商，在今年發(fā)布的網(wǎng)絡安全“十四五”規(guī)劃以及即將發(fā)布的網(wǎng)絡安全產業(yè)的行動計劃當中，進一步明確政府和公共企事業(yè)單位在網(wǎng)絡安全上的投入比例不低于10%。
挑戰(zhàn)：AI也可能引發(fā)系統(tǒng)性風險
盡管我國已經躋身于世界人工智能的第一方陣，但是人工智能發(fā)展與安全方面，依然面臨嚴峻的風險。
全國政協(xié)社會和法制委員會副主任、公安部原副部長陳智敏指出，數(shù)字信息的過度采集和非法使用，可能侵犯公民的權利和隱私；算法的偏好可能加劇社會的偏見或歧視，威脅公平正義，數(shù)據(jù)非法跨境流通可能危害國家主權和國家安全，等等。
個人信息被竊取、盜賣，則可能引發(fā)更嚴重的刑事犯罪。他舉了一組數(shù)據(jù)，當前我國電信詐騙案件處在高發(fā)期，每年平均上升30%，有的地方已經占了整個刑事案件的一半以上，超過傳統(tǒng)的盜竊案件。
“機器深度學習難以理解人性的道德，無人駕駛汽車緊急避險等智能決策可能威脅特定的人群生命。”他說。
上海市委網(wǎng)信辦總工程師楊海軍也指出，傳統(tǒng)以系統(tǒng)為中心正轉向以數(shù)據(jù)為中心的安全思路，也同時面臨著安全與業(yè)務相分離的局面。
“事實上人工智能應用當中帶來了很多風險，包括自身的算力、算法帶來的脆弱性，也包括人工智能在應用中的魯棒性、可解釋性、公平性問題。這些新技術在和原有業(yè)務相結合時，可能會給原業(yè)務或者系統(tǒng)帶來巨大的系統(tǒng)性風險?！睏詈＼娬f。
數(shù)字的新業(yè)態(tài)、新場景、新規(guī)則涌現(xiàn)，也為網(wǎng)絡安全的產業(yè)形態(tài)帶來了新的變革。裘薇談到，平臺方、應用方等不同的主體網(wǎng)絡安全的職責將被重新定義，例如隨著“系統(tǒng)上云”，“系統(tǒng)誰建設誰負責”的局面發(fā)生了改變，安全責任是平臺方還是系統(tǒng)建設方，其邊界怎么劃分等等，都需要對權責重新定義。
應對：上?！敖野駫鞄洝奔ぐl(fā)企業(yè)攻關
裘薇透露，上海正在編制市網(wǎng)絡安全創(chuàng)新高地“三年行動計劃”，希望通過做強供給，創(chuàng)新應用和生態(tài)載體建設等多要素進行融合發(fā)力，為城市數(shù)字化轉型能夠構建堅實的安全產業(yè)底座。
一是圍繞做強供給。一方面突破關鍵技術以及基礎攻關，在下一代通信、數(shù)據(jù)、智能治理等前沿技術的領域，如可信計算、零信任等新型架構以及云計算、人工智能等融合技術加強研發(fā)創(chuàng)新。
二是聚焦應用技術的創(chuàng)新，進一步做強上海優(yōu)勢密碼產業(yè)的同時，強化隱私計算和數(shù)據(jù)安全的研發(fā)布局。
“原來網(wǎng)絡安全企業(yè)更多是提供網(wǎng)絡安全產品，現(xiàn)在隨著整個數(shù)字化全面提升，網(wǎng)絡安全可能覆蓋到整個企業(yè)的全生命周期，所以更需要它提供整體化網(wǎng)絡安全解決方案?！濒棉闭f，單打獨斗的網(wǎng)絡安全服務模式已經難以滿足需求，上海正在考慮推動網(wǎng)絡安全的企業(yè)集成化服務。
甚至還考慮到加強網(wǎng)絡安全的保險創(chuàng)新能力。最近，上海已會同相關企業(yè)對網(wǎng)絡安全保險機制，以及和證監(jiān)會、銀保監(jiān)會等共同研究，希望培育新的網(wǎng)絡服務推廣模式。
上海正從關鍵技術突破，服務模式創(chuàng)新等方面著手，打造網(wǎng)絡安全產業(yè)創(chuàng)新的生態(tài)環(huán)境建設，扶植一批網(wǎng)絡安全人才與企業(yè)。
裘薇介紹，今年開始，上海推出年度網(wǎng)絡安全創(chuàng)新攻關目錄，征集在數(shù)據(jù)安全、人工智能安全、車聯(lián)網(wǎng)安全等新興領域當中，各類網(wǎng)絡安全創(chuàng)新應用成果，并通過應用場景的開放和揭榜掛帥等方式，解決行業(yè)中存在的痛點。
例如，在人工智能安全方面，主要考慮與合規(guī)行業(yè)數(shù)據(jù)的訓練集、隱私計算、數(shù)字技術產品來構建安全的基石，以關注度高的智能網(wǎng)聯(lián)汽車等一些關鍵場景推進智能網(wǎng)絡安全的防護體系。以金融、醫(yī)療等一些領域的智能產品服務的安全評估等級來引導廠商強化技術的保障能力。
“未來3年，上海力爭推動100個應用場景的開放，組織安全方面的企業(yè)揭榜掛帥，形成創(chuàng)新性、示范性網(wǎng)絡安全的最佳實踐的解決方案。”裘薇說。
