鄔賀銓 中國工程院院士、中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會主任
生成式人工智能是引領(lǐng)新一代科技革命和產(chǎn)業(yè)革命的核心驅(qū)動力，是加快培育和發(fā)展新質(zhì)生產(chǎn)力的重要引擎，為經(jīng)濟(jì)高質(zhì)量發(fā)展注入新動能。與此同時，人工智能技術(shù)也帶來了各類難以預(yù)知的風(fēng)險和挑戰(zhàn)。在2024年國家網(wǎng)絡(luò)安全宣傳周舉辦期間，“大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室”宣告成立，將進(jìn)一步牽線搭橋，搭建粵港澳三地網(wǎng)絡(luò)安全產(chǎn)業(yè)的交流與合作平臺，推動“政產(chǎn)學(xué)研用”深度融合。
文/廣州日報全媒體記者張姝泓
圖/廣州日報全媒體記者莫偉濃、楊耀燁、吳子良
9月11日上午，在2024年國家網(wǎng)絡(luò)安全宣傳周“粵港澳大灣區(qū)安全技術(shù)創(chuàng)新”座談會上，由廣東省委網(wǎng)信辦和國家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心聯(lián)合發(fā)起的大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室宣布成立。
該實驗室由廣東省委網(wǎng)信辦和國家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心聯(lián)合發(fā)起，華為公司、騰訊公司、中山大學(xué)、廣州市委網(wǎng)信辦、深圳市委網(wǎng)信辦、東莞市委網(wǎng)信辦以及深圳河套發(fā)展署參與聯(lián)合建設(shè)。
會上，國家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心黨委書記、主任（兼廣東省委網(wǎng)信辦副主任）應(yīng)鴻暉介紹，聯(lián)合實驗室將建設(shè)六方面的能力：建設(shè)一套本地化生成式人工智能安全測評系統(tǒng)；形成一套屬地生成式人工智能安全發(fā)展標(biāo)準(zhǔn)；訓(xùn)練一套大模型安全智能評測引擎；運(yùn)行一套“平臺自動化+專家團(tuán)隊復(fù)核”運(yùn)營方式；研究一套“安全可信+量化評級”的服務(wù)行業(yè)框架；探索一套“共建共享+雙向賦能”的支撐監(jiān)管新模式。
“以人為本，智能向善”
據(jù)介紹，聯(lián)合實驗室由國家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心牽頭實體化運(yùn)行，屬地網(wǎng)信等相關(guān)部門大力支持，充分發(fā)揮華為公司、騰訊公司在人工智能方面的核心引擎和輻射帶頭作用以及中山大學(xué)在安全可信、量化評級方面的深厚科研積累，由各方投入優(yōu)勢資源，選派骨干，組成專家團(tuán)隊，共同建設(shè)廣東省生成式人工智能安全發(fā)展評估體系，加快制定廣東省生成式人工智能安全發(fā)展標(biāo)準(zhǔn)，共同研究形成可量化的服務(wù)行業(yè)評級框架，共同促進(jìn)人工智能“以人為本，智能向善”。
座談會上，“粵網(wǎng)安公益行”啟動。活動采取線上線下相結(jié)合的形式，為相關(guān)政府單位、企事業(yè)單位乃至全社會提供網(wǎng)絡(luò)安全評估、培訓(xùn)等全方位支持與幫助。第一批公益服務(wù)項目包括網(wǎng)絡(luò)安全與數(shù)據(jù)保護(hù)專題培訓(xùn)、網(wǎng)絡(luò)安全成熟度測評、工業(yè)企業(yè)網(wǎng)絡(luò)安全評估，以及勒索風(fēng)險排查、威脅檢測及響應(yīng)、7×24小時安全托管等服務(wù)。內(nèi)地企業(yè)可通過“線上+線下”的方式參與，港澳單位可以線上參與?；顒臃綄槠髽I(yè)提供量身定制的安全服務(wù)方案，攜手社會各界共筑網(wǎng)絡(luò)安全屏障。
六大技術(shù)創(chuàng)新 構(gòu)筑網(wǎng)安防線
1.數(shù)據(jù)跨境流動安全治理服務(wù)平臺
2.深信服大模型賦能的下一代流量檢測響應(yīng)
3.競遠(yuǎn)安全工業(yè)企業(yè)智能化安全服務(wù)平臺
4.百度大模型內(nèi)容安全平臺
5.超融合安全服務(wù)平臺
6.多維應(yīng)用安全防護(hù)系統(tǒng)
數(shù)字時代，網(wǎng)絡(luò)安全問題日益凸顯?；浉郯拇鬄硡^(qū)在數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展上走在前列，也肩負(fù)著構(gòu)建網(wǎng)絡(luò)安全新防線的使命。
大會現(xiàn)場集中發(fā)布了六大網(wǎng)絡(luò)安全技術(shù)創(chuàng)新成果，包括數(shù)據(jù)跨境流動安全治理服務(wù)平臺、深信服大模型賦能的下一代流量檢測響應(yīng)等，全面展現(xiàn)大灣區(qū)網(wǎng)安技術(shù)創(chuàng)新實力。
其中，由國家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心探索建設(shè)的“數(shù)據(jù)跨境流動安全治理服務(wù)平臺”，為促進(jìn)大灣區(qū)企業(yè)安全、便利、合規(guī)開展數(shù)據(jù)出境業(yè)務(wù)，提供了智能的合規(guī)指引、專業(yè)的保障措施和一站式的服務(wù)解決方案，為數(shù)據(jù)跨境流動安全治理貢獻(xiàn)“廣東實踐”。
深信服科技發(fā)布重塑流量檢測響應(yīng)新標(biāo)準(zhǔn)的大模型賦能的下一代流量檢測響應(yīng)產(chǎn)品，基于大模型技術(shù)實現(xiàn)虛擬“安全專家”能力，像人一樣直接理解攻擊，極大提升攻擊檢測精準(zhǔn)率，改善過去“高檢出必然高誤報”的痛點(diǎn)；“競遠(yuǎn)安全工業(yè)企業(yè)智能化安全服務(wù)平臺”使用AI驅(qū)動的云邊協(xié)同技術(shù)，面向工業(yè)企業(yè)提供安全檢測評估、安全運(yùn)維、供應(yīng)鏈安全管理等智能化安全服務(wù)，此次發(fā)布為全國首發(fā)。
眾多創(chuàng)新成果的面世，將助力大灣區(qū)乃至全國提升網(wǎng)絡(luò)安全防護(hù)能力，為數(shù)字經(jīng)濟(jì)發(fā)展提供更有力的安全保障。
“大咖”論道
服務(wù)“數(shù)據(jù)跨境流動”
南沙可建設(shè)“數(shù)據(jù)保護(hù)區(qū)”
圍繞網(wǎng)絡(luò)安全、數(shù)據(jù)安全、人工智能和工業(yè)安全等領(lǐng)域，座談會還邀請中國工程院院士、中國互聯(lián)網(wǎng)協(xié)會專家咨詢委員會主任鄔賀銓，香港網(wǎng)絡(luò)安全事故協(xié)調(diào)中心主管李子圖、澳門特別行政區(qū)政府司法警察局電腦法證處處長鐘錦良等專家，以及來自華為、騰訊、百度等公司的網(wǎng)絡(luò)安全行業(yè)領(lǐng)軍人物，共同探討大灣區(qū)網(wǎng)絡(luò)安全前沿技術(shù)與創(chuàng)新發(fā)展。
其中，鄔賀銓以“AI時代的數(shù)據(jù)安全”為題作主題報告。他提出，人工智能自身有不安全性和“幻覺”，更可能被濫用，因此要用各種辦法提高AI的可行性，并從數(shù)字水印、數(shù)據(jù)采集、數(shù)據(jù)保護(hù)等維度展開分析。
在數(shù)據(jù)采集方面，鄔賀銓指出，目前中國基本語料數(shù)據(jù)仍不夠，現(xiàn)在很多人工智能的訓(xùn)練，當(dāng)原始數(shù)據(jù)不夠時，會應(yīng)用AI生成的數(shù)據(jù)。他以自動駕駛舉例稱，自動駕駛需要上百億公里的路測數(shù)據(jù)，相當(dāng)于百輛汽車連續(xù)跑100年。出于成本考慮，業(yè)內(nèi)一般會使用人工智能的方法，在基底訓(xùn)練數(shù)據(jù)上基于大模型自動進(jìn)行長尾場景的自我訓(xùn)練?！巴耆緼I生成的數(shù)據(jù)會逐漸變形、出錯，乃至產(chǎn)生‘幻覺’。反復(fù)迭代使用AI生成的數(shù)據(jù)，相當(dāng)于‘近親繁殖’，最后就失去了效果，所以我們要重視數(shù)據(jù)的原生性?！彼f。
在人工智能時代，面對AI換臉等帶來的風(fēng)險，數(shù)字水印也重新被提起。鄔賀銓表示，圖像加上數(shù)字水印后，一般人看不出來，但是可以用特定的辦法提取水印。數(shù)字水印可以實現(xiàn)版權(quán)保護(hù)，識別AI換臉、換身等，實現(xiàn)深度防偽。
在2024年國家網(wǎng)絡(luò)安全宣傳周期間，“數(shù)據(jù)跨境流動”成為關(guān)注焦點(diǎn)。鄔賀銓在發(fā)言中特別建議設(shè)立“數(shù)據(jù)保護(hù)區(qū)”。此外，在推動數(shù)據(jù)跨境流動的過程中，個人敏感信息要進(jìn)行申報，并且采取脫敏技術(shù)。
為何要建立“數(shù)據(jù)保護(hù)區(qū)”？鄔賀銓解釋道，按照數(shù)據(jù)跨境流動的規(guī)律，即便在境內(nèi)加工境外數(shù)據(jù)，也不允許插入境內(nèi)的個人信息和重要數(shù)據(jù)；另一方面，境外數(shù)據(jù)放到境內(nèi)來加工，外方也擔(dān)心其數(shù)據(jù)在加工過程中被泄露。
“‘?dāng)?shù)據(jù)保護(hù)區(qū)’和境內(nèi)公眾是物理隔離的，有境內(nèi)、境外物理關(guān)防，像一般的貨物保稅區(qū)一樣。雖然這個數(shù)據(jù)保護(hù)區(qū)相當(dāng)于境外數(shù)據(jù)的一個飛地，但是仍然受到省級網(wǎng)信部門的監(jiān)管?！编w賀銓說，當(dāng)前設(shè)立“數(shù)據(jù)保護(hù)區(qū)”的條件已經(jīng)較為成熟——中國通信基礎(chǔ)設(shè)施先進(jìn)，寬帶滲透率高，IT人才勇于攻關(guān)。
“南沙就很適合作為承接境外數(shù)據(jù)的清洗標(biāo)注基地?！彼f。
(編輯： 廣州網(wǎng) 龍煜)
