隨著人工智能,、大數(shù)據(jù)、云計(jì)算,、區(qū)塊鏈等新技術(shù)的深入發(fā)展,,新的網(wǎng)絡(luò)安全挑戰(zhàn)與風(fēng)險(xiǎn)也不可避免地涌現(xiàn)出來。如何應(yīng)對(duì)數(shù)字時(shí)代的網(wǎng)絡(luò)安全新挑戰(zhàn),?昨天舉行的2023年國家網(wǎng)絡(luò)安全宣傳周上海地區(qū)主論壇上,,專家學(xué)者給出了建議與思考,。
應(yīng)對(duì)大模型新風(fēng)險(xiǎn),數(shù)據(jù)安全至關(guān)重要
中國工程院院士,、復(fù)旦大學(xué)金融科技研究院院長柴洪峰對(duì)金融數(shù)據(jù)和垂直領(lǐng)域大模型的安全及倫理問題提出建議,。“監(jiān)管機(jī)構(gòu)應(yīng)加強(qiáng)對(duì)金融大模型的審查和風(fēng)險(xiǎn)評(píng)估,對(duì)關(guān)鍵人物和系統(tǒng)應(yīng)建立審查和測試的機(jī)制,,確保其性能和安全性,。”他說,為確保大模型在金融領(lǐng)域的應(yīng)用符合法規(guī)與道德要求,,應(yīng)通過政產(chǎn)學(xué)研的合作,,制定相關(guān)政策和指南;而對(duì)于金融大模型的部署與使用,,則需要協(xié)同共治,,提升透明度,保證數(shù)據(jù)質(zhì)量和可解釋性的機(jī)制,,幫助用戶與監(jiān)管機(jī)構(gòu)理解模型的決策依據(jù),,并確保其不帶有偏見或歧視性。
“對(duì)于傳統(tǒng)的通用大模型,,人們可以建立行業(yè)領(lǐng)域的小模型,,在數(shù)據(jù)安全領(lǐng)域通過各種數(shù)據(jù)標(biāo)簽,、數(shù)據(jù)類型,、日志等,形成數(shù)據(jù)安全的助手,。”上海觀安信息技術(shù)股份有限公司聯(lián)合創(chuàng)始人胡紹勇表示,,而AIGC(生成式人工智能)技術(shù)本身就存在著敏感數(shù)據(jù)和違規(guī)應(yīng)用的可能性,因此,,數(shù)據(jù)安全運(yùn)營是非常重要的,。
胡紹勇指出,目前在數(shù)據(jù)安全治理過程中,,一個(gè)正在探索落地的方向是數(shù)據(jù)安全專家或者安全助手,,另外,還可以利用大模型對(duì)數(shù)據(jù)資產(chǎn)的識(shí)別進(jìn)行進(jìn)一步提升,,不少安全企業(yè)已在此方面做出了嘗試,。
網(wǎng)絡(luò)安全不斷變化,需社會(huì)各界共同守護(hù)
公安部第三研究所網(wǎng)絡(luò)安全法律研究中心主任,、研究員黃道麗認(rèn)為,,現(xiàn)在網(wǎng)絡(luò)安全面臨的最大挑戰(zhàn)是如何把制度的能力轉(zhuǎn)化為實(shí)際的治理能力。“法律的特性是穩(wěn)定,,但網(wǎng)絡(luò)安全風(fēng)險(xiǎn)和網(wǎng)絡(luò)安全形勢卻是不斷變化的,。”她說,,這需要產(chǎn)業(yè)界、運(yùn)營者,、數(shù)據(jù)處理者以及社會(huì)第三方共同推進(jìn),。
上海市信息安全測評(píng)認(rèn)證中心創(chuàng)新研究院副院長徐御從城市數(shù)據(jù)安全的角度指出,隨著系統(tǒng)數(shù)量的規(guī)模變大,、復(fù)雜度提高,,數(shù)據(jù)資源的暴露面和脆弱性都會(huì)增加。“網(wǎng)絡(luò)安全從原來以系統(tǒng)與網(wǎng)絡(luò)為核心,,轉(zhuǎn)變成以數(shù)據(jù)為核心,。”他說。
上海交通大學(xué)人工智能研究院院長宋海濤則表示,,唯有進(jìn)一步擁抱科技的力量,,構(gòu)建產(chǎn)業(yè)發(fā)展在全要素過程中的人才體系,加強(qiáng)網(wǎng)絡(luò)安全方面?zhèn)惱砗椭卫眢w系的研究和建設(shè),,才能更好保護(hù)人民群眾的生命財(cái)產(chǎn)安全,。(記者 張?zhí)斐冢?/p>