對話嘉賓包括王賢青、張建桁、譚曉生、董青馬、況文川、高曉飛、江愛軍(由左至右)

　　AI伴生安全風險，催生系統性挑戰

　　專家們指出，AI技術在降低攻擊門檻、提升攻擊效率的同時，也帶來了前所未有的風險維度。

　　北大國發院傳播中心主任王賢青

　　首先是攻擊平民化的挑戰。北京賽博英杰科技有限公司創始人、董事長譚曉生強調，大模型的出現讓攻擊者無需深厚編程功底，“精心設計的提示詞可以突破系統防線，誘導AI泄露受保護的敏感信息，造成嚴重后果。”聯通數字科技有限公司安全事業部副總經理張建桁認為，利用智能體可以大大提高網絡攻擊的效率。國內DeepSeek推出之后，把AI推向通用化。這意味著針對運營商、云服務商，包括政企用戶的更廣泛攻擊，這是對運營商來說下一步面臨的最大挑戰。主持人王賢青也補充，AI普及導致對編程等方面的要求降低，降低了網絡攻擊的門檻，這意味著AI使非專業人士也能發動高效攻擊。

　　北京賽博英杰科技有限公司創始人、董事長譚曉生

　　聯通數字科技有限公司安全事業部副總經理張建桁

　　其次是模型自身安全的挑戰。譚曉生進一步指出，由數學思維主導構建的AI系統，缺乏對安全編碼規范的重視，可能導致系統崩潰或被完全控制，從而可以導致篡改決策的風險。此外，AI本身缺乏權限管理和訪問控制，易引發核心數據泄露風險。奇安信集團AI高級研究員江愛軍補充認為，目前人工智能垂域大模型中的核心信息資產泄露風險;AI應用模糊傳統軟件邏輯層與數據層，打破權限控制，這是當前重要的風險點。

　　奇安信集團AI高級研究員江愛軍

　　第三是趨同性與風險傳染。西南財經大學中國金融研究院副院長董青馬聚焦金融行業，揭示了AI應用的潛在系統風險：“當金融機構普遍采用大模型，使用相似的底層邏輯和基礎語料庫，會導致決策趨同的問題，缺乏生態的多樣性。”同時，AI加速信息傳播也使得風險傳遞和虛假信息擴散速度遠超以往。中國電子首席科學家、中電金信研究院院長況文川指出，金融機構在利用生成式人工智能快速理解客戶特質和交互數據以提供個性化服務的同時，也需要應對趨同性問題，即大家使用相似模型是否可能導致服務同質化，金融機構需要充分運用自己的私有數據、個性化語料、專業知識庫以及與自身業務邏輯的結合，來體現出自己的競爭優勢。

　　西南財經大學中國金融研究院副院長董青馬

　　中國電子首席科學家、中電金信研究院院長況文川

　　最后是數據安全風險與算力瓶頸。中國長城市場合作部副總經理高曉飛直指當前我國人工智能面臨兩大痛點：AI訓練和應用對數據的渴求突破了傳統數據安全防線;同時，關鍵算力芯片(如高端GPU)的供應保障及國產AI軟件生態的成熟度，構成國家層面AI安全發展的現實瓶頸。

　　中國長城市場合作部副總經理高曉飛

　　以“AI”筑盾，構建主動防御體系

　　面對AI帶來的風險與挑戰，安全防護面臨范式的轉變。與會專家建議用AI對抗AI風險。AI同樣為網絡安全防御帶來革命性工具和方法。

　　首先是效率躍升。譚曉生分享了AI的積極面：“過去安全運維人員疲于應對日均數千萬條告警，往往只能依靠規則強壓告警，難免漏報與錯報。現在，借助AI強大的推理與分析能力，能夠高效處理海量告警，大幅提升防御效率和精準度，部分替代中低端安全分析師工作。”

　　其次是“智能對抗智能”新范式。聯通數字科技有限公司安全事業部副總經理張建桁介紹了運營商的應對策略：面對云網基礎設施面臨的規模化、智能化攻擊威脅，聯通正構建‘主動防御’體系，核心就是以AI對抗AI，在自身安全運營體系中部署智能體。”他強調了運營商在“云網端”協同防護與快速溯源處置方面的獨特優勢。

　　最后是賦能安全運營與研發。江愛軍指出，包括奇安信在內的網絡安全廠商正積極應用AI技術應對新型攻擊向量，優化產品研發工作的效率與成本，并賦能網絡安全運營。

　　破局之道：協同構建智能安全新生態

　　針對如何在AI時代筑牢安全防線，專家們提出關鍵路徑。

　　“人在閉環”與責任明晰：況文川指出，必須在關鍵決策點(如涉及道德、重大風險)保留人工判斷，“智能體適用于規則明確、重復性任務，但人仍是最終責任主體”。張建桁補充，需建立健全AI被劫持時的應急處置預案和責任追溯機制。

　　推進安全內生：況文川強調，安全應內生于AI系統設計和業務運營中。他提出“三明治”策略：嚴格區分公共訓練數據、企業私有知識庫和用戶核心隱私數據，并通過物理或邏輯隔離，防止交叉污染與違規訪問。江愛軍則指出，網絡安全廠商需審視產品工作流程是否適應AI變化，關注防護效果、效率和成本，推進安全內生。他還強調利用AI賦能企業研發、安全運營和服務，提升整體安全能力。

　　守住風險底線與自主可控：董青馬呼吁在金融安全等關鍵領域，要守住系統性風險底線，首要任務是確保不發生系統性風險。此外，要確保AI的自主可控。AI是關乎未來國際競爭的國家級戰略資源和武器。必須建立自主可控的AI體系，從源頭(技術、數據、標準等)確保其安全可靠，不受制于人。高曉飛則強調產業鏈協同解決算力“卡脖子”問題的緊迫性。

　　本次圓桌討論為應對人工智能時代的網絡安全新變局提供了豐富的思想碰撞和實踐指引。AI在放大攻擊能力的同時，為防御體系升級提供新工具。為此，須通過AI對抗AI、管理重構、生態安全三層聯動，在發展中平衡效率與風險。最終構建"可控的智能"，使技術服務于人的解放而非威脅人類安全底線。

2025-06-18 15:22

標題加載中...

內容加載中...

長按掃碼 閱讀全文