云安全
態(tài)勢感知
物聯網安全
工業(yè)互聯網安全
安全管理
數據安全
網絡安全
應用安全
商用密碼
端點安全
新型智慧城市
開發(fā)安全
云原生安全
網絡空間靶場
運營管理服務
范淵在烏鎮(zhèn)峰會談AI：以工具視之、以工具用之、以工具治理之
人工智能負責任開發(fā)與應用論壇
11月21日，2024 年世界互聯網大會烏鎮(zhèn)峰會人工智能負責任開發(fā)與應用論壇舉行。安恒信息董事長范淵發(fā)表《人工智能技術與應用的安全可靠和健康發(fā)展》主題演講。在范淵看來，新一代人工智能技術，不僅僅是人機交互體驗、協(xié)作的革命，更是專家經驗傳承的一次變革。在網絡安全、數據安全領域，AI正在重構安全工作協(xié)同關系，助力安全產業(yè)發(fā)展和行業(yè)應用價值化呈現，引發(fā)行業(yè)質變。我們應該以工具視之、以工具用之、以工具治理之。
范淵指出，安恒信息依托多年來積累的技術和實踐經驗，做了諸多有益探索。
一方面，智能體+安全運營，可以實現運營工作提質增效。2023年8月，恒腦安全垂域大模型首次發(fā)布后，在杭州亞運會期間投入實戰(zhàn)應用，憑借“精準”和“高效”的雙重優(yōu)勢，恒腦的自動化研判機制顯著提升告警分析效率，進一步降低了人力投入。依靠安全大模型和智能體的賦能，安恒信息惡意軟件檢測迅速實現了行業(yè)領先，在國家計算機網絡應急技術處理協(xié)調中心公布的 2024 年人工智能技術賦能網絡安全應用測試結果中，安恒信息在惡意軟件檢測場景排名第一。
另一方面，智能體+數據安全，可以實現安全與業(yè)務的完美融合。例如，數據分類分級借助 AI 對行業(yè)和業(yè)務特性的理解，將數據分類分級效率提升30倍，并在政府、運營商、教育、醫(yī)療、企業(yè)、金融、交通、公安、煙草等行業(yè)實現全面覆蓋，彰顯出AI 在數據安全領域的強大力量。
范淵還強調，人工智能是引領這一輪科技革命和產業(yè)變革的戰(zhàn)略性技術，具有溢出帶動性很強的“頭雁”效應。當前，鼓勵人工智能創(chuàng)新發(fā)展仍是第一要務。但隨著 AI 技術深入場景，安全事件頻發(fā)，例如大模型敏感數據泄露、歧視內容輸出、虛假內容生成等風險問題等。如何能夠讓人工智能的發(fā)展始終沿著我們希望的軌道前進？軌道的微調、軌道的預判、軌道的規(guī)則變得非常關鍵。因此，在加速技術應用“虛實共進”，變“Chat”為“Product”的同時，要確保人工智能安全、可靠、可控。
為此，安恒信息創(chuàng)新性提出人工智能領域的安全治理實踐路徑。首先是做好隱私計算。數據是大模型的燃料，隱私計算是數據的安全閥門。安恒恒隱·隱私計算平臺首批獲得了中國信通院面向大模型的可信執(zhí)行環(huán)境產品專項測試證書，為數據的“可用不可見，可訓不可見”提供實踐途徑。?
其次，加快建立人工智能安全監(jiān)管和評估體系。例如，恒腦智鑒，基于五大核心大模型風險檢測能力，采用精細化風險評估方法，配備多種檢測手段和大量測試用例，構建了AI基礎設施、模型算法、應用服務的全鏈路風險評估體系，可覆蓋了12大類、40多個不同類型、2000多種不同的風險。
最后，范淵提出，面向未來，安恒信息將持續(xù)開展大模型安全研究，致力于讓模型可控、不越界。期待各方以開放和包容的心態(tài)迎接新技術的到來，肩負起引導其健康發(fā)展的重任，共同探索AI與人類的命運共同體，確保技術進步能夠促進社會的發(fā)展進步，真正實現“人機”和諧共存的美好愿景。
