新報(bào)告揭示了四種關(guān)鍵的人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)威脅，并闡述了用戶如何在人工智能驅(qū)動(dòng)的世界中智勝攻擊者。
近日，網(wǎng)絡(luò)安全解決方案先驅(qū)者和全球領(lǐng)導(dǎo)者 Check Point® 軟件技術(shù)有限公司（納斯達(dá)克股票代碼：CHKP）在2025年RSA大會(huì)期間正式發(fā)布首份《AI安全報(bào)告》。該報(bào)告系統(tǒng)分析了網(wǎng)絡(luò)犯罪分子如何“武器化”人工智能（AI）技術(shù)，并為安全從業(yè)者提供一系列有力的防御建議與實(shí)踐策略。隨著AI在各行各業(yè)的應(yīng)用中加速普及，數(shù)字世界中真假邊界正逐漸模糊。網(wǎng)絡(luò)攻擊者正利用生成式AI與大語(yǔ)言模型（LLM）大規(guī)模偽造身份，破壞公眾對(duì)數(shù)字身份的信任。如今，用戶在網(wǎng)絡(luò)上所看到、聽(tīng)到或閱讀到的信息已無(wú)法簡(jiǎn)單憑表象判斷真?zhèn)?。AI驅(qū)動(dòng)的深度偽造技術(shù)甚至可以繞過(guò)最先進(jìn)的身份驗(yàn)證機(jī)制，使每一個(gè)人都可能成為網(wǎng)絡(luò)欺詐的受害者。
“網(wǎng)絡(luò)犯罪組織對(duì)AI技術(shù)的快速采用，正在以前所未有的速度重塑威脅格局，”Check Point Research研究總監(jiān)Lotem Finkelstein表示。“某些地下服務(wù)平臺(tái)的智能化程度已經(jīng)相當(dāng)高，而即將到來(lái)的下一階段將是‘數(shù)字分身’的崛起——它不僅是外貌或聲音的仿造，更是具備模擬人類思維與行為的AI復(fù)制體。這并不是遙不可及的未來(lái)，而是即將來(lái)臨的現(xiàn)實(shí)。”
人工智能安全報(bào)告的關(guān)鍵威脅洞察：
報(bào)告指出，這些發(fā)展背后的核心是人工智能能夠以極高仿真度模仿和操控?cái)?shù)字身份，模糊了真實(shí)與失實(shí)之間的界限。以下是信任崩塌最為明顯的四個(gè)核心領(lǐng)域：
· AI增強(qiáng)型身份冒充與社交工程攻擊：攻擊者利用AI生成高度仿真的釣魚郵件、語(yǔ)音模擬和深度偽造視頻。近期甚至出現(xiàn)攻擊者通過(guò)AI語(yǔ)音合成冒充意大利國(guó)防部長(zhǎng)的事件，充分說(shuō)明網(wǎng)絡(luò)空間中無(wú)論是聲音、面容還是文字內(nèi)容都可能被偽造。
· 大語(yǔ)言模型（LLM）數(shù)據(jù)污染與失實(shí)信息傳播：黑客通過(guò)操控AI訓(xùn)練數(shù)據(jù)，引導(dǎo)其輸出偏差內(nèi)容。例如，涉及俄羅斯失實(shí)信息網(wǎng)絡(luò)的“Pravda”相關(guān)案例顯示，AI聊天機(jī)器人有多達(dá)33%的回答內(nèi)容為失實(shí)敘事，凸顯AI系統(tǒng)數(shù)據(jù)完整性防護(hù)的重要性。
· AI生成惡意軟件與數(shù)據(jù)挖掘：網(wǎng)絡(luò)犯罪團(tuán)伙借助AI技術(shù)生成并優(yōu)化惡意代碼、自動(dòng)化DDoS攻擊流程，并對(duì)被盜數(shù)據(jù)進(jìn)行清洗處理。以“Gabbers Shop”為代表的平臺(tái)，已通過(guò)AI提升數(shù)據(jù)轉(zhuǎn)售價(jià)值與攻擊目標(biāo)精度。
· AI模型的武器化與劫持：從被盜的大語(yǔ)言模型賬號(hào)到暗網(wǎng)定制的FraudGPT、WormGPT等黑產(chǎn)模型，攻擊者正繞過(guò)原有安全機(jī)制，將AI工具商業(yè)化，用于黑客攻擊與詐騙活動(dòng)。
安全防御建議：
Check Point指出，防御方應(yīng)默認(rèn)AI技術(shù)已深度嵌入對(duì)抗體系，并據(jù)此調(diào)整安全架構(gòu)。為應(yīng)對(duì)這一挑戰(zhàn)，用戶應(yīng)采用具備人工智能意識(shí)的網(wǎng)絡(luò)安全框架，包括：
· AI輔助檢測(cè)與威脅狩獵：利用AI識(shí)別由AI生成的攻擊內(nèi)容，例如偽造郵件、深度合成視頻等。
· 多層次身份驗(yàn)證機(jī)制：增強(qiáng)身份驗(yàn)證，采取超越傳統(tǒng)的安全策略，實(shí)施多層身份驗(yàn)證，以應(yīng)對(duì)文本、語(yǔ)音和視頻中的AI驅(qū)動(dòng)的身份冒充——認(rèn)識(shí)到數(shù)字身份的可信度已不再是理所當(dāng)然。
· 基于AI上下文背景威脅情報(bào)能力：為安全團(tuán)隊(duì)配備具備AI感知能力的分析工具，增強(qiáng)其對(duì)新型攻擊手段的識(shí)別與響應(yīng)能力。
“在人工智能驅(qū)動(dòng)的時(shí)代，網(wǎng)絡(luò)安全團(tuán)隊(duì)必須將AI能力整合入防御體系，與攻擊者實(shí)現(xiàn)同頻對(duì)抗，”Finkelstein補(bǔ)充道，“本報(bào)告不僅揭示了AI帶來(lái)的新型安全挑戰(zhàn)，更提供了構(gòu)建安全、負(fù)責(zé)任AI環(huán)境的行動(dòng)路徑。”
完整的《2025 AI安全報(bào)告》現(xiàn)已開(kāi)放下載！
關(guān)于 Check Point 軟件技術(shù)有限公司
Check Point 軟件技術(shù)有限公司（www.checkpoint.com）是數(shù)字信任領(lǐng)域的領(lǐng)先保護(hù)者，通過(guò) AI 驅(qū)動(dòng)的網(wǎng)絡(luò)安全解決方案，保護(hù)全球超過(guò) 100,000 家組織免受網(wǎng)絡(luò)威脅。Check Point 通過(guò)其 Infinity 平臺(tái)與開(kāi)放生態(tài)系統(tǒng)，堅(jiān)持“預(yù)防為先”的理念，在提升安全效能的同時(shí)降低企業(yè)風(fēng)險(xiǎn)。依托以 SASE 為核心的混合網(wǎng)格架構(gòu)，Infinity 平臺(tái)實(shí)現(xiàn)了本地、云端及辦公環(huán)境的統(tǒng)一管理，為企業(yè)及服務(wù)提供商帶來(lái)靈活、簡(jiǎn)潔、可擴(kuò)展的網(wǎng)絡(luò)安全能力。
申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！
