Google預測2027年資安趨勢，AI代理將深入SOC與企業防禦

Google Cloud發布2027年資安趨勢預測，指出AI將進一步改變企業資安攻防模式。在防禦方面，AI代理可望協助資安維運中心（SOC）調查與處理安全事件，但企業也須防範代理權限過大及管理不當帶來的風險。在攻擊方面，軟體供應鏈可能持續遭到污染，攻擊者也可能更重視竊取企業資料進行勒索，並將AI模型及雲端運算資源列為攻擊目標。

AI加快軟體開發與漏洞修補，SOC可望由AI代理協助調查事件

AI正加快企業尋找與修補漏洞的速度，也讓軟體開發與交付更加迅速。部分軟體原本需要數週或數月才能交付，如今可能縮短至數小時或數天。企業因此必須調整安全檢查與漏洞修補流程，因應更頻繁的軟體更新。

在資安維運方面，SOC未來可能讓AI代理自動收集並分析安全事件相關資料、判斷警示的處理優先順序，並整理調查結果，減少資安人員逐一處理警示的工作。資安人員則可將更多時間用於規畫防禦策略、判斷安全風險，以及確認AI代理的處理結果。

AI代理權限過大恐擴大攻擊風險，企業須控管個別操作

企業部署AI代理時，若讓多個代理共用服務帳號，或賦予過大的管理員權限，攻擊者就可能透過提示詞注入，誘使AI代理執行原本不應執行的操作，並利用代理原有的權限存取其他企業資源，擴大攻擊影響。因此，企業需要為AI代理建立獨立身分、限制存取權限，並記錄重要操作。

針對這類風險，Google提出Beyond Zero安全架構，主張企業不能只確認使用者或AI代理是否有權存取某個應用程式，還必須依據安全政策與當下風險，進一步限制它們可存取的資源，以及能夠執行的操作。

軟體供應鏈面臨攻擊威脅，AI資產也可能成為犯罪目標

隨著AI程式開發助手逐漸普及，軟體供應鏈也面臨新的攻擊風險。攻擊者已開始污染開放原始碼軟體、MCP（Model Context Protocol）工具及外部程式庫，企圖讓AI程式開發助手在開發過程中引入惡意內容。

企業端點防禦持續改善，攻擊者可能不再只依靠加密檔案要求贖金，而是快速竊取企業資料進行勒索。企業專有的AI模型權重、自訂AI代理技能及提示詞程式庫，也可能成為竊取目標，雲端GPU運算資源則可能遭到劫持及濫用。

企業付費使用的AI模型服務，也可能成為駭客牟利的工具。Google旗下資安業者Mandiant近期揭露的LLMjacking攻擊事件顯示，攻擊者利用暴露或遭竊的雲端身分驗證憑證、服務帳號金鑰或API金鑰，冒用企業權限使用AI模型服務。有犯罪集團透過非法代理服務，將遭盜用的AI模型存取權限轉售給其他使用者。部分受害組織因AI模型服務遭盜用，累計使用費用最高達100萬美元。

影子AI代理恐成管理盲點，多代理協作須保留人工監督

企業面臨的另一項風險，是員工或不同部門自行建立AI代理，卻沒有納入資安團隊的管理。這些代理可能存取企業資料、連接內部系統及使用雲端運算資源，但資安團隊未必知道它們的存在，也不清楚這些代理能執行哪些操作。Google Cloud針對這類影子AI代理（Shadow AI Agents）提出管理建議，提醒企業限制代理可使用的工具與資源，並追蹤其運算用量及費用。

展望2027年，企業可能讓多個AI代理分工處理威脅搜尋、惡意程式分析及事件回應等資安工作。不過，這些代理即使能夠自行完成更多工作，涉及高風險操作時仍須由人員確認。企業也應在正式部署前進行紅隊測試，並在部署後持續檢查相關安全措施是否有效。