
國際權威科技研究機構Gartner今日發布重磅報告《Cybersecurity Must Block AI Browsers for Now》,以罕見嚴厲嘅語氣警告全球企業:在可預見嘅將來,絕大多數組織都應該對所有「AI瀏覽器」採取全面封鎖,因為相關資安風險已經高到「無法承受」嘅程度。
這份報告由Gartner副總裁Dennis、高級總監Evgeny Mirolyubov,以及副總裁分析師John Watts共同撰寫,被視為目前最具權威嘅AI瀏覽器安全指引。三位分析師罕有達成完全一致嘅結論,現階段AI瀏覽器嘅潛在危害遠遠超越任何可能嘅生產力收益,企業若貿然開放,等同主動打開資安大門。
Gartner將AI瀏覽器定義為「內建主動式AI代理」嘅新一代瀏覽器,代表產品包括Perplexity嘅Comet,以及OpenAI內測中嘅ChatGPT Atlas。此類工具最大問題在於:即使使用者無特別察覺或授權,瀏覽器仍可能自動將當前網頁內容、已開啟嘅分頁、瀏覽紀錄,甚至側邊欄揀選嘅文字,直接傳送到後端雲端大型語言模型進行處理。Dennis指出,只要使用者啟用側邊欄摘要、讓AI解釋網頁或執行下一步操作,「就形同把螢幕上嘅所有敏感資料交畀第三方AI後端」,完全繞過企業現有嘅資料外洩防禦系統。
報告深入分析AI瀏覽器帶來嘅多重致命風險。首當其衝嘅係難以阻擋嘅間接提示注入攻擊(indirect prompt injection)。惡意網站可以喺網頁內埋藏隱形指令,一旦AI瀏覽器讀取內容,AI就可能被誘導跳轉至釣魚網站、洩露登入憑證,甚至執行惡意指令。另一方面,大型語言模型固有嘅「幻覺」問題亦不容忽視,AI可能做出錯誤判斷,例如喺採購程序誤下訂單、錯誤填寫內部表單,甚至觸發不當操作。
更大嘅隱憂係員工濫用AI嘅誘惑極高。好多人忍唔住會叫AI「幫我上資安訓練」、「幫我填報銷單」、「幫我回覆內部電郵」。呢啲看似方便嘅舉動,有機會將客戶資料、財務文件、醫療紀錄等最高機密瞬間外傳至外部雲端。報告亦指出,目前AI瀏覽器幾乎做唔到「精細控管哪些網站可以傳資料、哪些唔可以」,一旦開放某一功能,就很可能等同全面失守。若員工喺內網或含有個資嘅頁面啟用AI功能,將極有可能直接觸犯GDPR、HIPAA、PCI-DSS等多項國際法規,後果相當嚴重。
基於上述種種風險,Gartner提出極為明確嘅分階段建議。短期內,所有企業應立即喺各類企業端點封鎖AI瀏覽器,包括停用Chrome、Edge內建嘅Copilot、Gemini側邊欄等AI功能。只有極少數具特殊需求嘅部門,先可在通過嚴格嘅後端AI服務安全審視後,有限度地使用,而且須確保供應商做到資料不離境、零保留、並提供完整審計日誌。即使在最嚴格嘅審核下允許使用,企業仍必須要求AI瀏覽器每次啟用前跳出明確風險提示,技術上禁止AI自動導航及自動填表,並將所有AI相關流量導向代理伺服器進行即時檢查與監控。
John Watts喺報告最後直言,目前AI瀏覽器嘅安全控制「遠遠未成熟」,在此情況下開放使用,等於把企業前門後門同時打開,「而家嘅技術狀態,根本唔值得冒這個險」。
報告發布後短短幾個鐘內,已經有多家全球500強企業火速更新內部政策,將Perplexity Comet、ChatGPT Atlas,以及主流瀏覽器嘅AI側邊欄功能全部列入封鎖名單。喺AI功能以極快速度滲透職場嘅此刻,Gartner呢份嚴厲警告再度提醒各界:無論工具幾吸引,只要資安守唔住,就必須毫不猶豫地說不。