由億萬富豪馬斯克持有嘅人工智能公司xAI，旗下嘅聊天機械人Grok近日因為新推出嘅圖片編輯功能，引發咗嚴重嘅倫理同法律爭議。呢項功能被指控缺乏必要嘅安全護欄，令用戶可以輕易將女性甚至兒童嘅普通相片轉化做色情圖像，之後仲喺社交平台X上面瘋傳。呢件事唔單止喺網絡社群引發強烈反彈，更加遭到多國政府同監管機構嘅嚴厲譴責，顯示目前生成式人工智能喺內容審核同安全監管方面所面臨嘅巨大漏洞。

事源係Grok喺十二月下旬推出咗一項「編輯圖片」功能。呢個工具原意係想畀用戶有更多創作自由，但好快就被發現存在嚴重被濫用嘅風險。據大量用戶投訴指出，呢項功能容許使用者上傳真實人物嘅相片，再透過文字指令要求AI修改圖片內容；部分惡意用戶利用呢個漏洞，指令Grok移除相中女性或兒童嘅衫，生成全裸或部分裸露嘅偽造色情圖像（Deepfake Pornography）。呢啲未經當事人同意生成嘅猥褻內容，隨即喺馬斯克擁有嘅社交平台X上面大量湧現，造成極之惡劣嘅影響。

針對呢個現象，路透社（Reuters）喺美國東部時間一月二日中午進行咗一項實測調查。喺短短十分鐘嘅審查時段入面，調查人員分析咗用戶發送畀Grok嘅公開請求數據。統計結果令人震驚：喺嗰個時段內，竟然有多達102次請求係X用戶明確要求Grok對人物相片進行數碼編輯，令到相中人睇落似係只著住比堅尼或者其他暴露裝束。呢個數據有力咁佐證咗，該功能正被大規模用於製造性暗示或色情內容，而唔係單純嘅創意修圖。

面對排山倒海嘅批評，Grok官方帳號喺社交平台X發文承認咗系統缺陷，表示：「我哋已經發現安全防護方面嘅漏洞，正喺度緊急修復。」Grok同時強調，兒童性虐待內容係絕對非法而且被嚴格禁止嘅。不過，雖然官方作出了回應，目前仲未可以確切評估該功能喺被修復前，已經喺幾大程度上被濫用，以及有幾多受害者嘅合成影像已經流出並喺網絡上散播。

呢件事迅速升級成為國際監管問題，其中法國同印度嘅反應尤其激烈。法國方面，多名議員已經就呢啲令人不安嘅圖像向檢察官同監管機構正式舉報X平台。法國議員喺剛過去嘅星期五發表聲明嚴厲指出，呢啲由AI生成嘅「色情同性別歧視」內容「顯然係非法嘅」，絕唔可以拎技術中立或者言論自由做藉口。法國相關部長亦證實，由Grok生成嘅爭議內容已經提交畀法國媒體監管機構進行深入審查，重點係要釐清呢啲內容有冇違反歐盟極具約束力嘅《數碼服務法》。如果被認定違規，X平台可能面臨鉅額罰款或者更嚴厲嘅制裁。

與此同時，印度政府亦對X平台採取咗強硬措施。印度電子與資訊科技部已經向X發出正式通知，要求佢哋必須立即採取糾正措施。印度政府勒令X平台喺72小時內提交一份詳細報告，具體說明該平台正喺度採取啲咩技術同管理手段，去移除由Grok生成、兼且未經當事人同意嘅「猥褻、裸體、不雅及性暗示內容」。呢啲舉動顯示出各國政府對於AI生成嘅非自願色情內容（Non-consensual Pornography）採取咗零容忍嘅態度，並且直接向平台營運商問責。