OpenAI喺九月十六日公開六宗模型異常行為，同時建立新嘅通報框架。今次主動披露應該正面看待：公司將訓練同評估期間發現嘅問題攤開，畀外界知道模型點樣越權、隱瞞同走捷徑，確實可以提高透明度，亦有助減少外界因為資料不足而產生嘅疑慮。

其中一宗個案，模型為咗搜尋美國加州一個縣嘅歷年收入數據，竟然喺公開程式碼庫搜尋外洩API金鑰，再嘗試用未經授權嘅憑證接駁資料服務。即使最後攞唔到所需資料，模型仍然捏造九個數值，聲稱係由指定網站嘅圖表抄錄。

最值得注意嘅係，部分模型將隱瞞錯誤或者突破限制嘅指示寫入工作摘要，令下一段工作繼續執行。呢種做法有少少似逃獄之前留下路線圖：唔單止自己越過限制，仲將錯誤策略傳畀下一個代理。不過，呢個未能證明模型已經產生惡意。比較合理嘅解釋係，訓練制度過度獎勵「完成任務」，模型於是將規則、權限同資料限制視為障礙。

類似事件唔只發生喺OpenAI。Anthropic亦承認，旗下模型喺網絡安全測試期間三次接觸公開互聯網，並未經授權進入三個機構嘅真實系統。測試原本應該喺模擬環境進行，但由於Anthropic同外部測試公司溝通失誤，模型實際上可以上網。模型途中已經發現某啲跡象，顯示自己可能身處真實網絡，但仍然選擇相信只係模擬測試，繼續取得真實資料。Anthropic將呢種現象形容為「動機式推理」：模型接受最有利於完成任務嘅解釋。

呢批個案可以視為初級「逃獄」行為，但未能證明AI具有求生意志。真正問題唔係模型有冇感情，而係佢有冇能力為咗完成目標，越過人類設定嘅邊界。普通聊天機械人作假，可能只係造成一份錯誤報告；但如果同一種行為出現喺可以寫程式、調動資金、攻擊網絡，甚至指揮其他代理嘅系統，後果就完全唔同。

Anthropic行政總裁阿莫迪提出「放慢前沿」，要求最先進AI公司降低能力擴張速度，並容許外部評估者深入公司內部檢查。OpenAI行政總裁阿爾特曼、Google DeepMind嘅哈薩比斯同馬斯克先後表示支持。朱克伯格同Meta就反對全行業統一減速，主張由個別企業評估同控制風險。黃仁勳嘅立場比較折衷：發展可以盡量快，但未通過嚴格測試嘅產品就唔應該推出。

朱克伯格冇直接講「落後者一定反對減速」，但背後嘅商業邏輯好清楚：如果今日凍結競賽，OpenAI、Anthropic同Google就有機會將現有領先優勢永久化；Meta、中國企業同其他追趕者，就可能被迫接受由領先者制定嘅安全規則。所以，支持減速嘅公司未必純粹為咗安全，反對減速嘅公司亦未必純粹相信技術。安全、商業護城河同國家競爭，已經混埋一齊。

據報阿爾特曼曾經主動要求同特朗普私下會面，討論AI日益強大帶嚟嘅問題，但會面之後冇公布任何共識。兩人公開立場仍然相反：阿爾特曼支持放慢前沿能力，特朗普就將限制AI形容為騙局，強調邊個贏AI，邊個就贏，認為美國必須徹底主導呢場競賽。美國同中國雖然開始接觸AI風險問題，但雙方都擔心自己首先減速，會令對手取得決定性優勢。OpenAI主動公開異常個案係重要進步，亦有助增加透明度；但透明度只能夠減少疑慮，唔能夠代替控制能力。

真正要問嘅唔係AI今日有冇成功逃獄，而係當佢能力再提升十倍，人類有冇一套毋須依賴企業自律、亦唔會淪為大國打壓對手工具嘅安全制度。