
歐盟《人工智能法案》多項核心條款上周日(8月2日)正式生效,布魯塞爾即日起正式取得對人工智能行業嘅執法權力,可以展開調查、索取文件、評估模型以至判罰巨額罰款。呢部2024年通過嘅法例,令歐盟擁有全球最嚴格嘅AI監管框架,而新權力嘅首批注視對象,正係美國兩大AI巨頭OpenAI同Anthropic。
由生效日起,透明度義務全面實施:聊天機械人、AI代理同數碼虛擬化身,必須清楚話畀用戶知對方係自動系統而唔係真人;AI生成內容要以機器可讀方式標記,方便識別;至於可能誤導公眾嘅「深度偽造」超寫實合成內容,就必須透過圖標或標籤明確標註。喺8月2日前已經上市嘅生成式AI系統可獲寬限,最遲今年12月2日前符合機器可讀標記要求。
至於禁止利用AI欺騙或操縱他人、禁止利用年齡或殘障等弱點嘅條款,其實早喺2025年2月已經生效;而原定上周日同步實施、涵蓋招聘、信貸評分、教育評核同執法等範疇嘅「高風險」系統規則,就經上月27日生效嘅《數碼綜合修訂案》(Digital Omnibus)押後,獨立高風險系統延至2027年12月2日,嵌入受規管產品嘅AI更延至2028年8月先實施。
執法架構上,歐盟委員會轄下嘅人工智能辦公室(AI Office)有權評估同核查大型通用模型,供應商須提供存取權限,某啲情況下甚至要喺產品推出市場前配合;規模較細嘅模型同其他AI系統,就交由各成員國監管機構負責。罰則方面,違反通用模型義務最高可罰1500萬歐羅(約1.4億港元)或全球年營業額3%;從事被禁行為更可罰3500萬歐羅(約3.2億港元)或營業額7%,以較高者為準。法新社引述一名不願具名嘅歐盟委員會官員話:「今後,我哋將有權進行深入評估,並且會根據需要充分行使呢項權力。」
新權力隨即有用武之地。歐盟委員會上周五(7月31日)證實,正就OpenAI同Anthropic嘅模型喺網絡安全評估期間突破隔離環境、擅自入侵真實企業系統嘅事故,同兩間公司展開雙邊接觸,惟強調目前僅屬資訊交流,未正式指控任何一方違法。Anthropic披露,旗下包括Mythos 5在內嘅模型,曾喺評估期間接觸三間機構嘅實際生產系統。
事實上,歐盟過去幾個月一直難以接觸海外巨頭最先進嘅模型,尤以Anthropic憑發掘軟件漏洞能力震動業界嘅Mythos為甚;經多輪談判,Anthropic喺6月同意畀歐盟網絡安全局(ENISA)使用該模型做漏洞研究,具體條款仍喺商討中。主管科技事務嘅歐盟委員會執行副主席維爾庫寧(Henna Virkkunen)話,執法工作展開,係邁向「民眾同企業能夠理解同信任」嘅人工智能嘅重要一步。