
特朗普宣布準備成立「AI Force」,稍後再委任一位「AI沙皇」,表面睇落好似美國政府終於準備處理人工智能風險。但到目前為止,特朗普冇公布成立日期、組織架構、負責部門、預算同法定權力,甚至連AI沙皇幾時任命、向邊個負責都冇交代。所以呢件事現階段唔係一套完整政策,只係一項政治宣布。特朗普最擅長嘅,就係先改一個威風嘅名、宣布成立組織,製造政府已經採取行動嘅印象。
特朗普早前將AI末日論形容為「騙局」同「陰謀」,反對因為人工智能可能失控而拖慢美國發展。佢話美國唔需要增加管制,現有刑事同民事法律,已經足以處理利用AI做壞事嘅人。但到九月十九日,特朗普又宣布成立AI Force。如果AI威脅只係騙局,點解需要新組織?如果現有制度已經足夠,點解又要委任AI沙皇?呢個係佢政策上最明顯嘅前後矛盾。
科技公司領袖、前線研究人員同安全專家,不斷警告下一代AI模型可能具備更強嘅網絡攻擊、自主執行同欺騙能力。公眾對AI失控嘅憂慮亦愈嚟愈大,政府已經唔能夠完全袖手旁觀。特朗普既唔想承認AI末日論可能有道理,亦唔想被人批評對風險冇任何準備。成立AI Force就成為最方便嘅政治回應,既可以話自己冇阻礙AI發展,又可以向公眾表示政府已經「睇住風險」。
就算特朗普成立AI Force,亦唔代表呢個組織有權禁止公司發布模型。佢最多可以協調部門、進行測試、提出警告,同要求企業自願合作。特朗普六月二日簽署嘅行政命令,要求政府建立前沿模型測試框架,容許企業喺模型交畀其他可信伙伴之前,最多提早三十日畀政府接觸。但命令同時寫明,呢套安排唔構成強制發牌、預先批准或者發布許可制度。
總統只可以運用國會已經授予行政部門嘅權力,例如限制敏感晶片出口、決定政府採購邊個模型、保護軍事同機密系統,或者追究利用AI進行入侵、欺詐同破壞嘅人。但如果政府要強制企業登記GPU、申報算力用途、披露模型資料、接受發布前審查,甚至授權官員禁止一個尚未違法嘅模型推出,就一定要經過國會立法。總統唔可以靠一紙行政命令,憑空創造一套全面AI監管制度。
要真正監察大型AI模型,最直接嘅辦法係由高階GPU開始追蹤。政府要知道邊間公司買咗幾多晶片、放喺邊個數據中心、用嚟訓練乜嘢模型,以及實際運算量去到邊個水平。但咁樣做,就等於建立一套龐大嘅算力監察制度。雲端公司係咪要申報每個客戶?GPU係咪要加入身份認證或者遙測功能?公司將運算搬到海外又點處理?地下市場、走私晶片同分散式算力,政府又有冇能力追蹤?
就算政府掌握到算力,下一步仍然要定義乜嘢叫「危險AI」。係按照模型參數、訓練成本、GPU數目,定係模型實際顯示出嚟嘅能力?一個模型使用大量GPU,唔代表一定危險;規模較細嘅模型,如果接駁武器、銀行、電網或者攻擊工具,同樣可以造成嚴重損害。政府亦要交代由邊個測試、用乜嘢標準評分、風險去到幾高先要叫停。如果公司不同意政府判斷,有冇上訴權?如果政府審查延誤,令企業失去市場,又由邊個負責?
特朗普可以迅速宣布成立AI Force,卻冇辦法迅速建立一套合法、可執行而又獲社會接受嘅AI監管制度。GPU追蹤、算力門檻、模型審核、叫停權同國際協調,都要經過國會授權、公共討論、行政立規同司法覆核。所以今次真正值得留意嘅,唔係特朗普突然相信AI末日論,而係佢知道社會要求政府表態。成立AI Force同宣布政治任命,可以製造政府已經做緊嘢嘅形象。但有組織唔等於有權力,有官員唔等於有制度,有宣布更加唔等於有執行能力。