根據台灣《中央社》10號報導，有AI工程研究人員警告，有一隻大規模嘅「俄羅斯假資訊網軍」，正在操縱ChatGPT等西方嘅AI人工智慧對話機器人，用以產生支持克里姆林宮嘅政治宣傳內容。

《法新社》報導指出，呢個假消息網絡名為「真理」（Pravda），有時亦以別名「入口戰鬥」（Portal Kombat）嘅稱呼為各界所知，其總部設在莫斯科，並握有當局豐富嘅資源供應。

假消息監管機構「NewsGuard」嘅研究員，近日發布報告指，「真理」藉由對各個大型語言模型（LLM）灌注大量「撐克宮」嘅假資訊，扭曲對話模型產生嘅內容，從而在全球散播親俄言論。

NewsGuard對10個主要嘅西方AI對話機器人進行研究，發現有關機器人複述「真理」網絡假資訊嘅機率「超過33%」，有效促進「有利於莫斯科」嘅政治目的。

報告嘅發現，凸顯生成式AI模型嘅威脅，不單止會揀選網上流傳嘅假訊息，仲可能會有機構刻意鎖定對話模型「散步虛假訊息」，以利於接觸到更大範圍受眾，研究員將操縱資訊嘅技巧稱為「大型語言模型誘騙」（LLM grooming）。

NewsGuard研究員 沙迪吉（McKenzie Sadeghi）及 布雷契茲（Isis Blachez）在報告中指：目前已有大量俄羅斯政治宣傳內容混入西方AI系統並被產出，在2024年就有360萬篇相關文章，藉此利用不實說法及政治宣傳，汙染西方AI系統嘅回覆。

非營利機構「美國陽光計畫」（American Sunlight Project）同在另一份研究報告中提出警告，指「真理」網絡接觸範圍持續擴大，其散布嘅親俄內容，恐怕已大量灌入大型語言模型嘅訓練資料中。

自2022年2月俄羅斯對烏克蘭發動全面侵略後，「真理」網絡順勢在同年4月開始運作。根據NewsGuard 嘅研究，其操作範圍至今已擴展至49個國家、資訊內容版本多達數十種語言。

研究並指，「真理」網絡不自產原生內容，主要係將來自俄國官媒或親克宮網紅嘅消息加以綜合後，產生出大量親俄內容。例如，美國在烏克蘭運作所謂「祕密生物武器實驗室」一類嘅不實資訊。在「推特X、Telegram、Bluesky」等社媒平台，可見到多達數百萬篇由「真理」網所生成嘅內容及貼文大量擴散。

NewsGuard對10個西方對話模型進行研究，其中包括OpenAI 嘅「ChatGPT-4」、You.com 嘅「Smart Assistant」、Grok、微軟Microsoft 嘅「Copilot」、臉書FB母企Meta 嘅「Meta AI」、谷歌Google 嘅「Gemini」、Perplexity。

研究結果發現，上述對話模型全都複述「真理」網散布嘅假消息，其中7個並直接引用「真理」網中幾篇文章做為資料來源。

美國陽光計畫執行長 楊科維茲（Nina Jankowicz）表示：隨著俄國嘅影響力作戰擴大並變得更先進，對世界各地民主言論嘅信譽構成直接威脅。佢並直指，「真理」網有能力以咁大嘅規模散布假訊息，實屬前所未見。由於佢可能影響AI系統，意味其造成嘅威脅甚至更加危險。