洩漏的資料揭露了中國人工智慧審查機器

ckwing03

https://xcornman.com/4568

外媒TechCrunch表示，他們收到的一份洩漏資料庫顯示，中國政府已經開發出一種人工智慧系統，可以為其本已強大的審查機器提供超強動力，其範圍遠遠超出了天安門大屠殺等傳統禁忌。

該系統似乎主要用於在線審查中國公民，但也可以用於其他目的，例如用於改進中國的人工智慧審查制度。

加州大學柏克萊分校研究中國審查制度的研究員蕭強也研究了該資料集，他指出，這是中國政府或其附屬機構希望利用LLM來加強壓制國民的「明確證據」。

蕭強表示，與依賴人力進行基於關鍵字的過濾和人工審查的傳統審查機制不同，接受過此類指令培訓的LLM模型將顯著提高國家主導的信息控制的效率和精細度。

越來越多的證據表明，這個專制政權正在迅速採用最新的人工智慧技術。例如，今年 2 月，OpenAI 表示，發現多家中國實體利用 LLM 追蹤反政府貼文並抹黑中國異議人士。

中國駐華盛頓特區大使館在一份聲明中向 TechCrunch 表示，反對「對中國的無端攻擊和誹謗」，中國高度重視發展道德的人工智慧。

該資料集是由安全研究員 NetAskari發現的，他發現該資料集儲存在百度伺服器上託管的不安全的 Elasticsearch 資料庫中。目前仍未完全清楚何人何時建立。

該系統的創建者要求LLM模型確定某段內容是否與政治、社會生活和軍事等敏感話題有關。此類內容被視為「最高優先級」，需要立即標記。

最受關注的議題包括污染和食品安全醜聞、金融詐欺以及勞資糾紛，這些都是中國的熱門議題，有時會引起民眾抗議，例如2012年的什邡污染抗議事件。

任何形式的「政治諷刺」都成為明確的目標。例如，如果有人用歷史類比來闡述「當前政治人物」的觀點，就必須立即標記，任何與「台灣政治」相關的內容也必須立即標記。軍事問題成為廣泛關注的目標，包括軍事調動、演習和武器的報導。顯而易見，系統所有的所有，就是運用AI去深層監控和審查中國人。