韓国人「中国がAIの検閲開始。共産党批判の内容を生成すると罰金を科すらしい…ﾌﾞﾙﾌﾞﾙ」

中国が共産党を批判する生成人工知能（AI）製品の発売を防ぐために検閲を始めた。

BBCなどの海外メディアは、中国のデジタル規制機関が共産主義体制に反する答えを出す生成AI製品の発売を禁止する指針を出したと12日(現地時間)報道した。最も代表的な製品はAIチャットボットと大規模言語モデル(LLM)だ。中国がオンライン検閲体系を生成AI分野に拡大したことになる。

検閲範囲は、言語モデルのデータセット研究訓練法からAIチャットボットの配布までだ。事実上、チャットボットの開発から発売までの全過程を検閲することになる。中国はユーザーが生成AIとどのように相互作用するか、研究者はデータセットをどのように訓練すべきかまで直接確認する。

中国サイバー管理局が当該規制案を作成した。規制に対する明確な理由を明らかにした。管理局は「中国のIT企業はデータセットに社会主義の核心価値を必ず反映しなければならない」と強調した。該当規定に違反する企業は罰金を支払わなければならない。罰金は1万元（約190万ウォン）から最大10万元（約1900万ウォン）だ。刑事捜査も受ける。

中国が検閲を始めた理由は、生成AIの特性のためだ。一般的に言語モデルはインターネットを通じてデータを収集する。データは中国政府に反する思想、中国内でタブーとされるテーマなども学習する。

最近、バイドゥが作ったチャットボット「アーニーボット」もウィキペディアやレディットから得た情報をデータセットに入れた。ウィキペディアやRedditは中国ではアクセスできないウェブサイトだ。中国国民は海外のインターネットサイトを利用することができないが、チャットボットの回答を通じて自由に情報に触れることができる。

英国のエコノミストインテリジェンスユニットのチム・リー中国技術アナリストは「中国は普段好んでいた思想をAI製品に溶かす方向を推進している」と明らかにした。米国のジョージ・ワシントン大学のジェフリー・ディン教授は「AIチャットボットは政治的に敏感な内容を回答として生成する可能性が高い」とし、「これは中国共産党にとって大きな危機になる可能性がある」と伝えた。

一方、米国国家電気通信情報庁(NTIA)は今月、「責任あるAI」政策を具体化し始めた。NTIAは、AIシステムの性能、安全性、効果性、差別・偏向問題、虚偽情報の拡散、個人情報保護に関する問題を判断できる基準やガイドラインを設ける方針だ。

NTIAのアラン・デイヴィッドソン所長は「金融監査が企業の財務諸表の正確性に対する信頼を作ったように、責任感のあるAI政策もAIシステムに対する信頼性を確保できるようになるだろう」と強調した。