【画像】イギリス政府の教育キャラクター「アメリア」、愛国者の手によって極右ギャルに改変される

Meet ‘Amelia’: the AI-generated British schoolgirl who is a far-right social media star

The avatar, created to deter young people from extremism, has been subverted and is breaking out of niche online silos

www.theguardian.com

AI生成の英国女子学生キャラクターが極右ミームに拡散

ロンドン（英国）発 – イギリス政府系プロジェクトで制作されたAI生成キャラクター「アメリア（Amelia）」が、極右系ソーシャルメディア上で急速に人気を博し、予想外のインターネット現象となっている。

アメリアは紫色の髪をした“ゴスっぽい”英国の女子学生として描かれたAIキャラクターで、もともとは若者に過激思想の危険性を教える教育用ゲーム『Pathways: Navigating the Internet and Extremism』の登場人物だった。ホームオフィス（英内務省）が資金提供したこのゲームは、ネット上の過激化を防ぐ目的で制作されたが、その意図とは裏腹にキャラクター像がインターネット上で一変した。

オンライン上では、アメリアの画像や動画がAIツールで加工され、ユニオンジャックを掲げたり、ロンドンや議会前を歩く姿が描かれるなど、極右思想や反移民・反イスラム的なメッセージと結び付けられて拡散している。投稿の多くはXやFacebookといったプラットフォームを通じて広まり、国際的にも注目を集めている。

また、この現象に便乗して「アメリア」をテーマにした 暗号通貨（ミームコイン）まで登場。一部のユーザーやグループはこのトレンドを利用して利益を得ようとしているとの指摘もあり、「憎悪のマネタイズ」と批判されている。

キャラクター制作者側の団体は、アメリアが元々「警告」の役割を果たすべき存在だったと説明しつつ、ミーム化や過激派的な使われ方に強い懸念を示している。彼らはまた、ゲーム単体では教育効果が限定的で、適切な指導資源と併せて使われるべきだったと述べている。

この一連の出来事は、AI生成コンテンツがソーシャルメディア文化や政治的プロパガンダにどのように影響を及ぼしうるかを巡る議論をさらに加熱させている。