Google EarthのAI画像編集、悪用で即日停止
Google EarthのAI画像編集ツールは、公開からわずか1日で停止された。ユーザーがテキスト指示で衛星画像を改変し、難民や爆撃跡など現実性の高いディープフェイク画像を生成したためだ。
悪用の実例と課題
ネット上にはツールで生成された虚偽の衛星画像が拡散。AI生成の透かしはあったものの、一部の検出ツールは回避され、効果的なガードレールが機能しなかった。
信頼とポリシーの観点
Googleは、ポリシー違反とユーザー信頼維持を理由に機能を停止。地理専門家による正当利用もあったが、現状では悪用リスクが大きすぎた。
個人開発者への示唆
- 現実世界データを扱う生成AIは、十分な安全策なしでは公開すべきでない。
- 公開前に、悪用防止策が実効性を持つか徹底検証が必要。
制約事項
Googleは今後の再開時にどのような技術・運用変更を行うかは未発表。