問題の背景には、XやTikTokをはじめとする巨大プラットフォーム側の対策の遅れも存在する。インプレッション(閲覧数)稼ぎを目的とした悪質なアカウントが、ショッキングな捏造ヘイト動画やAI生成画像を投稿し、拡散されることで収益を得るビジネスモデルが成立してしまっているからだ。
プラットフォーム事業者はAIを用いた自動モデレーションや通報処理の高速化を掲げているが、隠語やスラング、画像内にテキストを埋め込む手法など、規律をすり抜ける技術との「イタチごっこ」が続いている。悪意によってインプレッションを集め、金銭的報酬を得る構造そのものを解体しない限り、根本的な解決は難しいとの見方が強い。