金曜日のブログ投稿によると、OpenAIは、米国大統領選挙に関するコンテンツを生成していたイランの影響作戦に関連する一群のChatGPTアカウントを禁止しました。同社は、その作戦がAIで生成された記事やソーシャルメディア投稿を作成したと述べていますが、それが多くの観衆に届いたようには見えません。

OpenAIがChatGPTを悪用している国家関係者にリンクされたアカウントを禁止するのは初めてではありません。同社は、5つのキャンペーンを乱し、ChatGPTを使って世論を操作しようとする試みをしている。

これらの出来事は、以前の選挙サイクルに影響を与えようとする国家の行為者が、FacebookやTwitterなどのソーシャルメディアプラットフォームを使用することを想起させます。今、同様のグループ（またはおそらく同じもの）が生成AIを使用してソーシャルチャンネルに誤情報を流すようになりました。ソーシャルメディア企業と同様に、新しいアカウントが現れるたびにこれらの取り組みに関連するアカウントを禁止しようとするwhack-a-moleアプローチを採用しているようです。

OpenAIによると、この一群のアカウントの調査は、先週公開されたMicrosoft Threat Intelligenceレポートからのもので、2020年以来運営されている米国の選挙に影響を与える広範なキャンペーンの一部として、そのグループ（Storm-2035と呼ばれる）を識別しました。

マイクロソフトは、Storm-2035が、ニュースサイトを模倣した複数のサイトを持つイランのネットワークであり、「LGBTQの権利、イスラエル・ハマスの紛争などの問題に関する極性化したメッセージを米国の選挙に影響を与えるグループにアクティブに提供していた」と述べています。他の作戦でも証明されているように、プレイブックは必ずしも一つの政策を促進することではなく、対立と紛争を引き起こすことです。

OpenAIは、Storm-2035のために進行中のウェブサイトフロント5つを特定し、両極端のニュース配信サイトとしてプレゼンテーションしています。「evenpolitics.com」といった説得力のあるドメイン名を持つ。グループはChatGPTを使用して、いくつかの長文の記事を作成しました。その中には、「Xがトランプのツイートを検閲」と主張するものもありますが、イーロン・マスクのプラットフォームはそれを行っていません（むしろ、マスクは前大統領ドナルド・トランプにXでより多く参加するよう勧めています）。

OpenAIは、これらのプラットフォームに投稿された各種政治的コメントを書き換えるためにChatGPTが使用されたと述べています。その後、これらのプラットフォームに投稿されました。その中の1つは、カマラ・ハリスが「移民のコストの増加」を気候変動に帰属させ、それに続いて「#DumpKamala」という誤った、かつ混乱を招くツイートです。

OpenAIによると、Storm-2035の記事が広く共有された証拠は見当たらず、その多くのソーシャルメディア投稿が、ほとんどいいね、シェア、コメントを受けていないことが確認されました。これは、これらの作業が迅速で安価にChatGPTなどのAIツールを使用して設定できるため、多くの通り通りの場面で見られるものです。選挙が近づくにつれて、オンラインでの対立が激化する中、このような注意事項がさらに多く現れることが予想されます。