OpenAIは、チャイルドセクシャルアビューズマテリアル(CSAM)を検出する新たな画像分類ツールを公開しました。このツールは新規およびAI生成画像も対象としており、承認された団体に対してAPIを通じて無償提供されると、ITmedia AI+が報じています。
さらに、ChatGPT上でCSAMに関する検索を行ったユーザーに対しては、24時間のアカウント停止警告を導入しました。この措置により、悪質なコンテンツの拡散防止と利用者の安全確保を目指しています。
日本の規制環境においても、こうしたAI技術を用いた不正コンテンツ検出の強化は、今後のプラットフォーム運用に影響を与える可能性があり、国内外の市場関係者から注目されています。