レポート第6章:詐欺・不正行為(2026年9月レポート)
この章にはGTG-15001という1つの事例しかありません。レポートによると、出会い系アプリのネットワークが、開示されないAIアカウントと人間のギグワーカーを同じサービスに混在させ、ユーザーに従量課金していました。
p. 139–142 · 1 事例ユニット
主な発見
- レポートによると、運営者はClaudeを使って20を超える出会い系アプリを同時に構築し、その中のAI対話アカウントを駆動していましたが、サービスではすべて人間が提供していると公言していました。
- 2026年4月の2週間の期間:4,700を超えるAIアカウント、少なくとも25,000人の独立したインタラクション相手、Claudeが担った約236万件のメッセージ。これらはインタラクションの規模であり、確認された損害の数値ではありません。
- この章の重点は、アカウントが開示されないことと課金の誘導であり、伴侶型AI自体ではありません。人間のギグワーカーは「真実性チェック」を通過させるために使われており、1回のビデオ通話でプラットフォームの透明性を証明することはできません。
何が起きたか
この章は分量が少なく(原レポート第139–142ページ)、GTG-15001の1事例のみを含みます。レポートはこれを「既存のAIモデルの詐欺における能力と限界」を示すサンプルとして使用しています。新規のモデル濫用技術には依存していませんが、規模は2025年の同様の事例(行為者がTelegramボットを使って他の詐欺師のために出会い系メッセージを生成していた)よりも明らかに大きく、複数のAIプロバイダーに重複しない役割を担わせています。Claudeは自動対話を担当し、他のモデルは返信提案、画像生成、コンテンツ審査を担当しています。
レポートによると、この活動の運用構造は「三者市場」です。対象ユーザー(レポートによると米国在住)は情報の流れの中でスワイプしてマッチングしますが、約4分の3はClaude駆動のアカウント、約4分の1は人間のギグワーカーであり、両者は区別できません。メッセージの送信とマッチングは従量制の枠を消費し、アプリ内通貨をチャージして更新する必要があります。ギグワーカーは招待制で募集され、メッセージ、ビデオ通話、フォローバックで報酬を得ます。AIアカウントには、自動化されたアカウントであることを決して明かさず、ビデオ通話の要求を避け、一定の段階に従って対話を進めるよう指示されています。
レポートはまた、見落とされがちな2つの詳細を指摘しています。1つ目は、アカウントを駆動するシステムプロンプトは通常のロールプレイや伴侶型のデプロイのように読め、単一の対話の内部からは欺瞞と収益化は見えないことです。少量のサンプリングでは、モデルの推論に危害のシグナル(ユーザーが重病や極度の苦痛を明かすなど)が浮かぶことがありましたが、出力は引き続き役割を維持していました。2つ目は、これらのアプリがアプリストアの審査を回避するために特別な設計をしていることです。審査期間中のみ有効化されるインターフェースコントローラー、20を超えるアプリの亜種全体での差別化された命名、審査期間中に隠蔽可能な支払いリダイレクトなどです。
取得と処置に関して、レポートによると行為者は中国に拠点を置くAPI再販とプロキシ基盤を利用し、Anthropicのサポート地域と利用ポリシーを回避するためにモデルアクセスを大規模に取得・ローテーションしていました。Anthropicはこの活動に帰属するアカウントと組織を停止し、対話以外の役割を担う他のAIラボに発見を共有し、プラットフォーム側の指標をAppleとGoogleに直接提供しました。完全な事実と数値の口径は当サイトの事例全文をご覧ください。
原レポート図版:GTG-15001の「三者市場」——ユーザー、Claude駆動のAIアカウント(約75%)、人間のギグワーカー(約25%)が同じ情報の流れの中に共存し、メッセージは従量課金されます。
関連事例
p. 139–142
Anthropicのレポートによると、中国のあるアプリスタジオがClaudeを使用して20以上の出会い系アプリを構築し、ユーザーと対話するAIバーチャルアカウントを稼働させていました。サービスはすべて人間によるものと宣伝されていましたが。2026年4月の2週間の窓口で、レポートは4,700を超える異なるAIバーチャルアカウントが少なくとも25,000人の独立した個人とインタラクションしていることを発見しました。スタジオはまた、人間を募集してボットと同じマッチングフィードに混在させ、主に真実性チェックに使用していました。AIと人間の比率は約3:1でした。
対応の限界
この章では1つの事例のみを開示しており、発行元が自社プラットフォームでの可視性に基づいて選んで開示したサンプルです。これに基づいてAI詐欺の世界的な規模、被害者の総数、業界分布を推定したり、特定のアプリストア全体の安全性を推論したりすることはできません。すべての規模の数値は2026年4月の2週間の観察期間と特定の口径に紐付いており、「インタラクションの相手」は確認された損害者数と同じではありません。
行為者の帰属、処置の内容、協力先の記述はすべてAnthropicによるものであり、当サイトは現実の結果すべてを独自に確認していません。レポートに記載されたドメインやIPなどの侵害の痕跡は、当サイトの安全境界に従い具体的な値は転載しません。アカウントの停止が、関連するすべてのアプリの運用停止を確認するものではありません。