公開脅威レポート · 独立分析

AIがどのように濫用されるかを理解する

公開されたAI脅威レポートを、一般の人にもわかる事例に整理しました。事例ごとに、何が起きたか、AIがどのような役割を果たしたか、何に証拠があり何が依然として不明かを説明します。これは独立した編集プロジェクトであり、レポート発行元の公式サイトではありません。

すべての事例を見る

言語: 简体中文 · English · Español · Français · العربية · 日本語

7種類の濫用、7種類の現実の危害

国や企業のランキングではなく、危害のメカニズムで読んでください。

サイバーオペレーション

AIは古い手法を加速させる:認証情報の窃取、未修正のシステム、フィッシングが依然として侵入口であり、変化は主に規模とコストにある。

8 事例ユニット

影響工作

重要なのは意見ではなく、身分の隠蔽、スポンサー関係の秘匿、出典の偽装である。コンテンツの量が実際の影響力とイコールではない。

9 事例ユニット

監視活動

情報が公開されていることは、同意なしに個人を関連付け、識別し、追跡してよいことを意味しない。

8 事例ユニット

通常兵器

文書、シミュレーション、テストは分けて読む:ソフトウェアや仕様があることは、現実の打撃能力が形成されたことを意味しない。

6 事例ユニット

生物分野での濫用

同じ知識が有益にも有害にもなりうる。当サイトでは用途の種類、段階、ガバナンスのみを扱い、実験の詳細は一切述べない。

4 事例ユニット

詐欺と不正行為

相手はあなたが思っている人ではないかもしれません。レポートによると、出会い系アプリの中には、開示されていないAIアカウントを「真人サービス」に混ぜ、有料誘導するものがあります。

1 事例ユニット

不正なモデル蒸留

蒸留は一つの技術です。不正アクセス、転送、データ抽出は別の判断レベルの問題です。レポートの指摘は司法的な結論ではありません。

6 事例ユニット

編集部セレクション

代表的な3つの事例:一般個人を対象とした詐欺、AIサービスのサプライチェーンにおける認証情報窃取、組織的な影響工作。

01詐欺・不正行為

出会い系アプリにおける開示されないAIアカウント:GTG-15001事例

Anthropicのレポートによると、中国のあるアプリスタジオがClaudeを使用して20以上の出会い系アプリを構築し、ユーザーと対話するAIバーチャルアカウントを稼働させていました。サービスはすべて人間によるものと宣伝されていましたが。2026年4月の2週間の窓口で、レポートは4,700を超える異なるAIバーチャルアカウントが少なくとも25,000人の独立した個人とインタラクションしていることを発見しました。スタジオはまた、人間を募集してボットと同じマッチングフィードに混在させ、主に真実性チェックに使用していました。AIと人間の比率は約3:1でした。

事例を読む

02サイバーオペレーション

偽のAI再販サービスと認証情報窃取:GTG-50021事例

Anthropicのレポートによると、AIサプライチェーンは悪意のある行為者にとって標的であり、戦利品であり、攻撃の計算能力源でもある。盗まれたAPIキー、セッショントークン、デバイスという形でのAIアクセス権は、複数の犯罪集団にとってますます唯一の目標となっている。GTG-50021はロシア語とウクライナ語を話す行為者が運営する偽のAI再販サービスである。顧客は割引価格のClaudeアクセスを買ったと思っていたが、実際のトラフィックは他のモデルに静かに転送されていた。再販ツールはデバイスに認証情報収集プログラムもインストールし、アカウント認証情報を他のエージェントネットワークに転売していた。

事例を読む

03影響工作

地域をまたぐ商業的世論操作サービス:GTG-54002事例

Anthropicのレポートによると、「各地の独立ニュース編集部」に偽装したネットワークがClaudeを使って政治コンテンツを大量生産・改変した。約70の偽装ニュースサイト、少なくとも8,913件の記事、約20言語、さらに70の連動Xアカウントと250超の偽コメントアカウントで拡散を図った。ただしレポートは同時に、コンテンツの大部分には実際の視聴者のほとんどインタラクションがなく、自前ネットワークを超える拡散の証拠は見られなかったと強調している。量が影響力とイコールではない。レポートはこのネットワークをフランスのデジタル広告会社に追跡したが、依頼主を確認できず、政府の指示の証拠も発見しなかった。

事例を読む

各事例の読み方

  1. 何が起きたか。 日常的な言葉で事件の経緯を説明します。いつ、誰が巻き込まれたか。レポートに記載のないことは推測しません。
  2. AIが何をしたか。 AIがどの段階で登場したか——コンテンツ生成、ソフトウェア作成、データ分析、あるいは人とのインタラクション。AIの役割をすべての原因として誇張しません。
  3. 確認事項と不明事項。 レポートが確認した事実と、依然として不明な事項を分けて記載します。帰属の表現と否定的証拠は原文の口径をそのまま保留します。
  4. リスクを減らすには。 編集部が補足する防護の提案は、一般の人が実行できる予防策に限り、攻撃の手法を再現することはありません。

収録レポート

現在収録しているレポートは1件です。Anthropicが2026年9月10日に発行した *Detecting and countering misuse of AI: September 2026*、全文154ページ、英語です。

主な観察期間は2025年12月から2026年8月で、7種類の危害をカバーしています:サイバー攻撃、影響工作、監視、詐欺・不正行為、生物分野での濫用、通常兵器、不正なモデル蒸留。

レポートを42の事例ユニットに分割しました。42は読みやすさのための編集上のユニット数であり、42件の独立した事件ではありません。1つのユニットに複数のアカウントや活動が含まれることもあります。詳しくはレポートガイド事例ライブラリをご覧ください。

レポートガイドを読む

方法論と訂正

事例の分割、数値の口径、レポートの事実と編集提案の区別については、研究方法をご覧ください。

誤りや訂正の手がかりがありましたら、お問い合わせ・訂正からお知らせください。レポート原文に関する事実は原レポートを基準とします。