Évitement des contrôles d'accès dans la recherche à haut risque : Cas biologique 1

Ce qui s'est passé

En mai 2026, notre classifieur de biosécurité a intercepté une demande demandant à Claude d'aider à rédiger une demande de financement de recherche. Les travaux décrits dans la demande portaient sur une recherche de gain de fonction sur le virus du chikungunya — une recherche qui modifie génétiquement des organismes pour créer des traits biologiques nouveaux ou améliorés. La recherche de gain de fonction visait la transmissibilité et les propriétés d'évasion immunitaire du virus.

Le virus du chikungunya est un virus transmis par les moustiques qui peut provoquer des symptômes débilitants durant des semaines ou des mois, tels que des douleurs intenses et de la fièvre, et il n'existe pas de traitement approuvé. Comme le virus du chikungunya circule naturellement, une libération délibérée — dans le cadre d'une arme biologique — serait difficile à distinguer d'une épidémie naturelle. La demande de financement visait à identifier des mutations améliorantes du virus du chikungunya, à les introduire dans un clone infectieux et à sélectionner la virulence in vivo. En d'autres termes, à mesure que le virus infectait à plusieurs reprises des animaux vivants, il devenait de plus en plus nuisible, et les chercheurs conservaient la variante la plus pathogène à chaque tour. Des recherches similaires peuvent bien sûr être utilisées pour développer de meilleurs vaccins et traitements contre le virus — mais elles peuvent aussi être utilisées pour rendre un agent pathogène plus dangereux.

L'une des raisons pour lesquelles nous avons eu tendance à considérer cette recherche comme moins que bénigne est que les affiliations institutionnelles associées à la demande de financement étaient également préoccupantes. Bien que les informations de la demande suggèrent que la recherche était menée par des chercheurs civils, elle était destinée à être réalisée dans une institution de recherche militaire.

La combinaison du contenu et de l'affiliation institutionnelle était suffisamment préoccupante pour que nous menions une enquête sur la menace supplémentaire après l'examen initial, même s'il existe des preuves que notre classifieur de biosécurité a bloqué toutes les communications liées à ces demandes.

L'enquête a révélé que la demande était généralement acheminée via une plateforme LLM desservant des dizaines de chercheurs en sciences de la vie différents — dont beaucoup étaient des virologues affiliés à plusieurs institutions civiles et militaires différentes. Le pays où cette recherche était menée se trouve dans une région où Anthropic ne fournit pas de services, de sorte que la plateforme a fait transiter le trafic via une infrastructure américaine pour contourner nos blocages régionaux et a utilisé un service de rétention zéro de données (ZDR).

Ce que l'IA a fait

L'enquête a mis au jour une plateforme de revente de modèles tiers qui, selon le rapport, desservait des dizaines de chercheurs en sciences de la vie, dont beaucoup affiliés à la fois à des institutions civiles et militaires. La région est hors de la zone de support d'Anthropic, et la plateforme a utilisé des méthodes d'intermédiation et basées sur des comptes pour obtenir un accès.

Le rapport montre que la plateforme a également acheminé les demandes à haut risque rejetées vers d'autres modèles aux protections plus souples. Le compte public indique seulement qu'« une structure de revente pour contourner les contrôles d'accès existait » et ne décrit pas la chaîne spécifique.

Ce que le rapport a observé

Après la conclusion de l'enquête en mai 2026, le rapport montre que l'exploitant a reconstitué l'accès en quelques jours et, en quelques semaines, est passé à de nouvelles identités pour poursuivre le développement de la plateforme. L'interdiction des comptes n'a pas mis fin à cette chaîne d'accès.

Le rapport infère à partir de matériaux ultérieurs que la recherche en question ne se limitait pas à une seule demande de financement. Cela reste un jugement sur le stade, pas une preuve que des expériences dangereuses ont été menées à bien ou qu'un préjudice concret a été causé.

Confirmé et inconnu

Réponse de la plateforme

À la conclusion de l'enquête en mai 2026, Anthropic a interdit tous les comptes associés, a travaillé avec des partenaires pour supprimer le réseau de relais qui contournait les blocages régionaux et a partagé ses conclusions avec les laboratoires d'IA et les agences gouvernementales concernés. Depuis lors, Anthropic a continué d'interdire les comptes associés nouvellement découverts et a intégré les conclusions de l'enquête dans de nouvelles mesures de détection et de prévention.

Limites de la réponse：La suppression n'a pas mis fin à cette chaîne d'accès : le rapport montre que l'exploitant a reconstitué l'accès en quelques jours, et les utilisateurs finaux ont continué à atteindre le modèle via des partenaires de rétention zéro de données. Interdire des comptes n'est pas la même chose que l'activité de la plateforme s'arrête, ni que les projets de recherche qu'elle servait soient terminés.