Doble uso en biología: cómo hablar de riesgos sin escribir un manual
Definición
Este tema trata sobre el uso de la IA en escenarios de investigación biológica que pueden tener tanto valor científico legítimo como potencial de uso indebido. El informe se centra en los controles de acceso, los clasificadores de seguridad y los mecanismos de usuarios de confianza.
Las solicitudes, los planes de investigación, el texto generado por el modelo, los experimentos reales y los daños en el mundo real no están en el mismo nivel.
No confundir con
No es un ataque con armas biológicas ya ocurrido. La mayoría de los casos del informe son solicitudes, planificación o problemas de acceso.
No significa que toda la investigación en ciencias de la vida sea un uso indebido.
No es un lugar donde hablemos de secuencias, formulaciones, procedimientos experimentales o vías de mejora.
Funciones de la IA
La IA aparece principalmente en la redacción de solicitudes, la planificación de la investigación y los intentos de eludir los controles de acceso. En algunos casos, las salvaguardas de modelos más potentes limitaron la ayuda brindada.
El verdadero desafío de gobernanza es el reconocimiento de intenciones: cuando un tema parece investigación legítima, a los modelos les cuesta juzgar solo por palabras clave.
Según el informe de Anthropic de septiembre de 2026, una solicitud de financiación relacionada con investigación de ganancia de función fue bloqueada por un clasificador de bioseguridad, y la investigación descubrió una plataforma de reventa que eludía bloqueos regionales y atendía a decenas de investigadores en ciencias de la vida. El informe muestra que el operador de la plataforma reconstruyó el acceso a los pocos días de la eliminación. El informe oculta los nombres de las instituciones y los países y no afirma que los investigadores tuvieran intención de causar daño.
Según el informe, en mayo de 2026 se descubrió que un investigador fuera de los Estados Unidos utilizaba Claude en investigaciones relacionadas con la gripe aviar altamente patógena, centrándose en la adaptación del virus a los mamíferos y los mecanismos de enfermedad grave. Las variantes de gripe relevantes tienen potencial pandémico y son en sí mismas objetos legítimos de investigación científica. El informe señala que el trabajo se encontraba en una etapa temprana de planificación y que las protecciones de los modelos más potentes limitaron la ayuda que se podía proporcionar. El informe no indica que se haya completado un arma biológica.
Según el informe, una cuenta redactó una solicitud de financiación de investigación sobre ortopoxvirus para un laboratorio de enfermedades infecciosas vinculado al Estado. Los ortopoxvirus incluyen el patógeno de la viruela, el virus de la viruela, y el Mpox, que causó un brote mundial en 2022. La cuenta era un relé de reventa que atendía a más de una docena de clientes no relacionados, intercambiando decenas de miles de mensajes con Claude en pocos días. La investigación es de doble uso por naturaleza y Claude proporcionó información, por lo que no fue bloqueada por el clasificador.
Según el informe, dos investigadores utilizaron Claude para estudiar venenos y toxinas — compuestos que pueden desarrollarse como analgésicos y antidepresivos, pero que también podrían usarse como agentes incapacitantes. La investigación tenía objetivos terapéuticos claros, pero los resultados incluían estructuras para dianas tanto terapéuticas como paralizantes. El informe señala que los clasificadores no pueden permitir al mismo tiempo el uso beneficioso y prevenir el daño porque la intención del usuario no puede identificarse de manera fiable en campos de doble uso de alta tecnología.
Límites de la respuesta
El informe omite deliberadamente instituciones, países y agentes biológicos concretos. La interpretación secundaria debe respetar las mismas restricciones.
Este capítulo requiere revisión de expertos en bioseguridad; la fluidez en el idioma nativo no sustituye el juicio profesional. La versión pública de este sitio aplica el mayor nivel de omisión.