Planificación de investigación biológica de alto riesgo y límites de seguridad: Caso biológico 2

Qué sucedió

La plataforma de LLM descrita anteriormente no era la única forma en que los investigadores dedicados a la investigación de ganancia de función viral utilizaban nuestra plataforma. En mayo de 2026, descubrimos a un investigador fuera de los Estados Unidos que utilizaba Claude en investigaciones sobre la gripe aviar altamente patógena («gripe aviar»). La investigación se centraba en la adaptación del virus a los mamíferos y en los mecanismos por los cuales causa enfermedades graves fuera del tracto respiratorio.

Las variantes de gripe relevantes son variantes de preocupación con un potencial pandémico significativo. Circulan ampliamente en aves silvestres y aves de corral y ocasionalmente pasan a los mamíferos. Los seres humanos tienen poca inmunidad colectiva y, cuando se produce el paso, la tasa de letalidad entre los casos humanos confirmados es de aproximadamente la mitad. Sin embargo, a pesar de la alta tasa de letalidad, estos virus aún no han podido transmitirse de manera eficiente entre personas. Por lo tanto, una variante capaz de transmitirse de persona a persona sería de gran preocupación. Además, dicha variante también podría tener la capacidad de causar enfermedades graves fuera del tracto respiratorio. A diferencia de otras variantes de gripe, los virus H5 — a los que pertenece este virus de la gripe aviar — a menudo muestran una afectación cerebral significativa en gatos, zorros, hurones y algunos casos humanos. Una variante pandémica con tales propiedades sería particularmente preocupante debido a su potencial para aumentar la gravedad de la enfermedad, complicar el diagnóstico y dificultar el tratamiento.

Qué hizo la IA

Al igual que en el primer caso, esta investigación es claramente de doble uso. Comprender la base genética de estas propiedades virales específicas podría ayudar a identificar tempranamente versiones naturales del virus — versiones con potencial para causar una pandemia humana. Sin embargo, el conocimiento peligroso generado por esta investigación podría utilizarse para crear deliberadamente tales variantes. También crea oportunidades para accidentes de laboratorio costosos.

El investigador accedió a Claude desde una región no admitida a través de infraestructura de servidores privados virtuales de EE. UU., utilizando un proveedor de correo electrónico de privacidad con nombres de usuario generados automáticamente. El investigador realizó este trabajo dentro de un contexto institucional creíble e interactuó con Claude durante varias semanas, intercambiando miles de mensajes. En estos intercambios, el investigador utilizó el conocimiento de Claude sobre la literatura científica para ayudar en la planificación y el diseño de la investigación, el análisis de datos y la interpretación y priorización de experimentos. El investigador también utilizó Claude para asistencia editorial en la redacción de la investigación.

Toda la evidencia que tenemos sugiere que este era un plan de investigación en una etapa muy temprana. Sin embargo, los detalles del plan indican que se trataba de una investigación sobre un patógeno con potencial pandémico mejorado. El plan involucraba métodos de ingeniería genética destinados a introducir mutaciones asociadas con la adaptación a mamíferos y la transmisión aérea en modelos animales. El investigador tenía la intención de medir estas cantidades.

Qué observó el informe

El informe confirma la existencia de la investigación sobre la gripe aviar altamente patógena y el uso de Claude por parte del investigador para ayudar en la planificación y el diseño de la investigación. El informe confirma que la investigación se encontraba en una etapa temprana de planificación.

El informe oculta detalles experimentales identificables. Este sitio solo discute categorías de uso, señales de riesgo y gobernanza, y no cubre ningún diseño experimental.

Confirmado y desconocido

Respuesta de la plataforma

Anthropic prohibió las cuentas relevantes e incorporó los hallazgos de la investigación en sus medidas de protección.

Límites de la respuesta：Prohibir cuentas no puede impedir que el investigador continúe la investigación utilizando otras herramientas.