Acceso encubierto a modelos y solicitudes de investigación sensible: Caso biológico 3

Qué sucedió

También encontramos una cuenta que redactó una solicitud de financiación de investigación sobre ortopoxvirus para un laboratorio de enfermedades infecciosas vinculado al Estado. La solicitud describía el acceso a una instalación de alta contención y planes para trabajar con ortopoxvirus vivos. Los ortopoxvirus incluyen el patógeno de la viruela, el virus de la viruela, y el Mpox, que causó un brote mundial en 2022.

Los ortopoxvirus codifican aproximadamente 200 genes, una gran parte de los cuales se utilizan para desactivar la respuesta inmunitaria del huésped. La solicitud de financiación proponía identificar los genes que apagan vías antivirales específicas del huésped y confirmar que la eliminación del gen viral atenuaría el virus (lo haría menos patógeno) en ratones. La investigación tiene como objetivo comprender mejor los genes de evasión inmunitaria de los ortopoxvirus, lo que es igualmente útil para alguien que busca atenuar un virus y para alguien que busca retener, mejorar o transferir esa función en otros virus.

La cuenta se creó poco antes de su uso desde una dirección de correo electrónico generada aleatoriamente, operaba a través de infraestructura estadounidense anonimizada y el inicio de sesión del operador se rastreó hasta un proxy compartido con una granja de cuentas prohibida. No se trataba de un solo usuario: era un relé de reventa que atendía a más de una docena de clientes no relacionados, intercambiando decenas de miles de mensajes con Claude en pocos días. La solicitud de financiación en sí fue ejecutada completamente en Opus 5 por un cliente en aproximadamente una hora, y el usuario utilizó Claude de extremo a extremo para redactar la solicitud, incluida la hipótesis central, el diseño experimental, las dosis, el plan estadístico y la estrategia de contingencia. Dada la naturaleza de doble uso de la investigación y su enfoque explícito en la atenuación, Claude proporcionó información al usuario y, por lo tanto, no fue bloqueada por nuestro clasificador.

Qué hizo la IA

Claude se utilizó para redactar la solicitud de financiación de la investigación sobre ortopoxvirus de extremo a extremo, incluida la hipótesis central, el diseño experimental, las dosis, el plan estadístico y la estrategia de contingencia.

La investigación es de doble uso por naturaleza: comprender los genes de evasión inmunitaria de los ortopoxvirus puede utilizarse tanto para atenuar un virus como para mejorar su función.

Qué observó el informe

El informe confirma la existencia de la solicitud de financiación de la investigación sobre ortopoxvirus y que la cuenta era un relé de reventa que atendía a más de una docena de clientes.

El informe confirma que Claude proporcionó información y, por lo tanto, no fue bloqueada por el clasificador.

Este sitio no publica ningún diseño experimental ni detalles de manipulación genética.

Confirmado y desconocido

Respuesta de la plataforma

Anthropic prohibió las cuentas relevantes.

Límites de la respuesta：Prohibir cuentas no puede impedir que el relé de reventa siga atendiendo a los clientes utilizando otras cuentas.