Ciberataques asistidos por IA
Ciberataques que integran la IA en etapas como el reconocimiento, el desarrollo de herramientas y el procesamiento de datos; las técnicas subyacentes son en su mayoría las antiguas.
Glosario
Estos términos se explican siguiendo las convenciones de lectura en español, con enlaces a ejemplos en el informe. Los conceptos casi sinónimos se mantienen separados: por ejemplo, destilación y destilación no autorizada son dos entradas distintas.
Uso indebido de la IA
Término general para las actividades que utilizan sistemas de IA para engañar, dañar a otros o violar las políticas de servicio.
Robo de claves API
Robar las claves o sesiones de inicio de sesión necesarias para llamar a los servicios de IA, convirtiendo la cuota, los datos y la identidad de otra persona en tus propios recursos de ataque.
Confianza en la atribución
Una formulación que el informe utiliza para indicar qué tan seguro está sobre «quién lo hizo», por ejemplo, alta confianza o confianza media. No es una calificación de este sitio.
Aumento de capacidad
La IA permite que un mismo actor supere lo que sus recursos originales podrían lograr en velocidad, escala o profundidad.
Comportamiento inauténtico coordinado
Múltiples cuentas que trabajan juntas para publicar contenido altamente consistente mientras fingen ser personas comunes no relacionadas.
Doble uso
El mismo tipo de conocimiento, artículo o software puede utilizarse con fines legítimos o potencialmente para causar daño.
Indicadores de compromiso
Pistas técnicas que los defensores utilizan para identificar actividades relacionadas, como dominios, direcciones o firmas de archivos. Este sitio no reproduce valores específicos.
Operaciones de influencia
Utilizar la IA para producir o distribuir contenido ocultando la identidad, el patrocinio o las fuentes, de modo que el público juzgue mal quién está hablando.
Destilación de modelos
Entrenar un modelo más pequeño para reproducir las salidas de uno más grande. Cuando se hace sin autorización, se convierte en destilación no autorizada.
Perfilado sin consentimiento
Crear perfiles de personas sin su conocimiento o consentimiento, a menudo utilizando datos personales extraídos.
Destilación no autorizada
Utilizar las salidas de un modelo sin permiso para entrenar otro modelo que reproduzca sus capacidades.