Uso indebido de la IA
Término general para las actividades que utilizan sistemas de IA para engañar, dañar a otros o violar las políticas de servicio.
Definición
El uso indebido de la IA es el concepto general que utiliza el informe de inteligencia de amenazas de Anthropic: actores que aprovechan las capacidades de los modelos para realizar actividades que violan las políticas de uso, como ciberataques, operaciones de influencia engañosas, vigilancia, fraude y desarrollo relacionado con armas. El informe afirma que entre diciembre de 2025 y agosto de 2026, su equipo identificó y abordó actividades de uso indebido en siete dominios de daño.
El uso indebido no significa que «la IA actúe maliciosamente por sí sola». En los casos descritos en el informe, los actores humanos establecen los objetivos y toman las decisiones clave, mientras que la IA acelera o amplía la ejecución. El uso indebido tampoco significa que el modelo en sí haya fallado: muchas técnicas (como el robo de credenciales y la ingeniería social) existían antes de la IA, y lo que ha cambiado es principalmente el costo y el grado de automatización.
También hay que tener en cuenta el alcance de la divulgación: el informe publica casos típicos observados y abordados por la plataforma, específicamente los «más significativos y novedosos», no una estadística completa del uso indebido de la IA a nivel mundial. No se puede derivar el riesgo general de un país, marca o grupo a partir del número de casos.
{esc(t(CURRENT_LANG, "not_confused_with"))}
- No se trata de daños involuntarios o «alucinaciones» derivados del uso normal de la IA; el informe se centra en el uso malicioso intencional.
- No se trata de todos los comportamientos controvertidos que involucran a la IA; violar la política de la plataforma y romper la ley son dos niveles de juicio diferentes, y el informe en sí no hace conclusiones legales.
{esc(t(CURRENT_LANG, "example"))}
La visión general del informe afirma que su equipo identificó y abordó actividades de uso indebido en siete dominios de daño, que van desde personajes de IA no revelados en aplicaciones de citas hasta espionaje cibernético asistido por IA, con actores que incluyen presuntos grupos patrocinados por el Estado, delincuentes motivados por el lucro y proveedores de vigilancia comercial.