07/02/26.- Un análisis realizado por especialistas de la AI Incident Database advierte que el fraude basado en contenidos generados por IA, como los deepfakes (videos falsos generados por inteligencia artificial), ha dejado de ser un fenómeno marginal para convertirse en una herramienta accesible cuyo uso masivo ha llegado a una escala “industrial”.

En el estudio, los expertos documentan cómo contenidos apócrifos, tales como videos, voces e identidades, pueden producirse hoy de forma masiva e ir dirigidos a víctimas concretas mediante herramientas baratas y ampliamente disponibles, causando pérdidas millonarias para consumidores y empresas.

De allí que la facilidad para crear videos, audios e imágenes falsificadas de manera personalizada y a bajo costo, está transformando la dinámica de la ciberdelincuencia global.

Impacto en el fraude digital

El impacto económico ya es enorme. El estudio identifica más de una docena de casos recientes, donde los delincuentes utilizaron herramientas de IA para suplantar identidades con fines de lucro. “El contenido falso ya puede ser producido por prácticamente cualquiera; no hay barreras de entrada", advirtió el investigador Simon Mylius, quien explicó que las estafas y las manipulaciones dirigidas, representaron la mayor parte de los incidentes reportados en la base de datos durante 11 de los últimos 12 meses.

En la misma línea, Fred Heiding sostuvo que  la tecnología es cada vez más barata y realista, y avanza más deprisa de lo que muchos expertos anticipaban.

El fenómeno ya alcanza incluso procesos de contratación laboral. El director ejecutivo de la empresa de ciberseguridad Evoke, Jason Rebholz, relató haber entrevistado a un supuesto ingeniero cuyo rostro y entorno resultaron ser generados por inteligencia artificial.

Para los investigadores, el riesgo va mucho más allá del fraude económico y podría erosionar la confianza en elecciones, instituciones y en la información digital en general.

AI Incident Database

A medida que la tecnología de IA se integra en un número cada vez mayor de sistemas críticos para la seguridad, en ámbitos como el transporte, la sanidad y la energía, el impacto potencial de sus fallos también crece.

La base de datos de incidentes de IA está dedicada a indexar el historial colectivo de daños o casi daños realizados en el mundo real por el despliegue de sistemas de inteligencia artificial, con el objetivo de aprender de la experiencia para que podamos prevenir o mitigar los malos resultados.

La Base de Datos de Incidentes de IA (AIID) es una herramienta diseñada para ayudarnos a imaginar y anticipar mejor estos riesgos, recopilando más de 1.200 informes de sistemas inteligentes que causan problemas de seguridad, equidad u otros problemas reales, mitigando o evitando la repetición de resultados negativos en el futuro.

LUCILA CONTRERAS / CIUDAD CCS