Introducción
Los deepfakes y phishing con IA se han convertido en una de las amenazas más serias para empresas y profesionales. La Inteligencia Artificial ha llegado para quedarse, y no es una novedad que su uso y regulación estén en el punto de mira. Cada vez más ciberdelincuentes utilizan estas tecnologías para imitar voces, manipular rostros o crear campañas fraudulentas casi imposibles de distinguir de las reales.
La cuestión es clara: ¿qué dice la normativa y cómo podemos blindar a nuestra organización frente a estas nuevas amenazas digitales?
1. Deepfakes y fraudes digitales en el entorno corporativo
Los deepfakes han evolucionado rápidamente: de ser simples curiosidades tecnológicas, han pasado a convertirse en un instrumento de fraude con graves consecuencias económicas y reputacionales.
Actualmente se utilizan para:
- Suplantar a directivos en videollamadas o correos.
- Alterar documentos audiovisuales como pruebas falsas.
- Crear campañas de phishing hiperrealistas que burlan controles de seguridad.
Si al inicio eran detectables, hoy son tan realistas que resulta cada vez más difícil diferenciarlos. Esto afecta a la confianza y seguridad jurídica de las empresas en un mercado cada vez más digitalizado.manera negativa en la confianza y seguridad jurídica que una entidad pueda generar a sus correspondientes clientes.
2. Marco legal: ¿qué dice la normativa?
Aunque aún no existe una ley específica sobre deepfakes, diferentes normas se aplican en función del caso:
- Código Penal español: sanciona la suplantación de identidad, estafas y falsificación documental.
- RGPD y LOPDGDD: ofrece protección frente al uso indebido de datos personales objeto de generación y/o modificación de datos personales.
- Ley de Servicios Digitales (DSA) de la UE: impone obligaciones a plataformas para detectar y eliminar contenidos manipulados.
- Directiva NIS2: refuerza la ciberseguridad en sectores críticos, aplicable también a incidentes por phishing con IA.
Esto es un problema que preocupa a todos los niveles y en todos los países, muestra de ello es la última propuesta de Dinamarca por querer reconocer un derecho de autor a los ciudadanos.
Mediante este reconocimiento cualquier contenido que se genere o que pueda generarse como consecuencia del uso de nuestra imagen con inteligencia artificial u otros mecanismos, se encontrará mucho más controlado a efectos de distinción, eliminación e incluso podrá ser compensación en caso de daños.
3. Cómo blindar a tu empresa frente a estas amenazas
Una vez explorada la normativa actual y vigente, nos queda únicamente aplicar las siguientes medidas, a efectos de poder protegernos al máximo. Para reducir riesgos, las compañías deben actuar en dos planos:
A. Medidas técnicas y organizativas.
- Implementar autenticación multifactor y verificación en comunicaciones sensibles.
- Establecer protocolos de “doble validación” en transferencias económicas.
- Invertir en soluciones de detección de deepfakes y anomalías en correos.
B. Medidas legales y contractuales.
- Actualizar las cláusulas de confidencialidad (NDA) para cubrir uso de IA y datos en entornos digitales.
- Incluir referencias a fraude tecnológico y responsabilidad contractual en acuerdos con proveedores.
- Documentar medidas de diligencia debida para demostrar cumplimiento en caso de incidente.
Conclusión
El auge de los deepfakes y de los fraudes digitales con IA obliga no solo a las empresas a reforzar su seguridad tecnológica como su marco legal, sino también a figuras públicas a velar por la protección y seguridad de su imagen frente a usos fraudulentos. Aunque la normativa se adapta poco a poco, ya existen herramientas jurídicas y contractuales para responder eficazmente.
En eDefense ayudamos a las organizaciones a prevenir fraudes digitales, mediante mecanismos y medidas de ciberseguridad, así como a blindar e incluir dentro de sus contratos clausulas específicas frente al uso permitido y no permitido de la IA con datos personales, como lo son la propia imagen o la voz.
¡Sigue leyendo nuestro Blog!