De entrada, queremos aclarar que en esMarketing estamos a favor del uso racional y ético de la Inteligencia Artificial (IA). Por eso, hemos compartido la preocupación por la falta de una regulación que permita aprovechar adecuadamente el enorme potencial de esta tecnología. En el mismo momento, esta normativa debería poner límites tanto a los usos reprochables como a proyectos y aplicaciones de IA potencialmente perjudiciales. ¡Al fin, la Unión Europea le puso el cascabel al gato y es pionera en esta iniciativa! Con la entrada en vigor del reglamento europeo de IA, en agosto de 2024, la industria del marketing y tantos otros sectores productivos en nuestra región cuentan con reglas de juego claras en este particular. Específicamente, en lo que concierne a la transparencia, privacidad y prácticas responsables en la implementación de sistemas de IA.
¿Qué es el reglamento europeo de IA y cuál es su objetivo?
En efecto, el reglamento europeo de IA es el primer marco jurídico exhaustivo en el mundo que regula el uso de la inteligencia artificial. Diseñado para asegurar el desarrollo de una IA ética y respetuosa con los derechos humanos, este reglamento impone un marco común que facilita la integración de sistemas de IA de manera segura y confiable. Su objetivo es construir un entorno donde el uso de la inteligencia artificial esté centrado en el bienestar de las personas, respetando altos estándares de salud, seguridad y derechos fundamentales recogidos en la Carta de los Derechos Fundamentales de la Unión Europea.
A los efectos, la legislación adopta un enfoque de riesgo que divide las aplicaciones de IA en tres categorías: bajo, alto y riesgo inaceptable. Es decir, el nivel de regulación varía según la potencial amenaza que cada tipo de IA supone para los derechos individuales y la seguridad pública. Así, las aplicaciones de IA de bajo riesgo, como los chatbots, tendrán menos requisitos de supervisión. Mientras que las aplicaciones de alto riesgo deberán cumplir con mayores requisitos de transparencia y seguridad. Por otro lado, las aplicaciones de IA que se consideran de «riesgo inaceptable» están directamente prohibidas. Este grupo incluye tecnologías de reconocimiento facial en espacios públicos en tiempo real, debido a sus implicaciones para la privacidad y los derechos humanos.
Un reglamento con alcance global
Por cierto, el reglamento europeo de IA también se caracteriza por su enfoque extraterritorial, lo que significa que no solo afecta a las empresas europeas. Las compañías extranjeras que ofrecen servicios de IA en el mercado de la UE, ya sea a través de filiales o mediante la provisión de servicios que impacten a consumidores en la región, deben cumplir también con esta normativa. Este planteamiento convierte al AI Act -como también se conoce a este instrumento legal- en una referencia normativa a nivel global. Precisamente, porque promueve el establecimiento de estándares internacionales sobre el uso de IA.
Estructura del reglamento y fases de aplicación
En concreto, el AI Act está compuesto por 13 capítulos y 113 artículos, así como por varios anexos. Este amplio marco legislativo establece desde disposiciones generales hasta detalles específicos sobre las prácticas prohibidas. También especifica las obligaciones que deben seguir las empresas en función del riesgo de sus aplicaciones de IA.
El reglamento europeo de IA ha establecido una implementación gradual. En este sentido, aunque entró en vigor en agosto de 2024, su aplicación completa se extenderá en diferentes fases. Algunas de las disposiciones clave entrarán en vigor en febrero de 2025 y otras no serán aplicables hasta agosto de 2026. Este periodo de adaptación progresivo permite que las empresas, especialmente en sectores como el marketing, preparen sus operaciones para cumplir con los nuevos requisitos, revisen sus tecnologías de IA y adapten sus procesos para mantener la conformidad con la normativa:
- A partir de febrero de 2025, comenzarán a aplicarse los capítulos que regulan las prácticas prohibidas en IA, lo que afectará a aquellas aplicaciones que puedan poner en riesgo los derechos fundamentales de las personas.
- Para agosto de 2025, se sumarán otros capítulos relacionados con la gestión y gobernanza de los modelos de IA de uso general, así como la regulación de las sanciones y la confidencialidad de datos.
- Finalmente, en agosto de 2027, se implementarán las reglas de clasificación y las obligaciones de cumplimiento para sistemas de IA de alto riesgo.
Implicaciones del reglamento europeo de IA en marketing y publicidad
El empleo de inteligencia artificial está en el tope de las tendencias de marketing para 2025. Por lo tanto, es pertinente analizar algunas de las áreas clave del marketing en las que el AI Act tendrá un impacto significativo. Especialmente, en términos de cómo las empresas utilizan los datos y toman decisiones automatizadas en sus campañas.
Transparencia en el uso de IA en campañas de marketing
El impacto de la IA en el negocio digital es innegable. De allí, que uno de los fundamentos del reglamento sea la transparencia en el uso de la inteligencia artificial en las estrategias de marketing. Esto significa que las empresas deben informar a los usuarios sobre cómo y por qué sus datos son recogidos y utilizados. Incluso, han de explicar cómo funcionan los algoritmos detrás de las recomendaciones y segmentaciones que realizan. Por ejemplo, si una plataforma de publicidad usa IA para recomendar productos, deberá clarificar cómo se recopilan esos datos y cómo se utilizan para ofrecer contenido personalizado.
De igual modo, las empresas deberán comunicar de manera clara si las decisiones están siendo tomadas por una IA o un humano. En campañas en las que los algoritmos de IA elijan automáticamente los anuncios más relevantes para cada usuario, será necesario que los consumidores sepan cómo sus datos contribuyen a ese proceso. Así, los usuarios estarán más informados y tendrán mayor control sobre su interacción con estos sistemas, lo que fortalecerá la confianza en las marcas.
Protección de datos personales en el reglamento europeo de IA
En este particular, el AI Act establece requisitos estrictos sobre la protección de datos personales, alineándose con el Reglamento General de Protección de Datos (RGPD) de la UE. Por tanto, las empresas deben obtener el consentimiento explícito de los usuarios antes de recopilar y utilizar sus datos personales en campañas que empleen IA. Igualmente, deben garantizar la seguridad de los datos recogidos, protegiéndolos contra accesos no autorizados y mal uso.
Para cumplir con esta normativa, las empresas pueden necesitar actualizar sus procedimientos de recogida y almacenamiento de datos. Por ejemplo, los formularios de consentimiento deberán estar claramente definidos para que los usuarios comprendan a qué acceden y cómo se utilizarán sus datos. Asimismo, las plataformas de marketing que usan IA deben garantizar que los datos se almacenen en sistemas seguros. A los efectos, pueden implementar medidas de cifrado y otras tecnologías de protección.
Prevención de la discriminación y sesgo
Ciertamente, la discriminación y el sesgo son riesgos críticos en los algoritmos de IA utilizados para segmentar audiencias o hacer recomendaciones de productos. El reglamento europeo de IA aborda estos temas al exigir que las empresas de marketing evalúen y reduzcan cualquier sesgo potencial en sus sistemas. En consecuencia, los modelos deben ser diseñados y probados para evitar que favorezcan o excluyan a ciertos grupos de personas basándose en características como género, etnia o situación económica.
Supongamos que una campaña publicitaria utiliza IA para identificar y segmentar audiencias. En este caso, la empresa debe asegurar que el sistema no discrimine o excluya injustamente a ciertos segmentos de la población. Las prácticas de segmentación deben ser revisadas regularmente y ajustadas según sea necesario para reducir cualquier tendencia sesgada.
Responsabilidad y ética en el uso de IA para marketing
El reglamento subraya que las empresas deben asumir la responsabilidad de las decisiones tomadas por los sistemas de IA en sus campañas publicitarias. Por esta razón, los profesionales de marketing no pueden simplemente confiar ciegamente en los resultados generados por algoritmos. Deben supervisar y verificar el funcionamiento de estos sistemas para asegurar que operen de acuerdo con principios éticos y legales.
Más aún, el reglamento exige que se mantenga una supervisión humana en las decisiones algorítmicas. De esta forma, los posibles errores o sesgos que se presenten en las campañas podrán ser identificados y corregidos rápidamente. Para ello, la formación del personal de marketing tanto en IA como en la ética del uso de datos y la responsabilidad digital es decisiva.
A propósito, ¿sabes cuáles son los empleos más afectados por la IA y cuáles los más beneficiados? Haz clic en este enlace para que te enteres.
Oportunidades para la confianza y la diferenciación de marca
Por último, en esMarketing creemos que, aunque el AI Act plantea desafíos a las empresas de marketing, también ofrece la oportunidad de diferenciarse mediante el uso ético y transparente de la inteligencia artificial. Desde esta perspectiva, las empresas que cumplan con la normativa, mejorarán su relación con los consumidores, generando confianza y fortaleciendo su imagen de marca. Este enfoque ético del reglamento europeo de IA permitirá que las empresas obtengan un feedback más positivo y duradero en sus campañas.