La expansión de la inteligencia artificial generativa en marketing y publicidad abrió un nuevo frente para las organizaciones: cómo aprovechar sus capacidades sin trasladar a escala los sesgos y estereotipos presentes en los datos y procesos que alimentan estas herramientas. Frente a este escenario, Unstereotype Alliance, iniciativa de ONU Mujeres, publicó el Playbook “Las 3Cs para una Inteligencia Artificial Inclusiva”, su primer marco de referencia para abordar el uso responsable de la IA en publicidad y comunicaciones.
La guía está dirigida principalmente a profesionales de marketing, publicidad y comunicación y propone una metodología centrada en tres habilidades: Curar, Crear y Controlar. El planteo no busca determinar si una organización debe utilizar inteligencia artificial, sino establecer criterios para identificar posibles sesgos y tomar decisiones más conscientes cuando estas herramientas intervienen en los procesos creativos.
El punto de partida de la iniciativa es que la IA generativa no opera sobre un terreno neutral. Los sistemas pueden reproducir patrones existentes en los datos con los que fueron desarrollados y, en determinados casos, amplificarlos. El Playbook sostiene que este riesgo adquiere una dimensión particular en la comunicación comercial, debido al alcance de los contenidos que producen las marcas.
Un problema que ya aparece en los sistemas de IA
Los datos citados por la Unstereotype Alliance permiten dimensionar el problema. Un análisis de 133 sistemas de inteligencia artificial encontró que el 44% presentaba sesgos de género, mientras que el 26% mostraba simultáneamente sesgos de género y raciales.
La adopción de IA generativa por parte de la industria también avanza con rapidez. Según las cifras incluidas en el documento, el 88% de las agencias del Reino Unido ya utiliza IA generativa en alguna medida. Sin embargo, la supervisión humana no acompaña necesariamente ese nivel de implementación: solo el 51% de los profesionales de marketing revisa mediante supervisión humana los contenidos producidos por IA.
Para la organización, esta brecha constituye uno de los principales argumentos para desarrollar herramientas prácticas que permitan incorporar controles durante el proceso y no exclusivamente al final de una campaña.
Las tres etapas del marco
El modelo propuesto se estructura alrededor de tres acciones.
Curar supone revisar los datos, referencias e insumos que se incorporan al proceso. La lógica es que los sesgos pueden ingresar antes incluso de que se genere una pieza creativa, a través de los materiales utilizados para definir un brief, analizar a los consumidores o establecer referencias.
Crear apunta al diseño de instrucciones y procesos que reduzcan la posibilidad de reproducir esos sesgos. En esta etapa, la organización plantea cuestionar las representaciones y supuestos que pueden aparecer como respuestas predeterminadas de los sistemas de IA.
Controlar, finalmente, implica evaluar los resultados generados antes de su utilización o publicación. La supervisión humana aparece como un componente relevante para identificar estereotipos, representaciones excluyentes o resultados que no se ajusten a los criterios definidos por los equipos.
La metodología puede utilizarse en distintos momentos del ciclo de una campaña, desde la elaboración del brief y el análisis de insights hasta la creación y evaluación del contenido, la compra de medios y las pruebas.
La inclusión también plantea un argumento comercial
El Playbook no presenta la inclusión únicamente como una cuestión ética. También incorpora datos que relacionan una representación más inclusiva con resultados comerciales.
Según las cifras citadas por la Unstereotype Alliance, las marcas que desarrollan publicidad más inclusiva registran un 3,46% más de ventas a corto plazo y un 16,26% más a largo plazo, además de una lealtad de clientes 15% superior.
Estos datos forman parte de la argumentación para incorporar la inclusión a la gestión de las marcas. En esta perspectiva, la representación no constituye solamente una cuestión vinculada con la reputación corporativa, sino también con la capacidad de una compañía para mantener su relevancia frente a audiencias diversas.
La tecnología como parte del problema y de la solución
La guía adopta una posición menos lineal respecto de la inteligencia artificial. Aunque advierte sobre su capacidad para reproducir sesgos, también identifica usos potenciales de la tecnología para detectarlos.
Entre ellos menciona la posibilidad de utilizar IA para identificar estereotipos y patrones de exclusión, ampliar las referencias creativas y ayudar a los equipos a detectar qué grupos o perspectivas están ausentes en una producción.
También señala oportunidades vinculadas con la accesibilidad, como el subtitulado y la generación de texto alternativo. Bajo este enfoque, la misma tecnología que puede reproducir patrones discriminatorios podría utilizarse como herramienta para hacer visibles determinados sesgos y revisar decisiones creativas.
Un alcance deliberadamente acotado
El documento establece también qué aspectos quedan fuera de su alcance. No pretende resolver si la IA debería utilizarse en marketing ni definir en qué circunstancias hacerlo. Tampoco funciona como una guía específica para la generación directa de imágenes o contenidos mediante inteligencia artificial, debido a los riesgos particulares asociados con esas prácticas.
El objetivo es otro: desarrollar capacidades que puedan aplicarse en diferentes puntos del proceso creativo, incluso cuando la IA no se utiliza directamente para producir la pieza final.
Esta distinción permite que el marco pueda ser utilizado por organizaciones con distintos niveles de adopción tecnológica. Algunas compañías han optado por establecer restricciones específicas sobre el uso de IA, mientras otras avanzan hacia modelos de experimentación más amplios.
Un marco que deberá actualizarse
Unstereotype Alliance presenta el Playbook como un documento abierto a evolución. La guía será revisada a medida que cambien las herramientas de inteligencia artificial, las prácticas de la industria y los riesgos asociados con su utilización.
El desafío que plantea es, en definitiva, anterior a la decisión sobre qué herramienta utilizar. Si la IA comienza a intervenir en la investigación, planificación, producción y evaluación de las comunicaciones corporativas, los controles sobre los resultados pasan a formar parte del proceso de gestión.
En ese escenario, Curar, Crear y Controlar no funcionan como una garantía de que los sistemas de IA serán neutrales. Constituyen, más bien, un marco para identificar dónde pueden aparecer los sesgos, someterlos a revisión y evitar que determinadas representaciones sean incorporadas automáticamente a las comunicaciones de las marcas.
