La IA tiene el potencial de transformar el mundo, pero solo si se utiliza en forma responsable y ética
Llega marzo y las temáticas ligadas al rol de la mujer en una sociedad cada vez más exigente por políticas de diversidad e inclusión se toman la agenda. Igualdad de salarios, mujeres en cargos de liderazgo, corresponsabilidad y violencia de género son algunas de las reflexiones necesarias que el 8M visibiliza. Todos temas relevantes al que me gustaría añadir un nuevo ángulo que es importante tener presente, y que es cómo el uso de herramientas tecnológicas cada vez más populares, como la Inteligencia Artificial (IA), dependiendo de su uso y regulación, pueden contribuir con las políticas de género o, por el contrario, perpetuar desigualdades.
Según un informe de la Unesco, la Inteligencia Artificial puede reforzar la discriminación y los prejuicios y, en algunos casos, amplificarlos y propagarlos. Esto, se debe a que los sistemas de IA a menudo se entrenan con datos históricos, que pueden reproducir sesgos y perpetuarlos. Por ejemplo, una investigación del periódico estadounidense The Guardian reveló que algunas herramientas de Inteligencia Artificial ya presentes en el mercado califican como sexualmente sugerente una fotografía de una mujer en bikini pero no así la de un hombre a torso desnudo. Incluso fotografías donde se muestra a mujeres realizándose un autoexamen de mamas o mostrando su “guatita” de embarazada, fueron clasificadas como “desnudo explicito” por una de estas herramientas.
¿De dónde viene el conocimiento que están usando hoy estas plataformas para dar respuestas, escribir textos e incluso interpretar situaciones?
Este es un llamado de alerta, no a detener el avance de las tecnologías que, usadas de manera correcta, pueden precisamente ayudarnos a eliminar sesgos y prejuicios que son tan humanos, pero sí a tener este aspecto en mente a la hora de desarrollar nuevas herramientas. No basta tener asistentes virtuales con nombre y voz de mujer, si en su configuración las plataformas realmente no están concebidas con una perspectiva de género.
Afortunadamente, se pueden tomar medidas para resolver estos problemas. Detrás de la tecnología siempre hay personas. Por eso, más que nunca necesitamos equipos diversos en las áreas de I&D que garantice que los sistemas de IA se entrenen con información que represente con exactitud la diversidad de la población. Además, los algoritmos deben ser auditados para detectar sesgos y discriminación, y deben corregirse los problemas que se identifiquen de este tipo con rapidez.
La Política Nacional de Inteligencia Nacional, aprobada a fines de 2021, también se hace cargo de estas temáticas, definiendo dentro de sus cinco dimensiones de acción el marco ético en el que se debe desarrollar e implementar esta tecnología, donde la no discriminación es uno de los puntos claves a considerar.
El uso de la IA tiene el potencial de transformar nuestro mundo, pero solo si se utiliza en forma responsable y ética. A medida que avanzamos, es crucial las empresas hagan mucho más para garantizar que el mundo esté representando en toda su complejidad para que la IA combata y no perpetúe los prejuicios y las desigualdades.
*La autora es gerente general de Oracle Chile.
___