Todos los Derechos reservados © 2004 - 2022, Forbes Chile

Red Forbes

Los sesgos que aún tenemos (y no podemos ver)

La tecnología no genera prejuicios, pero si tiene datos sesgados la discriminación continuará

Publicado

on

Los sesgos que aún tenemos (y no podemos ver)
Sesgos en la Inteligencia Artificial.

Por María Jose Martabit*

Hace muchísimos años existió una emperatriz llamada Teodora, esposa de Justiniano, a quien se le conoce como padre del derecho romano. Teodora fue actriz, bailarina y una mujer muy destacada que aconsejó a Justiniano sobre asuntos políticos y legales. Ambos se aceptaron como iguales intelectualmente y fueron descritos como partners in power.

Algunos aseguran que Teodora fue la primera mujer jurista de la historia y los expertos reconocen hoy su influencia en la creación de muchas de las regulaciones del imperio de Justiniano en la antigua Roma.

Pese a su relevancia ¿Por qué tan pocas personas han oído hablar de ella? ¿Por qué se ha minimizado, o incluso eliminado su rol dentro de los hitos de la historia occidental? Una explicación podría ser el descarte que hicieron los cronistas al considerarla una simple actriz (profesión a menudo asociada con la prostitución en aquellos días) y una mujer de carácter arrogante, con una inmensa ambición de poder y riqueza.

Mil quinientos años después, ¿Algo suena familiar? Lamentablemente sí, porque la discriminación sigue estando presente en la sociedad. Una y otra vez aplicamos nuestros prejuicios y discriminamos a las personas. Y también los sufrimos en carne propia.

Muchos de los sesgos que tenemos son inconscientes y se extienden a todos los aspectos de nuestras vidas: edad, sexo, discapacidad, etnia, raza o nacionalidad, religión, orientación sexual, estatus socioeconómico y características personales. Cuando ese sesgo actúa surge la discriminación, que genera un resultado negativo en cómo la sociedad ve a los grupos,
organizaciones y empresas.

Publicidad

Por más que una persona se declare a sí misma como inclusiva, muchas veces los prejuicios operan en forma de piloto automático y salen a la luz cada vez que nos comunicamos en persona o por escrito, desde simples correos electrónicos a artículos de revistas, guiones de marketing e incluso políticas empresariales.

A largo plazo, el refuerzo constante de estos prejuicios tiene el costo de crear una sociedad menos justa y menos integradora. Lo peor de todo es que la discriminación ha encontrado una forma de infiltrarse en la tecnología, y cuando los sesgos humanos no son mitigados por los algoritmos de aprendizaje automático, pueden perpetuar la discriminación al estar entrenados desde su creación y base con datos sesgados.

Un caso muy concreto es lo que ocurre en los softwares de selección de personas. Si contienen en su génesis patrones históricos de discriminación, por ejemplo, estadísticas de que los cargos ejecutivos son mayoritariamente desempeñados por hombres blancos, lo más probable es que a la hora de preseleccionar candidatos para una vacante de este tipo se descarten automáticamente los currículums de mujeres y hombres de raza negra, sin considerar sus atributos profesionales.

Por supuesto, la tecnología no genera el prejuicio per se, pero si cuenta con datos sesgados
—exista en ello intencionalidad o no— la discriminación seguirá perpetuándose. Pero al mismo tiempo, los avances tecnológicos nos están dando la oportunidad de detectar esos sesgos que las personas no podemos ver ni percibir a simple vista. Y una vez identificados, podemos entrenar a esos sistemas para, por ejemplo, recibir sugerencias con alternativas de palabras o conceptos que ayuden a mitigar o neutralizar esos prejuicios.

Soy una convencida de que la Inteligencia Artificial bien utilizada puede transformar positivamente la vida de las personas. Siempre me ha llamado la atención la falta de herramientas para aumentar la diversidad e inclusión en miras de una sociedad más justa.

Si logramos dar un giro a esta realidad, con el aporte de la tecnología podemos mejorar en áreas clave como el empleo, el reconocimiento del talento, el bienestar social y la inclusión
financiera, entre otras.

Publicidad

Como vemos en la vida de Teodora, la discriminación puede dañar no sólo a individuos u organizaciones, en un nivel más macro es capaz de afectar algo tan importante como nuestra comprensión de la historia de la civilización humana. De nosotros depende permitir que existan más personas invisibilizadas o hacer algo al respecto para convivir en un mundo mejor, que favorezca la diversidad y la integración de todos.

*La autora es abogada, fundadora y CEO de la startup Theodora

___

Las opiniones expresadas son solo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes Chile
Publicidad