Del “qué” al “cómo” en IA

En estos días está pasando algo preocupante: quienes construyen los sistemas de IA más avanzados del mundo están pidiendo ir más lento. Dario Amodei, CEO de Anthropic, lo planteó y Sam Altman y Elon Musk respaldaron la idea.

Y no es la primera vez. En el año 2023, una carta abierta pidió pausar el entrenamiento de sistemas más potentes que GPT-4 durante seis meses. Para muchos sonó exagerado. Tres años después, la preocupación vuelve porque la IA ya no es una promesa que miramos desde lejos: está en nuestras casas, empresas, salas de clases, directorios y decisiones.

Es importante leer bien lo que piden ahora: ninguno dijo detenerse. Amodei propone bajar el ritmo, evaluadores independientes y acuerdos entre países. Nadie está parando nada: la carrera sigue.

Y esa carrera no la controlamos nosotros. La mayoría de las empresas en Chile no construye estos sistemas, sino que los adopta y, al hacerlo, hereda decisiones de diseño que no tomó. Pero eso no elimina su responsabilidad sobre cómo los usa.

Adoptar inteligencia artificial no significa aprender a tomar buenas decisiones. Podemos hacer mejores prompts y tener peor criterio. Podemos recibir una respuesta extraordinariamente convincente y no saber cuándo desconfiar de ella.

Podemos automatizar perfectamente un proceso y darnos cuenta después de que nunca
debimos hacerlo.

Aquí empieza la conversación ética. Hasta ahora estuvimos concentrados en el “qué”: qué modelo, qué herramienta, qué proceso automatizar. Ahora tenemos que preocuparnos del “cómo”: cómo decidimos usarla, cómo ponemos límites, cómo elegimos qué delegar y qué no. Y, quizás lo más importante, cómo aseguramos que siempre sepamos quién responde.

Esto ya no es solo una conversación tecnológica, es una conversación de liderazgo. La ética no es frenar la innovación ni llenar a una empresa de prohibiciones. Es el criterio necesario para decidir cuando la respuesta no es obvia. Pero incluso eso no basta. Podemos formar personas con valores, criterio y voluntad de hacer lo correcto, pero eso servirá poco si trabajan en lugares que solo premian la velocidad, donde cuestionar molesta, donde no hay espacio para reflexionar o donde la responsabilidad puede esconderse detrás de un “lo dijo el algoritmo”.

La IA responsable no depende solo de personas responsables. Necesita organizaciones y líderes que creen las condiciones para que esa responsabilidad pueda ejercerse: preguntar, revisar, detenerse y hacerse cargo.

No sé si la respuesta es frenar la IA. Pero cuando incluso quienes empujan la frontera tecnológica piden tiempo para pensar mejor lo que están construyendo, hay algo que sí deberíamos tomar en serio: no podemos permitir que la capacidad de la IA avance más rápido que nuestra capacidad para entender y decidir bien qué hacer con ella.

Este es, para mí, el verdadero paso del “qué” al “cómo”.

La autora es directora de la Asociación de Ética Empresarial y Organizacional de Chile.

Las opiniones expresadas son solo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes Chile.