Convivir con otras inteligencias ¿Hacia dónde queremos orientar la IA?

Cada día millones de personas le cuentan a una IA cosas que hasta hace poco reservaban para un amigo, un profesor o para sí mismas. Le piden consejo sobre un trabajo, una relación, una decisión difícil o que les explique un examen médico. En pocos años, casi sin darnos cuenta, la IA comenzó a ocupar un lugar inesperadamente íntimo en nuestras vidas.

Al mismo tiempo, estos sistemas están adquiriendo mayores capacidades para actuar: pueden utilizar herramientas, planificar acciones, producir conocimiento e interactuar con otros agentes. No necesitamos atribuirles conciencia para reconocer la transformación. La pregunta ya no es solamente qué puede hacer la IA, ni si viene a salvarnos o destruirnos, sino hacia dónde queremos orientar estas nuevas formas de inteligencia.

Esta es, en el fondo, una pregunta por el (des)alineamiento. El alineamiento de la IA suele presentarse como un problema técnico: cómo hacer para que los sistemas actúen de acuerdo con nuestras intenciones. Pero alinear nunca es solo ajustar una máquina. Supone decidir qué comportamientos consideramos deseables, qué capacidades queremos promover y qué futuros queremos favorecer. Porque lo que aparece alineado desde una perspectiva puede estar profundamente desalineado desde otra.

Pensemos en una estudiante de enseñanza media con una tarea de matemática. Puede pedirle a una IA que la resuelva y recibir en segundos una respuesta impecable. Pero esa misma IA puede funcionar como un profesor paciente, capaz de explicar un problema de distintas maneras hasta que la estudiante logra comprenderlo. Es decir, la misma IA puede servir para aprender o para evitar aprender.

Una IA que entrega la respuesta puede estar perfectamente alineada con lo que la estudiante quiere esa noche: terminar. Pero puede estar desalineada con lo que esa misma estudiante necesita a largo plazo, como desarrollar sus propias capacidades, o con lo que esperamos de la educación. Alinear la IA no puede reducirse, por lo tanto, a conseguir que una máquina obedezca correctamente una instrucción. Implica decidir qué capacidades queremos delegar, cuáles seguir cultivando y cuáles ampliar.

Pero la pregunta por el alineamiento no concierne solo a las capacidades humanas. La ampliación de nuestras capacidades mediante la IA descansa, a su vez, sobre infraestructuras, territorios y recursos que hacen posible su existencia. La IA parece inmaterial porque nos llega a través de una pantalla. Hablamos de la “nube” como si la computación flotara en algún lugar sin geografía. Pero no hay nube, hay centros de datos, redes eléctricas, cables submarinos, agua, minerales, trabajadores y territorios. La IA tiene un cuerpo, aunque rara vez lo veamos.

Por eso, es importante pensar en el alineamiento de una manera integral y ecológica. No solo como el ajuste entre máquinas y valores humanos, sino también como la pregunta por cómo la IA puede colaborar en ampliar nuestras capacidades como personas y como sociedad, sin sobrepasar los límites de los ecosistemas que la sostienen y que nos sostienen.

Desde esta perspectiva, la pregunta cambia de escala. Ya no se trata solamente de si una IA responde adecuadamente a nuestras intenciones, sino de qué mundos hace posibles. Un sistema puede ser enormemente útil para millones de personas y, al mismo tiempo, trasladar sus costos hacia ecosistemas que proveen el agua, la energía o los minerales que lo sostienen. Alinear la IA se convierte entonces en una pregunta por la habitabilidad: cómo orientar su desarrollo sin deteriorar las condiciones que hacen posible la vida en común.

Una IA deseable debería ayudarnos a conocer más, crear mejor y enfrentar problemas que individualmente no podemos resolver. Durante los próximos años veremos emerger capacidades que hoy nos cuesta imaginar. La tentación será medir este progreso en velocidad y productividad. Quizás necesitemos ampliar la manera en que lo medimos y decidir colectivamente hacia dónde queremos orientarlo. La pregunta no será cuán inteligente puede llegar a ser una máquina, sino en quiénes queremos convertirnos con ella y qué futuros queremos hacer florecer.

Sobre los autores:

Álvaro Soto, director de CENIA

Pablo Barceló, investigador principal de CENIA

Martín Tironi, profesor titular Diseño UC

Las opiniones expresadas son solo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes Chile.