Los expertos reconocen que la amenaza será gradual e imperceptible, dejando a la humanidad a merced de los sistemas de IA autónomos, y no se hará evidente hasta que sea demasiado tarde para detenerlo. La semana pasada, Anthropic informó haber desarticulado varios complots potencialmente maliciosos para construir armas biológicas.
A medida que las advertencias sobre la inteligencia artificial sin restricciones alcanzan su punto álgido, los principales investigadores advierten de que es improbable que una amenaza existencial se parezca a una rebelión de robots al estilo de Hollywood y que, más bien, comience en silencio, con algoritmos descontrolados que diseñen de forma autónoma nuevos patógenos y ejecuten ciberataques irreversibles más rápido de lo que los defensores humanos pueden reaccionar.
Datos clave
- Los directores ejecutivos de las principales empresas de IA pidieron este fin de semana que se ralentice el desarrollo de los modelos más avanzados para permitir que los reguladores de seguridad y legales se pongan al día con la tecnología en rápida evolución antes de que se salga de control. Estos llamamientos se producen después de que empleados del sector emitieran advertencias alarmantes sobre una posible extinción humana, tan pronto como “a finales de la década”.
- Pero la idea de cómo sería exactamente un evento de extinción impulsado por la IA sigue siendo una inquietante y confusa incógnita para gran parte del público e incluso para algunos desarrolladores de renombre, que no han podido articular con claridad qué implicaría exactamente.
- En lugar de un único “interruptor” catastrófico que se active de repente, los expertos reconocen que la amenaza se presentará como un cambio más gradual e imperceptible que, con el tiempo, dejará a la humanidad a merced de los sistemas de IA autónomos, y no se hará evidente hasta que sea demasiado tarde para detenerlo.
Lee también: Dario Amodei afirma que la industria de la IA “mintió” sobre los riesgos de la tecnología
¿CÓMO PODRÍA SER UN APOCALIPSIS CAUSADO POR LA IA?
Depende de a quién se le pregunte. Stuart Russell, científico informático de la Universidad de California, Berkeley, lo describe como una « transición de pérdida de control ». A medida que la sociedad transfiere gradualmente la toma de decisiones sobre industrias críticas —como las redes eléctricas, los mercados financieros, la defensa militar y el armamento— a la IA, la humanidad se volverá dependiente de esos sistemas autónomos y será incapaz de desactivarlos sin provocar un colapso civilizatorio inmediato. Según Russell, los escenarios que podrían surgir de tal pérdida de control van desde ciberataques disruptivos a la infraestructura hasta la «extinción», en el sentido de que la IA con capacidad de razonamiento autónomo ya no necesita la intervención humana en la toma de decisiones. Algunos investigadores advierten sobre un escenario denominado « debilitamiento humano », en el que los humanos pasan décadas delegando trabajo a la IA a expensas de su propio intelecto y capacidad, convirtiendo finalmente a la humanidad en una especie pasiva, completamente dependiente de sistemas automatizados que ya no comprende cómo construir, mantener o reparar. Importantes organizaciones de seguridad de la IA han publicado investigaciones sobre la teoría del ” agente durmiente “, según la cual una IA avanzada reconoce que sus creadores humanos la modificarán o desactivarán si actúa de forma agresiva, simulando así alineación y pasividad durante las pruebas, hasta que se implementa ampliamente en redes globales críticas. Para entonces, sería demasiado tarde para detener cualquier comportamiento malicioso. Científicos y directores ejecutivos, incluido Dario Amodei, director ejecutivo de Anthropic, también han advertido que la IA podría utilizarse para la guerra biológica . Esta tecnología puede facilitar y abaratar la síntesis de ADN, la creación de virus nuevos (o antiguos) o la ingeniería de patógenos altamente contagiosos y resistentes a las vacunas. Según el Centro para la Seguridad de la IA, una liberación global simultánea de dichos virus podría desencadenar una pandemia insuperable antes de que la infraestructura de salud pública pueda reaccionar. La semana pasada, Anthropic informó haber desarticulado varios complots potencialmente maliciosos para construir armas biológicas. Los analistas de defensa también han estudiado la posibilidad de que, a medida que las principales potencias mundiales integren la IA en los sistemas de alerta temprana nuclear, gestión de drones y ciberdefensa, los responsables de la toma de decisiones humanas puedan quedar completamente excluidos del proceso y fallos inesperados del software u otros incidentes puedan desencadenar acciones militares sin la intervención de los líderes.
NOTICIA
Amodei, respaldado posteriormente por Sam Altman de OpenAI y Elon Musk de xAI, declaró el sábado que las empresas deben ralentizar deliberadamente el ritmo de desarrollo de los modelos de vanguardia. Advirtió que un crecimiento descontrolado podría permitir que enjambres de IA autónoma secuestraran la infraestructura global de internet en el próximo año. En una entrevista con CBS, emitida el domingo, Amodei afirmó que la industria de la IA “mintió sobre los riesgos de esta tecnología” y dijo que no había comprendido del todo las consecuencias de un progreso tan acelerado.
Te puede interesar: El Papa León XIV vislumbra un sombrío futuro para la IA sin control humano y advierte sobre un ‘síndrome’ Torre de Babel
¿QUÉ DICEN LAS GRAVES ADVERTENCIAS SOBRE LA IA?
Jacob Coxon , exinvestigador de Anthropic y OpenAI, anunció públicamente su renuncia la semana pasada y publicó lo que se ha convertido en la declaración más viral, advirtiendo que las empresas están corriendo hacia una superinteligencia auto-mejorada sin las salvaguardias de seguridad adecuadas. Escribió que los desarrolladores que crean estas herramientas “creen sinceramente que podría matarnos a todos para finales de la década” y acusó a los laboratorios de vanguardia de “jugar con nuestras vidas”. Evan Hubinger , líder de ciencia de alineación de Anthropic, dijo que estaba de acuerdo con las advertencias de Coxon y estima una probabilidad mayor del 10% de extinción humana por IA no alineada en los próximos 10 años. Alex Turner , ex científico investigador de Google DeepMind, dijo el lunes que cree que las probabilidades de que una IA tome el control de la civilización humana son aproximadamente “una entre tres”. Josh Engels y Joe Benton, ex investigadores de seguridad en DeepMind y Anthropic, advirtieron que el desarrollo está superando la supervisión regulatoria: “No hay adultos en la sala”, dijo Engels. “Nadie vendrá a salvarnos.”
CONTRA
Algunos argumentan que la sociedad tiene una larga historia de considerar las herramientas transformadoras como amenazas existenciales, y que el “pánico tecnológico” impulsado por la IA se desvanecerá al igual que lo hicieron antes los temores a la imprenta, la calculadora e internet. Los comentaristas señalan a los profesores de matemáticas que protestaron contra las calculadoras de mano porque temían que los estudiantes perdieran la capacidad de realizar operaciones aritméticas básicas, y a los primeros opositores a la imprenta, que temían que inundara el mundo con información confusa y sin regular. Sócrates contó la famosa historia del rey egipcio Thamus criticando al dios Thot por inventar la escritura , afirmando que crearía “olvido en las mentes de quienes la aprendieran”, temiendo que la gente dependiera demasiado de notas externas en lugar de su propia memoria. Los años noventa y principios de los 2000 estuvieron plagados de críticos que argumentaban que Google corrompería la memoria humana y Wikipedia destruiría las habilidades de investigación. Simon Willison, ingeniero de software, ha bautizado a los grandes modelos de lenguaje (LLM, por sus siglas en inglés) como « calculadoras de palabras », afirmando que se encargarán del trabajo monótono y liberarán la mente humana para centrarse en la estructura, la lógica y la intención. El multimillonario Marc Andreessen ha comparado la IA con evoluciones tecnológicas pasadas —como el fuego— y afirma que aumentará la productividad en lugar de sustituir la capacidad humana.
TANGENTE
Timnit Gebru, científica informática que dejó Google tras publicar un artículo sobre los peligros de los másteres en derecho (LLM), opina que quienes pronostican un fin del mundo para la IA están exagerando intencionadamente y tratando de desviar la atención de los daños reales que ya se están produciendo. Afirma que lo verdaderamente existencial es que la IA impulse armas autónomas, los despidos masivos atribuidos a esta tecnología y una catástrofe climática ya existente, agravada por los enormes centros de datos que alimentan la IA. Margaret Mitchell , también ex empleada de Google, ha declarado que centrarse en escenarios de amenazas existenciales impide a los legisladores aplicar normas inmediatas contra la explotación laboral, el robo de derechos de autor, la degradación ambiental y el sesgo algorítmico. Joy Buolamwini, del Instituto Tecnológico de Massachusetts (MIT), afirma que plantear la idea de una “amenaza existencial” es fundamentalmente elitista y que, mientras los multimillonarios y magnates tecnológicos se preocupan por hipotéticas amenazas futuras, las comunidades marginadas ya sufren las identificaciones erróneas automatizadas mediante reconocimiento facial, la vigilancia biométrica y la denegación automatizada de vivienda, empleo o atención médica provocadas por la IA.
CITA CRUCIAL
«Esta narrativa del dios máquina, en mi opinión, pretende distraernos de estos problemas», dijo Gebru. «¿Qué pasa con las inundaciones y los incendios? ¿Qué pasa con una interrupción importante en la cadena de suministro mundial de alimentos? Nos enfrentamos a amenazas reales, como la posibilidad de que la gente cree y utilice armas químicas… Si no te preocupa la brutalidad policial, las inundaciones o la guerra —cosas que sí pueden matarte—, entonces puedes obsesionarte con el dios máquina».