El «Acuerdo de la Casa Blanca sobre la superinteligencia» tiene algo más de 300 palabras e incluye «cuatro niveles de controles y auditorías» que las empresas han aceptado voluntariamente.
La Casa Blanca ha hecho público el texto de un «acuerdo» alcanzado entre los magnates multimillonarios del sector de la inteligencia artificial que se reunieron el martes con el presidente Donald Trump, un acuerdo que el presidente calificó de «moralmente vinculante», aunque no llegó a afirmar que el Gobierno respaldaría nuevas medidas de control.
HECHOS CLAVE
- El «Acuerdo de la Casa Blanca sobre la superinteligencia» tiene algo más de 300 palabras e incluye «cuatro niveles de controles y auditorías» que las empresas han aceptado voluntariamente.
- El primero consiste en implementar «controles internos sólidos para supervisar las capacidades y la alineación» de los modelos en «ámbitos como la ciberseguridad, la bioseguridad y las amenazas químicas, y para garantizar que sus modelos no pirateen ni accedan a sistemas técnicos de forma no deseada».
- El segundo componente exige que los equipos internos supervisen los sistemas y corrijan los problemas si es necesario, mientras que el tercero exige que «un auditor o evaluador externo independiente lleve a cabo evaluaciones independientes para determinar si los controles, la supervisión y la detección funcionan según lo previsto».
- La última directriz establece que las empresas deben constituir «un comité independiente del consejo de administración» para recibir los informes de los equipos internos y los evaluadores externos, y realizar las correcciones necesarias en consecuencia.
- El último párrafo del documento señala: «Con el tiempo, podría tener sentido codificar estas medidas en leyes o reglamentos».
- En el título que figura debajo de la firma de Trump, la palabra «Estados Unidos» aparece mal escrita como «Unites States».
LEE EL «ACUERDO» SOBRE IA EN SU TOTALIDAD
Acuerdo de la Casa Blanca sobre la superinteligencia
Compromiso conjunto sobre las responsabilidades en materia de tecnología de vanguardia
Con el fin de construir un futuro positivo para el pueblo estadounidense y para el mundo, creemos que cada empresa es responsable de desarrollar su propia tecnología de forma segura y de manera que se genere confianza entre los clientes y el público.
Esto comienza por que todas las empresas que entrenan y despliegan modelos de vanguardia cuenten con procesos y controles internos sólidos para garantizar que su tecnología se comporte según lo previsto y que cualquier problema se identifique y resuelva con rapidez. Por lo tanto, además de cualquier otra precaución, creemos que cada empresa debería implementar los siguientes cuatro niveles de controles y auditorías:
- Implementar controles internos sólidos para monitorear las capacidades y la alineación de sus modelos durante la capacitación y la implementación en áreas como la ciberseguridad, la bioseguridad y las amenazas químicas, y para garantizar que sus modelos no pirateen o accedan a los sistemas técnicos de manera involuntaria.
- Empoderar a un equipo interno para garantizar que todos los controles, monitoreo y detección funcionen según lo previsto, y que se solucione cualquier problema.
- Asociarse con un auditor externo o evaluador independiente para llevar a cabo evaluaciones independientes de si los controles, el monitoreo y la detección están funcionando según lo previsto.
- Designar un comité independiente de la junta directiva para supervisar y recibir informes de los equipos que operan los controles y de los auditores y evaluadores internos y externos, así como para garantizar que se solucione cualquier problema identificado.
Juntos, estos pasos darán a cada empresa, a sus clientes y la confianza del público en que la tecnología está funcionando según lo previsto.
Las empresas participantes se reunirán regularmente para establecer estándares y mejores prácticas para mejorar la seguridad de sus sistemas.
Con el tiempo, puede tener sentido codificar estos pasos en leyes o reglamentos. Independientemente de si esto se requiere de las empresas, creemos que la implementación de estos controles y auditorías es fundamental para garantizar un futuro seguro para todos, y cada una de nuestras empresas está comprometida a hacerlo.
¿QUIÉN ASISTIÓ A LA REUNIÓN?
Elon Musk, Mark Zuckerberg de Meta, Jeff Bezos de Amazon, Jensen Huang de Nvidia, Dario Amodei de Anthropic, Sundar Pichai de Google y Alex Carp de Palantir, entre otros, asistieron a la reunión. El acuerdo fue firmado por Trump, Musk, Zuckerberg, Huang, Amodei, Pichai y el presidente de OpenAI, Greg Brockman.