¿Quién establecerá las reglas de la IA?. Amodei, Gates y el Compromiso voluntario de líderes de IA con la Casa Blanca.

I.- ¿Puede la gobernanza de la IA alcanzar a la propia IA?. II. El problema común: una tecnología que avanza más rápido que nuestra capacidad de controlarla. III. Amodei: ganar tiempo y marcar el ritmo. IV. Gates: el problema va mucho más allá de la tecnología. V. ¿Regulación o autorregulación?. El compromiso de la Casa Blanca. VI. Entre el freno y la carrera

I.- ¿Puede la gobernanza de la IA alcanzar a la propia IA?

Estas últimas semanas han sido intensas en las redes sociales por el debate sobre la Inteligencia Artificial. Hay dos documentos que han servido de referencia para fijar posición sobre la velocidad con la que avanza la IA y la necesidad de regularla.

Ante el interés por el tema, decidí ubicar en la web las opiniones emitidas por Bill Gates, fundador de Microsoft, y Dario Amodei, delegado de Anthropic, a los fines de buscar en la fuente principal aquellos argumentos o visiones expresadas por cada uno que se han convertido en una de las principales referencias para el debate y discusión sobre el futuro de la IA.

En el caso de Bill Gates, ha realizado varios artículos sobre la IA, pero particularmente el debate del que hemos sido testigos encuentra como referencia el escrito publicado bajo su firma el 26 de agosto de 2026, bajo el título The turbulent AI era is here. The choices we make now are critical (1), que podría traducirse como: la era turbulenta de la IA ha llegado. Las decisiones que tomemos ahora son críticas o podríamos decir fundamentales.

En el caso de Dario Amodei, sus reflexiones han sido publicadas el 12 de septiembre de 2026 bajo el título We must pace the frontier (2), que podría traducirse como un mensaje en el que le dice a las empresas de IA que deben fijar un ritmo o paso de la frontera en el avance de la IA.

Ambos coinciden en reconocer que la tecnología ha evolucionado con tanta rapidez y que los modelos se han vuelto tan poderosos que, para Gates, podrían comenzar a actuar en contra de nuestros intereses e incluso, como afirma Amodei, podrían superar nuestra capacidad de comprender y controlar estos sistemas. En consecuencia, hace un llamado a abordar el riesgo con cautela y prudencia.

La pregunta que aparece detrás de ambas reflexiones es, entonces, mucho más amplia que la discusión sobre una determinada tecnología:

¿Puede nuestra capacidad para gobernar la inteligencia artificial avanzar al mismo ritmo que la propia inteligencia artificial?

II. El problema común: una tecnología que avanza más rápido que nuestra capacidad de controlarla

Amodei afirma que, comparando con 2023, los modelos de IA entonces no eran lo bastante potentes como para actuar como agentes en el mundo de una manera coherente y tampoco eran capaces de llevar a cabo engaños, manipulación, trampas o ciberataques de importancia.

Pero esa situación es completamente diferente en el panorama actual.

El poder de la IA y la intensidad de su avance es de tal magnitud que, cuando Amodei aborda el tema de la prueba y evaluación, advierte que, en la medida en que aumentan sus capacidades, los modelos de IA más inteligentes pueden engañar a las pruebas y, por lo tanto, pueden parecer correctos a pesar de tener problemas graves que pasan desapercibidos.

Precisamente por esa realidad, Dario Amodei pide tiempo para avanzar en la investigación que permita reducir considerablemente los riesgos de que algo salga mal y por ello considera necesario ralentizar su desarrollo.

Bill Gates, por su parte, reconoce que aún no estamos preparados, pues no encuentra evidencias de que los líderes, expertos y comunidades estén enfrentando los desafíos adecuadamente. Hasta ahora, reclama, no hay ningún plan para facilitar la entrada a la era de la IA.

Además, afirma que si alguien tuviera un plan creíble para frenar los avances de la IA a nivel mundial, probablemente lo apoyaría; pero no es optimista en este sentido, pues sostiene que los incentivos geopolíticos y económicos están presionando demasiado para seguir adelante a toda velocidad.

El problema, por tanto, ya no consiste únicamente en saber hasta dónde puede llegar la IA. También consiste en determinar si las instituciones, las empresas y los gobiernos tienen la capacidad de comprender y gestionar sus consecuencias.

III. Amodei: ganar tiempo y marcar el ritmo

El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos, afirma Dario Amodei, quien se reconoce entusiasta por la idea de establecer un ritmo de desarrollo basado en las capacidades de un sistema de IA de vanguardia y en la seguridad que percibimos en él.

Marcar el ritmo, para Amodei, no significa detener el entrenamiento de modelos ni el progreso técnico, sino asegurar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos y que evaluadores externos lo confirmen; de esa manera se reafirma el compromiso de las empresas tecnológicas de IA con la seguridad y con fomentar una carrera hacia la excelencia.

En este sentido, oportuno señalar, cuando se plantea el ritmo de la evolución, Sam Altman, de OpenAI, aclara que no se trata de “detenerse”, se trata de ir más lento de lo que podría ser de otra manera y reclama que la presión competitiva de EE. UU. no debe justificar la imprudencia ni permitir que las capacidades se adelanten al alineamiento y monitoreo.(3)

Amodei plantea que es necesario ganar tiempo para que, en la medida que avance la IA —avance que no es posible detener—, podamos comprender mejor las herramientas y garantizar así medidas de prevención que sean oportunas, eficaces y adecuadas a los riesgos.

Así como las leyes son lentas, destaca Amodei, hay una enorme brecha entre la regulación de la tecnología y el avance de la misma. La realidad no es tan diferente con el diseño de mecanismos de prevención.

Los riesgos de la IA exigen una mayor prudencia que supone, según Dario, no solo invertir en la prevención de riesgos, sino también dosificar el ritmo de avance de las capacidades para que la prevención de riesgos tenga tiempo de ponerse al día.

3.1.- Las áreas en las que Amodei considera necesario avanzar

Un ritmo más lento permitiría a las empresas centrarse y dedicar aún más recursos a áreas que ya son consideradas como prioritarias por Anthropic, las cuales son presentadas por Amodei en su escrito.

1. Excelencia operacional

Este aspecto tiene que ver con la capacidad de entrenar e implementar los modelos de IA actuales reduciendo fallos que puedan producirse durante su funcionamiento.

2. Alineación

La alineación hace referencia al entrenamiento de los modelos para que sigan siendo seguros, éticos, conformes a nuestras directrices y realmente útiles.

En este campo advierte que queda mucho por hacer para garantizar que nuestro entrenamiento en alineación se mantenga al ritmo del desarrollo de las capacidades de los modelos.

Amodei reconoce que en ocasiones surgen ejemplos excepcionales e inesperados de comportamiento indeseable. Por ello, disponer de más tiempo en un entorno de investigación más avanzado ayudaría a nuestros investigadores a comprender mejor las causas de estos problemas y a desarrollar mejores técnicas para prevenirlos.

3. Interpretabilidad

La interpretabilidad hace referencia a la ciencia de comprender lo que sucede dentro de los modelos de IA.

Ha avanzado con el tiempo y desempeña un papel cada vez más importante en la auditoría de nuestros modelos antes de su lanzamiento.

Un ejemplo de esta característica es que se utilizan métodos de interpretabilidad para examinar las motivaciones no verbalizadas en los recientes incidentes de alineación que hemos estado investigando.

Esos métodos, reconoce, no siempre producen resultados claros y fiables. A pesar de todo el progreso, todavía solo se comprende una pequeña fracción de lo que sucede dentro de estos modelos.

Un esfuerzo concentrado para mejorar nuestras técnicas de interpretabilidad, incluso más rápido de lo que lo hacemos actualmente, podría lograr un progreso profundo en uno o dos años y contaría con abundante material experimental basado en los incidentes que ya han ocurrido.

4. Pruebas y evaluación

La evaluación de modelos de IA se vuelve más compleja a medida que aumentan sus capacidades.

Los modelos más inteligentes pueden engañar a las pruebas y, por lo tanto, pueden parecer correctos a pesar de tener problemas graves que pasan desapercibidos.

Desarrollar un conjunto de evaluaciones mucho más amplio e ingenioso, junto con un análisis de interpretabilidad para contrastarlas, sería de gran valor, y se podría avanzar mucho en este sentido en uno o dos años.

3.2.- ¿Cómo marcar el ritmo?

Para Amodei, el método más eficaz para regular la IA sigue siendo la regulación a través de una normativa que abarque a todas las empresas de IA de vanguardia de EE. UU., ya que cubre incluso a aquellas que no están dispuestas a cooperar voluntariamente.

Anthropic lleva tiempo apoyando una regulación de la IA sensata y específica, en particular los proyectos de ley que se centran en la transparencia y la auditoría externa.

El ritmo del camino legal requiere que paralelamente las empresas de IA colaboren voluntariamente para establecer estándares, un proceso que, en mi opinión, se verá favorecido por la verificabilidad que proporcionan los evaluadores permanentes integrados.

Estándares que se desarrollen en un marco democrático entre las empresas.

Tres propuestas plantea para marcar el ritmo:

1. Evaluadores integrados

Cada empresa de IA de vanguardia se compromete a brindar acceso continuo, similar al de un empleado, a un equipo de evaluadores externos integrados, cuya función sea la de verificar el cumplimiento de las prácticas y compromisos de seguridad, reportar incidentes y ayudar a evaluar la alineación no solo de los modelos de IA completados, sino también de los procesos y las metodologías de entrenamiento.

Esto es clave para verificar cualquier compromiso de ritmo y tiene precedentes en el sector bancario, que a veces involucra a “supervisores” regulatorios integrados junto con los empleados.

Anthropic se compromete unilateralmente a este paso ahora. Pretenden que esto forme parte de un esfuerzo más amplio para redoblar sus esfuerzos en materia de seguridad y alineación.

2. Coordinación democrática

Las empresas de IA de vanguardia en países democráticos se coordinan para establecer estándares de seguridad comunes, así como límites al ritmo de desarrollo descontrolado de la IA.

Algunas formas de coordinación que tendrían un impacto significativo en el ritmo de desarrollo presentan desafíos legales y requerirán apoyo gubernamental.

Una parte fundamental del ritmo de desarrollo, dentro de las democracias, afirma Amodei, es mantener la ventaja de las democracias en IA sobre las autocracias lo más amplia posible, para darnos el margen de maniobra necesario para avanzar con eficacia.

Con ello destaca la relación entre democracia y poder de las IA.

3. Coordinación global

Estados Unidos y otros gobiernos democráticos intentan coordinarse con los gobiernos autoritarios, en la medida de lo posible, sin dejar de tomar en serio los retos que supone verificar el cumplimiento.

En este tercer aspecto, Amodei reconoce que la IA se presenta como una herramienta de poder y que, para evitar el dominio geopolítico, es necesario un acuerdo entre EE. UU. y China.

Dario Amodei advierte que restringir considerablemente las capacidades de IA creyendo que China hará lo mismo permitiría que luego China, al desvincularse del mismo, haga uso de la IA para lograr su dominio geopolítico.

En ese sentido plantea la necesidad de abordar cualquier decisión sobre el avance global, especialmente a corto plazo, de manera que se proteja el liderazgo de Estados Unidos y sus aliados.

Con ello polariza el tema entre EE. UU. y China y coloca a las empresas tecnológicas como defensoras de EE. UU. y sus aliados, pero el tema es que hoy no se está seguro a quién EE. UU. considera aliado y, por otro lado, tampoco deja claro si al hablar de EE. UU. hace referencia a los valores de la democracia y libertad o a la política de la paz a través de la fuerza.

3.3.- El dilema geopolítico: seguridad frente a velocidad

Para Dario Amodei, si se reduce la velocidad, los proyectos que lidera China, tomarán la delantera, creando un riesgo significativo para la seguridad nacional.

Las empresas de IA en China corren el riesgo de alineación que las empresas estadounidenses están evitando cuidadosamente. Incluso si los evitan, estarán en posición de dominar militarmente a las democracias, y pone como ejemplo los drones impulsados por la IA.

Amodei propone varios niveles de posible acuerdo global, algunos de los cuales considera factibles y otros de los cuales duda mucho que sean posibles, aunque cree que deberían intentarlo.

Una propuesta oportuna, que lanza en un momento en el que se preparaba una reunión entre Estados Unidos y China a finales de septiembre.

En orden de dificultad creciente, los niveles que plantea son:

Primero:  Prohibir determinados usos especialmente peligrosos de la IA, como su utilización para producir armas biológicas.

Segundo:  Los modelos serían sometidos a pruebas antes de su lanzamiento para detectar riesgos graves relacionados con ciberseguridad, biología o alineación.

Para Amodei, esto puede realizarse mediante un organismo de normalización global dotado de verdadera autoridad, lo que será un desafío.

La dificultad radicará en verificar que ninguna de las partes posea modelos secretos que no hayan probado, pero que podrían desplegar en secreto, por ejemplo, para aplicaciones militares.

Tercero: Establecer algún tipo de límite a la velocidad de la auto-mejora recursiva de los sistemas.

Para Amodei esto supone uno de los acuerdos difíciles, pero en el límite de ser posible.

Cuarto

El más ambicioso: un acuerdo entre gobiernos para limitar sustancialmente el ritmo general de desarrollo de la IA.

Este aspecto lo ve improbable.

Para Amodei, el desarrollar con demasiada lentitud la IA puede tener consecuencias geopolíticas, pero desarrollar con mucha rapidez, puede tener consecuencias de seguridad.

IV. Gates: el problema va mucho más allá de la tecnología

Si Amodei pone el acento en ganar tiempo, Gates lo pone en construir las instituciones necesarias para enfrentar una transformación que considera mucho más amplia que la propia tecnología; las propuestas concretas que formula Bill Gates son:

1.- Construir la institucionalidad necesaria.

Para Gates hay un tema clave y prioritario, y que califica como una tarea monumental: crear un marco nacional e internacional para abordar la IA.

Ninguna de nuestras instituciones actuales fue diseñada para manejar una tecnología que se propaga tan rápido y toca tantas partes de nuestras vidas. Así que necesitaremos crear otras nuevas.

En ese sentido plantea:

A nivel nacional, los países necesitarán organismos que puedan establecer prioridades entre las agencias gubernamentales.

A nivel internacional, será necesario construir una organización y buscar en el régimen de inspecciones de armas nucleares, de la aviación civil y de la protección de la capa de ozono elementos para crear un modelo de regulación de la IA.

El punto de partida para Gates es un proceso para construir las instituciones adecuadas antes de que la disrupción obligue a los gobiernos a entrar en modo de crisis.

Por un lado, sugiere que los líderes nacionales deberían convocar periódicamente a economistas, tecnólogos, expertos laborales, líderes empresariales y a los propios trabajadores para identificar dónde están fallando las instituciones existentes y qué nuevas autoridades pueden ser necesarias.  Para Gates, los países tendrán que aprender unos de otros.

Y, por otro lado, les pide a los países que albergan a los principales desarrolladores de IA y controlan partes críticas de la cadena de suministro que comiencen a reunirse ahora para establecer normas compartidas, antes de que la presión competitiva les dificulte cooperar.

Construir el marco institucional llevará años, por eso debemos empezar ahora. Por lo pronto, Gates propone:

2.- Reservar algunos trabajos para los seres humanos

Reconoce que la idea de Human Reserved le plantea una serie de preguntas para las que no tiene respuestas:

• ¿Quién decide qué reservamos para los humanos?
• ¿Qué criterios debemos utilizar?
• ¿Cómo evitar de todos modos que las empresas hagan trampa y utilicen robots?
• ¿Qué sucede con el comercio internacional cuando un país permite que los robots fabriquen algo y otro no?

Para Gates, estas preguntas deberían formar parte de un debate público sobre la transición hacia una economía transformada por la IA.

3.- Políticas públicas sobre impuestos y distribución de los beneficios en IA.

Otro de los asuntos planteados por Gates es el sistema tributario.

Su argumento parte de una diferencia entre contratar a una persona y comprar una máquina.

Cuando una empresa contrata a un trabajador, existen impuestos asociados al empleo. Cuando compra un robot, normalmente puede tratarlo como un gasto empresarial deducible.

Desde esta perspectiva, el sistema tributario puede generar incentivos para sustituir personas por máquinas.

Gates plantea, por ello, la posibilidad de gravar la IA y los robots.

En este aspecto, las preguntas de Gates son:

• ¿Cómo garantizamos que los beneficios de la IA lleguen a las personas que aún no tienen riqueza, influencia y acceso?
• ¿Cómo fortalecemos la red de seguridad social y ayudamos a los trabajadores y a las comunidades a prosperar incluso cuando están desplazados?
• ¿Cómo deben adaptarse las instituciones públicas?
• ¿Y cómo preservamos nuestra humanidad a través de todo esto?

Aquí la discusión sobre IA deja de ser exclusivamente una discusión sobre seguridad tecnológica y se convierte en una discusión sobre economía, trabajo, desigualdad e instituciones.

V. ¿Regulación o autorregulación?. El compromiso de la Casa Blanca

Precisamente ante la idea de ralentizar el avance, como es de esperarse, hubo voces que expresaron su disconformidad con ella.

Jensen Huang, de Nvidia, y Mark Zuckerberg, de Meta, se distancian de esa posición argumentando que son las mismas empresas las que deben abordar los riesgos de forma individual.

Huang, además, resta importancia a lo que califica como advertencias existenciales de la IA, afirmando que es falsa la dicotomía entre velocidad de la innovación y la capacidad de elaborar productos seguros. Además, considera que no hay necesidad de crear nuevas leyes o regulaciones estadounidenses sobre la seguridad de la IA.

“Sin duda, se puede tener innovación y seguridad al mismo tiempo”, añadió Huang, quien agregó que "conviene avanzar tan rápido como se pueda y, si en algún momento se llega a la conclusión de que la empresa está fuera de control o que los productos no van a ser seguros, habrá que hacer una pausa y asegurarse de que todo esté bien”.(4)

Precisamente en esta afirmación se identifica la diferencia entre Gates, Amodei e incluso Altman y Musk, con Huang y Zuckerberg.

En el caso de Bill Gates, en una entrevista afirmó que no es papel de las empresas tecnológicas autorregularse, menos aún entender todo el impacto que tienen en la sociedad. No es su responsabilidad.(5)

Todo este debate adquiere una dimensión diferente cuando pasamos de las propuestas a los compromisos concretos.

Luego de una crisis en la relación entre Antrhopic y el Gobierno de EE.UU, tras una cena privada con el presidente Donald Trump, Amodei, participó de una reunión en la Casa Blanca en la que estuvieron los líderes de las empresas tecnológicas que desarrollan IA, incluyendo Sam Altman, OpenAI, y firmaron el Compromiso que allí se logró sobre la responsabilidad de las empresas tecnologícas que desarrollan IA.

Según informa The Hill (6), los líderes claves de la industria de la IA firmaron un compromiso de autocontrol del desarrollo, el acuerdo fue anunciado por el presidente Trump y el presidente de la Cámara de Representantes, Mike Johnson, luego de la reunión en la Casa Blanca realizada el 29 de septiembre 2026.

El acuerdo, llamado “Acuerdo de la Casa Blanca sobre el Compromiso Conjunto de Superinteligencia sobre las Responsabilidades de Frontier SI”, señala Johnson, establece una serie de compromisos voluntarios para los desarrolladores de IA.

Para Donald Trump ese acuerdo es como “casi como una constitución” y “moralmente vinculante”, y agregó que “habrá un tremendo aspecto de autocontrol”.

También dijo que están considerando formar un comité que pueda “vigilar a toda la entidad”.

La cuestión es especialmente relevante porque algunas de las propuestas planteadas por Amodei en We must pace the frontier parecen encontrar en este tipo de compromisos voluntarios un espacio para ser puestas en práctica.

Pero también aparece la contradicción que Gates, quien no estuvo entre los asistentes a esas reunión, plantea desde el principio: si el problema es que las empresas tecnológicas no pueden comprender por sí mismas todo el impacto que sus tecnologías producen sobre la sociedad, ¿hasta dónde puede llegar la autorregulación?

El verdadero desafío está precisamente en determinar si estos compromisos voluntarios, que terminan siendo una expresión concreta de una política pública y como tal, una modalidad de regulación, constituyen un paso hacia una estructura de seguridad más amplia o si terminan sustituyendo la regulación más rigurosa e institucional que Gates y el propio Amodei consideran necesaria.

VI. Entre el freno y la carrera

Gates y Amodei reconocen que el avance tecnológico no puede detenerse fácilmente. Para Amodei, el acento está en ganar tiempo ralentizándose su evolución y para Gates, está en construir un marco institucional que establezca un orden en la dinámica del desarrollo de las IA en su relación con los Estados y la sociedad en general.

Hasta ahora, pareciera que la pregunta: ¿quién debe decidir el ritmo de una tecnología que puede transformar profundamente la sociedad?, fue respondida, en este momento, de común acuerdo entre el gobierno de Estados Unidos y los líderes tecnológicos de la IA, lo cual es un hecho positivo,

El debate no ha terminado, es solo un paso más en el avance de la IA y en la definición, que está en marcha, del tipo de sociedad en la que queremos desarrollarnos en armonía y convivencia con la IA; pero también, es un acto que marca el inicio de una precampaña electoral hacia la elección presidencial y que advierte que la IA será uno de los temas claves de esa campaña.  

XII. A modo de conclusión

Gates afirma que no estamos preparados para los desafíos que nos impone el rápido avance de la IA, y en esa afirmación, encuentro el principal desafío que tenemos como sociedad, luego del compromiso voluntario logrado en la Casa Blanca: ¿Tendremos la capacidad de lograr con ese acuerdo construir de forma oportuna, las estructuras necesarias para convivir con la IA?

Los desafíos que impone la tecnología, afirma Gates al cierre de sus reflexiones de agosto 2026, exigen respuestas globales sin precedentes. Si se hace bien, la humanidad será fenomenal y el mundo será un lugar más equitativo.

Las preguntas que plantea la IA, agrega, son demasiado importantes para dejarlas en manos de un pequeño grupo de tecnólogos y en tal sentido, nos recuerda para el cierre de sus reflexiones que los líderes del mundo académico, empresarial, gubernamental y de la sociedad civil tienen un papel que desempeñar en la configuración de lo que viene después.

Por su parte, Amodei termina sus reflexiones de septiembre 2026, reconociendo que las medidas que propone para marcar el ritmo no serán fáciles; pero considera que la humanidad merece que se intente.

Por último, hay una frase de Dario Amodei que me parece, resume lo complejo que resulta este debate y con la cual quiero cerrar:

“No desarrollar la IA priva a la humanidad de sus beneficios y, sencillamente, la deja en manos de potencias autoritarias; mientras que desarrollarla demasiado deprisa es una temeridad. Una IA cuidadosamente utilizada puede representar un gran aporte para enaltecer a la humanidad.”

¿Hacia dónde vamos con la inteligencia artíficial?

Carlos Romero Mendoza

@carome31.

___________________________________________

Referencias:

(1) Gates Notes. The turbulent AI era is here. The choices we make now are critical. 26 de agosto 2026. En; Gates Notes. Online en:https://www.gatesnotes.com/home/home-page-topic/reader/a-turbulent-ai-era-and-critical-choices-to-make

(2) AMODEI, Dario. We Must Pace the Frontier. 12 de septiembre 2026. Online en: https://darioamodei.com/post/we-must-pace-the-frontier

(3) ALTMAN, Sam. 14 de septiembre 2026. 6:05 am. https://x.com/sama/status/2099348812305473766

(4) ACTON, Michael. Los CEO de Nvidia y Meta se oponen a los intentos de coordinar la ralentización de la IA. En: Expansión. Financial Times. 16 de septiembre 2026. Online en: https://www.expansion.com/economia/financial-times/2026/09/16/6aaa46f5468aeb6a348b45c7.html

(5) MESTRES, Marc. Bill Gates, 70 años: “No es responsabilidad de las empresas que se dedican a la IA autorregularse ni entender todo el impacto que tendrá en la sociedad”. En; La Vanguardia. 17 de septiembre 2026. Online en: https://www.lavanguardia.com/neo/20260917/11636997/bill-gates-70-anos-responsabilidad-empresas-dedican-ia-autorregularse-entender-impacto-sociedad-gvm.html

(6) SHAPERO, Julia y MANCHESTER, Julia. AI firms sign ‘morally binding’ self-policing pledge in White House meeting- 29 de septiembre 2026. Online en: https://thehill.com/homenews/administration/6118906-tech-ceos-sign-white-house-ai-accord/