¿Quién establecerá las reglas de la inteligencia artíficial?
I.- La IA en el centro del debate. II.- El poder de las empresas tecnológicas. II.- El debate va más allá de las paredes de un laboratorio. III.- ¿Preocupación compartida o disputa por quién establecerá las reglas?. IV.- Las preguntas que no pueden ser ignoradas
I.- La IA en el centro del debate
La tecnología es uno de los motores de desarrollo global, así la reconoce el Papa León XIV en su encíclica Magnifica Humanitas, preservar a la persona humana en tiempos de inteligencia artificial. El documento, advierte que el uso de la IA nunca es un hecho puramente técnico: cuando entra en procesos que inciden en la vida de las personas, afecta a sus derechos, oportunidades, reputación y libertad (1) y se convierte en una cuestión política, social y ética.
La encíclica reconoce que hay un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran la conciencia, las normas, los controles y las instituciones capaces de gobernar los efectos de la IA, por lo que exhorta a la prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA, que aclara, no significa estar en contra del progreso, sino ejercitar un cuidado responsable hacia la familia humana.
Sin esa prudencia, sin esos elementos, cualquier cambio, advierte la encíclica, será gobernado sólo por lógicas tecnocráticas y presentado como necesario e imprescindible, terminando por imponer reglas dictadas por quienes poseen datos, infraestructuras y capacidad de cálculo.
Y precisamente es en ese contexto en el que considero debemos valorar el debate que se desarrolla sobre el rápido avance de la IA y sus efectos, que, por lo demás, como también lo reconoce la encíclica es una realidad inédita, predominantemente privada, que ha transformado a la IA en un poder real, haciendo aún más compleja la capacidad para discernir, gobernar y orientarla hacia el bien común. (2)
Pareciera que desde que Dario Amodei, de Anthropic, publicó en septiembre 2026, sus reflexiones y visión sobre el avance de la IA, proponiendo una ralentización de su avance, bajo el título We must pace the frontier (3), que nos plantea en español de la necesidad de marcar el ritmo del avance de la IA, que no supone detener el desarrollo.
Pero, así como Amodei, Bill Gates también compartió sus reflexiones sobre el avance de la IA, publicadas en agosto 2026 bajo el título The turbulent AI era is here. The choices we make now are critical (4), que nos plantea que ha llegado la era turbulenta de la IA y las decisiones que se tomen ahora son decisivas.
Que estas dos personalidades hayan publicado sus reflexiones sobre el avance de la IA, casi de manera simultánea, nos debe plantear una primera pregunta:
¿Estamos ante una coincidencia derivada de una preocupación compartida o ante la formación de una nueva agenda destinada a influir en los espacios donde se decidirán las reglas de la inteligencia artificial?
II.- El debate va más allá de las paredes de un laboratorio
Cuando los líderes de las empresas tecnológicas ocupan espacios en medios de comunicación, unos exponiendo las preocupaciones sobre el intenso avance de la IA y sus efectos; otros, defendiendo la autoregulación de cada empresa para definir cuándo avanzar con rapidez, cuando reducir esa velocidad y cuando es necesario detenerse, abren la puerta para que se involucren otros actores sociales en el debate.
Expertos o no en inteligencia artificial, al final, todos estamos sorprendidos del rápido avance de la IA y ante una realidad, que como dice el Papa León XIV en su encíclica, abre un horizonte que se extiende en direcciones que, aún cuando puedan ser intuibles, no es posible preverla por completo. Por lo tanto, agrega, es complejo evaluar hoy su impacto y sus efectos a largo plazo, principalmente sobre la dignidad de las personas y el bien común.(5)
En ese contexto de preocupaciones, se reconocen que hay beneficios importantes que aporta la IA y en este mes de septiembre, hubo hechos concretos que más allá de las paredes de un laboratorio tecnológico, marcan el debate sobre el avance y regulación de la IA, destaco los hechos recientes que resalto en este sentido:
2.1.- En el contexto global:
2.1.1.- ONU
La Asamblea General de Naciones Unidas 2026, no plantea una agenda específica para abordar la IA en las reuniones especiales durante el marco de la Asamblea, pero el tema ha estado en el debate dias antes del inicio de la Asamblea (6) y algunas acciones y reuniones como el Debate Global sobre el tema se habían activado.
Para Antonio Gutérres, secretario general de la ONU, la Inteligencia artificial, IA, es una de las tres amenazas existenciales, le acompañan la crisis climática y el aumento de las desigualdades.
Para el secretario general, la IA tiene un enorme potencial, en sectores como salud, educación y clima, pero no es posible ignorar las preocupaciones que el desarrollo de la herramienta impone como consecuencia de su rápido avance, que deja atrás la comprensión humana de sus riesgos.
En consecuencia señala a los gobiernos como los responsables de proteger a sus ciudadanos de los riesgos de la IA.
En el contexto de la Asamblea General, el 23 de septiembre tanto Dario Amodei, Anthropic, como Sam Altman, OpenAI se hicieron presentes en el Consejo de Seguridad de Naciones Unidas para abordar sus visiones sobre el avance de la IA y el riesgo de perder su control.
El debate sobre el avance y regulación de la IA también ha llevado en el marco de la misma ONU a más de 20 líderes mundiales, a firmar el 21 de septiembre 2026 (7) un acuerdo en el que unen sus voces a la necesidad de trabajar en función de adoptar medidas de seguridad vinculantes para la IA, reconociéndo la existencia del riesgo de perder el control sobre la IA, como consecuencia de su intensa evolución.
No podemos olvidar la Resolución A/RES/79/325 (8), la creación de un Panel Científico Internacional Independiente sobre Inteligencia Artificial y un espacio para el debate sobre el tema entre los países miembros denominado Diálogo Mundial sobre la Gobernanza de la Inteligencia Artificial.
Además, desde la ONU, este mismo año en enero 2026 se iniciaron una serie de consultas globales sobre el avance de la IA, y en ese recorrido, el 23 de septiembre tanto Dario Amodei, Anthropic, como Sam Altman, OpenAI se hicieron presentes en el Consejo de Seguridad de Naciones Unidas para abordar sus visiones sobre el avance de la IA y el riesgo de perder su control.
2.1.2.- Reunión bilateral China y EE.UU
La reunión entre EE.UU y China en Washington DC, el tema de la IA debe estar presente entre ambos países que compiten entre si por el liderazgo en el desarrollo de la IA.
Según información oficial de Casa Blanca, China y EE.UU acordaron establecer un canal de diálogo sobre los beneficios y riesgos de la inteligencia artificial, y se anunció para noviembre 2026 otro encuentro donde el tema será la IA. Además, también acordaron establecer un canal de comunicación bilateral para incidentes. (9)
“No es necesario eludir el tema de la competencia, pero esta debe ser sana y mantenerse dentro de límites razonables. Debe tratarse de una carrera para alcanzar al otro, no de una lucha en la que uno gana y el otro pierde. China y EEUU deben mantener la premisa de evitar el conflicto y la confrontación; sin duda, podemos encontrar la vía adecuada para que ambas grandes naciones convivan en este planeta que compartimos como hogar.” (10)
2.2.- En el contexto de la política interna de EE.UU:
En este contexto la situación es más compleja porque hay al menos 3 hechos concretos que marcan el debate en EE.UU:
2.2.1. La Comisión de Comercio del Senado
El debate que se ha abierto en la Comisión de Comercio del Senado de USA, sobre la regulación de la IA(4).
Según The Hill, el debate en el Congreso sobre la seguridad de la IA podría posponerse más allá de las elecciones de midterm, pero advierte, que los Republicanos que quieren impulsar un acuerdo sobre la IA, saben que tienen poco tiempo, al menos dos meses antes de la toma de posesión de los nuevos congresistas; tiempo que advierte puede reducirse aún más si los demócratas obtienen el control de la Cámara de Representantes. (11)
2.2.2.- La presión sobre el Congreso.
Precisamente en el contexto de este debate sobre la IA, dos hechos concretos reflejan la presión hacia el Congreso de EE.UU sobre la materia, por un lado, 23 estados han suscrito una carta junto con el Distrito de Columbia y Samoa Americana, exigiendo al Congreso una regulación federal integral y protocolos de seguridad para la IA. (12)
Por otro lado, varios senadores demócratas: Elizabeth Warren; Chuck Shumer, Andy Kim, Elissa Slotkin, solicitaron al Congreso entre otros temas, avanzar en el tema de regulación sobre la seguridad de la IA y el control de exportación en tecnología de avanzada, ello en el marco de la visita del presidente de China a EE.UU. (13)
2.2.3.- Precampaña electoral por la elección presidencial 2028 en USA y las elecciones de midterm,
En ese contexto, se puede interpretar, no solo las formas de presión señaladas en el punto anterior, sino también el acto de aprobación del paquete las 13 leyes en California que profundizan la protección de menores y avanzan en la regulación de la IA.
Importante advertir, que estos hechos no son los únicos, pues hay otros que marcan el debate sobre la IA, uno de naturaleza financiera, que tiene que ver con la aspiración de Anthropic y OpenAI de ir a la bolsa, lo que requiere niveles de confianza importantes y el otro que va con la estrategia empresarial de no sólo en materia de competencia, sino enfrentar los efectos de ambas empresas tecnológicas con el gobierno de EE.UU tras los incidentes que han ocurrido y que crean conflicto en esa relación.
Al final, son muchos los elementos que hay que tener presente y que marcan el debate y que como espectadores nos lleva a una segunda pregunta:
¿Esos espacios señalados facilitan que la preocupación sobre el avance de la IA desarrolle una agenda común para debatir el tema, o por el contrario, somos testigos de una estrategia más amplia para definir quién establecerá las reglas que diseñen el orden en el cual la IA se relacionará con la sociedad en general?
.png)
III.- ¿Preocupación compartida o disputa por quién establecerá las reglas?
En ese sentido, y como indicio de las tensiones que se hacen visibles dentro del sector tecnológico, que solo podemos percibir e intuir, se ha anunciado que algunos usuarios suscriptores de ChatGPT, Claude, Grok o Gemini, han visto en la idea de ralentizar el avance de la IA, expresada por Amodei en septiembre 2026, un posible acuerdo ilegal que va en contra de la ley antimonopolio, por lo que han demandado ante un tribunal de Distrito para el Distrito Norte de California, a las empresas Anthropic, OpenAI, SpaceXAI y Google.(14)
Más allá del análisis sobre si es o no contrario al marco legal de antimonopolio, o si realmente hay o no un acuerdo, es importante afirmar, que la preocupación expresada por Amodei sobre el avance tan intenso de la IA y porque se pueda perder el control sobre la herramienta tecnológica, han encontrado eco desde distintas perspectivas, por personalidades del mundo tecnológico como Elon Musk, Sam Altman de OpenAI y Bill Gates; además de darle más sentido al reclamo de miles de padres, madres y docentes sobre la necesidad de regular la tecnología.
Pero, como es natural en todo debate, la propuesta de ralentizar la IA, ha encontrado el rechazo en otros liderazgos tecnológicos como Jensen Huang, Nvidia y Mark Zuckerberg, Meta, quienes se distancian de esa propuesta, afirmando que son las mismas empresas, de manera particular, las que deben abordar los riesgos y asumir la responsabilidad de abordar la preocupación de que la IA pueda descontrolarse y convertirse en una amenaza para la humanidad.
Huang ha afirmado que la fuerza del mercado ya existe y no es necesario nuevas leyes o regulaciones; lo que es esencial, afirma, es que cuando cada empresa decida ir lo más rápido, el debate sobre la innovación, la velocidad y la seguridad se convierte en una falsa dicotomia.
Incluso, reafirmando que cada empresa debe ser responsable por definir su propio avance, agregó, "si se desarrolla un producto o servicio y no se tiene confianza en su funcionalidad, capacidad o seguridad, es mejor no lanzarlo. Es lo más lógico. Conviene avanzar con calma hasta tener la seguridad de que se está lanzando algo que el mercado valorará." (15)
Si bien podemos afirmar que es responsabilidad de cada empresa la seguridad de la IA, la afirmación nos permite, como espectadores, una tercera pregunta:
¿Entonces cada empresa es quién debe ocuparse porque se garantice los derechos de los usuarios frente a las IA?
Una inquietud que nos plantea la necesidad de asumir una corresponsabilidad entre distintos actores: gobierno, empresas, docentes, padres y madres; precisamente Antonio Gutérres, sobre el debate de la IA, ha expresado que el tema central está en si juntos podremos controlar a la IA o por el contrario, dejaremos que ella nos controle. (16)
Es importante reconocer por un lado, que los líderes tecnológicos, no están solos en este debate, pues organizaciones como la ONU y personalidades como el Papa León XIV con su primera encíclica, han fijado posición; pues el tema no inició con las reflexiones de Amodei en septiembre 2026, ha estado en la agenda del debate desde hace unos años.
El debate parece haberse potenciado no por el temor que la IA pueda sustituir a la persona humana; sino porque hay una serie de intereses, muchos de los cuales son imposible de percibir con claridad en este momento, pero que están muy relacionados con aspectos de orden geopolítico, económicos y de política interna de EE.UU.
IV. Las preguntas que no pueden ser ignoradas
Sam Altman, OpenAI, reconoce que la preocupación de las personas es justificada, pero invitó a una mayor confianza en las empresas tecnológicas y su responsabilidad en garantizar la seguridad de las IA, pues van hacer lo correcto porque conocen la magnitud de la situación. (17)
Según la consultora IPSOS (18), su estudio IPSOS Global AI Monitor 2026 reconoce por un lado que los usuarios están logrando un equilibrio en reconocer las bondades de la IA, pero al mismo tiempo conscientes de los riesgos.
Sobre la confianza, sostiene que sigue siendo uno de los mayores retos que enfrenta la IA en el 2026, pues la gente, más allá de la preocupación sobre el empleo, cuestiona cómo se regulan los sistema de IA, su impacto medioambiental y si los intereses comerciales influyen en las respuestas generadas.
Por su parte un estudio realizado por Gallup y Microsoft (19) aborda el tema de la confianza en el contenido de las respuestas de la IA, y revela que hay mayor optimismo por la IA y su efecto en mejorar la vida de todos, que en la confianza.
El estudio ha levantado información en 37 países, y presenta como resultado que 34 de los 37 países se muestran con emociones positivas por encima de las negativas sobre la IA, y que hay países como EE.UU en donde se combina un uso relativamente alto de la IA, con algunos de los niveles de preocupación más elevados en el mundo.
El ranking de países que expresan mayores niveles de preocupación en el mundo sobre la IA por parte de los adultos familiarizados con la herramienta son:
- Estados Unidos 74% de los adultos familiarizados con la IA afriman estar preocupados por la IA.
- Países Bajos. 67%.
- Canada con 64%
- Reino Unido con 63%.
- Nueva Zelandía con 61%
- Irlanda con 60%
- Malta con 57%
Cada quien podrá opinar desde su experiencia con la IA, pero hasta ahora, basándonos en las actuaciones y controversias recientes protagonizadas por las empresas tecnológicas de IA no permiten depositar nuestra plena confianza en ellas, en particular para que se autoregulen y menos aún, para regularla en su relación con las personas y las instituciones de gobierno.
Sobre la confianza en la innovación tecnológica, quiero recordar que en el año 1997, el pensador Giovanni Sartori (1929-2017) cuando reflexionaba sobre el futuro de la TV y su influencia en la sociedad, en su obra Homovidens, la sociedad teledirigida, advertía que las posibilidades de Internet son infinitas, para el bien y para el mal; todo dependerá del uso que el usuario le de al instrumento.
"Son y serán positivas cuando el usuario utilice el instrumento para adquirir información y conocimiento, es decir, cuando se mueva por genuinos intereses intelectuales, por el deseo de saber y entender. Pero la mayoría de los usuarios de Internet no es y preveo que no serán de esta clase", advirtió Sartori. (20)
Casi 3 décadas después el Internet como innovación ha sido superado y ahora la IA una herramienta innovadora va más allá y así como entonces, se advertía que el Internet no era neutral, porque dependía de la utilidad que le diera el usuario, hoy el Papa León XIV, reconoce y advierte que la IA no es neutral, pues toma el rostro de quien la concibe, financia, regula y la utiliza. (21)
Esa ausencia de neutralidad, es un argumento para abordar los riesgos en la autorregulación de las IA; el debate sobre el avance de la IA y su regulación es complejo, son muchas las dimensiones que desde donde se debe abordar el tema; pero la tarea de definir un marco institucional que permita la relación entre la IA, las instituciones políticas y la ciudadanía en general, es un tema que exige corresponsabilidad de todos los actores que integran la sociedad.
¿Quién debe fijar las reglas de la IA?, como se pregunta la ONU, es el tema central del debate inmediato, pero su respuesta no puede eludir, la necesidad de determinar el modelo de sociedad que aspiramos tener.
Tanto Bill Gates como Dario Amodei, en sus reflexiones sobre el avance de la IA, reconocen que la sociedad civil tiene un papel que desempeñar y/o una voz que debe ser escuchada en el debate sobre la relación de la IA con la sociedad; es necesario asumir un papel activo, que no se refugie, nos dice el Papa León XIV en el espiritualismo ni en nuestros pequeños mundos. (22)
Precisamente el hacer seguimiento al tema, intentar abrir un diálogo con otros sobre los beneficios, intentar comprender el alcance y sentido del debate es esencial para comprender el nivel de transformación que experimentamos, de esa manera, podremos ser parte del debate sobre el modelo de sociedad que aspiramos en un contexto en el cual no transformemos nuestra cualidad de ciudadanos en usuarios, debilitando el marco de derechos fundamentales que deben ser garantizados en el mundo online como en el mundo offline.
Carlos Romero Mendoza
@carome31
__________________________________________________________
Referencias digitales
(1) Carta encíclica Magnifica Humanitas del santo padre León XIV, sobre la custodia de la persona humana en el tiempo de la inteligencia artíficial. Párrafo 102. Online en: https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html
(2) Idem Párrafo 4.
(3) AMODEI, Dario. We must pace the frontier. 12 de septiembre 2026. Online en: @DarioAmodei: https://x.com/DarioAmodei/status/2098773920774074715
(4) Gates Notes. The turbulent AI era is here. The choices we make now are critical. 26 de agosto 2026. En; Gates Notes. Online en: https://www.gatesnotes.com/home/home-page-topic/reader/a-turbulent-ai-era-and-critical-choices-to-make
(5) Ver nota 1 Párrafo 4
(6) Noticias ONU. IA, clima y conflictos, en la agenda de Guterres antes de la Asamblea General. 16 de septiembre 2026. Online en: https://news.un.org/es/story/2026/09/1541914
(7) Noticias DW. Líderes mundiales impulsan medidas de seguridad para la IA. 21 de septiembre 2026. Online en:https://www.dw.com/es/l%C3%ADderes-mundiales-impulsan-medidas-de-seguridad-para-la-ia/a-79364581
(8) Resolución aprobada por la Asamblea General el 26 de agosto de 2025 [sin remisión previa a una Comisión Principal. 79/325. Mandato y modalidades para el establecimiento y funcionamiento del Panel Científico Internacional Independiente sobre Inteligencia Artificial y del Diálogo Mundial sobre la Gobernanza de la Inteligencia Artificial. Online en: https://docs.un.org/es/A/RES/79/325
(9) DW. China y EE.UU establecen telefono rojo sobre la IA. 26 de septiembre 2026. Online en: https://www.dw.com/es/china-y-estados-unidos-establecen-un-canal-de-comunicaci%C3%B3n-para-incidencias-sobre-superinteligencia-como-acordaron-llamar-a-la-ia/a-79441636
(10) GIL, Andrés. Xi emplaza a Trump en la Casa Blanca a “evitar la confrontación”: “Debemos encontrar el camino para nuestros dos grandes países”. En: eldiario.es. 24 de septiembre 2026. Online en: https://www.eldiario.es/internacional/xi-emplaza-trump-casa-blanca-evitar-confrontacion-debemos-encontrar-camino-grandes-paises_1_13535564.html
(11) KOSHI, Sudiksha. Congress kicks AI fight down the road as lawmakers demand action. En: The Hill. 26 de septiembre 2026. Online en: https://thehill.com/homenews/house/6112131-lawmakers-missed-ai-deadline/
(12) KATERSKY, Aaron. 23 states urge Congress to regulate AI, warn of risks to national security and infrastructure. En abcNews. 24 de septiembre 2026. Online en: https://abcnews.com/US/23-states-urge-congress-regulate-ai-warn-risks/story?id=136711204
(13) LEGISTORM. Ahead of Xi State Visit, Warren, Schumer, Kim, and Slotkin Call for AI Safety Regulations, Export Controls. 23 septiembre 2026. Online en: https://www.legistorm.com/stormfeed/view_rss/8158335/office/676/title/ahead-of-xi-state-visit-warren-schumer-kim-and-slotkin-call-for-ai-safety-regulations-export-controls.html
(14) CNN en Español. Demanda afirma que Anthropic, OpenAI, SpaceXAI y Google alcanzaron un acuerdo ilegal para desacelerar la IA. 20 de septiembre 2026. Online en: https://cnnespanol.cnn.com/2026/09/20/economia/demanda-acuerdo-desacelerar-inteligencia-artificial-ap
(15) ACTON, Michael. Expansión. Los CEO de Nvidia y Meta se oponen a los intentos de coordinar la ralentización de la IA. En: Expansión. 16 de septiembre 2026. Online en: https://www.expansion.com/economia/financial-times/2026/09/16/6aaa46f5468aeb6a348b45c7.html
(16) UNESCO. La ONU inaugura el Diálogo Global con un llamamiento urgente para una IA segura e inclusiva que beneficie a todas las personas. 6 de julio 2026. Online en: https://www.unesco.org/es/articles/la-onu-inaugura-el-dialogo-global-con-un-llamamiento-urgente-para-una-ia-segura-e-inclusiva-que
(17) HAYS, Kali y CRESS, Laura. Por qué el jefe de OpenAI pide que confiemos en la empresas de IA a pesar de que el mundo "tiene razón en sentir miedo". 16 de septiembre 2026. Online en: https://www.bbc.com/mundo/articles/c6gqdekd4zpwo
(18) Ipsos iSay. La IA en 2026: el monitor de IA de Ipsos revela las actitudes globales hacia la inteligencia artificial. 28 de julio 2026. Online en: https://www.ipsosisay.com/es-es/article/la-ia-en-2026-lo-que-el-mundo-piensa-realmente
(19) GALLUP News. AI Optimism Globally Widespread Despite Uneven Use. 22 de septiembre 2026. Online en: https://news.gallup.com/poll/714593/optimism-globally-widespread-despite-uneven.aspx?utm_source=chatgpt.com
(20) SARTORI, Giovanni. Homovidens. La sociedad teledirigida. Ediciones Taurus. 1998. Página 57.
(21) Ver nota 1 párrafo 9.
(22) Nota 1 Párrafo 236
Comentarios
Publicar un comentario