El poder tecnológico frente al Estado: La nueva era de la regulación de redes sociales e IA

I.- El desafío del Estado ante el poder tecnológico. II. ¿Nuevas modalidades de regulación?. III.- La experiencia internacional hasta ahora registrada

I.- El desafío del Estado ante el poder tecnológico

La omnipresencia y el poder con el cual se entrelaza la tecnología con el tejido de la vida cotidiana (1), a que hace referencia la encíclica Magnifica Humanitas, desafía el rol tradicional del Estado, porque la tecnología rompe con el tradicional concepto de soberanía, pues supera las fronteras y logran un alcance global.

El Estado se ve obligado a revisar y adecuar su tradicional poder regulatorio frente a un actor que busca competir con el ser humano, aún cuando siempre se justifique el avance en el desarrollo y bienestar de toda la humanidad.

La tecnología avanza tan rápido que es imposible que las herramientas del derecho puedan llevarle el ritmo esperado, tan es así, que somos espectadores en un debate entre élites de la tecnología que evidencian que ni ellos mismos saben si podrán controlar el avance de la inteligencia artificial.

En esa tarea permanente del Estado por definir un orden en la relación con la tecnología, que pueda enfrentar los conflictos que puedan surgir entre ambos actores, el derecho con las limitaciones que impone el principio de soberanía, siempre será insuficiente, sin un marco de cooperación internacional que contribuya en ese sentido.

A diferencia del debate sobre la regulación y autorregulación de la inteligencia artificial, que durante las últimas semanas ocupó con intensidad la atención de muchos en redes sociales y medios de comunicación; ese mismo debate, también ocurrió con el uso de móviles, redes sociales y tablets en menores de edad y particularmente en el ámbito educativo y allí, el Estado ha logrado responder a través de una variedad de modalidades regulatorias.

La experiencia acumulada hasta ahora en los ámbitos de menores y el educativo, va definiendo un rol del Estado que no se limita a la función legislativa para regular, sino que busca en otras herramientas distintas, las alternativas que permitan crear un orden seguro y más confiable en la relación entre la innovación tecnológica y los menores, sus docentes y padres o tutores.

Esa experiencia también parece decirnos, que el avance en la dinámica regulatoria se va desarrollando desde el poder de los estados, autonomías o regiones y advierte sobre lo complejo que se convierte el debate cuando se aborda la regulación en el ámbito parlamentario; no quiere decir que en los otros niveles políticos territoriales no lo sea, pero la realidad, pareciera reconocer que en los otros niveles la capacidad de influencia es mayor, o por decirlo de otra manera, la voz de preocupación de padres, madres, docentes y múltiples estudios que evidencian el peligros de las redes en menores cuando su uso no es responsable, tiene mas eco o resonancia.

II. ¿Nuevas modalidades de regulación?

Cuando se plantean conflictos, las partes involucradas buscan en los tribunales la oportunidad de solucionarlos; pero también, hay otras alternativas o mecanismos que son legítimos y además, legales, para dirimir las controversias sin necesidad de llegar a un juicio.

En ese contexto, presento el caso de TikTok y Roblox en Estados Unidos, que han logrado acuerdos para mejorar la seguridad de los menores y adolescentes en las redes sociales, en algunos casos, mediante acuerdo en el marco de una demanda e incluso, sin que se haya intentando alguna demanda, las empresas tecnológicas mencionadas han dado el paso de avanzar con un acuerdo.

Lo interesante y que requiere mayor profundidad en el análisis, principalmente jurídico, es que esos acuerdos no sólo evitan un juicio que pudiera en una sentencia dejar expresa la responsabilidad por el diseño de sus productos en los niños y adolescentes, sino que además, arrojan un producto concreto que representa una modalidad de regulación en la que no participa un parlamento, no se adopta como forma un texto normativo, por el contrario, se pacta una serie de medidas que terminan regulando el uso de las redes sociales por los niños, niñas y adolescentes.

En ese caso, hay tres noticias recientes, que quiero destacar como referencias o ejemplos de esas formas de regulación:

2.1- Los acuerdos judiciales.

Una primera modalidad es aquella en la cual previa demanda judicial, la empresa tecnológica, logra un acuerdo que cierre la vía jurisdiccional con un marco regulatorio en el cual el Estado a través de un Tribunal valida en su contenido y alcance.

2.1.1.- Caso Meta.  El ejemplo más claro en este sentido ha sido el acuerdo que Meta ha logrado, en una demanda que han intentado una coalición de Fiscales Generales de casi todos los estados de EE.UU y que fue noticia el pasado mes de agosto 2026.

2.1.2.- Caso TikTok.  En septiembre se anunció un acuerdo, justo un día antes de inciar un juicio en el que era demanda (2); el acuerdo es por 100 millones de dólares, además, TikTok se ha comprometido a implementar una serie de medidas de seguridad para proteger a los menores usuarios de sus plataformas, muy similares a las que Meta acordó en agosto 2026.

2.2- Los acuerdos extrajudiciales o bilaterales

La otra modalidad son aquellos casos en los cuales sin que exista demanda previa, la empresa tecnológica logra negociar un acuerdo con los gobiernos sobre la regulación de las redes sociales.

Varias noticias recientes respaldan esta modalidad, ellas son:

2.2.1.- Caso Filipinas.

En febrero 2026, se anunció que el Departamento de Tecnología de la Información y las Comunicaciones (DICT) y el gigante de las redes sociales Meta/Facebook habían llegado a un acuerdo para garantizar una Internet más segura en Filipinas; buscando que los niños estén protegidos, los estafadores sean bloqueados y los deepfakes se detengan en las redes sociales.

2.2.2.- Caso Roblox

Según Reuters, la plataforma en línea Roblox enfrenta más de 140 demandas en cortes federales por facilitar de forma consciente la explotación y abuso sexual en niños y de forma individual, los Fiscales Generales de Texas, Kentucky, Lousiana, Iowa, Nebraska, Tennesse Y Folorida han impulsado otras demandas similares. (3)

Alabama, Kansas, Nevada y West Virginia. Son acuerdos negociados que no son consecuencia de demandas previas por lo que son negociados, no coregulación.

-Nevada; En abril 2026, $10 millones al estado y realizar cambios a nivel nacional en la forma en que permite a los niños usar sus funciones de chat y juego, dijo el miércoles el fiscal general del estado.

El fiscal general de Nevada, Aaron Ford, demócrata, dijo en una conferencia de prensa que la compañía llegó al acuerdo después de que el estado se acercó a ella en preparación para una demanda por reclamos de que la plataforma carecía de características básicas que pudieran proteger a los niños de los depredadores y explotación.

-Mississippi. En junio 2026 alcanzó un acuerdo de 14 millones de dólares con Roblox para mejorar la seguridad infantil y financiar programas de alfabetización digital.

El acuerdo aportará 9 millones de dólares para ayudar a financiar nuevos programas de alfabetización digital creados, pero no financiados, durante la sesión legislativa de 2026. Asimismo, incluirá un programa de empoderamiento y educación para padres con financiación completa.

Además, el acuerdo prevé una indemnización por daños y perjuicios de 5 millones de dólares para garantizar que Roblox cumpla con lo pactado. (4)

- Dakota del Sur en julio 2026 se anunció un acuerdo de casi 10 millones de dólares en un plazo de cuatro años y la implementación de nuevas medidas de protección para los usuarios jóvenes. (5)

- Kansas(6) se anunció en septiembre 2026 el acuerdo por más de $10 millones en compromisos financieros y requiere que Roblox implemente y mantenga una serie de reformas de seguridad infantil diseñadas para brindar a los padres herramientas más sólidas y mantener a los menores alejados de daños contacto con adultos desconocidos.

- West Virginia y Alabama.  En abril 2026, se anuncia que Roblox acordó pagar más de 23 millones de dólares a los estados de Alabama y West Virgina como forma de poner fin a las investigaciones sobre la protección de menores en su servicio. (7)

En el caso de West Virginia ,en abril se anunció el acuerdo por 11 millones de dólares con Roblox (8), y como parte de ese acuerdo, la empresa de juegos para niños revisará fundamentalmente la forma en que protege a los niños, incluida la verificación de edad obligatoria y el chat restringido de adulto a niño, configuración predeterminada de contenido seguro para todos los usuarios menores de 16 años y capacitación en seguridad para familias y fuerzas del orden de Virginia Occidental.

Por su parte, en Alabama, el acuerdo establece que la empresa aportará unos 12 millones de dólares en fondos para agentes de seguridad escolar; el acuerdo se extenderá por 4 años, el primer año aportará 5,7 millones y luego 2.5 millones en cada uno de los dos años siguientes y 1,5 millones en el cuarto año.

2.2.3-  Ejes comunes en estos acuerdos:

1.- En todos hay un importe económico que son destinados a fines educativos o concienciación.

2.- Coinciden medidas relacionadas con:

• Verificación de edad.
• Regulación de horas para el uso de redes sociales.
• Mayor control parental
• Control sobre el contenido de publicidad y contacto con adultos.

3.- Son autoridades públicas, no reguladoras, una imparte justicia y la otra es garante de la legalidad, pero ambos logran validar o avanzar hacia un acuerdo.

Tienen fecha cierta los acuerdos bilaterales, que permite evaluar el impacto en tiempo concreto y parámetros concretos.

III.- La experiencia internacional hasta ahora registrada

Hasta ahora la experiencia que ha dejado los acuerdos de Meta, TikTok y Roblox en Estados Unidos, presentan a los fiscales generales de los estados como los actores que han impulsado es modalidad de regulación, condicionada en el tiempo según el propio acuerdo, pero plantea sin duda un marco objetivo, concreto, que lo hace medible para validar su implementación y efectos en el futuro inmediato.

Si miramos hacia Estados Unidos y Europa, encontraremos que la tradicional función legisladora aún no termina por cumplir su misión y en ambos casos, no existe una legislación federal o europea que regule el uso de las redes sociales específicamente en los niños, niñas y adolescentes.

El caso particular de Estados Unidos, destaca que no es un Parlamento quien impulsa y termina regulando el uso de redes,  son los fiscales generales de los estados y algunos gobiernos estadales como en Texas y California, quienes toman la iniciativa y logran la disposición de las empresas tecnológicas para alcanzar un acuerdo de regulación, por ejemplo, han adoptado leyes que regulan el uso de las redes sociales en menores.

En el caso de España y particularmente en lo que respecta a la relación de la innovación tecnológica con la dinámica escolar y educativa, son los parlamentos estadales o autonómicos y algunas autoridades nacionales y/o autonómicas en materia educativas, quienes toman la iniciativa de concretar marcos normativos para regular esa relación.

En conclusión, tanto en Estados Unidos como en Europa, las respectivas propuestas legislativas que buscarían regular el uso de redes en menores de 18 años: Ley Nacional de Seguridad Online, conocida como KOSA o Kids Act y EU Kids Act, respectivamente, aún esperan por ser finalmente adoptada. 

Por cierto, la EU Kids Act presenta en su proyecto un contenido que podría decirse, crea un marco institucional en el cual están previstas medidas que se han establecido por los acuerdos de Meta, TikTok y Roblox.

Con relación a Europa hay que hacer un comentario importante, en materia normativa, existe la Ley de Servicios Digitales, aprobada en octubre 2022 y ese mismo año entró en vigor de manera progresiva, hasta que finalmente en el 2024 entró en vigor todas sus normas. 

Esa Ley busca regular el mundo digital en general, con normas orientadas a eliminar contenidos ilícitos, exigir transparencia en algoritmos y publicidad, así como también responsabilizar a las plataformas digitales, pero su objetivo no está orientada exclusivamente a la seguridad de los menores de 18 años. 

Por su parte, si miramos dentro de Europa, encontraremos que España, Portugal y Dinamarca, países a los que he hecho seguimiento, a pesar de un debate intenso sobre el tema, aún aguardan por la aprobación de la Ley nacional en esta materia y Francia, que pudo haber sido el primer país europeo en aprobarla, no fue exitoso porque la misma fue vetada por razones constitucionales, sobre el caso escribí en otro artículo.

Por lo tanto hasta ahora Australia y Brasil han logrado avanzar en una Ley nacional que regule las redes sociales, Australia con Ley de seguridad online, que fue aprobada en noviembre 2024 y que entró en vigor en diciembre 2025 y Brasil, con Estatuto Digital del Niño y del Adolescente (conocido como ECA Digital), sancionada en septiembre 2025 y entró en vigor el 17 de marzo de 2026 para regular y limitar el uso de redes sociales e internet entre menores

Desde la regulación de los móviles en las escuelas hasta la regulación de la inteligencia artificial, el derecho busca crear marcos institucionales capaces de garantizar el orden necesario para la convivencia armónica en la que se respeten y protejan los derechos fundamentales de los usuarios en el mundo digital.

El avance de la tecnología crea un desequilibrio importante porque los controles, las normas, las instituciones especializadas y la misma conciencia de la sociedad en general, queda atrás, no logra ir a la par de esa rapidez con la que evoluciona la tecnología; pero además, aún teniendo las instituciones y normas, hay otro tema de fondo más complicado aún, que es la relación entre la tecnología, la ética y la responsabilidad tanto de sus creadores como de los usuarios.

La complejidad de este avance tecnológico ha llevado al derecho a buscar distintos abanicos regulatorios, pero nos debe llevar a cada uno de nosotros a entender que no podemos ser simples espectadores en esta transformación social, cultural y económica, pero si no nos informamos, si no procuramos comprender el impacto de la tecnología en el presente, nos iremos quedando atrás, hasta llegar un día a ser más usuarios que ciudadanos.


Carlos Romero Mendoza

@carome31




_______________________________________________________________

Referencias digitales

1Carta Encíclica de su santidad el Papa León XIV. Magnifica Humanitas. Sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Párrafo 4.  Online en: https://www.vatican.va/content/leo-xiv/es/encyclicals/documents/20260515-magnifica-humanitas.html 

2LOZANO, Xilene. TikTok Agrees to $100 Million Alabama Settlement as States Target Teen Social Media Harms. 28 de septiembre 2026. Online en:https://www.lawcommentary.com/articles/tiktok-alabama-100-million-settlement-teen-social-media-harms

3NOVAK JONES, Diana. Roblox agrees to pay $10 million, make platform changes in Nevada settlement over child safety En;Reuters. 15 de abril 2026. Online en: https://www.reuters.com/legal/government/roblox-agrees-pay-10-million-make-platform-changes-nevada-settlement-over-child-2026-04-15/

4Lynn Fitch, Attorney General. AG Fitch Secures Landmark Agreement with Roblox to
Protect Children 22 de junio 2026. Onlinehttps://attorneygenerallynnfitch.com/2026/06/22/ag-fitch-secures-landmark-agreement-with-roblox-to-protect-children-online-june-22-2026/

5MCKENZIE, Huber. Un acuerdo de 10 millones de dólares por la explotación infantil en juegos en línea financiará iniciativas de seguridad y programas extraescolares.13 de julio 2026. Online en: https://southdakotasearchlight.com/2026/07/13/10-million-settlement-over-online-gaming-child-exploitation-will-fund-safety-after-school-efforts/

6FORTH PRESS RELEASE: Kobach Announces $10 Million Settlement with Roblox to Strengthen Online Child Safety. 29 de septiembre 2026. Online en: https://www.forth.news/lists/ksoag/CfYGVNvtb61dyc1xDMHgE

7GOMEZ, Lucila. Roblox pagará USD 23 millones a West Virginia y Alabama en un acuerdo por protección infantil.  22 de abril 2026. Online en: https://www.infobae.com/estados-unidos/2026/04/22/roblox-pagara-usd-23-millones-a-west-virginia-y-alabama-en-un-acuerdo-por-proteccion-infantil/

8Office of the WV Attorney General. John B. McKuskey. Virginia Occidental llega a un acuerdo de $11 millones con Roblox, lo que impulsa una importante revisión de la seguridad infantil. 21 de abril 2026. Online en: https://ago.wv.gov/article/west-virginia-reaches-11-million-settlement-roblox-prompts-major-child-safety-overhaul