Internet ha experimentado profundos cambios desde sus inicios. Concebida inicialmente como una herramienta de comunicación militar y posteriormente reconvertida en un espacio digital común para investigadores y personas aficionadas, la web evolucionó rápidamente hasta convertirse en una vasta biblioteca de información generada por los usuarios y las usuarias. En la década de 2010, la actividad en línea se concentró en unas pocas plataformas dominantes, lo que supuso un punto de inflexión hacia lo que muchos denominaron la “internet social”.
Sin embargo, la promesa “social” de estas plataformas —intercambio abierto, creación de comunidades y empoderamiento de las personas usuarias— pronto dio paso a una realidad más extractiva. Este proceso de “plataformización” también impacto los servicios públicos, en la medida en que las grandes corporaciones de tecnología pasaron a ofrecer servicios de almacenamiento de datos, herramientas para edición de archivos, plataformas de interacción entre usuarios/as y otras tecnologías útiles para los sectores de salud, educación, seguridad pública, entre otros derechos.
Las tecnologías emergentes de Inteligencia Artificial (IA) generativa se promocionan a menudo como la “próxima revolución”, pero su auge refleja el camino disruptivo que han seguido las redes sociales en las últimas dos décadas. Desde el dominio de los gigantes tecnológicos hasta los efectos sobre la salud mental, la democracia y el trabajo, parecen repetirse los mismos impactos adversos.
Monopolios de las grandes empresas tecnológicas
La era de las redes sociales nos enseñó que cuando unos pocos gigantes tecnológicos controlan nuestro ecosistema digital, la innovación y la responsabilidad se resienten.
Empresas como Google, Apple y Meta construyeron imperios con un poder casi monopolístico sobre la mayoría de los aspectos de nuestra experiencia en línea. Los tribunales y los reguladores han comenzado a contraatacar: en abril de 2025, un juez estadounidense dictaminó que Google monopolizaba ilegalmente partes del mercado de la publicidad en línea[1]. Del mismo modo, Apple fue demandada por mantener un ecosistema cerrado para los iPhones que sofoca la competencia y la elección de los consumidores[2]. Meta también se ha enfrentado al escrutinio de la Comisión Federal de Comercio de Estados Unidos y otros organismos por sus adquisiciones pasadas y su dominio del mercado[3].
Es revelador que muchas de estas mismas empresas lideren ahora la carrera por la IA generativa. Es probable que su patrón de comportamiento —priorizar las ganancias sobre el bienestar, aprovechar los datos de los/as usuarios/as para obtener poder de mercado y sofocar la competencia— continúe en este nuevo ámbito[4].
Muchas innovaciones en IA se están construyendo sobre las mismas plataformas y monopolios de datos que estas empresas establecieron en la era de las redes sociales. Sin una regulación vigilante, la concentración del desarrollo de la IA en manos de las grandes tecnológicas podría reflejar la experiencia de las redes sociales: menos opciones, altas barreras para los nuevos participantes y una agenda establecida por los gigantes corporativos.
Esto también se refleja en la privatización y plataformización de la educación. En los últimos estudios de la CLADE[5], se observan pocas iniciativas con el uso de tecnologías libres en la educación publica, en que predomina un imaginario sociotécnico influenciado por las grandes corporaciones tecnológicas. Este imaginario impulsa la adopción de servicios y plataformas privadas en la educación publica, favoreciendo el colonialismo de datos y la privatización de la educación. Es posible que esta tendencia se agudice con los sistemas de IA, dada la complejidad de su producción y el oligopolio existente alrededor de su desarrollo.
Impactos en la salud mental de los usuarios
Quizás la lección más aleccionadora de las redes sociales es su impacto en la salud mental de las juventudes. La filtración de los archivos de Facebook de 2021 reveló que los/as propios/as investigadores/as de la empresa descubrieron que el uso de sus plataformas estaba perjudicando la imagen corporal y el bienestar de adolescentes. Estas revelaciones, junto con los crecientes estudios académicos, han provocado desde entonces una reflexión más amplia[6]. En 2024, especialistas descubrieron la relación entre el uso intensivo de las redes sociales por parte de adolescentes y problemas como la perdida de sueño, el aumento de la depresión y comportamientos similares a la adicción en aproximadamente 1 de cada 10 adolescentes. Diez años después de su introducción, solo ahora estamos comprendiendo los efectos a largo plazo de la era de los teléfonos inteligentes y las redes sociales en la salud mental de una generación[7].
El enfoque “Muévete rápido y rompe cosas” (el lema de Facebook hasta 2014) resultó ser un vasto experimento sin regulación. Aunque la IA generativa es todavía nueva, ya se está infiltrando en espacios que afectan a la mente de las y los jóvenes.
Desde el principio, los chatbots[8] de IA han demostrado que pueden producir respuestas que parecen confiables, pero que son falsas o sesgadas; si las y los jóvenes confían en ellos para obtener consejo o compañía, las consecuencias son impredecibles. Algunas adolescentes han empezado a utilizar compañeros/as de IA para obtener apoyo en materia de salud mental o consuelo social, pero no hay estudios a largo plazo sobre como esto podría influir en su desarrollo.
Polarización y amenazas a la democracia
Las redes sociales también han sido acusadas de exacerbar la polarización política y socavar la democracia. Un ejemplo fue el escándalo de Cambridge Analytica en 2018, que reveló que una consultora política recopiló datos de usuarios de Facebook para dirigir anuncios manipuladores a votantes específicos.
Por esas mismas fechas, Facebook se convirtió en un conducto para el discurso del odio en Myanmar: las investigaciones de la ONU descubrieron que la plataforma desempeñó un “papel determinante” en la difusión de propaganda que alimentó el genocidio contra la minoría musulmana rohingya[9]. Y en países de todo el mundo las oleadas de noticias falsas difundidas a través de las redes sociales han erosionado la confianza en los hechos, empujando a la gente a cámaras de eco de desinformación. Los disturbios del 6 de enero en el Capitolio [referido a Estados Unidos], los movimientos conspirativos electorales y la desinformación sobre salud pública durante la pandemia ilustran como las mentiras amplificadas virtualmente pueden traducirse en crisis en el mundo real.
La IA generativa amenaza ahora con echar más leña al fuego. Con la IA, los propagandistas disponen de una nueva y poderosa herramienta para fabricar “medios sintéticos”: videos, imágenes y audios falsos realistas que son casi indistinguibles de la realidad. Las democracias se basan en una realidad compartida y en información creíble. Si la IA generativa se despliega sin salvaguardas, podría acelerar la erosión del consenso que iniciaron las redes sociales, empujando el discurso público aún más hacia las arenas movedizas de la posverdad.
Nuevo paradigma económico y trabajo invisible
Las redes sociales también tuvieron un profundo impacto en la economía. Tener presencia en línea se convirtió en algo indispensable para las empresas de todo el mundo. En plataformas como Instagram, YouTube y TikTok, ser creador de contenido o influencer se convirtió en una carrera viable para algunos, y las empresas aprovecharon con entusiasmo este nuevo canal de marketing. Paralelamente, aplicaciones como Uber, DoorDash y otras vendieron el sueño del trabajo flexible a millones de personas, abriendo una nueva frontera de precarización.
La IA generativa está ampliando ahora este paradigma de nuevas formas. Mientras muchas personas se maravillan de como la IA generativa puede producir textos e imágenes de forma mágica, se olvidan de quien ha ayudado a entrenarla. Gran parte de este trabajo se subcontrata a lugares donde los salarios son bajos y la protección laboral es débil. En 2021 y 2022, se contrató a docenas de trabajadores en Kenia para que revisaran y etiquetaran textos e imágenes graficas —descripciones de abusos sexuales, violencia y otros contenidos— con el fin de que los sistemas de OpenAI aprendieran a filtrar ese tipo de material. Se les pagaba entre 1,50 y 3 dólares la hora por un trabajo que dejo a muchos traumatizados[10].
Mientras tanto, a instancias de Facebook, cientos de moderadores en África y Asia siguen revisando los rincones más oscuros de las redes sociales, contenidos plagados de violencia, discursos de odio y abusos. El denominador común es el auge de una nueva clase marginada global de trabajadores digitales. Los resultados de la IA se basan en el trabajo invisible de trabajadores mal pagados encargados de filtrar la toxicidad, etiquetar datos y absorber el trauma, para que la “magia” de la IA parezca fácil.
Colonialismo de datos
Detrás de muchas de estas cuestiones se esconde un concepto más profundo y paralelo: definido por Nick Couldry y Ulises Mejías como una nueva forma de extractivismo en la era digital. Esta nueva forma de dominación implica la explotación política, económica y social de naciones o territorios a través de la minería de datos[11]. Las empresas tecnológicas están, en efecto, tratando datos personales, comportamientos en línea y contenidos creativos como un vasto recurso explotable, a su disposición para alimentar los modelos de IA y los algoritmos publicitarios. Esta perspectiva replantea las actividades digitales cotidianas como trabajo no remunerado que produce un bien valioso (los datos) que las empresas recopilan y monetizan[12]. Hemos visto este paradigma en acción con las redes sociales: miles de millones de usuarios/as proporcionaron información detallada sobre sus vidas y conexiones, y plataformas como Facebook y Twitter lo convirtieron en oro, ya sea a través de anuncios dirigidos o entrenando sistemas de IA para mantenernos interesados.
La extracción de datos sin el debido consentimiento se suma a la monopolización de la infraestructura física tecnológica por parte de las GAFAM – Google, Apple, Facebook (Meta), Amazon y Microsoft. La propiedad de los centros de datos y los cables transoceánicos se concentra en empresas del norte global, mientras sale del sur la explotación de minerales valiosos a la industria de la tecnología y el trabajo precarizado ya mencionado.
Esto tiene profundas implicaciones para el poder y la equidad tanto de las personas como de los Estados: quienes controlan los datos obtienen enormes beneficios, mientras que las personas que generaron estos datos no obtienen ningún beneficio. El término “colonialismo de datos” no es solo metafórico, sino que señala un modo real de dominación en el que la propia experiencia humana se apropia continuamente para obtener beneficios económicos. La era de las redes sociales inicio este proceso al convertir nuestras amistades y pensamientos en datos comercializables. La era de la IA lo acelera al convertir nuestra propia cultura —cada canción, fotografía, frase y emoción que se ha compartido en línea— en el combustible de los productos de IA.
¿Y ahora qué?
Otros retos de esta tecnología son el enorme impacto medioambiental de la formación y el mantenimiento de los centros de datos de IA, el sesgo algorítmico, los derechos de autoría y la propiedad intelectual. La pregunta a la que se enfrenta ahora la sociedad es como responder.
La regulación es un reto abrumador porque, a diferencia del petróleo o el oro, los datos son intangibles y están en todas partes, y la mayoría de nosotros ya hemos cedido gran parte de ellos. Pero hay mucho en juego: si se mantiene el status quo, podemos despertar en un mundo en el que un puñado de empresas sean propietarias de los derivados informativos de la vida colectiva de la humanidad, una nueva oligarquía global de datos. Ahora más que nunca necesitamos imaginación crítica, trabajo colaborativo y un compromiso inquebrantable con la dignidad humana y, sobre todo, el valor para seguir rehaciendo el futuro digital que deseamos ver realizado.
La educación juega un rol fundamental en la realización de este futuro. En investigaciones previas, la CLADE ha defendido el derecho a una educación publica que promueva la aplicación a los entornos digitales de los marcos normativos de derechos humanos vigentes a nivel nacional, regional y global[13]. De igual manera, ha resaltado el hecho de que la sociedad civil ya viene construyendo alternativas basadas en los derechos humanos para una educación que haga un uso crítico de las tecnologías digitales, favoreciendo las tecnologías libres y abiertas. Este enfoque, además de frenar la privatización de la educación, también favorece la formación de personas capaces de ejercer una ciudadanía digital critica.
Publicado en la Revista Internet Ciudadana, número 14, Julio 2025.
–
[1] Lauren Goode. Un juez federal dictaminó que Google mantuvo ilegalmente un monopolio en el mercado de tecnología publicitaria. Wired, 2025.
[2] David Shepardson. EE.UU. demanda a Apple por mantener un ecosistema cerrado que perjudica la competencia en el mercado de los smartphones. Reuters, 21 de marzo de 2024.
[3] Foo Yun Chee y Diane Bartz. Meta enfrenta una amenaza existencial por una demanda relacionada con las adquisiciones de Instagram y WhatsApp. Reuters, 14 de abril de 2025.
[4] Mejias, U. & Couldry, N. Las empresas de IA quieren colonizar nuestros datos — así es como podemos detenerlas. Truthout, 2023.
[5] CLADE. Tecnologías digitales libres en los sistemas públicos educativos: una transformación posible. 2024.
CLADE. Derechos Digitales: riesgos y avances hacia la garantía del derecho humano a la educación en América Latina y el Caribe. 2025.
[6] Dan Milmo. Facebook sabía que Instagram era perjudicial para la salud mental de las adolescentes, revela una filtración. The Guardian, 14 de septiembre de 2021.
[7] Organización Mundial de la Salud (OMS). Adolescentes, pantallas y salud mental: nuevos datos del estudio Health Behaviour in School-aged Children (HBSC) en Europa, Asia Central y Canadá. OMS Europa, 25 de septiembre de 2024.
[8] Chatbots es un programa informático basado en inteligencia artificial (IA) o reglas predefinidas, diseñado de forma automática para simular conversaciones humanas, ya sea por texto o voz, en sitios web, aplicaciones de mensajería o redes sociales.
[9] Tom Miles. Investigadores de la ONU citan el papel determinante de Facebook en la crisis de Myanmar. Reuters, 27 de marzo de 2018.
[10] Niamh Rowe. Me ha destrozado por completo»: los moderadores kenianos denuncian el coste de la formación de los modelos de IA. The Guardian, 2 de agosto de 2023.
[11] CLADE. Gobernanza de la digitalización de la educación: reflexiones desde América Latina y el Caribe. Mayo 2024.
[12] Mejias, U. & Couldry, N. Las empresas de IA quieren colonizar nuestros datos — así es como podemos detenerlas. Truthout, 2023.
[13] CLADE. Derechos Digitales: riesgos y avances hacia la garantía del derecho humano a la educación en América Latina y el Caribe. 2025.
