TECNOLOGÍA: LOS PELIGROS HUMANOS DEL PODER DIGITAL

Las acciones de los líderes tecnológicos demuestran que no se puede confiar en ellos (ojalá no fuera así). En su día, los magnates de Silicon Valley trataron intentaron aparentar que tenían conciencia social, pero cada vez se les hace más difícil mantener su pantomima.

La rapidez con la que se alinearon con el gobierno de Donald Trump, donando millones de dólares al fondo para su investidura, es una señal preocupante. Amazon, Google, Meta, Microsoft y Uber donaron un millón de dólares cada una, y los presidentes ejecutivos de tecnológicas como Tim Cook, de Apple, y Sam Altman, de OpenAI, también contribuyeron.

Los líderes de empresas tecnológicas Mark Zuckerberg (Meta), Jeff Bezos (Amazon), Sundar Pichai (Google) y Elon Musk (Twitter/X) asisten a la toma de posesión de Donald Trump en Washington D. C., el 20 de enero de 2025. Foto de Julia Demaree Nikhinson/Pool vía Reuters/Gallo Images.

Estas donaciones cuantiosas e inusuales revelan, como mínimo, la firme decisión de mantenerse del lado de un presidente conflictivo. Podrían ser también un indicio de su interés por limitar una posible regulación de la inteligencia artificial y las criptomonedas, así como por obtener una mayor parte del gasto en defensa.

Pero para Meta, propietaria de Facebook, Instagram, Threads y WhatsApp, la donación fue solo una forma más de acercar posturas con Trump. En enero de 2025, la empresa anunció el fin de su programa independiente de verificación de datos en Estados Unidos. Mark Zuckerberg afirmó que la verificación de datos había resultado en una censura excesiva y que la nueva medida promovería la libertad de expresión. En su lugar, Meta adoptará un sistema similar al de notas comunitarias de Twitter/X.

La forma en que Zuckerberg equipara la verificación de datos y la censura es preocupante, y la alternativa que ofrece Twitter/X conlleva numerosos problemas, entre ellos que la mayor parte de la desinformación se propaga antes de que las notas de usuarios puedan desmentirla. Meta ya ha sido acusada de dejar que sus redes sean utilizadas para difundir s discursos de odio como los que alimentaron la violencia en Birmania, India, y más recientemente Etiopía, al tiempo que censuraba sistemáticamente las publicaciones en favor de Palestina. Tras el cambio de sus políticas, que Trump celebró, ahora está permitido llamar enfermos mentales a las personas LGBTQI+ o referirse a las mujeres como propiedad.

Meta también acordó pagar a Trump 25 millones de dólares para resolver una demanda que interpuso después de que la empresa suspendiera sus cuentas tras la insurrección de enero de 2021, y eliminó sus iniciativas a favor de la diversidad, la equidad y la inclusión (DEI) tras los ataques del gobierno de Donald Trump contra ellas. La organización benéfica Chan Zuckerberg Initiative, propiedad del dueño de Facebook, también despidió a su equipo de DEI. Otras empresas tecnológicas han seguido la misma línea: Google abandonó sus objetivos de contratación en materia de diversidad y anunció que dejaría de celebrar eventos como el Mes de la Historia Negra y el Mes del Orgullo, mientras que Amazon eliminó la sección de diversidad e inclusión de su informe anual.

A algunos líderes tecnológicos les ha resultado fácil alinearse con el populismo de derecha. Se ven a sí mismos como personas excepcionales a quienes las reglas no se aplican. Les gusta moverse rápido y romper cosas, como decía el antiguo lema de Facebook. Desconfían del Estado, salvo quizás cuando son ellos los que están al mando. Se identifican con Trump, como se ve claramente en el caso de Elon Musk.

A menudo considerado como el hombre más rico del mundo, Musk puso su fortuna al servicio de la reelección de Trump: apareció en sus mítines, donó 288 millones de dólares y ofreció a los votantes de los estados indecisos la posibilidad de ganar un millón de dólares si firmaban una petición a favor de Trump.

Musk retuitea constantemente contenido extremista. Es el usuario con más seguidores y, en 2023, insistió en cambiar el algoritmo de la plataforma para que sus publicaciones tuvieran aún más visibilidad. Por consiguiente, todo lo que hace tiene un alcance enorme, especialmente en Estados Unidos, donde la plataforma cuenta con más usuarios, y entre los hombres jóvenes que la utilizan de forma desproporcionada. Desde el punto de vista económico, la compra de Twitter/X podría parecer un mal negocio, ya que la empresa valdría hoy una fracción de los 44.000 millones de dólares que Musk pagó por ella. Sin embargo, desde una perspectiva política ha sido todo un éxito. La plataforma, que antes era relativamente progresista, se ha convertido en un bastión de la derecha. Muchas voces de izquierda se han marchado, los extremistas que habían sido expulsados fueron recibidos nuevamente y Musk interviene constantemente para dirigir la conversación.

Desde su puesto al frente del pseudo Departamento de Eficiencia Gubernamental (DOGE), un líder empresarial sin mandato popular se ha introducido en el corazón de la administración oligárquica de Trump con el objetivo explícito de recortar drásticamente el gasto público, aunque su programa tiene claramente una motivación más política que financiera. El DOGE tiene en su punto de mira a organismos federales que el bando de Trump considera progresistas, entre ellos el Departamento de Educación, la Oficina Nacional de Administración Nacional Oceánica y Atmosférica, que proporciona datos sobre el clima, y la Agencia Estadounidense para el Desarrollo Internacional (USAID), la mayor organización de ayuda del mundo.

La congelación de los fondos de USAID decretada por Musk en enero de 2025 provocó un caos inmediato. Las personas más pobres y vulnerables del mundo se quedaron sin servicios esenciales, especialmente de salud, que les eran proporcionados a través de programas de asistencia. Por ejemplo, en Bangladesh, los campos de refugiados que acogen a los miembros de la perseguida minoría rohinyá de Birmania se vieron desprovistos de recursos básicos. 

El impacto sobre la sociedad civil ha sido enorme. Numerosas OSC y medios de comunicación independientes que trabajan en espacios cívicos restringidos y situaciones de conflicto donde escasean los recursos nacionales dependen del apoyo de USAID. Es el caso de muchos medios de comunicación independientes rusos y ucranianos en el exilio, que se han visto en apuros.

Si finalmente los recortes se vuelven permanentes, la sociedad civil se reducirá y perderá buena parte de su capacidad para defender derechos y exigir responsabilidades a los poderosos. El hecho de que algunos de los líderes más autoritarios del mundo aplaudieran la medida lo dice todo. Nadie que se preocupe por la democracia, la libertad de expresión y los derechos humanos tomaría una medida así.

La congelación de los fondos de USAID no ha sido la única manera en la que las acciones de Musk han trascendido las fronteras estadounidenses. En repetidas ocasiones se ha inmiscuido en la política del Reino Unido, atacando al primer ministro Keir Starmer y publicando y favoreciendo contenidos de extrema derecha. Después de una serie de disturbios desencadenados por la difusión de bulos sobre personas inmigrantes y de confesión musulmana, a raíz de un horrible ataque con cuchillo, escribió que en el Reino Unido “la guerra civil es inevitable”. También difundió información falsa publicada por el líder de un grupo de odio de extrema derecha y promovió la creencia errónea de que el sistema de justicia penal británico es más indulgente con las personas musulmanas.

Musk también intervino en Alemania. Antes de las elecciones de febrero de 2025, mantuvo una charla acrítica de 75 minutos con la colíder de AfD Alice Weidel durante la que afirmó que “solo AfD puede salvar a Alemania”.

El poder de las redes sociales depende de su número de usuarios y estos puede elegir qué plataformas usar y cuáles no. Tras la reelección de Trump, cientos de miles de personas, y varias OSC y empresas, abandonaron Twitter/X. Sin embargo, esto solo desplazó los problemas, ya que muchas migraron a Threads y, poco después, Mark Zuckerberg introdujo cambios favorables a Trump.

Cartel instalado por el colectivo activista Todos Odiamos a Elon Musk en una parada de autobús en Londres, Reino Unido, 12 de marzo de 2025. Foto de Leon Neal/Getty Images.

Los políticos nacionalistas y populistas continúan su buena racha en las nuevas plataformas de redes sociales. En 2024, Trump hizo un uso intensivo de TikTok para apelar a su público joven, y lo mismo hicieron Subianto en Indonesia y Georgescu en Rumania. En las elecciones de muchos países, como Alemania y Estados Unidos, los hombres jóvenes se están inclinando en forma desproporcionada por opciones populistas de derecha, una tendencia que se explica, al menos en parte, por la influencia de las redes sociales que esos jóvenes utilizan.

Gran parte del debate político se desarrolla en plataformas que existen para vender publicidad; de ahí que los algoritmos traten de mantener enganchados a los usuarios con contenidos llamativos y sensacionalistas. Esta estrategia premia los relatos simplistas y populistas frente al debate razonado y los argumentos matizados.

Pero a medida que los usuarios se muestran más selectivos con respecto a las plataformas que eligen, también se desvanece el sentimiento de pertenencia a un foro de discusión mundial. En su lugar, surge el peligro de que los usuarios se encierren en pequeñas cámaras de eco. Además, para algunas empresas y creadores no es factible abandonar una plataforma de gran alcance por otras más pequeñas y, por otro lado, las voces progresistas se niegan a ceder espacios a las fuerzas regresivas. Por si fuera poco, abandonar por completo las redes sociales es difícil porque son adictivas por naturaleza.

Dada la importancia de los ingresos publicitarios, presionar a los anunciantes es una opción. Cuando una investigación de la sociedad civil reveló que la incitación al odio contra los ciudadanos afroestadounidenses en Twitter/X se triplicó tras la adquisición de Musk, la plataforma perdió alrededor de 100 millones de dólares en ingresos publicitarios. También hay pruebas de que el rechazo a Musk está hundiendo las ventas de coches Tesla en Europa.

Sin una regulación ética y adecuada será difícil avanzar. Sin embargo, la regulación también puede jugarnos malas pasadas, ya que cuando los Estados prohíben las redes sociales, a menudo lo hacen para silenciar las críticas y evitar el escrutinio público. Por ejemplo, en 2024, Bangladesh, Pakistán, las Islas Salomón y otros países restringieron las redes sociales justamente por esta razón. En Estados Unidos, Trump suspendió la prohibición de TikTok decretada por Biden, que la consideraba una amenaza por ser de propiedad china. No obstante, se sospecha que en contrapartida la plataforma tendrá que vender su filial estadounidense a alguno de los partidarios de Trump, una medida que no haría más que remplazar las preocupaciones por la influencia estatal china por los temores de la parcialidad trumpista.

Sin embargo, Brasil demostró que se puede obligar a las empresas de redes sociales a rendir cuentas. Allí, el Supremo Tribunal Federal prohibió Twitter/X después de que la plataforma se negará reiteradamente a acatar varias órdenes judiciales y moderar el contenido de cuentas relacionadas un intento de insurrección de extrema derecha en enero de 2023. El tribunal le impuso multas elevadas por incumplimiento, pero poco después Twitter/X cerró sus oficinas en Brasil. Finalmente, el tribunal ordenó su cierre cuando la empresa incumplió el plazo para nombrar a un representante legal. 

La medida causó controversia y la sociedad civil criticó especialmente la orden de bloquear el acceso a los servicios VPN. Aun así, independientemente de que la decisión fuera acertada o no, y de todos sus aspavientos previos, Musk dio marcha atrás. En definitiva, este caso demuestra que Musk no tiene por qué salirse con la suya siempre y que es posible encontrar un equilibrio entre la libertad de expresión y la responsabilidad de las redes sociales.

El carácter global del proyecto requiere una respuesta internacional. No se avanzó mucho en el marco de la Cumbre del Futuro 2024 de la ONU sobre el fortalecimiento de la cooperación internacional que adoptó el Pacto Digital Mundial. La sociedad civil participó intensamente en el proceso, pero el texto final no reflejó necesariamente sus aportaciones sobre cuestiones clave en materia de derechos humanos. Pese a que el Pacto condena la vigilancia y reclama que se proteja la privacidad, no tiene en cuenta el género en los casos de abusos en línea y tampoco se pronuncia sobre los cortes de internet.

El Foro para la Gobernanza de Internet de 2024, supuestamente destinado a abordar las oportunidades y riesgos de la IA y otras tecnologías digitales, se celebró en Arabia Saudita, donde el Estado suele criminalizar la expresión en línea. Foto de ONU/Departamento de Asuntos Económicos y Sociales.

Pero no todo son buenas noticias en este ámbito. En agosto, la ONU aprobó la Convención sobre Ciberdelincuencia. No cabe duda de que es necesario combatir la ciberdelincuencia, cuyo costo habría superado los 10 billones de dólares de dólares este año; pero también es cierto que muchos Estados califican de ciberdelincuentes a quienes expresan críticas. Numerosos Estados han adoptado leyes sobre la ciberdelincuencia amplias y excesivas. Por ejemplo, en 2024, las autoridades de Indonesia, Jordania, Nigeria, Serbia y de otros países utilizaron leyes draconianas para detener y encarcelar a personas por expresar su preocupación sobre cuestiones ambientales, denunciar casos de corrupción o solidarizarse con Palestina, entre otros motivos. Ahora esta represión podría presentarse como una consecuencia de la aplicación de la Convención.

Muchos miembros de la sociedad civil se preguntaron si hacía falta aprobar un nuevo tratado promovido por Rusia, puesto que bastaría con implementar los acuerdos existentes, en particular el Convenio de Budapest del Consejo de Europa, cuya implementación solo ha sido parcial. La sociedad civil intentó controlar los daños, exigió garantías de derechos humanos y propuso que se adoptara una definición más precisa de la ciberdelincuencia que protegiera la expresión en internet.

Si bien es mejor que el primer borrador, la versión final de tratado sigue careciendo de protecciones claras, específicas y aplicables en materia de derechos humanos, que quedan en manos de los órganos legislativos de cada país. Asimismo, otorga un amplio margen a los Estados para recopilar e intercambiar datos entre ellos, contribuyendo así una posible y preocupante ampliación de sus poderes de vigilancia. La sociedad civil pide a los Estados que pidan consejo antes de ratificarla y que garanticen que su respuesta a la ciberdelincuencia es compatible con el respeto de los derechos humanos.

En diciembre, el Foro de la ONU sobre la Gobernanza de Internet no ofreció muchas oportunidades a la sociedad civil para debatir sobre el tratado. Sorprendentemente, la reunión corrió a cargo del autoritario régimen de Arabia Saudita y no solo eso: cuando la sociedad civil trató de poner de relieve que el gobierno anfitrión es uno de los que encarcela a más personas por expresarse en línea, el personal de la ONU presuntamente habría eliminado el contenido crítico. La ONU debe como mínimo garantizar espacios internacionales seguros para debatir problemáticas relacionadas con la tecnología y los derechos humanos.

En cuanto a la IA, el avance normativo más significativo de 2024 fue la entrada en vigor de la Ley de IA de la UE. Una vez más, la participación de la sociedad civil en el proceso logró varias mejoras, entre ellas el establecimiento de límites a la identificación biométrica y la inclusión de evaluaciones de impacto sobre los derechos fundamentales. Pese a esto, la ley suscita una gran preocupación debido a las garantías insuficientes para los derechos humanos. Por ejemplo, la normativa no se aplica a los sistemas de IA que se utilizan en el ámbito de la seguridad nacional, contiene lagunas que permiten ciertos sistemas de vigilancia y no otorga los mismos derechos a las personas inmigrantes que a los ciudadanos de la UE. Además, sigue habiendo la posibilidad de que los Estados más represivos de la UE, como Hungría y Eslovaquia, usen la IA contra la sociedad civil, y de que los Estados se sirvan de ella para reducir progresivamente los derechos de las personas migrantes.

Está claro que no se puede confiar en que los líderes tecnológicos se autorregulen, ya sea que se trate de Musk, Zuckerberg u otros con un perfil más bajo. Tampoco podemos dejar la regulación en manos de los Estados. En tiempos difíciles, es indispensable reafirmar el papel central de los derechos humanos y promover normas internacionales consistentes con ellos. Asimismo, es urgente que las voces de la sociedad civil ocupen un lugar central en este debate crucial.