Ley de control del chat de la UE: vigilancia masiva por el bien de los niños

l Reglamento para la Prevención y la Lucha contra el Abuso Sexual Infantil, conocido como la ley de “Control del Chat”, ha suscitado un intenso debate en el mundo digital. Sus partidarios lo consideran una medida vital para proteger a los niños de la explotación en línea, mientras que sus detractores advierten que podría inaugurar una era de vigilancia masiva. En el centro de la controversia se encuentra una pregunta compleja: ¿puede Europa proteger a sus niños y niñas respetando al mismo tiempo el derecho fundamental a la privacidad individual?

El abuso infantil aumenta tanto en línea como fuera de línea

Hoy en día, el abuso infantil (o cualquier otro tipo, en realidad) no se limita al contacto físico. Internet es una ventana abierta para todos, incluidos los depredadores, que actúan en todas partes, desde sitios web accesibles para la gente común hasta la red oscura, donde prosperan hackers y delincuentes. El abuso sexual infantil es un problema muy grave que ha estado plagando internet: ya no se trata solo de fotos. Se trata de manipulación y soborno, y todo esto se ha facilitado gracias a la inteligencia artificial, los deepfakes y muchas otras herramientas.

Los niños son más vulnerables que los adultos, y también han tenido acceso al mundo digital, lo que los convierte en presa fácil. Según un informe reciente del Childlight Institute, «300 millones de niños se ven afectados cada año por el abuso facilitado por la tecnología».

Propuesto por primera vez en 2022 por la entonces comisaria europea Ylva Johansson, el Reglamento para la Prevención y la Lucha contra el Abuso Sexual Infantil (CSAR), ahora conocido como la Ley de Control del Chat, busca proteger mejor a los niños del abuso sexual en línea. Según datos de la Internet Watch Foundation (IWF) de 2024, se confirmaron 291.273 denuncias con imágenes de abuso sexual infantil, y 729.696 se consideraron delitos.

Ley de control del chat: cómo la UE planea proteger a los niños

La idea es facilitar el análisis de las comunicaciones digitales, incluso en entornos aparentemente privados protegidos por cifrado de extremo a extremo, como WhatsApp, Telegram o Signal. ¿Cómo funcionaría? Las autoridades utilizarían el escaneo del lado del cliente, que, según la Electronic Frontier Foundation , «busca contenido específico en un dispositivo antes de enviarlo. En la práctica, el Control de Chat es una vigilancia de chat y funciona teniendo acceso a todo el contenido de un dispositivo con una monitorización indiscriminada de todo».

Lo que dicen los gobiernos

Este sitio web hace campaña contra esta ley y muestra plazos e información actualizada sobre las votaciones. Resulta útil para mantenerse al día. El 21 de octubre, 12 miembros la apoyaban, 9 se oponían y 6 permanecían indecisos. Alemania es uno de los países que ha expresado su desacuerdo, junto con Polonia y Eslovenia. La ministra de Transformación Digital de este último país, Ksenija Klampfer, considera la propuesta “problemática” y una “intrusión desproporcionada en la privacidad de las comunicaciones”.

Mientras tanto, Francia ya ha abogado públicamente por su aprobación, con los ex ministros del Interior, Bruno Retailleau y Laurent Nuñez, afirmando que “la policía debería poder acceder a los mensajes privados enviados por los ciudadanos franceses”.

La última versión , presentada por el representante de Dinamarca en octubre, introdujo algunas salvaguardias: «solo las imágenes y los enlaces, no los mensajes de texto, estarían sujetos a escaneo» y «el sistema solo se activaría tras la decisión de una autoridad judicial o administrativa independiente». Sin embargo, la UE no votó al respecto en esta ocasión.

Lo que dicen las empresas de comunicaciones

Según Bitcoin , el CEO de Telegram, Pavel Durov, advirtió a la gente sobre los peligros de esta legislación: “Se iba a votar sobre una ley que obligaría a las aplicaciones a escanear cada mensaje privado, convirtiendo el teléfono de todos en una herramienta de espionaje”.

La fundadora de Signal, Meredith Whittaker, también se pronunció en contra de la implementación de la ley, llegando incluso a afirmar que Signal abandonaría el mercado de la UE si eso ocurriera: «Que no haya duda: abandonaremos el mercado de la UE antes que socavar nuestras garantías de privacidad. (…) Esta propuesta, si se aprueba y se aplica en nuestra contra, nos obligaría a tomar esta decisión».

Vitalik Buterin de Ethereum también se pronunció en contra del Control de Chat. En respuesta a un emprendedor en X, dijo que no se debería “dar seguridad a la sociedad haciendo que la gente sea insegura. Todos merecemos privacidad y seguridad para nuestras comunicaciones privadas sin puertas traseras inevitablemente hackeables”.

Esto planteó (y sigue planteando) serias preocupaciones sobre el derecho fundamental a la privacidad individual. Quienes se oponen argumentan que las regulaciones siempre deben considerar ambos aspectos: si, por un lado, ayudan a proteger a los niños al monitorear y señalar contenido sospechoso, por otro, también pueden utilizarse para vigilar a las personas.

Violación de la privacidad individual: ¿sí o no?

Una vez en vigor, la ley obligaría a las plataformas de comunicación en línea a escanear los mensajes de los remitentes antes de su envío, impidiendo así que cualquier amenaza llegue al destinatario. Sin embargo, hay aspectos que no cuadran: para empezar, la tecnología de escaneo que la UE planea utilizar no es 100 % precisa y puede detectar falsos positivos (tasa estimada entre el 50 % y el 75 %).

Si se exige a plataformas como WhatsApp y Signal que den a los gobiernos acceso a los mensajes privados de todos, realmente no hay forma de determinar qué información están recopilando y si en realidad solo están mirando contenido sospechoso.

El jurista y activista Patrick Breyer cree que la ley de control del chat facilitará a los gobiernos la vigilancia de las personas, incluso sin justificación aparente. Y esto tiene sentido. Aunque se supone que solo deben denunciar contenido relacionado con el abuso infantil, ¿qué les impide perseguir otro tipo de contenido? Entre las personas en riesgo se incluyen periodistas y minorías. Breyer también cree que la implementación de esta legislación no detendrá a los delincuentes: “Esto es un ataque de Gran Hermano a nuestros mensajes privados, como si Correos abriera y escaneara cada carta”, afirma Breyer. “No detendrá a los delincuentes, pero inundará a la policía con informes falsos y criminalizará a los jóvenes por sexting consensuado. El destino de la privacidad digital en Europa ahora depende de unos pocos gobiernos indecisos”.

Hay dos grandes ironías que destacar aquí:

En primer lugar, el hecho de que la legislación parezca contradecir el camino que está tomando la UE para convertirse en un líder global en soberanía digital , con la implementación de regulaciones como la Directiva NIS2, la Ley de IA o el Reglamento Europeo de Monederos de Identidad Digital. Democratizar el uso de los espacios digitales requiere confianza, algo innegablemente vinculado al cifrado. Si se aprueba este método de escaneo, ¿qué garantía hay de que no trascienda a los proveedores de servicios de chat?

En segundo lugar, el CSAR parece excluir del análisis al personal de inteligencia, policial y militar, lo que demuestra que los gobiernos son conscientes de la posibilidad de vigilancia y filtración de datos. ¿Significa esto que solo importa cuando potencialmente afecta a secretos de Estado?

¿Cual es el camino a seguir?

No es que la UE no cuente con medidas para proteger a los menores. Actualmente, existen normas provisionales que permiten a los proveedores de servicios marcar voluntariamente material sospechoso. Se supone que el CSAR sustituirá dichas normas.

Todos coincidimos en que los niños deberían estar protegidos del abuso, tanto en línea como fuera de ella. Quizás leyes como la aprobada recientemente en Australia y Nueva Zelanda serían de gran ayuda. Han restringido el uso de las redes sociales a los mayores de 16 años , lo que la convierte en una de las leyes más estrictas en la materia. Esto no protege a los niños más pequeños de hablar con abusadores en plataformas de comunicación, pero sí los protege de contenido potencialmente dañino en las redes sociales, como vídeos que incitan al suicidio y bromas peligrosas.

Además, el debate debería ir más allá del abuso sexual, ya que también se han dado casos de menores que cometieron delitos con la ayuda de adultos en línea, por ejemplo. Según CBS News , se han presentado al menos seis demandas en EE. UU. contra la popular plataforma de juegos Roblox, “en nombre de menores que presuntamente fueron manipulados o explotados por adultos en la plataforma”.

¿Puede Web3 desempeñar un papel en esto?

En el caso de las aplicaciones de chat y comunicación basadas en la Web3, el tipo de software en el que se basan puede no ser relevante, ya que la legislación se aplica a cualquier proveedor que ofrezca esos servicios. Las aplicaciones basadas en la Web3 pueden ser útiles para combatir dicha legislación y los propios métodos de escaneo, pero también podrían ser contraproducentes: las autoridades podrían dificultarles la vida a esas empresas al imponerles sanciones o penalizaciones.

Quizás la Web3 podría usarse de otra manera: aplicar principios de cifrado y contratos inteligentes para escanear en busca de contenido sospechoso en chats sin tener que acceder a las conversaciones telefónicas. Quizás no tenga que ser necesariamente una cosa u otra. Quizás haya una manera de proteger a los niños del abuso sexual en línea sin tener que revisar lo que cada uno escribe a sus amigos y familiares en línea.