La Unión Europea avanza en una discusión que enfrenta dos objetivos: reforzar la detección de material de abuso sexual infantil en internet y preservar la privacidad de las comunicaciones digitales. El debate alcanza especialmente a las tecnologías de detección y al cifrado de extremo a extremo.
La protección de la privacidad digital volvió a ocupar un lugar central en el debate institucional de la Unión Europea a partir de las iniciativas destinadas a combatir el abuso sexual de menores en internet.
La discusión gira en torno a la posibilidad de que los proveedores de servicios digitales utilicen herramientas automatizadas para detectar material de abuso sexual infantil y posibles casos de captación de menores, conocidos como grooming. Al mismo tiempo, organizaciones defensoras de los derechos digitales advierten sobre los riesgos que estas tecnologías pueden representar para la confidencialidad de las comunicaciones.
Una regulación que volvió a estar vigente
La UE cuenta desde 2021 con un régimen temporal que permite a determinados proveedores detectar y reportar voluntariamente material de abuso sexual infantil en sus plataformas. La medida había expirado el 3 de abril de 2026, pero fue restablecida posteriormente por las instituciones europeas y permanecerá vigente hasta el 3 de abril de 2028.
El Parlamento Europeo había planteado que la extensión tuviera un alcance más limitado y excluyera las comunicaciones protegidas mediante cifrado de extremo a extremo. Finalmente, esa exclusión quedó incorporada a la medida temporal aprobada en julio.
Esto significa que, bajo el régimen provisional actualmente vigente, las comunicaciones interpersonales a las que se aplique, se haya aplicado o vaya a aplicarse cifrado de extremo a extremo quedan fuera de su ámbito.
El punto clave: qué ocurre con los mensajes cifrados
El cifrado de extremo a extremo impide que el proveedor del servicio pueda acceder al contenido del mensaje durante su transmisión. Por ese motivo, cualquier sistema destinado a analizarlo tendría que operar antes de que sea cifrado o mediante mecanismos instalados en el dispositivo del usuario.
Esta posibilidad, conocida como client-side scanning, es uno de los principales puntos de controversia. Sus defensores sostienen que puede contribuir a detectar material ilegal y proteger a menores, mientras que sus críticos advierten que una revisión automatizada de las comunicaciones puede afectar la privacidad y generar falsos positivos.
El Parlamento Europeo ha planteado que las herramientas utilizadas sean las menos invasivas posible y que, en determinados casos, la detección de material desconocido o de posibles situaciones de captación de menores se limite a situaciones en las que exista una denuncia o señal concreta.
Qué tecnología se utiliza
Los sistemas de detección pueden trabajar, entre otros mecanismos, mediante identificadores digitales o “huellas” de archivos que permiten comparar imágenes y videos con bases de datos de material ilegal previamente identificado.
También existen herramientas basadas en aprendizaje automático destinadas a detectar material que no coincide exactamente con archivos conocidos o a identificar determinados patrones de comportamiento y lenguaje.
Una vez que un sistema genera una alerta, el procedimiento puede contemplar una revisión antes de que la información sea remitida a las autoridades. El funcionamiento concreto, sin embargo, depende de la tecnología utilizada y de las obligaciones legales aplicables a cada servicio.
El debate sobre los falsos positivos
Uno de los principales cuestionamientos planteados por especialistas y organizaciones de derechos digitales está relacionado con los errores que pueden producir los sistemas automatizados y con la interpretación posterior de las alertas.
Una imagen, un mensaje o un archivo compartido dentro de una conversación puede tener contextos diferentes, por lo que una coincidencia automática no necesariamente implica por sí misma la existencia de un delito.
Los críticos de los sistemas de escaneo generalizado sostienen que los controles deberían ser proporcionales y estar vinculados a indicios concretos, en lugar de extenderse indiscriminadamente sobre las comunicaciones de toda la población.
Una discusión que todavía no terminó
Más allá de la regulación temporal, la Unión Europea continúa negociando un marco legislativo permanente para prevenir y combatir el abuso sexual infantil en internet. El objetivo incluye obligaciones para los proveedores, mecanismos de evaluación de riesgos, detección y denuncia de material ilegal y medidas destinadas a proteger a las víctimas.
El debate plantea así una cuestión que excede lo estrictamente tecnológico: cómo compatibilizar la protección de los menores con el derecho a la privacidad y a la confidencialidad de las comunicaciones.
La resolución de esta discusión tendrá consecuencias para el funcionamiento de numerosas plataformas digitales y para la manera en que millones de personas utilizan servicios de mensajería en Europa.
