La Unión Europea está en el centro de una tensión que afecta a millones de usuarios: cómo proteger a los menores de la explotación sexual en internet sin convertir cada dispositivo en un punto de vigilancia.

La normativa conocida como "Chat Control" busca detectar contenido de abuso sexual infantil dentro de mensajes privados, imágenes y videos. Hoy existe una regulación temporal que fue extendida hasta 2028 y permite a las plataformas identificar voluntariamente este material. Pero la propuesta de largo plazo —"Chat Control 2.0"— sigue en discusión en el Parlamento Europeo, y la pregunta central es si también afectará a los servicios con cifrado de extremo a extremo, como WhatsApp y Signal.

El nudo del conflicto está en cómo funcionaría la vigilancia. En aplicaciones sin cifrado, los servidores pueden revisar el contenido antes de que llegue a su destino. Pero en plataformas con cifrado de punta a punta, el proveedor no puede leer el mensaje una vez encriptado. Para detectar material ilegal, el sistema tendría que escanear los datos en el dispositivo del usuario, antes de que se cierre el cifrado. Esto es lo que los especialistas llaman "client-side scanning".

Google y otras empresas sostienen que cuando se detecta una coincidencia, revisores humanos expertos examinan el material antes de informarlo a las autoridades. Pero el panorama cambia si esa tarea la realiza una inteligencia artificial a gran escala.

Los críticos —como Patrick Breyer, jurista alemán y activista por derechos digitales— advierten que el sistema falla cuando se aplica masivamente. Los evaluadores usan criterios legales distintos y frecuentemente confunden sexting consensuado entre adolescentes o bromas compartidas en grupos de chat con contenido delictivo. Muchos menores reenvían archivos sin intención de distribuir material ilegal, simplemente porque los recibieron en otra conversación.

El dilema permanece sin resolver: ¿es legítimo revisar comunicaciones privadas en el instante en que ocurren, aunque sea para proteger a los niños?