La inteligencia artificial avanza a pasos agigantados y, con ella, los riesgos para los más pequeños. En el marco del Día del Niño, la firma de verificación de identidad Sumsub lanzó una alerta que prende focos rojos entre padres de familia y especialistas en tecnología: los deepfakes —videos, audios o imágenes manipulados con IA que parecen reales— están superando los controles tradicionales de seguridad en plataformas digitales, dejando a miles de menores en una situación de vulnerabilidad.
De acuerdo con datos de la compañía, la presencia de deepfakes en Latinoamérica creció un 201% en el último año, pero el caso de México es particularmente alarmante: el incremento ronda el 500%. Esto significa que la tecnología para suplantar identidades, crear contenido falso y evadir filtros de verificación se está perfeccionando a una velocidad que ni las plataformas ni las leyes alcanzan a contener.
El problema tiene un caldo de cultivo ideal: el 77% de los niños y niñas en México ya tiene acceso a internet, según cifras oficiales. Muchos de ellos navegan sin supervisión, usan redes sociales, juegan en línea y comparten información personal sin medir las consecuencias. Los controles de edad actuales, como los cuestionarios o las declaraciones voluntarias, son fácilmente evadibles. Un menor puede decir que tiene 18 años y la plataforma, en la mayoría de los casos, no tiene herramientas para verificarlo.
Pero el peligro no termina ahí. Los deepfakes permiten crear contenido sexual falso usando el rostro de un niño o niña real, o simular conversaciones con fines de extorsión, grooming o ciberacoso. La línea entre lo real y lo falso se ha vuelto tan delgada que incluso los adultos tienen dificultades para detectar un engaño. Para un menor, la tarea es prácticamente imposible.
Ante este panorama, la industria tecnológica enfrenta un reto mayúsculo: evolucionar hacia modelos de verificación más dinámicos. Sumsub plantea que ya no basta con un filtro estático al momento del registro. Se necesita un monitoreo continuo, sistemas que analicen el comportamiento en tiempo real y, paradójicamente, el uso de la propia inteligencia artificial para detectar anomalías y prevenir el abuso antes de que ocurra.
Para las mamás y papás que siguen este portal, la recomendación de los expertos es clara: no se trata de satanizar la tecnología, sino de acompañar a los hijos en su vida digital. Hablar con ellos sobre los riesgos, enseñarles a no compartir datos personales ni fotos íntimas, y sobre todo, mantenerse informados sobre las nuevas amenazas. Porque si los deepfakes ya están aquí, la mejor defensa sigue siendo la prevención y el diálogo.