Tecnología
El peligro invisible: deepfakes y adolescentes
La inteligencia artificial generativa llegó a los grupos de clase antes que a las aulas. Qué pueden hacer las familias y los centros educativos cuando la cara de un chico aparece donde nunca estuvo.
Del bloque Punto IA, con Natalia Butin y Renzo Colman.
Hasta hace poco, falsificar la imagen de una persona exigía tiempo, equipo y alguien que supiera usarlo. Hoy alcanza con una aplicación gratuita, una foto sacada de una red social y unos minutos. Ese abaratamiento es la noticia: no es que la tecnología sea nueva, es que dejó de tener barrera de entrada.
En el ámbito escolar eso tiene una traducción concreta y desagradable. Circulan imágenes manipuladas de compañeros, casi siempre de chicas, casi siempre con contenido sexual, producidas por alguien que las conoce. No es un ataque anónimo desde el otro lado del mundo: es acoso entre pares, con una herramienta nueva.
Por qué el consejo viejo ya no alcanza
Durante años la recomendación fue cuidar lo que uno publica. Sigue siendo razonable, pero ya no protege: para generar una imagen falsa convincente basta una foto de perfil, de esas que están en cualquier cuenta o en la página de una institución. La superficie de exposición dejó de ser lo que la persona comparte y pasó a ser lo que existe de ella.
El daño de un deepfake no depende de que la gente crea que es real. Depende de que exista y circule.
Qué se puede hacer
- Tratarlo como violencia, no como travesura tecnológica. El eje es qué se le hizo a una persona, no cómo se hizo.
- Guardar todo antes de denunciar: capturas con fecha, enlaces y nombres de los grupos donde circuló. El material se borra rápido y con él se va la prueba.
- No reenviar para avisar. Cada reenvío, aunque sea bienintencionado, amplía el alcance.
- Que el centro educativo tenga un procedimiento escrito antes de necesitarlo. Improvisar en el momento expone todavía más a la persona afectada.
- Hablarlo en casa antes de que pase, con la misma naturalidad con la que se habla de cualquier otro riesgo.
La discusión de fondo excede a la escuela. Involucra a las plataformas que alojan estas aplicaciones, a la legislación que todavía corre por detrás y a la industria que las desarrolla. Pero mientras esa discusión avanza, las familias y los docentes son los que tienen el problema adelante.
Este tema se conversó en Atentos, sábados de 8:00 a 11:00 por Milenium FM 88.7.