Tus hijos pueden ser las siguientes víctimas de las falsificaciones con IA

La historia de Diego N es bien conocida. A mediados de octubre del año pasado, un grupo de estudiantes del IPN lo acusaron de robar al menos mil fotografías de sus perfiles de redes sociales y editarlas con herramientas de inteligencia artificial para venderlas como material pornográfico.

Un mes después, el joven fue vinculado a proceso, sin posibilidad de pasar en libertad los dos meses que fijó el juez para la investigación complementaria, plazo que está a días de vencerse.

Para mala suerte de Diego N, sus compañeras detectaron a tiempo su negocio, ¿pero un papá o una mamá podría saber si alguien roba las fotos de sus hijas o hijos menores de edad para igualmente ser manipuladas y comercializadas en redes de material sensible ?

Lee también: Beatriz nunca pensó que seguir en Instagram a un hombre terminaría con su vida en Brasil

La recomendación de evitar publicar fotos de menores en redes sociales es cada día más relevante.

Con las redes sociales divulgando cada uno de los detalles de nuestras vidas, de cierta manera ya estamos familiarizados con los riesgos de compartir fotos y videos de menores, aunque puedan utilizarse para intimidar o lucrar con ellas.

Pero como dejó en claro el caso de las estudiantes del Poli, una amenaza clara son las herramientas de inteligencia artificial a las que se les puede alimentar con imágenes y fotografías reales para hacer “falsificaciones profundas”, o mejor conocidas por su nombre en inglés “deep fake”.

Y casos como el de Diego N se repiten por todo el mundo: estudiantes de una secundaria de Nueva Jersey habrían utilizado herramientas de inteligencia artificial para crear imágenes sexualizadas de sus compañeros de clase utilizando “fotos originales” durante un campamento de verano.

En España, los padres de más de 20 niñas de entre 11 y 17 años dicen que algunas fotos de sus hijos fueron alteradas utilizando herramientas de inteligencia artificial para crear imágenes sexuales.

Las herramientas de inteligencia artificial “ahora necesitan tan solo una imagen”, dijo en entrevista con el Washington Post Wael Abd-Almageed, científico principal y director de investigación del Instituto de Ciencias de la Información de la Universidad del Sur de California. "Puedes entrenar a la IA para que detecte los rasgos faciales de alguien, de modo que, si la IA puede detectar los rasgos faciales de un niño, puedes reemplazarlos en un video".

“Lo que pasa en internet se queda en internet. Nunca podrá desaparecer”, sostiene Abd-Almageed, por lo que es más importante conocer los riesgos y trata de evitar la publicación de nuevas fotos, aunque parezca un reto imposible de lograr.

Las imágenes y los videos se comparten una y otra vez, las empresas realizan copias de seguridad y los archivan, o se pueden guardar y compartir en chats cifrados.

Eliminar una foto de un menor de los resultados de búsqueda de Google en realidad no la elimina de internet, seguirá existiendo en el sitio que lo alojaba.

Los especialistas recomiendan cambiar las prácticas y dialogar con los hijos darles voz y voto sobre si su imagen aparece en línea y dónde. Es más fácil poner reglas para el futuro que limpiar el pasado.

Los expertos recomiendan compartir imágenes de tus hijos de manera privada, a través de chats grupales cifrados, y es muy importante que la familia extendida (tíos, abuelos, primos) tenga claro que no quieres que se compartan sus fotos y videos.