Los deepfakes explícitos ya entraron en la vida social adolescente
Cada generación enfrenta desafíos propios de su tiempo. Hubo épocas en que la principal preocupación era proteger los espacios físicos donde niños, adolescentes y jóvenes crecían, más tarde la irrupción de internet obligó a trasladar esa preocupación al mundo digital y hoy nos encontramos ante una nueva transformación: la inteligencia artificial (IA) ya no solo permite acceder a información o crear contenido, sino también fabricar versiones falsas de la realidad con un nivel de realismo que hace pocos años parecía imposible.
Entre todas sus aplicaciones, los deepfakes explícitos (imágenes o videos de carácter sexual creados o manipulados mediante IA para representar falsamente a una persona en situaciones que nunca ocurrieron) representan una de las más preocupantes. No solo por lo que permiten hacer sin el consentimiento de la persona, sino porque alteran algo mucho más profundo, que es la confianza que sostiene las relaciones humanas. Cuando una fotografía puede convertirse en un instrumento de humillación, la pregunta deja de ser si una imagen es verdadera, sino que la verdadera pregunta pasa a ser si todavía es posible sentirse seguro al compartir quiénes somos.
Un informe publicado por Common Sense Media, basado en una encuesta nacional a más de mil adolescentes estadounidenses entre 13 y 17 años, muestra que una parte importante de ellos ya han estado expuestos a imágenes explícitas generadas mediante IA. Entre quienes habían visto este tipo de contenido, uno de cada cuatro señaló haber encontrado imágenes que los representaban a ellos mismos o a alguien que conocían.
Sin embargo, el dato más relevante del estudio no es cuántos adolescentes han visto deepfakes, sino que ellos mismos consideran que este tipo de contenido modifica las expectativas sobre el cuerpo, la sexualidad y las relaciones e instala un clima de mayor desconfianza entre compañeros y amigos, por lo tanto, el verdadero daño no comienza cuando aparece una imagen falsa, sino cuando las personas dejan de sentirse seguras entre quienes las rodean.
Durante años hablamos de ciudadanía digital poniendo el foco en la privacidad, las contraseñas o el tiempo frente a las pantallas hoy esos aprendizajes siguen siendo importantes, pero ya no son suficientes. La IA está trasladando el problema desde el acceso a la información hacia la construcción de la confianza y lo que está en juego no es únicamente la seguridad de nuestros datos, sino la posibilidad de proteger nuestra identidad, nuestra reputación y nuestra dignidad en espacios donde una imagen manipulada puede difundirse con enorme rapidez.
Para un adolescente, este riesgo tiene consecuencias especialmente delicadas, ya que, la adolescencia es una etapa en la que la identidad aún se está formando y donde la opinión de los pares posee un gran peso. En ese contexto, la posibilidad de que una fotografía sea alterada para ridiculizar, avergonzar o desacreditar puede producir ansiedad, retraimiento y un profundo temor a exponerse, y al darse cuenta de que cualquier imagen puede convertirse en una amenaza, muchos jóvenes comienzan a vivir en estado de vigilancia permanente.
Por eso, reducir este fenómeno a un problema tecnológico sería un error, porque los deepfakes explícitos son, sobre todo, un desafío relacional, porque nos obligan a preguntarnos qué significa el consentimiento en la era de la IA, cómo protegemos la reputación de una persona cuando la evidencia visual ya no garantiza la verdad y qué tipo de comunidades estamos construyendo si una humillación digital puede destruir la confianza en cuestión de minutos.
Frente a este escenario, la prevención no pasa por fomentar el miedo hacia la tecnología y tampoco consiste únicamente en desarrollar herramientas capaces de detectar imágenes falsas, la respuesta comienza fortaleciendo aquello que ninguna IA puede reemplazar, las relaciones donde los adolescentes sepan que serán escuchados, se les creerá y serán acompañados cuando algo les ocurra.
Esto exige ampliar nuestra comprensión de la alfabetización digital, ya no basta con enseñar a usar herramientas tecnológicas de manera eficiente también necesitamos educar en consentimiento digital, en el respeto por la imagen de los demás y en la responsabilidad ética que implica crear, modificar o compartir contenido generado mediante IA. Del mismo modo, colegios, familias, iglesias y organizaciones necesitan contar con protocolos claros para responder rápidamente cuando estas situaciones ocurren, evitando que la vergüenza o el silencio profundicen el daño.
La mejor protección frente a un entorno digital cada vez más complejo sigue siendo una comunidad donde pedir ayuda resulte más fácil que esconderse, porque cuando un adolescente sabe que encontrará adultos que lo escucharán sin juzgarlo, que actuarán con rapidez y que comprenderán la gravedad de lo ocurrido, el impacto de estas experiencias puede disminuir considerablemente.
Los deepfakes explícitos nos recuerdan que cada avance tecnológico también redefine las tareas de quienes educan y acompañan, ahora la pregunta no es únicamente cómo proteger la información personal de los adolescentes, sino cómo proteger su dignidad en un mundo donde la realidad puede manipularse con facilidad. Y quizá esa sea una de las grandes tareas de esta generación: enseñar que, incluso en una época donde las imágenes pueden dejar de ser confiables, la verdad, el respeto y el cuidado mutuo siguen siendo los fundamentos sobre los que se construyen las relaciones humanas.
Fuentes consultadas
Common Sense Media: Teens and Explicit Deepfakes in the Age of AI.
Comentarios