Estamos entrando en la era de lo post visual, un tiempo donde el ojo humano ha sido degradado de juez a mero espectador. Lo que antes era el pilar de nuestra evidencia (ver para creer) ha colapsado. La inteligencia artificial atraviesa un momento vertiginoso donde la generación de imágenes, audio y video ha alcanzado una sofisticación que desafía la arquitectura de nuestra percepción. No se trata solo de un avance técnico; es un asalto a la soberanía de nuestra propia imagen. Detrás de cada filtro y cada rostro generado, se esconden realidades estructurales que exigen una mirada crítica sobre quién controla nuestra identidad en el vacío digital.
1. La democratización del engaño: Cualquiera puede ser un autor
Durante años, la creación de contenidos sintéticos hiperrealistas fue un proceso hermético que requería laboratorios avanzados y presupuestos de Silicon Valley. Esa barrera técnica ha sido pulverizada. La doctora Zobeida Guzmán Zavaleta, especialista en IA de la Universidad de las Américas Puebla (UDLAP), advierte que hemos pasado de la alta especialización a tener herramientas de manipulación masiva al alcance de un smartphone. Esta accesibilidad es un arma de doble filo: lo que impulsa la innovación en la medicina o el arte también habilita la violencia a una escala industrial. Como señala la doctora Guzmán, el surgimiento de aplicaciones gratuitas permite que “cualquier persona las pueda utilizar sin saber casi nada”, eliminando el filtro ético que antes imponía la complejidad técnica. Hoy, el anonimato y la facilidad de uso son los mejores aliados de quienes buscan vulnerar la identidad ajena.
2. El “juego” matemático que perfecciona la mentira.
Para un periodista especializado en ética tecnológica, entender la evolución del engaño es vital. El fenómeno no es espontáneo; inició hace más de una década con los “autocodificadores”, modelos neuronales que aprendían a reconstruir rostros con una torpeza aún evidente. Sin embargo, el salto cuántico ocurrió con las Redes Generativas Adversarias (GAN), un sistema donde dos redes neuronales compiten en un duelo constante: una crea el engaño y la otra intenta detectarlo.
La doctora Guzmán describe este proceso como un aprendizaje iterativo implacable: “Un modelo no sabe nada, y le pregunta al que sí sabe: ‘¿Esta imagen es la de esta persona?’ Y así va aprendiendo”. Gracias a este ciclo de retroalimentación, y al auge de los modelos de difusión, errores que antes delataban a la IA —como dedos extra o proporciones físicas imposibles— están desapareciendo. El resultado es una simulación tan perfecta que la detección humana se vuelve, estadísticamente, una batalla perdida.
3. Una cifra devastadora: La violencia tiene sesgo de género.
Es un error ingenuo considerar a los deepfakes como una tecnología neutral. Los datos de FactCheckNI revelan una verdad cruda: la inteligencia artificial es hoy un vehículo de misoginia estructural.
• El 98% de los deepfakes que circulan en la red son de carácter pornográfico.
• El 99% de las víctimas en estos contenidos son mujeres.
• Entre 2019 y 2023, la creación de este material aumentó un 550%.
Para la doctora Luz María Garay Cruz, investigadora de la UPN y la Facultad de Ciencias Políticas y Sociales de la UNAM, esto no es un accidente, sino la extensión digital de un machismo sistémico. La experta enfatiza que la “viralidad” es el factor que hace que la herida digital sea permanente; en la red, los contenidos no solo humillan, sino que se replican y reaparecen, convirtiendo el acoso en una condena perpetua.
4. El fin de la evidencia visual: Confianza en quiebra
Históricamente, las celebridades fueron el blanco principal debido a la sobreexposición de sus datos biométricos. Pero hemos cruzado un umbral peligroso: el ciudadano común es ahora el objetivo de fraudes cotidianos. Ya no se trata solo de desinformación política, sino de la erosión de la confianza en nuestras relaciones más íntimas.
Alexis Obeng, de IBM X-Force Cyber Range, advierte sobre este punto de inflexión en la seguridad digital. El riesgo hoy reside en el cuestionamiento constante de la identidad de un jefe, un amigo o un familiar en un mensaje de audio o video. Cuando nuestros sentidos dejan de ser fuentes fiables de verdad, la identidad se vuelve vulnerable y la infraestructura de nuestra convivencia social (basada en el reconocimiento del otro) comienza a fracturarse.
5. Consecuencias reales para crímenes virtuales
Existe una narrativa peligrosa que sugiere que “lo digital no es real”. Sin embargo, la justicia está empezando a desmantelar esa ilusión. En México, el caso de Diego “N”, exalumno de la ESCA-IPN, marcó un precedente histórico: fue sentenciado a cinco años de prisión por trata de personas en la modalidad de pornografía infantil, tras descubrirse que utilizaba un iPad para manipular fotos de sus compañeras y venderlas en grupos de Telegram. En Australia, William Hamish Yeates se convirtió en el primer condenado bajo una ley nacional específica contra la pornografía deepfake.
La doctora Garay es tajante: “La violencia digital es real, porque atraviesa el cuerpo de las personas”. Las consecuencias no se quedan en la pantalla; se manifiestan en cuadros de ansiedad severa, depresión, abandono escolar y, en los casos más trágicos, tendencias suicidas. El daño a la reputación y la salud mental es un impacto físico y tangible que ninguna ley puede reparar por completo una vez que el contenido se ha vuelto viral.
Conclusión: Alfabetización crítica para un futuro incierto
La respuesta a la crisis de los deepfakes no vendrá solo de un algoritmo de detección más potente, sino de una alfabetización digital profunda. Necesitamos transitar hacia un pensamiento crítico que cuestione no solo la veracidad de la imagen, sino la ética de las plataformas que las alojan y el diseño de las herramientas que las crean.
Como consumidores, nuestra responsabilidad es dejar de ser cómplices pasivos de la viralidad. Ante un contenido que humilla o vulnera a otro, el silencio y la duda son nuestras mejores defensas. Debemos preguntarnos seriamente: ante la facilidad de destruir una vida con un solo clic, ¿en qué momento nuestra curiosidad se convierte en complicidad?
