El uso de inteligencia artificial (IA) ha crecido significativamente en diversas áreas, incluyendo la creación de contenido que puede influir en la opinión pública. Sin embargo, la IA también presenta riesgos importantes, especialmente cuando se utiliza para manipular información pública. En este contexto, el fenómeno de los deepfakes ha emergido como una preocupación creciente, ya que permite crear videos, audios e imágenes que imitan a personas reales, presentando comportamientos y voces que nunca han existido en la realidad.
Los deepfakes, que pueden incluir desde el intercambio de rostros hasta la clonación de voces, se han convertido en una herramienta para la desinformación. Según informes de expertos, esta forma de manipulación es considerada uno de los principales riesgos globales, dada su capacidad para influir en procesos electorales y en la confianza pública. Las elecciones en diferentes países han visto ejemplos de este tipo de contenido, que se ha utilizado para difundir mensajes engañosos y causar confusión en el electorado.
Ante la proliferación de este tipo de contenido, es fundamental que los ciudadanos aprendan a identificar cuándo están expuestos a información manipulada. Algunas claves incluyen verificar la fuente del contenido, cuestionar la credibilidad de la cuenta que lo publica y estar atentos a signos de falsedad, como voces monótonas o anomalías visuales. En Quito, ya han surgido casos concretos de deepfakes que buscan desinformar a la comunidad, lo que hace necesario fomentar la alfabetización digital para proteger a la ciudadanía del engaño.
