Gemelos digitales: los avatares deep fakes que pueden hacer por nosotros tareas rutinarias y tediosas  - RED/ACCIÓN

Gemelos digitales: los avatares deep fakes que pueden hacer por nosotros tareas rutinarias y tediosas 

 Una iniciativa de Dircoms + RED/ACCION

El director ejecutivo de Zoom, Eric Yuan, generó polémica al declarar que en esta nueva era tecnológica su equipo está buscando desarrollar gemelos digitales, avatares de vos mismo para que automaticen ciertas acciones, como atender una videollamada. Olivia Sanguinetti, ingeniera especializada en IA, destaca en diálogo con RED/ACCIÓN que podrían traer aparejados muchos beneficios, pero también grandes riesgos.

Gemelos digitales: los avatares deep fakes que pueden hacer por nosotros tareas rutinarias y tediosas 

Foto de cottonbro studio para Pexels.

Los gemelos digitales son el nuevo norte de la industria tecnológica. O al menos así lo declaró Eric Yuan, el director ejecutivo de Zoom en una entrevista con The Verge. Entre pregunta y pregunta el líder explicó que el futuro de la inteligencia artificial en su plataforma de videollamadas va de la mano de los gemelos digitales. 

Pero ¿qué son concretamente? En palabras simples, un gemelo digital es un avatar de vos mismo creado con la inteligencia artificial. Puede realizar determinadas tareas como, por ejemplo, atender una reunión de Zoom (cómo bien apunta Yuan). Incluso, se predice que podrá tomar decisiones en tu nombre mientras vos te ocupás de otras cuestiones como, por ejemplo, de tu familia. 

“Hoy en día todos pasamos mucho tiempo haciendo llamadas telefónicas, participando en reuniones, enviando correos electrónicos, borrando spam y respondiendo  mensajes de texto”, explicó Yuan. “Seguimos estando muy ocupados. Hay que aprovechar la IA para automatizar estas tareas de manera completa”, amplió en la entrevista. 

Preguntas, preocupaciones e inquietudes surgen a partir de los nuevos nortes tecnológicos en relación a cómo avanzamos en esta revolución y cómo verdaderamente aprovechamos estos cambios. En diálogo con RED/ACCIÓN, Olivia Sanguinetti, bioingeniera especializada en el entrenamiento de inteligencia artificial, analiza estas cuestiones en profundidad.

¿Cómo creés que estos gemelos digitales podrían beneficiar a las personas?
—Veo la automatización de tareas repetitivas como uno de sus principales beneficios ya que le permitiría a los individuos ahorrar tiempo y reducir el desgaste asociado con actividades tediosas. Esta capacidad liberaría a las personas para enfocarse en actividades que requieren habilidades humanas únicas, como la creatividad y la toma de decisiones estratégicas. Esto, también, mitigaría el riesgo de burnout. A su vez, al delegar las tareas rutinarias a gemelos digitales se podría elevar la calidad del trabajo realizado y aumentar la productividad individual. Así, esta nueva tecnología tiene la potencialidad de promover un entorno laboral más satisfactorio permitiéndoles a las personas dedicarse a actividades que agreguen verdadero valor y mejoren su bienestar general.

En toda la euforia tecnológica, ¿qué amenazas identificás?
—La introducción de gemelos digitales en el entorno laboral conlleva el riesgo inherente de errores y fallos inesperados, lo cual podría tener repercusiones graves en operaciones críticas y afectar la confianza en la tecnología. Además, la automatización impulsada por los gemelos digitales podría resultar en la pérdida de empleos en sectores donde las funciones son fácilmente replicables por la inteligencia artificial.
También, surge el riesgo de manipulación y fraude mediante la creación de identidades digitales falsas con propósitos maliciosos. Estos incluyen desde la difusión de información falsa hasta el robo de identidad. La vulnerabilidad de los individuos frente a ataques cibernéticos y pérdidas de privacidad se vería posiblemente amenazada. 

En relación a la ética y la moral, ¿cuál es el principal desafío?
—Existen múltiples debates que se podrían traer sobre los límites éticos de la creación y el uso de gemelos digitales, pero el principal debate se da en torno a la representación y el consentimiento. Para mitigar los riesgos, se deberían desarrollar métodos robustos para autenticar la identidad de los gemelos digitales. El proceso de autenticación y verificación es fundamental. Además, se debería obtener un consentimiento explícito de las personas involucradas en la creación o uso de sus representaciones digitales. 

¿Qué otras medidas de seguridad y privacidad creés que se deberían tomar sin falta a la hora de desarrollar este tipo de deep fakes?
—Se deberían implementar prácticas de seguridad avanzadas para proteger los datos utilizados en el entrenamiento y mantenimiento de los gemelos digitales, asegurando la confidencialidad y privacidad de la información personal. También veo importante promover la creación de regulaciones que guíen el desarrollo y la implementación de gemelos digitales, estableciendo estándares éticos y legales para su uso responsable.
También es vital fomentar la educación de la sociedad, y en particular de los usuarios, sobre los riesgos y las implicaciones éticas de los gemelos digitales. Estas tecnologías emergentes deben estar acompañadas de una concientización adecuada, fomentando una comprensión informada y crítica de las mismas.

—¿Ves posible el uso generalizado de los gemelos digitales?
—El avance tecnológico actual nos está demostrando constantemente que incluso lo que no llegamos a imaginar es posible. Por lo tanto,  no niego que los gemelos digitales surjan como alternativa en un futuro. La inteligencia artificial está en un boom, avanzando a pasos agigantados. Así, es posible que en un tiempo se den realidades que hoy nos parecen impensadas, como que un deep fake tome las reuniones que no queremos tener. 

—¿Creés que los humanos nos dejaríamos reemplazar de esta forma por gemelos digitales?
Si bien cada vez más tareas repetitivas o tediosas serán cubiertas por herramientas basadas en inteligencia artificial, la idea de reemplazar completamente a los humanos es más compleja. Es probable que la implementación de los gemelos digitales se dé por partes, cubriendo tareas específicas, y que esta herramienta sea vista como complementaria en lugar de como un reemplazo total.
La resistencia social y ética será una enorme barrera. Esta tecnología presentará sin duda mucha oposición. Aunque los gemelos digitales podrían facilitar muchas tareas, la idea de una sustitución completa enfrentará resistencias debido a la necesidad intrínseca de interacción y juicio humano en muchas áreas de la vida y el trabajo. Por lo tanto, es más probable que los gemelos digitales coexistan con los humanos, complementando sus habilidades en lugar de reemplazarlas completamente.