Inteligencia Artificial: ¿qué pasa cuando la diversión puede transformarse en desinformación? - RED/ACCIÓN

Inteligencia Artificial: ¿qué pasa cuando la diversión puede transformarse en desinformación?

 Una iniciativa de Dircoms + RED/ACCION

En estos días nos cruzamos con imágenes creadas con Inteligencia Artificial en las que se ve a líderes políticos y otras figuras fuera de contexto: el Papa a la moda, Trump detenido… ¿Qué pasa cuando IA es fuente de desinformación? Cada vez más voces se alzan pidiendo su regulación.

Inteligencia Artificial: ¿qué pasa cuando la diversión puede transformarse en desinformación?

Papa Francisco con estilo. Crédito Reddit - Twitter - Imagen creada con Midjourney

Todo el mundo está hablando de esta nueva tecnología y la razón es muy simple: está revolucionando internet y concepciones tecnológicas nunca antes vistas. De hecho, me animo a decir que estamos viendo solo la punta del iceberg ya que, las distintas plataformas para generar imágenes o textos se están actualizando constantemente para definir aún más su calidad y proporcionar información más precisa y detallada en cuanto a los píxeles, el realismo y la recolección de datos. 

Ahora bien, toda nueva invención trae aparejada la curiosidad y el miedo, así fue con Internet cuando comenzó a globalizarse allá por los `90, todos decían que su uso iba a destronar a la radio, la televisión y el cine. Lo cierto es que, como aprendimos a lo largo de los años, cada nueva tecnología busca adaptarse a las anteriores y proporcionar mayor accesibilidad y herramientas a la sociedad.

Donald Trump arrestado. Crédito Elliot Higgins - Imagen creada con Midjourney

¿Hay que regular el uso de servicios de la llamada inteligencia artificial regenerativa como  Midjourney o DALE-E? Con estas herramientas se crean  “fotografías” como las de Donald Trump siendo detenido,o  las de Emmanuel Macron en medio de las protestas en Francia o -mis favoritas- las del Papa Francisco tirando facha con una campera Balenciaga. El tema es que al circular en las redes fueron interpretadas por muchas personas como imágenes reales.

Emmanuel Macron en las protestas. Crédito Reddit - Twitter - Imagen creada con Midjourney
Papa Francisco con campera Balenciaga. Crédito: Pablo Xavier con Midjourney.

Entonces, imaginate estar en tu casa o en tu trabajo y ver una publicación del presidente de Rusia, Vladimir Putin, alistando los preparativos para lanzar en las próximas horas misiles nucleares desde Bielorrusia a Ucrania. Es un escenario potencial que todavía no sucedió pero que, en el caso de que alguien genere esa imagen con IA y la difunda, podría alterar a occidente por unos minutos. 

Por esta razón, algunos países y entidades ya pusieron la lupa en esta tecnología para tratar de controlar la desinformación y sus consecuencias en la opinión pública. Italia, por ejemplo, prohibió el uso de Chat GPT al considerar que no cumple la normativa europea de recolección de datos.Bruselas, también. Solicitó que los contenidos generados por una IA tengan una etiqueta de advertencia. Además, el Parlamento Europeo está elaborando una “Ley IA” que busca imponer reglas más estrictas a los sistemas de “Inteligencia Artificial de alto riesgo”.

Sin embargo, los gobiernos no son los únicos que están tratando de frenar la difusión de información falsa. Instagram indicó que las fotografías comenzarán a pasar por un proceso de revisión para corroborar si son reales o falsas. En el caso de dar con la última opción, las imágenes aparecerán con una leyenda que indicaría “foto o video alterado”. 

Por otro lado, el dueño de Twitter, Elon Musk, firmó una carta abierta en la que, junto a miles de CEOs y académicos, manifestaron la intención de poner en pausa el avance de las nuevas actualizaciones de los programas de Inteligencia Artificial como Chat GPT 4, con el que se podría mantener conversaciones similares a las humanas y componer canciones con las voces de artistas conocidos.

Entonces. La IA trae imprescindibles avances para ampliar el acceso a la información y fomentar la creatividad. Pero lo que estamos viviendo es el comienzo de un gran proceso que seguirá creciendo a pasos agigantados en los próximos años. Mientras tanto, no hay que perder el foco para lograr que esta tecnología sea utilizada correctamente y sin dañar los derechos de autor y la reputación de las personas.