Cómo trabaja una startup irlandesa que ofrece un servicio para eliminar deepfakes y contenido ilegal - RED/ACCIÓN

Cómo trabaja una startup irlandesa que ofrece un servicio para eliminar deepfakes y contenido ilegal

 Una iniciativa de Dircoms + RED/ACCION

A partir de las recientes difusiones falsas de imágenes explícitas de famosos, las preocupaciones sobre la privacidad ganaron notariedad. Para ello crearon Ceartas, una tecnología que escanea las plataformas digitales para detectar fotos, audios, videos o textos no autorizados y borrarlos.

Uno de los grandes peligros de la inteligencia artificial es la desinformación, ya que la capacidad que tienen estas herramientas para generar contenido engañoso es cada día más sofisticada. Sumado a la gran accesibilidad que tenemos a fotos de otras personas, puede traer graves consecuencias. Ya se vieron ejemplos claros de esto, como el material falso de Taylor Swift que circuló en la web o lo que le pasó a la cantante española Rosalía. Sus casos trascendieron porque son personas reconocidas pero ¿qué pasa con quienes no tienen la misma llegada?

Precisamente esa fue la necesidad que buscó atender Dan Purcell cuando creó en 2021 Ceartas, junto con su socio Jony Smyth. A través de un sistema potenciado por inteligencia artificial, esta startup tiene el objetivo de “devolverle a las personas lo que les corresponde” abordando los desafíos multifacéticos de la infracción de derechos de autor y la distribución no autorizada de contenidos, incluida la amenaza de deepfakes.

Sus fundadores se dieron cuenta de que había pocos servicios —o ninguno— brinden seguridad y protección de derechos de autor a los individuos por su cuenta, más que a empresas o asociaciones de medios en general.

En detalle, la herramienta automatiza el proceso de eliminación de contenidos de las listas y puede identificar rápidamente cuando es ilegal. Su tecnología escanea las plataformas digitales para detectar imágenes, audios, videos o textos no autorizados, incluyendo aquellos generados por inteligencia artificial como, por ejemplo, los deepfakes. Una vez localizados, la IA baja los contenidos de la web y de los sistemas de buscadores. Además, emite avisos legales de piratería o infracción.

De acuerdo con la startup, su sistema puede reducir la visibilidad de los contenidos problemáticos en Google en un 98 %, por lo que la reputación y el historial de la víctima puede mejorar significativamente. Según informa TechCrunch, bajo este concepto, en su última ronda de financiación recaudaron 4,5 millones de dólares.

“Mientras navegamos en una era plagada de piratería avanzada, infracciones de derechos de autor, deepfakes y desinformación, Ceartas lidera la protección de marcas. Aprovechando la IA, desarrollamos soluciones de vanguardia para estos complejos retos”, declaró Purcell de acuerdo con un artículo de EU Startups.

“La naturaleza de la infracción de los derechos de autor está evolucionando a un ritmo acorde con la aparición de las tecnologías de IA”, aseguró Andre Retterath, socio de Earlybird Venture Capital y uno de los principales inversores. “Las amenazas en esta nueva era son tangibles, como se ha visto en muchos casos recientes de gran repercusión. En consecuencia, la demanda de soluciones fiables es enorme”, profundizó. 

La startup irlandesa con sede en Dublin y Berlín hoy se posiciona como el primer servicio de protección de marca basado en inteligencia artificial de Europa. A su vez, según Tech EU, se convirtió en socio oficial de seguridad de Only Fans, la plataforma que monetiza el contenido sexual, como también de la marca Fanfix T.