La amenaza de la Inteligencia Artificial para las sociedades democráticas y abiertas | RED/ACCIÓN

La amenaza de la Inteligencia Artificial para las sociedades democráticas y abiertas

George Soros es presidente de Soros Fund Management, uno de los fondos de inversión más influyentes del mundo, y de la Fundación Open Society.

Quiero advertir al mundo sobre un peligro sin precedentes que está amenazando la supervivencia misma de las sociedades abiertas.

En una época de nacionalismo populista, las sociedades abiertas se encuentran cada vez más amenazadas. Pero la amenaza de los movimientos ideológicos palidece en comparación con la que plantean las nuevas tecnologías poderosas en manos de los autoritarios.

Los instrumentos de control de rápida evolución que el aprendizaje automático y la inteligencia artificial pueden producir les están dando a los regímenes represivos una ventaja inherente. Para ellos, los instrumentos de control que se perfeccionan son una ayuda; para las sociedades abiertas constituyen un peligro mortal.

Me centraré en China, donde el presidente Xi Jinping quiere que reine un estado unipartidario. Xi intenta consolidar toda la información disponible sobre una persona en una base de datos centralizada para crear un “sistema de crédito social”. En base a estos datos, la gente será evaluada por algoritmos que determinarán si plantea una amenaza para el estado unipartidario. La gente luego será tratada según corresponda.

El sistema de crédito social todavía no está plenamente operativo, pero es claro hacia dónde se dirige. Subordinará el destino del individuo a los intereses del estado unipartidario como nunca se vio antes.

El sistema de crédito social me parece alarmante y aborrecible. Desafortunadamente, a algunos chinos les resulta atractivo, porque ofrece información y servicios que actualmente no están disponibles, y también puede proteger a los ciudadanos que cumplen con la ley de los enemigos del estado.

China no es el único régimen autoritario del mundo, pero es sin duda el más rico, el más fuerte y el más desarrollado en aprendizaje automático e inteligencia artificial. Esto convierte a Xi en el opositor más peligroso de quienes creen en el concepto de una sociedad abierta. Pero Xi no es el único. Los regímenes autoritarios están proliferando en todo el mundo y, si tienen éxito, se volverán totalitarios.

En mi calidad de fundador de las Open Society Foundations, he dedicado mi vida a combatir las ideologías totalizadoras y extremistas, que sostienen equivocadamente que el fin justifica los medios. Yo creo que el deseo de libertad de la gente no se puede reprimir eternamente. Pero reconozco que las sociedades abiertas hoy en día están profundamente amenazadas.

Utilizo el término “sociedad abierta” para referirme a una sociedad en la que impera el régimen del derecho por sobre el régimen de un solo individuo, y donde el papel del estado es el de proteger los derechos humanos y la libertad individual. En mi opinión, una sociedad abierta debería prestar especial atención a quienes sufren discriminación o exclusión social y a quienes no pueden defenderse por sí mismos.

¿Cómo se pueden proteger las sociedades abiertas si estas nuevas tecnologías les dan a los regímenes autoritarios una ventaja incorporada? Esa es la pregunta que me preocupa. También debería preocupar a todos los que prefieren vivir en una sociedad abierta.

En busca de una sociedad abierta

Mi profundo temor por esta cuestión surge de mi historia personal. Nací en Hungría en 1930, y soy judío. Tenía 13 años cuando los alemanes ocuparon Hungría y empezaron a deportar judíos a campos de exterminación. Yo tuve la gran fortuna de que mi padre entendiera la naturaleza del régimen nazi y consiguiera documentos de identidad falsos y escondites para todos los miembros de su familia, y para otros judíos también. La mayoría sobrevivimos.

El año 1944 fue la experiencia formadora de mi vida. Aprendí a una edad temprana lo importante que es el tipo de régimen político que prevalece. Cuando el régimen nazi fue reemplazado por la ocupación soviética, abandoné Hungría tan pronto como pude y encontré refugio en Inglaterra.

En la London School of Economics, desarrollé mi marco conceptual bajo la influencia de mi mentor, Karl Popper. Ese marco resultó ser inesperadamente útil cuando más tarde encontré trabajo en los mercados financieros. El marco no tenía nada que ver con las finanzas, pero se basa en el pensamiento crítico. Eso me permitió analizar las deficiencias de las teorías prevalecientes que guiaban a los inversores institucionales. Me convertí en un gestor de fondos de cobertura exitoso, y me enorgullece ser el crítico mejor pago del mundo.

Administrar un fondo de cobertura era muy estresante. Cuando había ganado más dinero del que necesitaba para mí o mi familia, atravesé una suerte de crisis de la mediana edad. ¿Por qué debería matarme para ganar más dinero? Reflexioné mucho tiempo sobre lo que realmente me importaba y, en 1979, fundé el Open Society Fund. Definí sus objetivos: ayudar a abrir las sociedades cerradas, reducir las deficiencias de las sociedades abiertas y promover el pensamiento crítico.

Mis primeros esfuerzos estaban dirigidos a intentar socavar el sistema de apartheid en Sudáfrica. Luego viré mi atención y me concentré en abrir el sistema soviético. Creé una empresa conjunta con la Academia Húngara de Ciencias, que estaba bajo control comunista, pero sus representantes empatizaban en secreto con mis esfuerzos. Este acuerdo tuvo un éxito que fue mucho más allá de mis sueños más descabellados. Y quedé atrapado en lo que llamo “filantropía política”. Eso fue en 1984.

En los años posteriores, intenté replicar mi éxito en Hungría y en otros países comunistas. Lo hice bastante bien en el imperio soviético, incluida la propia Unión Soviética, pero fue una historia diferente en China.

Dictadura con características chinas

Mi primer esfuerzo en China parecía bastante alentador. Involucraba un intercambio de visitas entre economistas húngaros que eran muy admirados en el mundo comunista y un equipo perteneciente a un grupo de expertos chinos recientemente creado, cuyos miembros estaban ansiosos por aprender de los húngaros.

En base a este éxito inicial, le propuse a Chen Yizi, el líder del grupo de expertos, replicar el modelo húngaro en China. Chen obtuvo el respaldo del premier Zhao Ziyang y de su secretario reformista, Bao Tong. En octubre de 1986 se creó una empresa conjunta llamada China Fund. Era una institución diferente de cualquier otra en China. En los papeles, tenía autonomía completa.

Bao era su paladín. Pero quienes se oponían a la reforma crítica, que eran muchos, aunaron fuerzas para atacarlo. Decían que yo era un agente de la CIA y le pidieron a la agencia de seguridad interna que me investigara. Para protegerse, Zhao reemplazó a Chen por un funcionario de alto rango en la policía de seguridad externa. Como las dos organizaciones tenían el mismo status, no podían interferir en los asuntos de la otra.

Aprobé este cambio porque estaba enojado con Chen por otorgar demasiados créditos a miembros de su propio instituto, y no estaba al tanto de las luchas políticas internas que transcurrían detrás de escena. Pero los postulantes al China Fund pronto se dieron cuenta de que la organización había pasado a estar controlada por la policía política y empezaron a alejarse. Nadie tuvo la valentía de explicarme los motivos.

Finalmente, un receptor de préstamos chino me visitó en Nueva York y me contó –corriendo un riesgo considerable- lo que había sucedido. Poco después, Zhao fue removido del poder y utilicé esto como una excusa para cerrar la fundación. Eso sucedió justo antes de la masacre de la Plaza Tiananmen en 1989 y dejó un “punto negro” en el registro de la gente asociada con la fundación. Tuvo que pasar mucho tiempo hasta que pudieron limpiar sus nombres, pero lo lograron.

En retrospectiva, es evidente que cometí un error al intentar crear una fundación, que operaba de maneras que no le resultaban familiares a la gente en China. En aquel momento, otorgar un préstamo creaba una sensación de obligación entre el donante y el receptor y obligaba a ambos a ser mutuamente fieles para siempre.

La traición de la reforma

Hasta ahí la historia. Pasemos a los acontecimientos que se han producido apenas el año pasado. Algunos me sorprendieron.

Cuando empecé a visitar China por primera vez, conocí a muchas personas en puestos de poder que eran fervientes creyentes en los principios de la sociedad abierta. En su juventud, habían sido deportados al campo para ser reeducados, y muchas veces sufrían padecimientos mucho mayores que los míos en Hungría. Pero teníamos mucho en común. Todos habíamos estado en el extremo receptor de una dictadura.

Estaban ansiosos por escucharme hablar sobre los pensamientos de Popper sobre la sociedad abierta. Si bien el concepto les parecía muy atractivo, su interpretación seguía siendo un tanto diferente de la mía. Ellos estaban familiarizados con la tradición confuciana, pero no había tradición de voto en China. Su pensamiento seguía siendo jerárquico, no igualitario, y tenían un respeto incorporado por los cargos altos. Yo, en cambio, quería que todos pudieran votar.

No me sorprendió cuando Xi se topó con una oposición fuerte en el país; pero sí me sorprendió la forma que adoptó. En la convocatoria de líderes del año pasado en la localidad balnearia de Beidaihe, Xi aparentemente fue reprendido. Si bien no hubo ningún comunicado oficial, el rumor fue que la convocatoria desaprobó la abolición de los límites a los mandatos y el culto de la personalidad que Xi había construido en torno suyo.

Los defensores comprometidos de una sociedad abierta en China, que tienen aproximadamente mi edad, en general se han retirado, y la gente más joven, que depende de Xi para una promoción, han tomado su lugar. En verdad, fueron los líderes retirados como Zhu Rongji los que, aparentemente, plantearon las críticas a Xi en la reunión de Beidaihe.

Es importante tomar conciencia de que estas críticas sólo fueron una advertencia para Xi sobre sus excesos, pero no revirtieron la abolición del límite de dos mandatos. Es más, el “Pensamiento Xi Jinping”, que él mismo promovió como su compendio de la teoría comunista, fue elevado al mismo nivel que el “Pensamiento Mao Tse Tung”. De modo que Xi sigue siendo el líder supremo, posiblemente de por vida. El resultado definitivo de las luchas políticas internas de hoy sigue sin resolverse.

La sociedad abierta y sus defensores

Me he estado concentrando en China, pero las sociedades abiertas tienen muchos más enemigos –la Rusia de Putin es el principal entre ellos-. Y el escenario más peligroso es aquel en el que esos enemigos conspiran entre sí, o aprenden unos de otros, para oprimir a su pueblo de manera más efectiva.

¿Qué podemos hacer para frenarlos?

El primer paso es reconocer el peligro. Esa es la razón por la que estoy hablando públicamente. Pero ahora viene la parte difícil. Quienes queremos preservar la sociedad abierta debemos trabajar y formar una alianza efectiva. Tenemos una tarea que no podemos dejar en manos de los gobiernos. La historia ha demostrado que hasta los gobiernos que quieren proteger la libertad individual tienen otros muchos intereses, y también dan prioridad a la libertad de sus propios ciudadanos por sobre la libertad del individuo como un concepto abstracto.

Mis Open Society Foundations están dedicadas a proteger los derechos humanos, especialmente los de quienes no tienen un gobierno que los defienda. Cuando comenzamos hace cuatro décadas, muchos gobiernos apoyaban nuestros esfuerzos. Desafortunadamente, hoy son menos. Estados Unidos y Europa, que en algún momento eran nuestros aliados más sólidos, están preocupados por sus propios problemas hoy.

Por lo tanto, quiero centrarme en lo que considero la pregunta más importante para las sociedades abiertas: ¿qué sucederá en China?

Sólo el pueblo chino puede responder a la pregunta. Lo único que podemos hacer nosotros es trazar una distinción clara entre ellos y Xi. Como Xi ha declarado su hostilidad hacia la sociedad abierta, el pueblo chino se convierte en la principal fuente de esperanza.

Y, en verdad, hay motivos para albergar esperanzas. Como me han explicado algunos especialistas en China, hay una tradición confuciana según la cual se espera que los asesores del emperador expresen su opinión cuando están en fuerte desacuerdo con una de sus acciones o decretos, siendo plenamente conscientes de que esto puede resultar en el exilio o hasta en una ejecución. Esto fue para mí un gran alivio cuando estaba al punto de la desesperación. Significa que ha surgido una nueva elite política que está dispuesta a defender la tradición confuciana y también que Xi seguirá teniendo opositores en China.

La disolución de la ruta de la seda

Xi presenta a China como un modelo de rol para que otros países imiten, pero también enfrenta críticas en el exterior. Su Iniciativa Un Cinturón, Una Ruta (BRI por su sigla en inglés) ha estado vigente el tiempo suficiente como para revelar sus deficiencias. Por un lado, estaba destinada a promover los intereses de China, no los intereses de los países receptores. Es más, sus ambiciosos proyectos de infraestructura estaban financiados principalmente por préstamos, no subsidios, y las autoridades extranjeras muchas veces recibían sobornos para aceptarlos. Y muchos de estos proyectos terminaron siendo económicamente poco sólidos.

El caso icónico es Sri Lanka. China le prestó al pueblo de Sri Lanka el dinero para pagarle a China para que construyera un puerto que satisficiera los intereses estratégicos de China. Pero el puerto no logró atraer el suficiente tráfico comercial como para que el pueblo de Sri Lanka pudiera pagar la deuda. Esto le permitió a China tomar posesión del puerto. Existen varios casos similares en otras partes y están generando resentimiento.

Malasia está liderando la campaña en contra. El gobierno anterior, liderado por Najib Razak, le entregó todo a China. Pero, en mayo de 2018, una coalición liderada por Mahathir Mohamed sacó a Najib del poder. El gobierno de Mahathir inmediatamente frenó varios proyectos grandes de infraestructura que estaban a cargo de empresas chinas, y actualmente está negociando cuánto Malasia todavía tendrá que pagarle a China.

La situación no es clara en Pakistán, que ha sido el mayor receptor de inversiones chinas. El ejército paquistaní admira a China, pero la posición de Imran Khan, que asumió como primer ministro en agosto pasado, es más ambivalente. A comienzos de 2018, China y Pakistán anunciaron planes grandilocuentes de cooperación militar. Para fin de año, Pakistán atravesaba una profunda crisis financiera, pero algo se volvió evidente: China pretende utilizar la iniciativa BRI también para fines militares.

Todos estos reveses han obligado a Xi a modificar su actitud hacia la iniciativa BRI. En septiembre, anunció que se descartarán los “proyectos ostentosos” a favor de iniciativas concebidas con más cuidado, y en octubre, el People’s Daily advirtió que los proyectos deberían redundar en beneficio de los países receptores.

Los clientes hoy están advertidos y varios de ellos, desde Sierra Leona hasta Ecuador, están cuestionando o renegociando los proyectos. Xi también ha dejado de hablar sobre “Hecho en China 2025”, que había sido la pieza central de su autopromoción un año antes.

¿Contención 2.0?

Más importante, el gobierno de Estados Unidos ahora ha identificado a China como un “rival estratégico”. El presidente Donald Trump es notoriamente impredecible, pero esta decisión fue el resultado de un plan estratégico minuciosamente preparado. Desde entonces, el comportamiento idiosincrático de Trump ha sido ampliamente reemplazado por una política hacia China adoptada por las agencias de la administración y supervisadas por el asesor sobre Asuntos Asiáticos del Consejo Nacional de Seguridad, Matthew Pottinger, y otros. La política fue delineada en un discurso seminal del vicepresidente Mike Pence el 4 de octubre de 2018.

Aun así, declarar a China un rival estratégico es demasiado simplista. China es un actor global importante. Una política efectiva hacia China no se puede resumir en una generalización. Tiene que ser mucho más sofisticada, detallada y práctica; y debe incluir una respuesta económica de Estados Unidos a la iniciativa BRI. El plan de Pottinger no especifica si su objetivo máximo es nivelar el campo de juego o desvincularse de China.

Xi entendió plenamente la amenaza que planteaba la nueva política de Estados Unidos para su liderazgo. Apostó a una reunión personal con Trump en la cumbre del G-20 en Buenos Aires el 1 de diciembre. Mientras tanto, el peligro de una guerra comercial global escalaba, y se desató una liquidación pronunciada en el mercado bursátil, creando problemas para la administración Trump, que había centrado toda su energía y su atención en las elecciones de mitad de mandato el mes anterior. Cuando Trump y Xi se reunieron, ambas partes estaban ansiosas por llegar a un acuerdo. Y así fue, aunque lo que acordaron –una tregua de 90 días- es muy inconcluyente.

Sin embargo, existen claros indicios de que en China se está gestando una caída económica generalizada, que está afectando al resto del mundo. Una desaceleración global es lo último que quiere ver el mercado.

El contrato social tácito en China se basa en estándares de vida en constante aumento. Si la caída en la economía china y el mercado bursátil es lo suficientemente seria, este contrato social puede verse afectado, y hasta la comunidad empresaria puede terminar oponiéndose a Xi. Una desaceleración de este tipo también podría ser la sentencia de muerte de la iniciativa BRI, porque Xi puede quedarse sin recursos para seguir financiando tantas inversiones deficitarias.

Sobre la cuestión más amplia de la gobernanza global de Internet, existe una lucha no declarada entre China y Occidente. China quiere dictar las reglas y procedimientos que gobiernan la economía digital dominando al mundo en desarrollo con sus nuevas plataformas y tecnologías. Ésta es una amenaza para la libertad de Internet y de la propia sociedad abierta.

El año pasado, todavía creía que China tenía que estar involucrada más profundamente en las instituciones de la gobernanza global, pero el comportamiento de Xi desde entonces me hizo cambiar de opinión. Mi visión hoy es que, en lugar de entablar una guerra comercial prácticamente con todo el mundo, Estados Unidos debería centrarse en China; en lugar de permitir que ZTE y Huawei operen con libertad, tiene que tomar medidas enérgicas contra ellas. Si estas empresas llegan a dominar el mercado del 5G, representarían un riesgo inaceptable en materia de seguridad para el resto del mundo.

Lamentablemente, el presidente Trump parece estar encaminado en un curso diferente: hacer concesiones a China y declarar la victoria renovando al mismo tiempo sus ataques a aliados de Estados Unidos. Esto es susceptible de minar el objetivo político de Estados Unidos de frenar los abusos y los excesos de China.

Una conclusión esperanzadora

Como Xi es el enemigo más peligroso de las sociedades abiertas, debemos depositar nuestras esperanzas en el pueblo chino, y especialmente en la elite política, que está inspirada por la tradición confuciana. Esto no significa que quienes creemos en la sociedad abierta debamos permanecer pasivos. La realidad es que estamos en una Guerra Fría que amenaza con convertirse en una guerra caliente. Por otro lado, si Xi y Trump ya no estuvieran en el poder, se presentaría la oportunidad de desarrollar una mayor cooperación entre las dos ciberpotencias.

Es posible soñar con algo parecido al Tratado de las Naciones Unidas a fines de la Segunda Guerra Mundial. Ése sería el final apropiado para el ciclo actual de conflicto entre Estados Unidos y China. Reestablecería la cooperación internacional y permitiría que florecieran las sociedades abiertas.

© Project Syndicate 1995–2019

Te necesitamos para seguir cambiando la realidad y hacer un periodismo más participativo.

HACETE MIEMBRO

¿Puede Alberto Fernández arreglar los problemas de la Argentina?

El nuevo gobierno probablemente enfrentará desafíos similares a los de Macri: una alta carga de deuda, condiciones sociales deterioradas y una inflación y desempleo crecientes

Instagram quiere eliminar los likes para volverse más empática

La red social de fotos de Facebook está trabajando hace tiempo en lograr volverse un lugar más habitable. Esta vez está testeando esconder la posibilidad de ver cuántos “me gusta” tuvieron las publicaciones.

REDACCION

Imagen: Pablo Domrose

Jóvenes cronistas: un proyecto para que puedan contar historias de la realidad

Infancia en Deuda y RED/ACCIÓN impulsan un entrenamiento en periodismo digital. El proyecto busca acercar herramientas y conocimientos para que cada vez más jóvenes puedan hacer oír su voz y contar historias de realidades propias y del ambiente en el que viven.