Yuval Noah Harari: «En la inteligencia artificial existe un potencial totalitario»

«Tenemos que entender que existe un potencial totalitario en la inteligencia artificial (IA), a diferencia de cualquier otra cosa que hayamos visto hasta ahora». El historiador, filósofo y escritor israelí Yuval Noah Harari advirtió el pasado lunes de la deriva dictatorial del conjunto de tecnologías actuales en una rueda de prensa telemática desde Whashington. El motivo es la publicación de su último ensayo, Nexus (Editorial Grup 62 en catalán y Debate en castellano) que analiza el papel de las redes de información desde la Edad de Piedra hasta la aparición de la IA.

«Stalin y Hitler intentaban controlar la totalidad de la vida de cada ciudadano en cada momento. Lo que veían, lo que escuchaban, con quién se encontraban, qué libros leían. Pero tenían límites porque no podían seguir a todo el mundo constantemente. El KGB tenía millones de informes, pero no disponía de millones de analistas para leerlos. Había una posibilidad de que nadie se los leyera. Incluso en la Unión Soviética existía un cierto grado de privacidad. La diferencia con la IA es que esta permite una vigilancia total que acabe con cualquier libertad», manifestó. Y puso como ejemplos que ya están sucediendo, Israel, su propio país, «en los territorios ocupados», o Irán, con cámaras de reconocimiento facial que vigilan y castigan a las mujeres que conducen sin velo, «la autoridad para sancionarlas en sus vehículos privados está en manos de la IA».

Para Harari, la diferencia esencial entre totalitarismo y democracia es la «conversación», actualmente en peligro por las «mentiras y teorías conspirativas que circulan por las redes. La gente no puede mantener una conversación racional y esto sucede desde que los gigantes, Facebook, Twitter, TikTok o Instagram, hayan creado esta tecnología».

La responsabilidad

«La información no es conocimiento, como asegura Elon Musk. La información es una categoría rara, la verdad es cara. Escribir un informe auténtico requiere tiempo, dinero y esfuerzo. En escribir una mentira no inviertes nada», resaltó. Por ello, puso el acento en la responsabilidad de las grandes corporaciones en relación a las decisiones que toman sus algoritmos, igual que un editor de un periódico es responsable de lo que dice en su portada. «La gente tiene derecho a la estupidez, tiene derecho a decir una mentira, en casos extremos. Forma parte de la libertad de expresión y estaréis de acuerdo con Zuckerberg y Musk en meditar antes de censurar a los usuarios humanos. Pero el problema de las teorías de la conspiración son los algoritmos porque el modelo de negocio de estas empresas se basa en la implicación del usuario, lo que quiere decir que se enganche a la plataforma». ¿Y cómo?, se preguntó Harari. «Pulsando el botón del miedo, del odio o de la rabia».

En cuanto a la extrema derecha y su aquiescencia con esta forma de hacer, el pensador no la diferenció de la extrema izquierda. «Trump coincide con Marx. Tienen en común su interés en generar desconfianza hacia las instituciones que garantizan la verdad, sean los medios de comunicación, la ciencia o las universidades. Comparten la visión cínica de que a la humanidad solo le interesa el poder. Eso es erróneo. Las personas anhelamos la verdad, sin verdad no podemos ser felices. Lo contrario te hace miserable. A Putin, Maduro y Netanyahu no les importa la verdad y no parecen muy felices». A pesar de todo, Haruri reconoció que la IA, actualmente en sus inicios, tiene un enorme potencial positivo. «Debemos garantizar que sea segura», concluyó.

Harari es autor de Sapiens. De animales a dioses: breve historia de la humanidad, que vendió más de 21 millones de ejemplares en 65 idiomas y al que siguió Homo Deus. Breve historia del mañana y 21 lecciones para el siglo XXI.