La Inteligencia Artificial (IA) se ha convertido en uno de los pilares del desarrollo tecnológico global. Sin embargo, mientras la IA ofrece promesas de eficiencia y progreso, existe una creciente preocupación acerca de cómo la desinformación, los sesgos y la falta de acceso a datos de calidad están contribuyendo a una polarización de la información y un aumento de las desigualdades. Me da la impresión de que incluso en esto, estamos creando una ‘IA de los pobres’, que no solo aumenta la brecha entre quienes tienen acceso a datos precisos y quienes no, sino que también amplifica los riesgos globales relacionados con la desinformación y la fragmentación social.
El Informe de Riesgos Globales 2024, publicado por el Foro Económico Mundial, advierte que la desinformación y los sesgos alimentados por IA se están convirtiendo rápidamente en uno de los principales riesgos globales. Estos riesgos no son solo tecnológicos, sino también sociales y políticos. A medida que la IA se integra en nuestra vida diaria, las poblaciones más vulnerables corren el riesgo de estar expuestas a una versión distorsionada de la realidad, alimentada por datos sesgados y falsos.
A pesar de que la IA tiene el potencial de ayudar a lograr los Objetivos de Desarrollo Sostenible (ODS), la realidad es que los beneficios de esta tecnología podrían no distribuirse equitativamente
Uno de los problemas fundamentales de las IA actuales es su dependencia de datos que muchas veces están sesgados o incompletos. Las grandes IA generativas generales, que son accesibles al público, están entrenadas en vastos conjuntos de datos extraídos de la web y redes sociales, los cuales contienen desinformación, prejuicios históricos y narrativas polarizantes. Esta sobrecarga de datos defectuosos alimenta un ciclo de retroalimentación donde los algoritmos de IA perpetúan y amplifican los sesgos. El Global Risks Report destaca que la desinformación generada por IA ocupa el segundo lugar entre los riesgos más severos para el año 2024.
Este tipo de IA no pretende dar información ni soluciones precisas ni veraces; en su lugar, ofrece respuestas rápidas y superficiales, una especie de ‘fast food’ compositiva que tiene graves consecuencias. Las decisiones críticas que tomemos en base a estas IA pueden verse gravemente afectadas, perpetuando desigualdades y tomando decisiones basadas en información errónea.
Uno de los aspectos que me preocupa y que por eso hablo de la ‘IA de los pobres’ es la creciente disparidad entre aquellos que tendrán acceso a los sistemas de IA con algoritmos y datos curados y aquellos que no. Las grandes corporaciones tecnológicas y algunos gobiernos tienen los recursos para recopilar, limpiar y mantener bases de datos precisas, lo que les otorga una ventaja estratégica.
Un informe de la ONU advierte que sin una gobernanza efectiva, la IA no solo perpetuará los sesgos existentes, sino que también generará nuevas formas de desigualdad y riesgo
Estas entidades pueden utilizar IA bien entrenadas para obtener información valiosa que guíe sus decisiones, mientras que las poblaciones más marginadas dependen de IA alimentadas por información defectuosa y manipulada. Tomar decisiones en base a datos basura solo amplificará decisiones basura. Esta disparidad en el acceso a datos crea una brecha informativa. Las naciones o comunidades que no tienen acceso a IA de calidad no podrán competir en términos de productividad, desarrollo económico o innovación.
El documento ‘Gobierno de la IA para la Humanidad’ recientemente publicado por el grupo de expertos de la ONU destaca que uno de los principales desafíos que enfrenta la gobernanza global de la IA es la calidad y la distribución de los datos que alimentan estos sistemas. A pesar de que la IA tiene el potencial de ayudar a lograr los Objetivos de Desarrollo Sostenible (ODS), la realidad es que los beneficios de esta tecnología podrían no distribuirse equitativamente. El informe advierte que sin una gobernanza efectiva, la IA no solo perpetuará los sesgos existentes, sino que también generará nuevas formas de desigualdad y riesgo. La gobernanza de la IA debe garantizar que todos tengan acceso a buenos datos y que la tecnología se utilice para reducir las brechas, no para ampliarlas y que no existan IAs de los pobres.