Home Actualidad Inteligencia artificial, democracia y desigualdad 

Inteligencia artificial, democracia y desigualdad 

Por Mauricio Cabrera Galvis
68 vistas
Download PDF

“Mitigar el riesgo de extinción (de la humanidad) derivado de la Inteligencia Artificial (IA)  debe ser una prioridad mundial, junto con la mitigación de otros riesgos que amenazan a la sociedad como las pandemias o la guerra nuclear”. 

Afirmar que la IA es tan peligrosa para el futuro de la humanidad como una guerra nuclear parece una exageración dicha por algunos ambientalistas radicales o por nostálgicos de un pasado pastoril que se oponen a las nuevas tecnologías. Lo sorprendente es que se trata de una declaración firmada por más de 600 de los expertos que han desarrollado la IA o la conocen muy bien, incluyendo a Bill Gates, al creador del famoso ChatGPT y a los presidentes de las tres compañías líderes en IA, OpenAI, DeepMind y Anthropic. 

Estos expertos señalan cuatro grupos de riesgos catastróficos que tiene la IA: Su uso con fines malintencionados, la velocidad de su desarrollo que hace casi imposible controlarla, que se prioricen las utilidades sobre la seguridad y que la autonomía de la IA la lleve a tomar decisiones equivocadas. Estos riesgos están interconectados y “pueden amplificar otros riesgos existenciales como la creación de pandemias, guerras nucleares, totalitarismo o ciberataques a infraestructura crítica”. 

Hace unas semanas analicé la amenaza que puede representar la IA para los empleos y los ingresos de millones de personas, pero el peligro va mucho más allá del mercado laboral, impactando el funcionamiento de la sociedades tanto en sus sistemas democráticos, como en las relaciones sociales por los cambios en la distribución de la riqueza. 

Las amenazas para la democracia 

Muchos analistas creen que la IA puede debilitar el tejido social y socavar los sistemas democráticos que aún existen en el mundo, imponiendo una especie de “algocracia”, que sería la forma de gobierno donde los algoritmos son los que toman las decisiones. 

Le pregunté a los tres chats de IA más usados (Chat GPT, Gemini 1.5 y Copilot), que dirían de ellos mismos, sobre los riesgos que puede representar la IA para la democracia. Esta fue su respuesta con los principales riesgos que identificaron: 

  1. Aumento de la Desigualdad Digital: La adopción desigual de la IA puede ampliar la brecha digital, dejando a algunos grupos socioeconómicos marginados y sin acceso equitativo a la participación política en línea. 
  1. Manipulación de la Opinión Pública: Los algoritmos de IA pueden ser utilizados para manipular la opinión pública y difundir propaganda política, socavando la integridad de los procesos democráticos. 
  1. Concentración del Poder: el desarrollo y la difusión de la IA pueden concentrarse en las manos de muy pocas corporaciones y gobiernos, lo que puede conducir a una nueva forma de tiranía. 
  1. Vulnerabilidad a Ataques Cibernéticos: Los sistemas de IA en la infraestructura electoral pueden ser vulnerables a ataques cibernéticos, comprometiendo la seguridad y la legitimidad de los resultados electorales. 
  1. Pérdida de Privacidad: El uso extendido de la IA en la política puede implicar una mayor vigilancia y recopilación de datos personales, erosionando la privacidad de los ciudadanos y generando preocupaciones éticas. 
  1. Barreras Éticas y Sesgos Algorítmicos: Los sistemas de IA pueden estar sujetos a sesgos algorítmicos y decisiones éticamente cuestionables, lo que puede conducir a la discriminación y a la injusticia en los procesos políticos y democráticos. 

Una mayor concentración de la riqueza. 

Según el estudio del FMI (Gen-AI: Artificial Intelligence and the Future of Work) la IA puede generar un importante aumento de la productividad y de la producción, pero un cambio mucho más pequeño en la distribución de los ingresos provenientes del trabajo: un aumento del Gini de los ingresos menor al 1% en los países donde hay una gran complementariedad de la IA con la mayoría de los empleos.  

Por el contrario, el impacto sobre la distribución de la riqueza sí es significativo: en todos los escenarios, el Gini de la riqueza tiene un impresionante aumento de alrededor de 7 puntos porcentuales, porque las mayores utilidades provenientes de su uso se concentran en unos pocos -en los propietarios de las empresas desarrolladoras de IA, o de las que la usan con mayor intensidad, así como en los altos ejecutivos de las mismas. Con razón señala el estudio del FMI que este efecto puede ser aún mayor en países donde ya hay una alta concentración de la riqueza, como sería el caso de Colombia. 

El otro impacto que no se puede menospreciar es el de los cambios en la distribución del ingreso y la riqueza entre países, ya bastante desigual. Con la IA es posible que una parte de la producción de bienes que se había desplazado a países en desarrollo, vuelva a los países industrializados (reshoring), lo cual impulsará el retorno de capitales y empleos a estos últimos. El caso más citado es el de los call centers

En una nota final del estudio del FMI que sorprende porque usualmente es poco atento a los aspectos políticos de sus recomendaciones, se alerta por las implicaciones de política económica: “La historia muestra que las presiones económicas pueden conducir a conflictos sociales y exigencias de cambios políticos. Garantizar la cohesión social es prioritario. Las políticas oficiales deben promover la integración ética y equitativa de la IA…” 

* * * 

La conclusión no puede ser impedir el desarrollo de la IA, lo cual no solo es imposible, sino que implicaría prescindir de sus aportes positivos a la sociedad, a la economía y a la misma democracia. El objetivo debe ser fortalecer la gobernanza mundial de la IA, creando instituciones públicas que la orienten al bien común. 

Para ello se requiere una estrecha cooperación internacional que desarrolle marcos regulatorios apropiados, para que las nuevas tecnologías funcionen con apertura y neutralidad, como sucede con Internet, se controlen los monopolios y los riesgos de seguridad y se asegure que las innovaciones sean éticas, transparentes y reguladas para que las máquinas no terminen controlando nuestras vidas y para que no aumenten las desigualdades sociales.. 

Mauricio Cabrera Galvis

Publicado en  Revista CAMBIO 

Abril, 2024

2 Comentarios
1

También te gustara

2 Comentarios

Eduardo Pardo 2 mayo, 2024 - 9:45 am

Una ley a nivel mundial seria que todos los articulos o fotos hechas con IA deben decirlo claramente.
Aqui en Francia, en un programa de TV sobre la lucha de las mujeres en Iran, aparecia en la pantalla
el anuncio de que las caras de las participantes habian sido cambiadas con IA para evitar las represalias.
Asi deberia ser siempre.

Respuesta
EDUARDO JIMENEZ 2 mayo, 2024 - 10:50 am

Con todo respeto por las opiniones contrarias, no me parece que la IA vaya a generar los efectos catastróficos que algunos preven. Yo personalmente la uso a diario en mi trabajo, y para mi es un Google más fácil de usar y más completo. Ni me manipula ni cambia mi modo de pensar. Me suena a tantas otras predicciones que en su momento se han hecho sobre otras invenciones. Pero repito, es mi experiencia personal usándola a diario, y respeto a quienes teman que nos va a traer todos estos inconvenientes. Saludos

Respuesta

Deja un comentario