El hombre ha sido un gran depredador del planeta tierra y, con espejo retrovisor, es fácil decir que ha faltado gestión del riesgo tecnológico. La esperanza es que la gestión de riesgo sea incorporada en los nuevos desarrollos de la IA para prevenir nuevos desastres.
A medida que se generan avances en lo científico y tecnológico, si la IA llegara a reemplazar la capacidad de la decisión individual y colectiva, también entonces debería incorporarse un sistema de IA de gestión de riesgo de igual potencia, que prevenga y mitigue los riesgos.
No ha sido así en el pasado, porque gestionar los riesgos implica un costo adicional cuyos beneficios están basados en la materialización del riesgo; pero precisamente, la mayor disponibilidad de datos y de capacidad de análisis de éstos que provee la IA hará posible una mejor gestión del riesgo con tal que haya la voluntad, fruto de una mayor cultura del riesgo en la sociedad. De lo contrario repetiremos el pasado esta vez con peores consecuencias.
La gestión del riesgo implica identificar, evaluar y mitigar posibles amenazas o incertidumbres que afectan los objetivos de una organización o sociedad, tradicionalmente basada en análisis retrospectivos y modelos probabilísticos. Sin embargo, la IA ofrece nuevas oportunidades tales como: (I) la predicción avanzada en base al análisis de grandes volúmenes de datos históricos y la detección de patrones no evidentes, lo cual permite anticipar riesgos antes de que se materialicen y (ii) la comprensión y el estudio de riesgos sistémicos mediante modelos no lineales.
Estos modelos se están aplicando a (i) la predicción climática con una mayor precisión de eventos extremos como huracanes, sequías e inundaciones; (ii) el monitoreo ambiental mediante sensores y drones equipados con IA para rastrear la deforestación, la calidad del aire y la salud de los ecosistemas; (iii) la optimización energética para unan mejor distribución de energía y reducción de la huella de carbono; (iv) ciberseguridad y defensa para detectar amenazas mediante el análisis de imágenes satelitales y datos de inteligencia para identificar actividades sospechosas, y (v) salud pública y pandemias en el rastreo de brotes de enfermedades y predicción de su propagación, así como también en la investigación médica, farmacológica y en la optimización de recursos médicos.
La IA, sin embargo, no está exenta de riesgos y su uso extendido genera inquietudes éticas. Como la IA aprende de datos históricos, puede adquirir sesgos que lleven al establecimiento de modelos menos justos y equitativos. Asimismo, los sistemas de IA deben ser comprensibles (transparentes y explicables) para que los tomadores de decisiones confíen en ellos. Finalmente, ¿Quién es responsable de las consecuencias cuando un sistema de IA tome decisiones equivocadas?
En cuanto a la educación y colaboración global, se necesitarán más expertos en IA con conocimientos en gestión de riesgos y una amplia colaboración internacional, pues muchos riesgos trascienden fronteras y requieren un trabajo conjunto.
La IA puede ser una herramienta poderosa para prevenir errores pasados y, hacia el futuro, proteger nuestro planeta y nuestra seguridad. Sin embargo, debemos usarla con responsabilidad y ética porque la gestión del riesgo, además de ser una cuestión técnica, es también un asunto de supervivencia colectiva.
Probablemente este planteamiento sea ingenuo o muy difícil de implementar, pero precisamente por eso debemos exigir que la IA sea capaz de orientarnos y de establecer controles para asegurar la mejor forma de hacerlo.
Juan Laureano Gómez
Agosto, 2024
6 Comentarios
Sin duda tu planteamiento no es ingenuo, pero probablemente será difícil de implementar. Como dice Perogrullo: “Todo futuro es incierto; ¿cuándo no lo ha sido?”. Gracias, Juan L.
Rodolfo, la incertidumbre es la que nos requiere a gestionar los riesgos para mitigarlos en la medida de lo posible, o si el riesgo es muy grande, a eliminarlo. Pero todo esto es más fácil dicho que hecho.
Juan: Muy importante y útil tu comentario. Muchas gracias. Saludos. Hernando
Juan L. entiendo así el esquema de recurrencia: Procesos de información, procesos de decisión, procesos de ejecución; información, decisión, ejecución; información… El mayor riesgo ¿esta en los procesos de decisión? La I.A. incide en la información y la ejecución. La decisión queda en manos de los humanos, a no ser que se llegue a crear una V.A. (voluntad artificial). Aquí te dejo la inquietud !
Gracias Vicente, la IA ya incorpora toma de decisiones. Te doy dos ejemplos (i) la guerra en Gaza donde (según leo) los algoritmos identifican un cellular y según de quién sea, ordenan un misil, igual los drones que identifica caras y disparan, y (ii) los vehículos autónomos (la madre de la IA según Tim Cook) está programada para tomar miles de decisiones, solo que el conductor tiene algunas opciones p.e si hay un carro en contravía que nos va a estrellar y hay un peatón u otros carros cercanos , las posibilidades son – dejar que nos estrelle, o virar a un lado aunque haya otros accidentados de por medio. El algoritmo actuará según se le haya programado.
Vicente, añado que mis ejemplos realmente no se refieren a la V.A. que tu mencionas y que representa un riesgo mayor de la I.A.