La Inteligencia Artificial (IA) ha avanzado a pasos agigantados en los últimos años, demostrando su capacidad para transformar industrias y mejorar nuestras vidas en muchas formas. El informe de tendencias tecnológicas de McKinsey para 2022 revela datos que evidencian el desarrollo acelerado de la IA. Entre los datos destacados se encuentra un aumento del 56% en la adopción de la IA entre 2015 y 2021, así como un incremento del 94.4% en la velocidad de entrenamiento de los modelos de IA desde 2018. Además, en comparación con 2015, se han presentado 30 veces más patentes utilizando esta tecnología.
El creciente uso de sistemas de inteligencia artificial en la toma de decisiones en diversos ámbitos plantea desafíos inherentes a su aplicación regulada, lo que implica la existencia de riesgos tanto directos como indirectos.
Algunos de estos riesgos incluyen: Sesgos y discriminación, los sistemas pueden reflejar prejuicios si los datos de entrenamiento son sesgados llevando a decisiones discriminatorias o injustas. Privacidad y seguridad de datos, los sistemas de IA a menudo requieren grandes cantidades de datos para su entrenamiento y funcionamiento. Existe el riesgo de que los datos personales utilizados en estos sistemas se filtren o se utilicen de manera indebida, comprometiendo la privacidad y seguridad de las personas. Responsabilidad y rendición de cuentas, cuando los sistemas de IA toman decisiones autónomas, puede resultar complicado determinar quién es responsable en caso de daños o consecuencias negativas. Lo que plantea desafíos legales y éticos que aún están en desarrollo.
Frente a esta realidad, existe un consenso creciente en la comunidad de expertos de que se deben abordar de manera proactiva y efectiva los riesgos para garantizar un desarrollo y despliegue ético y responsable de la IA. Por otro lado, se están promoviendo iniciativas globales que permitan a los países trabajar de forma conjunta en la definición de marcos regulatorios, políticas y normas que regulen su desarrollo y aplicación en áreas críticas. Así mismo, organismos como la Organización para la Cooperación y el Desarrollo Económicos (OCDE), el Foro Económico Mundial (WEF) y la UNESCO han estado promoviendo la colaboración entre países y partes interesadas para desarrollar políticas y normas internacionales.
Para el Dr. Stuart Russell, Profesor de Ciencias de la Computación en la Universidad de California, Berkeley. La Inteligencia Artificial tiene el potencial de ser una de las herramientas más poderosas de nuestra era. Sin embargo, también debemos ser conscientes de los riesgos asociados. Uno de los desafíos éticos más apremiantes es garantizar que los sistemas de IA sean diseñados de manera que alineen sus objetivos con los valores humanos. Esto implica desarrollar IA que sea segura, transparente y respetuosa con la privacidad y la autonomía humana.
Timnit Gebru, ex científica de IA de Google y cofundadora de Black in AI, se refiere a que la falta de diversidad en la comunidad de desarrollo de IA es un problema ético importante. Si solo un grupo homogéneo de personas está diseñando y entrenando sistemas de IA, existe el riesgo de que se pasen por alto los efectos adversos en grupos subrepresentados. Necesitamos asegurarnos de que haya una representación equitativa de perspectivas y voces diversas en el proceso de toma de decisiones sobre IA.
Por otro lado, Wendell Wallach, filósofo y autor del libro "Moral Machines: Teaching Robots Right from Wrong", hace referencia a que la IA plantea preguntas fundamentales sobre la moralidad y la responsabilidad. A medida que los sistemas de IA se vuelven más autónomos, debemos abordar la cuestión de quién es responsable cuando se producen consecuencias negativas. Además, debemos considerar la ética de asignar decisiones importantes a sistemas que pueden carecer de la capacidad de comprender y contextualizar los valores humanos.
En última instancia, el desafío ético más apremiante radica en garantizar que los sistemas de IA sean diseñados de manera segura, transparente y respetuosa con la privacidad y autonomía humana. Es fundamental fomentar una discusión inclusiva y tomar decisiones informadas para aprovechar el potencial de la IA en beneficio de la sociedad en su conjunto. (O)
