La iniciativa «Algoritmos Éticos, Responsables y Transparentes», liderada por GobLab, el laboratorio de innovación pública de la U. Adolfo Ibáñez, impulsa la integración de principios éticos en los algoritmos de compras públicas que utilizan IA o ciencia de datos.
El proyecto, pionero en Latinoamérica, ha desarrollado instrumentos replicables para aumentar la transparencia y evitar la discriminación en las prestaciones de servicios públicos que incorporen inteligencia artificial (IA), además de asegurar la protección de los datos personales de los ciudadanos.
La Inteligencia Artificial (IA) es una rama de la informática que usa algoritmos y datos para realizar predicciones y decisiones autónomas. Los algoritmos le dicen a la máquina qué hacer y los datos le permiten aprender y mejorar su desempeño. Y a la fecha, varios países han adoptado la IA para aplicarla en la gestión de trámites públicos para hacerlos más expeditos, como aquellos relacionados con por ejemplo en la .
Uno de los ámbitos en que han aplicado esta tecnología es en las prestaciones sociales, tanto en la selección de beneficiarios de bonos como en la administración de las listas de espera en hospitales o los admitidos en procesos de selección escolar. Pero ¿quién asegura que estos sistemas no tienen sesgos de género, raciales, étnicos o sociales? ¿Quién le explica a una madre por qué su hijo no fue seleccionado en el colegio que quería y qué datos tomó en cuenta la IA? ¿O a una empresa por qué su proyecto fue rechazado por el Estado? A eso se le suma otra pregunta clave relacionada: ¿cómo se protegen los datos personales de los postulantes?
Proyectar respuestas con soluciones concretas ante esto, fue la visión que tuvo el laboratorio de innovación pública de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), GobLab, con su proyecto Algoritmos Éticos, Responsables y Transparentes, el que se dio a conocer en 2020 en Chile. Coincidiendo con el lanzamiento a fines de 2019 de fAIr LAC -la iniciativa para promover el uso ético de la IA en América Latina y el Caribe- la directora del GobLab de la UAI y líder del proyecto, María Paz Hermosilla gestionó conversaciones con el laboratorio de innovación del Banco Interamericano de Desarrollo, BID Lab, para conseguir apoyo financiero y desarrollar un proyecto que solucionara ese dolor. Y las compras públicas fueron el punto de partida.
“Nos pareció interesante que el proyecto se centrara en éstas. Identificamos ahí una oportunidad de fomentar la colaboración público-privada, sensibilizar y formar capacidades en IA ética y desarrollar herramientas concretas para asegurar un impacto positivo en la sociedad”, explica la especialista líder de BID Lab, Carolina Carrasco.
Así, luego de que Chile Compra se uniera formalmente al proyecto en 2020, se sumaron nuevos colaboradores: la División de Gobierno Digital, el Consejo para la Transparencia, el Ministerio de Ciencia, y Magical, una aceleradora de negocios de startups.
A cuatro años de su partida, la iniciativa pionera en Latinoamérica, ha producido instrumentos innovadores y replicables para toda la región.
Protección de los ciudadanos
Hay un hito clave en el proyecto de Algoritmos Éticos, Responsables y Transparentes y que será una medida pionera en Latinoamérica: la aprobación por parte de la Contraloría General de la República de las bases estandarizadas para las compras de servicios de ciencia de datos y de IA por parte del Estado, elaboradas por ChileCompra en el marco de la iniciativa de GobLab.
Estas bases establecen, por primera vez, requisitos rigurosos de transparencia, equidad y protección de datos con el fin de garantizar que los servicios públicos puedan licitar, por ejemplo, modelos predictivos, algoritmos de asignación de beneficios o sistemas de personalización de usuarios sin sesgos ni opacidad. “Eso no solo mejora la eficiencia en las adquisiciones gubernamentales, sino que también fortalece la confianza ciudadana en la gestión pública y fomenta la igualdad de oportunidades para proveedores y contratistas”, dice Hermosilla.
El analista de la División de Estudios e Inteligencia de Negocios de Chile Compra, David Escobar, explica que la entidad tiene la responsabilidad de establecer políticas y directrices de compra, emitiendo bases y recomendaciones que aseguren la protección de la información ciudadana y la transparencia. “En el caso de Algoritmos Éticos, se busca que las compras (con IA) consideren la revisión de posibles sesgos para evitar que afecten negativamente a los ciudadanos, asegurando que los recursos públicos se asignen de manera justa y sin discriminación”, dice.
Otro instrumento pionero, realizado en colaboración con el Consejo para la Transparencia, es el “Instructivo General de Transparencia Algorítmica” para el cual se encuestaron más de 800 organismos públicos sobre el uso de algoritmos y se estudió cómo integrar la transparencia algorítmica en la regulación chilena. “Con el apoyo del BID Lab, se desarrolló un borrador, que se pilotó con siete algoritmos de cuatro organismos públicos y se publicó la norma definitiva en 2023, la primera en América Latina en regular esta materia.”, afirma la directora de GobLab de la UAI.
La División de Gobierno Digital, en tanto, colaboró en la confección la guía «Formulación Ética de Proyectos de Ciencia de Datos” que entrega herramientas a funcionarios públicos para abordar los desafíos legales y éticos en sistemas de inteligencia artificial. “Los datos son un activo estratégico para la gestión pública, permitiendo agilizar la entrega de bienes y servicios y anticiparse a las necesidades de los usuarios con herramientas como la inteligencia artificial. Un ejemplo es el Instituto de Previsión Social, que realiza pagos de beneficios directamente mediante la integración de datos, eliminando la necesidad de que las personas postulen. El desarrollo de herramientas concretas, como las de este proyecto, ayuda a las instituciones a cumplir estándares mínimos, asegurando la transparencia y la mitigación de sesgos en los algoritmos «, dice Kareen Scharmm, coordinadora de Políticas y Estudios de la División de Gobierno Digital.
INVERSORES Y AUDITORIAS
El Ministerio de Ciencia, Tecnología, Conocimiento e Innovación participó en la creación de la metodología experimental fAIr Venture que evalua los riesgos éticos y efectos sociales en inversiones tecnológicas de IA. “Nuestro rol como servicio público es garantizar que los algoritmos sean equitativos, que no reproduzcan sesgos, que no realicen discriminaciones arbitrarias, en el fondo que no atenten contra los derechos fundamentales de las personas. Y para el mundo privado esto también es importante, porque los principales proveedores del sistema público de estas tecnologías son ellos.”, dice Alondra Arellano asesora de gabinete en Inteligencia Artificial del ministerio.
La segunda etapa del proyecto, iniciada en julio de 2023 con fondos de la Agencia Nacional de Investigación y Desarrollo, se extenderá hasta 2025. El equipo de GobLab ya lanzó dos herramientas: una «Ficha de transparencia algorítmica» y una «Medición de sesgos y equidad estadística» que permitirán realizar una especie de auditoría a los algoritmos de sistemas funcionando en el sistema público. “Se usarán herramientas específicas para evaluar los algoritmos en desarrollo, permitiendo a las instituciones determinar su transparencia y detectar posibles sesgos que requieran ajustes. Estas herramientas se aplicarán en varios pilotos, asegurando que los algoritmos cumplan con un marco normativo mínimo”, cuenta Scharmm.
Aunque el BID ya no es parte formal de esta segunda etapa, Carolina Carrasco, indica que seguirán apoyándolo desde fAIr LAC, pues están convencidos de que favorecer este tipo de trabajo colaborativo puede acelerar el impacto social, mejorar la calidad de vida y promover el crecimiento económico en la región. “Algoritmos Éticos de la UAI es un tremendo referente. Ya han demostrado un camino claro con instrumentos que son aplicables en cualquier geografía. Con fAIr LAC ahora estamos buscando cómo hacer la adopción de estas herramientas en otros países de la región.».
