GIGAPP Estudios Working Papers

Presentación de número: Retos de la gobernanza de datos y de inteligencia artificial en el sector público Iberoamericano

Juan David Gutiérrez, Dr. — 2023-09-25

El sector público de Iberoamérica enfrenta nuevos desafíos en relación con la gobernanza de datos y el uso de sistemas de decisión automatizada (SDA). Por una parte, los Estados cada vez recolectan y generan un volumen más grande y variado de datos en el ejercicio de sus funciones. Por otra parte, cada vez más entidades públicas nacionales y subnacionales de Iberoamérica están adoptando SDA para el cumplimiento de sus funciones. Los SDA incluyen algoritmos sencillos (basados en reglas) que automatizan total o parcialmente la toma de decisiones, así como sistemas de inteligencia artificial (IA) basados métodos y técnicas de aprendizajes automatizados (machine learning) y procesamiento de lenguaje natural, entre otros. Estos retos de la gobernanza de datos y de IA en el sector público Iberoamericano son abordados por los artículos que componen este número especial de Estudios Working Papers GIGAPP. Este editorial introduce los cinco textos que abordan diversas temáticas: evaluaciones de impacto algorítmicas; políticas de promoción de la IA; adopción de SDA en el sector público; transparencia y acceso a la información pública; y, políticas de uso de IA en contextos académicos. Los artículos, fueron escritos por académicas y académicos de diferentes nacionalidades e incluyen casos de estudio de Colombia, Ecuador, y España.

Las evaluaciones de impacto algorítmico: Una visión más allá de la ética

María Lorena Flórez Rojas, Dra. — 2023-09-25

Los sistemas que utilizan la inteligencia artificial (IA) serán la norma del futuro. Sin embargo, la intervención humana es crucial a la hora de considerar las cuestiones éticas y legales basadas en los juicios de estos sistemas. La preocupación es sobre cómo usar, desarrollar e investigar la IA con un enfoque social a través de los análisis de impacto algorítmico (AIA). Esta metodología contribuye a una evaluación de los posibles riesgos asociados de la IA. Todas las organizaciones pueden aprovechar esta metodología para aumentar la confianza en las aplicaciones de IA. A pesar del esfuerzo por integrar estas estrategias de autorregulación, en algunas industrias, los principios éticos se quedan cortos en su aplicación. El documento analiza la metodología de AIA y del beneficio social a partir del análisis de un toolkit ético legal que se testeó para hacer un llamado a los reguladores a concretar reglas y estándares sobre las implicaciones de esta tecnología.

Influencia de las políticas de promoción de la Inteligencia Artificial de la UE en el proceso modernizador de las Administraciones Públicas españolas

Elena Casarrubios Blanco — 2023-09-25

El objetivo de este trabajo es exponer la forma en que la Unión Europea ha llevado a cabo la política de promoción de inteligencia artificial, en el marco del proceso modernizador de las Administraciones públicas en España, y más concretamente, de la Administración General del Estado español. La evolución de la innovación tecnológica asociada a esta tecnología data de principios del siglo actual. Su implantación en la Administración pública española lleva un camino paralelo al de la implantación en la Unión Europea, principalmente porque la tendencia de este modelo de innovación es que esté vinculada a los cambios en los ámbitos económico, político y social que sugiere su utilización, por la trasposición de directivas para su implantación (que también es característica de este modelo), y porque se puede considerar una tecnología inspiradora de nuevos avances en la forma de relacionar a las administraciones con ciudadanos y empresas. Son estos argumentos importantes para su consideración como motor de las políticas de promoción actuales de las Tecnologías de la Información y las Comunicaciones, no solo por ser tendencia en el mercado, sino porque de su buena adaptación depende que su gran potencial llegue a ser una realidad en el día a día de las administraciones.

Adopción de sistemas de decisión automatizada en el sector público: Cartografía de 113 sistemas en Colombia

Juan David Gutiérrez, Dr. — 2023-09-25

La literatura sobre el uso de sistemas de decisión automatizada (SDA) en el sector público ha dado cuenta de su creciente adopción en América Latina. En el caso de Colombia, no existen trabajos que mapeen y caractericen de forma sistemática el uso de SDA por parte del Estado. Este artículo contribuye a cerrar esa brecha en la literatura a partir del análisis de una nueva base de datos sobre 113 SDA de entidades del sector público colombiano, de los cuales 97 se encuentran en funcionamiento (86%), 14 en pilotaje (12%) y dos más que fueron descontinuados. La base de datos caracteriza los sistemas a partir de 40 variables y fue creada con más de 300 fuentes de información pública. Este artículo describe las principales características, usos y potenciales beneficios de estos sistemas en Colombia. Identificamos sistemas implementados por 51 entidades públicas nacionales y subnacionales del poder ejecutivo, así como por entidades de la rama judicial y de organismos de control. El grueso de los 111 sistemas que están en etapa de pilotaje o en ejecución fueron adoptados por entidades públicas del orden nacional (74%) y la gran mayoría fueron implementados por entidades del poder público ejecutivo (93%). Los SDA son usados para realizar una amplia gama de funciones y para apoyar diferentes tipos de actividades estatales, pero más de la mitad de los sistemas son usados para apoyar actividades de los sectores justicia (18%), educación (17%), y medio ambiente (13%). Además, la mayoría de los SDA pueden aportar a la implementación de políticas públicas (el 98%), pero algunos también pueden contribuir con otras fases del ciclo de las políticas públicas (12% al agendamiento, 18% a formulación y 2% a evaluación). Finalmente, el artículo identifica potenciales riesgos asociados al uso de diferentes tipos de SDA por parte entidades públicas.

Estado de la transparencia y acceso a la información pública en Ecuador pos-pandemia

Irma Jara Iñiguez, Dra. — 2023-09-25

En Ecuador la primera ley orgánica de transparencia y acceso a la información pública estuvo vigente en el periodo 2004-2023. Para este periodo, no existe evidencia identificada por el ente garante o la academia sobre la utilidad de la información publicada para la incidencia ciudadana en la co-gestión o el control social. En este escenario, se aprobó una nueva ley que considera varios aspectos del modelo de la OEA, pero que aún presenta vacíos para responder a las actuales necesidades. El estudio tiene como propósito identificar los cambios en las demandas de información en el último quinquenio que -bajo la nueva ley- podrían ser atendidos desde la transparencia focalizada. Para el efecto, se aplica una investigación descriptiva con enfoque cualitativo. Se realiza un análisis documental y la revisión de las solicitudes de acceso para la Presidencia de la República. Se identifica que actualmente se requiere información específica y útil para la toma de decisiones.

Lineamientos para el uso de inteligencia artificial en contextos universitarios

Juan David Gutiérrez, Dr. — 2023-09-25

Este instrumento ofrece una orientación a profesores y estudiantes para que el uso de inteligencia artificial (IA) en contextos universitarios sea informado, transparente, ético, y responsable. Los Lineamientos proponen reglas, principios y ejemplos que son aplicables para las actividades peda-gógicas realizadas dentro y fuera del aula. El texto está precedido de un preámbulo que busca poner en contexto al lector mediante una breve explicación sobre la historia de la formulación y desarrollo de los Lineamientos. El instrumento está dividido en siete secciones: (1) introducción, (2) objetivos, (3) reglas de uso dentro y fuera del aula, (4) justificación de las reglas, (5) otros recursos para profesores/as, (6) apertura a futuros cambios, y (7) cambios respecto de anteriores versiones de los lineamientos. Aunque los lineamientos son pertinentes para el uso de cualquier tipo de IA, sus reglas se enfocan en el uso de chatbots –tales como ChatGPT, Bing, Claude, y Bard, entre otros– que permiten a los estudiantes acceder a los modelos de lenguaje a gran escala. El objetivo de los lineamientos es convertirse en un recurso útil para quienes precisen de un documento fundamentado, comprehensivo, y estandarizado que permita establecer guías de trabajo claras respecto del uso de IA en la universidad.