Adoption of automated decision-making systems in the public sector: Mapping of 113 systems in Colombia
Keywords:
automated decision systems, public algorithms, artificial intelligence, public administration, Colombia
Abstract
Literature review on the use of automated decision systems (ADS, SDA in spanish) in the public sector shows its growing adoption in Latin America. In the case of Colombia, there are no studies that systematically map and characterize the use of ADS by state entities and the national government. This article contributes to closing this gap in the literature based on the analysis of a new database on 113 SDAs of Colombian public sector entities, of which 97 are in operation (86%), 14 in piloting (12%), and two more that were discontinued. Database includes 40 variables and was created with more than 300 sources of public information. This article describes the main characteristics, uses and potential benefits of these systems in Colombia. We identified systems implemented by 51 national and subnational public entities of the executive branch, as well as by entities of the judicial branch and control agencies. The bulk of the 111 systems that are in the pilot stage or in execution were adopted by national public entities (74%) and the vast majority were implemented by entities of the executive branch (93%). SDAs are used to perform a wide range of functions and to support different types of state activities, but more than half of the systems are used to support activities in the justice (18%), education (17%), and media sectors. environment (13%). In addition, most of the SDAs can contribute to the implementation of public policies (98%), but some can also contribute to other phases of the public policy cycle (12% to agenda setting, 18% to formulation, and 2% to evaluation stage). Finally, the article identifies potential risks associated with the use of different types of SDA by public entities.
Downloads
Download data is not yet available.
References
AgataData. (s/f). ¿Qué hacemos? - AgataData. Recuperado el 25 de octubre de 2022, de https://agatadata.com/queHacemos.html
Agudelo Londoño, S. (2022). Inteligencia Artificial en el proceso penal: Análisis a la luz del fiscal Watson. Pensamiento Jurídico, 1(54). https://revistas.unal.edu.co/index.php/peju/article/view/96091
Alcaldía de Armenia. (2022, junio 6). $2.000 millones pondrían a Armenia a la altura de grandes capitales inteligentes—Alcaldía de Armenia. https://www.armenia.gov.co/atencion-al-ciudadano/noticias/2-000-millones-pondrian-a-armenia-a-la-altura-de-grandes-capitales-inteligentes
AlgorithmWatch & Bertelsmann Stiftung. (2019). Automating Society: Taking Stock of Automated Decision Making in the EU (1a ed.). AW AlgorithmWatch gGmbH. www.algorithmwatch.org/automating-society
Aránguiz Villagrán, M. (2022). Auditoría algorítmica para sistemas de toma o soporte de decisiones. BID. https://publications.iadb.org/publications/spanish/viewer/Auditoria-algoritmica-para-sistemas-de-toma-o-soporte-de-decisiones.pdf
Araujo, T., Helberger, N., Kruikemeier, S., & de Vreese, C. H. (2020). In AI we trust? Perceptions about automated decision-making by artificial intelligence. AI & SOCIETY, 35(3), 611–623. https://doi.org/10.1007/s00146-019-00931-w
Berryhill, J., Heang, K. K., Clogher, R., & Keegan McBride. (2019). Hola, Mundo: La inteligencia artificial y su uso en el sector público (Vol. 36). https://doi.org/10.1787/726fd39d-en
CAF. (2021). Experiencia: Datos e Inteligencia Artificial en el sector público. CAF. http://scioteca.caf.com/handle/123456789/1793
Calderon-Valencia, F., Perez-Montoya, J.-J., & De Morais, F. S. (2021). Sistemas de IA en la experiencia del Supremo Tribunal Federal Brasileño y la Corte Constitucional Colombiana: Análisis Prospectivo. Law, State and Telecommunications Review, 13(1), 143–169. https://doi.org/10.26512/lstr.v13i1.35614
Camacho Gutiérrez, O. L., Castañeda Gómez, J. D., & Saavedra Rionda, V. P. (2019). Colombia. Enthusiasm and complexity: Learning from the "PROMETEA” pilot in Colombia’s Judicial System. En APC, Sida, & Article 19, Global information society watch 2019: Artificial intelligence: Human rights, social justice and development (pp. 113–116).
Camacho Gutiérrez, O. L., & Saavedra Rionda, V. P. (2021). El acercamiento del sector público a la IA: la divergencia entre la expectativa y la realidad. En G. A. Dobratinich (Ed.), Derecho y nuevas tecnologías (1a ed.). La Ley.
Castaño, D. (2021). Marco analítico exploratorio—República de Colombia. En C. Aguerre & G. Bustos Frati (Eds.), Preparación del sector judicial para la inteligencia artificial en América Latina (compilación) (pp. 3–100). Centro de Estudios en Tecnología y Sociedad (CETyS) de la Universidad de San Andrés. https://www.researchgate.net/publication/360849506_Preparacion_del_sector_judicial_para_la_inteligencia_artificial_en_America_Latina_compilacion
Centro de Innovación Pública Digital. (2022). Estrategia de Seguimiento: Soluciones basadas en Inteligencia Artificial 2020. https://gobiernodigital.mintic.gov.co/692/articles-210416_recurso_8.pdf
Centro de Innovación Pública Digital. (2020). Ejercicios de innovación basados en Inteligencia Artificial. https://gobiernodigital.mintic.gov.co/portal/Centro-de-Innovacion-Publica-Digital/Proyectos/#data=%7B%22filter%22:%22412572%22,%22page%22:1%7D
Cepeda Espinoza, M. J., & Otálora Lozano, G. (2020). Modernización de la administración de justicia a través de la inteligencia artificial. FEDESARROLLO. https://www.repository.fedesarrollo.org.co/bitstream/handle/11445/3980/Repor_Julio_2020_Cepeda_y_Otálora.pdf?sequence=3&isAllowed=y
Cetina, C., Garay Salamanca, L. J., Salcedo-Albarán, E., & Vanegas, S. (2021). La analítica de redes como herramienta de integridad: El caso de la Procuraduría General de la Nación en Colombia (Policy Brief # 22) [WorkingPaper]. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1675
Chenou, J.-M., & Rodríguez Valenzuela, L. E. (2021). Habeas Data, Habemus Algorithms: Algorithmic Intervention in Public Interest Decision-Making in Colombia. Law, State and Telecommunications Review, 13(2), 56–77. https://doi.org/10.26512/lstr.v13i2.34113
CPAETD. (2021). ¿Cómo vamos avanzando en la transformación digital? DAPRE.
DANE. (2020). Clasificación de las funciones del gobierno (COFOG). https://www.dane.gov.co/files/sen/nomenclatura/cofog/COFOG-AC.pdf
Desouza, K. C., Dawson, G. S., & Chenok, D. (2020). Designing, developing, and deploying artificial intelligence systems: Lessons from and for the public sector. Business Horizons, 63(2), 205–213. https://doi.org/10.1016/j.bushor.2019.11.004
El Tiempo. (2022, junio 20). Las cuatro innovaciones para la defensa en demandas contra la nación. El Tiempo. https://www.eltiempo.com/justicia/servicios/las-cuatro-innovaciones-para-la-defensa-en-demandas-contra-la-nacion-681660
Estevadeordal, A., Beliz, G., Estevez, E., Ovanessoff, A., Plastino, E., Rao, A., Diamond, P., Barral, W., Petrus, G., Donaldson, D., Vashistha, A., Vashistha, A., Herrera, M., Heymann, D., Mira, P., Chesñevar, C., Lakhani, K., Tinn, P., Lin, M., … Gillam, M. (2018). Algoritmolandia: Inteligencia artificial para una integración predictiva e inclusiva de América Latina (1a ed.). Planeta. https://publications.iadb.org/publications/spanish/document/Revista-Integración--Comercio-Año-22-No-44-Julio-2018-Algoritmolandia-inteligencia-artificial-para-una-integración-predictiva-e-inclusiva-de-América-Latina.pdf
Fiscalía General de la Nación. (2019). Informe Rendición de cuentas (2018-2019) Fiscalía General de la Nación. https://www.fiscalia.gov.co/colombia/wp-content/uploads/FGN.-Informe-de-gestio%CC%81n.-Versio%CC%81n-final.pdf
Flórez Rojas, M. L., & Vargas Leal, J. (2020). El impacto de herramientas de inteligencia artificial: Un análisis en el sector público en Colombia. En C. Aguerre (Ed.), Inteligencia Artificial en América Latina y el Caribe. Ética, Gobernanza y Políticas. CETyS Universidad de San Andrés. https://guia.ai/wp-content/uploads/2020/05/GECTI-El-impacto-de-herramientas-de-inteligencia-artificial.pdf
Gallego, J., Prem, M., & Vargas, J. F. (2022). Predicting politicians’ misconduct: Evidence from Colombia. Data & Policy, 4. Cambridge Core. https://doi.org/10.1017/dap.2022.35
Gallego, J., Rivero, G., & Martínez, J. (2021). Preventing rather than punishing: An early warning model of malfeasance in public procurement. International Journal of Forecasting, 37(1), 360–377. https://doi.org/10.1016/j.ijforecast.2020.06.006
Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB UAI. Consejo para la Transparencia. https://goblab.uai.cl/wp-content/uploads/2021/10/ESTUDIO-TRANSPARENCIA-ALGORITMICA-EN-EL-SECTOR-PUBLICO-GOBLAB-CPLT-final....pdf
Gobierno Nacional de Colombia. (s/f). Dashboard de seguimiento al Marco Ético de Inteligencia Artificial. Recuperado el 27 de diciembre de 2022, de https://inteligenciaartificial.gov.co/dashboard-IA/
GobLab UAI. (2022). Repositorio de algoritmos públicos de Chile. Primer informe de estado de uso de algoritmos en el sector público. Universidad Adolfo Ibáñez (UAI). https://goblab.uai.cl/wp-content/uploads/2022/02/Primer-Informe-Repositorio-Algoritmos-Publicos-en-Chile.pdf
GobLab UAI. (2023). Repositorio Algoritmos Públicos. Informe Anual 2023. Universidad Adolfo Ibáñez (UAI).
GOV.CO. (2021). Datos Abiertos. Datos Abiertos. https://herramientas.datos.gov.co/taxonomy/term/501?page=0
Gutiérrez, J. D. (2020). Retos éticos de la inteligencia artificial en el proceso judicial. En ICDP (Ed.), Derecho Procesal. #NuevasTendencias. XLI Congreso Colombiano de Derecho Procesal. Instituto Colombiano de Derecho Procesal (ICDP) y Universidad Libre. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4011179
Gutiérrez, J. D. (2023a). ¿Están los jueces en capacidad de usar modelos de lenguaje a gran escala (LLMs)? Revista EXCEJLENCIA, 7, 10–15.
Gutiérrez, J. D. (2023b). Hablemos sobre el uso de ChatGPT para redactar decisiones judiciales. La Silla Vacía. https://juangutierrez.co/publicaciones/otras-publicaciones/#:~:text=Hablemos%20sobre%20el%20uso%20de%20ChatGPT%20para%20redactar%20decisiones%20judiciales
Gutiérrez, J. D. (2023c, febrero 23). ChatGPT in Colombian Courts: Why we need to have a conversation about the digital literacy of the judiciary. VerfBlog. https://verfassungsblog.de/colombian-chatgpt/
Gutiérrez, J. D. (2023d, julio 6). Repositorios y registros públicos de algoritmos. Foro Administración, Gestión y Política Pública. https://forogpp.com/inteligencia-artificial/repositorios-y-registros-de-algoritmos/
Gutiérrez, J. D., & Dajer, D. M. (2023). Pensamiento de diseño y procesos de política pública. Desafíos, 35(1), 1–27.
Gutiérrez, J. D., & Muñoz-Cadena, S. (2022). Sistemas de decisión automatizada implementados por el Estado Colombiano. 32. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4294032
Gutiérrez, J. D., & Muñoz-Cadena, S. (2023). Assessing Government Design Practices from a Human-Centered Perspective: Case Study of an Improved Cookstoves Program in Colombia. Desafíos, 35(1), 1–38.
Gutiérrez, J. D., Muñoz-Cadena, S., & Castellanos-Sánchez, M. (2023). Sistemas de decisión automatizada en el sector público colombiano (Versión V1) [Data set]. Universidad del Rosario. https://doi.org/10.34848/YN1CRT
Gutiérrez-Ossa, J. A., & Flórez-Hernández, I. C. (2020). Inteligencia Artificial (IA) Aplicada en el Sistema Judicial en Colombia. Derecho y Realidad, 18(35), 53–80. https://doi.org/10.19053/16923936.v18.n35.2020.9638
ICBF (Director). (2020, agosto 27). Conoce cómo funciona el Asistente de Adopciones (ADA). https://www.youtube.com/watch?v=iL7mf0Swxx8
ICETEX. (2019). Gestión de accesos y retiro de servicios (Gestión de servicios tecnológicos Versión 11). https://web.icetex.gov.co/documents/20122/144117/Gestion+de+acceso+y+retiro+de+servicios+v11.pdf
ICETEX. (2020, 12). Café con Oficina Comercial y de Mercadeo- 15 de diciembre de 2020 (Gestión del Conocimiento e innovación).https://web.icetex.gov.co/documents/20122/301689/Caf%25C3%25A9%2Bcon%2BOficina%2BComercial%2By%2Bde%2BMercadeo.docx
ICFES. (s/f). Icfes-Bot—Icfes. Recuperado el 27 de diciembre de 2022, de https://www2.icfes.gov.co/icfes-bot
Information Commissioner’s Office. (s/f). What is automated individual decision-making and profiling? https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/automated-decision-making-and-profiling/what-is-automated-individual-decision-making-and-profiling/#id2
Instituto Humboldt. (2023, febrero 23). Escuchar para resguardar los bosques. http://www.humboldt.org.co/es/boletines-y-comunicados/item/1813-escuchar-para-resguardar-los-bosques
Ivančić, L., Suša Vugec, D., & Bosilj Vukšić, V. (2019). Robotic Process Automation: Systematic Literature Review. En C. Di Ciccio, R. Gabryelczyk, L. García-Bañuelos, T. Hernaus, R. Hull, M. Indihar Štemberger, A. Kő, & M. Staples (Eds.), Business Process Management: Blockchain and Central and Eastern Europe Forum (Vol. 361, pp. 280–295). Springer International Publishing. https://doi.org/10.1007/978-3-030-30429-4_19
Kuziemski, M., & Misuraca, G. (2020). AI governance in the public sector: Three tales from the frontiers of automated decision-making in democratic settings. ScienceDirect. https://doi.org/DOI: 10.1016/j.telpol.2020.101976
López, J. (2020). Experimentando con la pobreza: El SISBÉN y los proyectos de analítica de datos en Colombia. Fundación KARISMA. https://web.karisma.org.co/wp-content/uploads/download-manager-files/Experimentando%20con%20la%20pobreza.pdf
López, J., & Castañeda, J. D. (2020). Automatización, tecnologías digitales y justicia social: La experimentación con la pobreza en Colombia. En Inteligencia Artificial en América Latina y el Caribe. Ética, gobernanza y políticas. CETyS Universidad de San Andres. https://proyectoguia.lat/wp-content/uploads/2020/05/Lopez-Casta%C3%B1eda-Automatizacion-tecnologias-digitales-y-justicia-social-la-experimentacion-con-la-pobreza-en-Colombia.pdf
Martínez, C. A. (2022, junio). Analítica de datos en el sector público: El poder de los datos. Quinto Encuentro de equipo transversal de gestión de conocimiento y la innovación. https://www.funcionpublica.gov.co/documents/37183536/41306203/2022-0616_Presentacion_completa_quinto_gescoi.pdf/b827772a-b3b1-ece8-a29c-3979ae971ecd?t=1655501285963
MinTIC. (2021). Ciudades y Territorios Inteligentes [Gubernamental]. Gobierno Digital. https://gobiernodigital.mintic.gov.co/portal/Iniciativas/Ciudades-y-Territorios-Inteligentes/
Misión de Expertos en IA de Colombia. (s/f). Casos de Uso | AprendeIA. Recuperado el 15 de agosto de 2022, de https://aprendeia.org/casos_de_uso
Misuraca, G., Van Noordt, C., & Boukli, A. (2020, septiembre 23). The use of AI in public services: Results from a preliminary mapping across the EU. Proceedings of the 13th International Conference on Theory and Practice of Electronic Governance (ICEGOV 2020), Athens, Greece. https://doi.org/10.1145/3428502.3428513
Mojica Muñoz, K. S. (2021). Inteligencia Artificial para Detectar Corrupción en la Administración Pública Municipal de Colombia. Universidad de los Andes, Facultad de Economía, CEDE, 31, 70.
Mojica Muñoz, K. S., Algarra Saavedra, P. A., & Peña Duarte, J. (2021). Artificial Intelligence to Prevent the Assassination of Human Rights Defenders.
Noticiero 90 Minutos. (2021, diciembre 9). Se hundió proyecto de “Cali Inteligente” en el Concejo. Noticiero 90 Minutos. https://90minutos.co/cali/se-hundio-proyecto-cali-inteligente-concejo-09-12-2021/
Nueva Crónica Quindio. (2022, junio 13). Armenia ahora será una ciudad inteligente con semáforos tecnológicos 800. Cronica del Quindio. https://cronicadelquindio.com/noticias/ciudad/armenia-ahora-sera-una-ciudad-inteligente-con-semaforos-tecnologicos-800
OCDE. (2017). Revisión de Gobierno Digital de Colombia. Hacia un sector público impulsado por el ciudadano. Hallazgos clave. OECD Publishing. https://www.oecd.org/gov/digital-government/Digital%20Gov%20Review%20Colombia%20[Esp]%20def.pdf
OECD. (2022a). OECD Framework for the Classification of AI systems. OECD. https://doi.org/10.1787/cb6d9eca-en
OECD. (2022b). Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe. Organisation for Economic Co-operation and Development. https://www.oecd-ilibrary.org/governance/uso-estrategico-y-responsable-de-la-inteligencia-artificial-en-el-sector-publico-de-america-latina-y-el-caribe_5b189cb4-es
OECD & CAF. (2022). The Strategic and Responsible Use of Artificial Intelligence in the Public Sector of Latin America and the Caribbean. OECD Public Governance Reviews, OECD Publishing. https://www.oecd-ilibrary.org/governance/the-strategic-and-responsible-use-of-artificial-intelligence-in-the-public-sector-of-latin-america-and-the-caribbean_1f334543-en
OECD, & OPSI. (s/f). Tracking potential tax evaders on Instagram. Observatory of Public Sector Innovation. Recuperado el 27 de diciembre de 2022, de https://oecd-opsi.org/innovations/tracking-potential-tax-evaders-on-instagram/
Ortega Rance, G. (2021). La digitalización como estrategia para la calidad regulatoria: Aprendizajes de la iniciativa de transformación digital de la Superintendencia de Sociedades de Colombia (Policy Brief # 29) [WorkingPaper]. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1784
Peeters, R., & Widlak, A. C. (2023). Administrative exclusion in the infrastructure-level bureaucracy: The case of the Dutch daycare benefit scandal. Public Administration Review, n/a(n/a). https://doi.org/10.1111/puar.13615
People Contact (Director). (2021, septiembre 24). Prediccion de pasajeros | Cable aéreo | Manizales. https://www.youtube.com/watch?v=xQOY3o0uxzM
Pittsburgh Task Force on Public Algorithms. (2022). Report of the Pittsburgh Task Force on Public Algorithms. University of Pittsburgh. https://www.cyber.pitt.edu/sites/default/files/pittsburgh_task_force_on_public_algorithms_report.pdf
Price, J. F. (2012). Wagging, not barking: Statutory definitions. Cleveland State Law Review, 60(4).
Procuraduría General de la Nación. (2020). Informe relatoria actuación preventiva -Sistema de Ciberinteligencia basado en inteligencia artificial para la DIPOL. https://apps.procuraduria.gov.co/gp/gp/anexos/ciberseguridad_informe_relatoria.pdf
Reis, J., Santo, P. E., & Melão, N. (2019). Artificial Intelligence in Government Services: A Systematic Literature Review. En Á. Rocha, H. Adeli, L. P. Reis, & S. Costanzo (Eds.), New Knowledge in Information Systems and Technologies (Vol. 930, pp. 241–252). Springer International Publishing. https://doi.org/10.1007/978-3-030-16181-1_23
Richardson, R. (2022). Defining and Demystifying Automated Decision Systems. Maryland law review (1936), 81(785).
Saavedra, S. (2022). Technology and State Capacity: Experimental Evidence from Illegal Mining in Colombia. Red Investigadores de Economía. Documento de Trabajo. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3933128
Santiso, C., & Cetina, C. (2022). DIGIntegridad: La transformación digital de la lucha contra la corrupción. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1901
SENA. (2021, noviembre 24). Proyectos Transformación Digital. https://www.sena.edu.co/es-co/transparencia/FURAG2/Forms/AllItems.aspx
Sousa, W. G. de, Melo, E. R. P. de, Bermejo, P. H. D. S., Farias, R. A. S., & Gomes, A. O. (2019). How and where is artificial intelligence in the public sector going? A literature review and research agenda. Government Information Quarterly, 36(4), 101392. https://doi.org/10.1016/j.giq.2019.07.004
Torres-Melo, J., & Santander, J. (2013). Introducción a las Políticas Públicas: Conceptos y Herramientas Desde la Relación Entre Estado y Ciudadanía. Instituto de Estudios del Ministerio Público, Procuraduría General de la Nación.
Directive on Automated Decision-Making, (2023). https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592
Unidad Administrativa Especial de Rehabilitación. (2022, mayo 17). Transformación digital. SIGMA. https://tic.bogota.gov.co/sites/default/files/imagenSimple/UNIDADDEMANTENIMIENTOVIAL.pdf
Valle-Cruz, D., Criado, J. I., Sandoval-Almazán, R., & Ruvalcaba-Gomez, E. A. (2020). Assessing the public policy-cycle framework in the age of artificial intelligence: From agenda-setting to policy evaluation. Government Information Quarterly, 37(4), 101509. https://doi.org/10.1016/j.giq.2020.101509
WaTech. (2021). Automated Decision Making Systems Workgroup Charter. https://watech.wa.gov/sites/default/files/public/privacy/ADS%20Workgroup%20Charter%20Final%207-2021.pdf
Wirtz, B. W., & Müller, W. M. (2019). An integrated artificial intelligence framework for public management. Public Management Review, 21(7), 1076–1100. https://doi.org/10.1080/14719037.2018.1549268
Zuiderwijk, A., Chen, Y.-C., & Salem, F. (2021). Implications of the use of artificial intelligence in public governance: A systematic literature review and a research agenda. Government Information Quarterly, 38(3), 101577. https://doi.org/10.1016/j.giq.2021.101577
Agudelo Londoño, S. (2022). Inteligencia Artificial en el proceso penal: Análisis a la luz del fiscal Watson. Pensamiento Jurídico, 1(54). https://revistas.unal.edu.co/index.php/peju/article/view/96091
Alcaldía de Armenia. (2022, junio 6). $2.000 millones pondrían a Armenia a la altura de grandes capitales inteligentes—Alcaldía de Armenia. https://www.armenia.gov.co/atencion-al-ciudadano/noticias/2-000-millones-pondrian-a-armenia-a-la-altura-de-grandes-capitales-inteligentes
AlgorithmWatch & Bertelsmann Stiftung. (2019). Automating Society: Taking Stock of Automated Decision Making in the EU (1a ed.). AW AlgorithmWatch gGmbH. www.algorithmwatch.org/automating-society
Aránguiz Villagrán, M. (2022). Auditoría algorítmica para sistemas de toma o soporte de decisiones. BID. https://publications.iadb.org/publications/spanish/viewer/Auditoria-algoritmica-para-sistemas-de-toma-o-soporte-de-decisiones.pdf
Araujo, T., Helberger, N., Kruikemeier, S., & de Vreese, C. H. (2020). In AI we trust? Perceptions about automated decision-making by artificial intelligence. AI & SOCIETY, 35(3), 611–623. https://doi.org/10.1007/s00146-019-00931-w
Berryhill, J., Heang, K. K., Clogher, R., & Keegan McBride. (2019). Hola, Mundo: La inteligencia artificial y su uso en el sector público (Vol. 36). https://doi.org/10.1787/726fd39d-en
CAF. (2021). Experiencia: Datos e Inteligencia Artificial en el sector público. CAF. http://scioteca.caf.com/handle/123456789/1793
Calderon-Valencia, F., Perez-Montoya, J.-J., & De Morais, F. S. (2021). Sistemas de IA en la experiencia del Supremo Tribunal Federal Brasileño y la Corte Constitucional Colombiana: Análisis Prospectivo. Law, State and Telecommunications Review, 13(1), 143–169. https://doi.org/10.26512/lstr.v13i1.35614
Camacho Gutiérrez, O. L., Castañeda Gómez, J. D., & Saavedra Rionda, V. P. (2019). Colombia. Enthusiasm and complexity: Learning from the "PROMETEA” pilot in Colombia’s Judicial System. En APC, Sida, & Article 19, Global information society watch 2019: Artificial intelligence: Human rights, social justice and development (pp. 113–116).
Camacho Gutiérrez, O. L., & Saavedra Rionda, V. P. (2021). El acercamiento del sector público a la IA: la divergencia entre la expectativa y la realidad. En G. A. Dobratinich (Ed.), Derecho y nuevas tecnologías (1a ed.). La Ley.
Castaño, D. (2021). Marco analítico exploratorio—República de Colombia. En C. Aguerre & G. Bustos Frati (Eds.), Preparación del sector judicial para la inteligencia artificial en América Latina (compilación) (pp. 3–100). Centro de Estudios en Tecnología y Sociedad (CETyS) de la Universidad de San Andrés. https://www.researchgate.net/publication/360849506_Preparacion_del_sector_judicial_para_la_inteligencia_artificial_en_America_Latina_compilacion
Centro de Innovación Pública Digital. (2022). Estrategia de Seguimiento: Soluciones basadas en Inteligencia Artificial 2020. https://gobiernodigital.mintic.gov.co/692/articles-210416_recurso_8.pdf
Centro de Innovación Pública Digital. (2020). Ejercicios de innovación basados en Inteligencia Artificial. https://gobiernodigital.mintic.gov.co/portal/Centro-de-Innovacion-Publica-Digital/Proyectos/#data=%7B%22filter%22:%22412572%22,%22page%22:1%7D
Cepeda Espinoza, M. J., & Otálora Lozano, G. (2020). Modernización de la administración de justicia a través de la inteligencia artificial. FEDESARROLLO. https://www.repository.fedesarrollo.org.co/bitstream/handle/11445/3980/Repor_Julio_2020_Cepeda_y_Otálora.pdf?sequence=3&isAllowed=y
Cetina, C., Garay Salamanca, L. J., Salcedo-Albarán, E., & Vanegas, S. (2021). La analítica de redes como herramienta de integridad: El caso de la Procuraduría General de la Nación en Colombia (Policy Brief # 22) [WorkingPaper]. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1675
Chenou, J.-M., & Rodríguez Valenzuela, L. E. (2021). Habeas Data, Habemus Algorithms: Algorithmic Intervention in Public Interest Decision-Making in Colombia. Law, State and Telecommunications Review, 13(2), 56–77. https://doi.org/10.26512/lstr.v13i2.34113
CPAETD. (2021). ¿Cómo vamos avanzando en la transformación digital? DAPRE.
DANE. (2020). Clasificación de las funciones del gobierno (COFOG). https://www.dane.gov.co/files/sen/nomenclatura/cofog/COFOG-AC.pdf
Desouza, K. C., Dawson, G. S., & Chenok, D. (2020). Designing, developing, and deploying artificial intelligence systems: Lessons from and for the public sector. Business Horizons, 63(2), 205–213. https://doi.org/10.1016/j.bushor.2019.11.004
El Tiempo. (2022, junio 20). Las cuatro innovaciones para la defensa en demandas contra la nación. El Tiempo. https://www.eltiempo.com/justicia/servicios/las-cuatro-innovaciones-para-la-defensa-en-demandas-contra-la-nacion-681660
Estevadeordal, A., Beliz, G., Estevez, E., Ovanessoff, A., Plastino, E., Rao, A., Diamond, P., Barral, W., Petrus, G., Donaldson, D., Vashistha, A., Vashistha, A., Herrera, M., Heymann, D., Mira, P., Chesñevar, C., Lakhani, K., Tinn, P., Lin, M., … Gillam, M. (2018). Algoritmolandia: Inteligencia artificial para una integración predictiva e inclusiva de América Latina (1a ed.). Planeta. https://publications.iadb.org/publications/spanish/document/Revista-Integración--Comercio-Año-22-No-44-Julio-2018-Algoritmolandia-inteligencia-artificial-para-una-integración-predictiva-e-inclusiva-de-América-Latina.pdf
Fiscalía General de la Nación. (2019). Informe Rendición de cuentas (2018-2019) Fiscalía General de la Nación. https://www.fiscalia.gov.co/colombia/wp-content/uploads/FGN.-Informe-de-gestio%CC%81n.-Versio%CC%81n-final.pdf
Flórez Rojas, M. L., & Vargas Leal, J. (2020). El impacto de herramientas de inteligencia artificial: Un análisis en el sector público en Colombia. En C. Aguerre (Ed.), Inteligencia Artificial en América Latina y el Caribe. Ética, Gobernanza y Políticas. CETyS Universidad de San Andrés. https://guia.ai/wp-content/uploads/2020/05/GECTI-El-impacto-de-herramientas-de-inteligencia-artificial.pdf
Gallego, J., Prem, M., & Vargas, J. F. (2022). Predicting politicians’ misconduct: Evidence from Colombia. Data & Policy, 4. Cambridge Core. https://doi.org/10.1017/dap.2022.35
Gallego, J., Rivero, G., & Martínez, J. (2021). Preventing rather than punishing: An early warning model of malfeasance in public procurement. International Journal of Forecasting, 37(1), 360–377. https://doi.org/10.1016/j.ijforecast.2020.06.006
Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB UAI. Consejo para la Transparencia. https://goblab.uai.cl/wp-content/uploads/2021/10/ESTUDIO-TRANSPARENCIA-ALGORITMICA-EN-EL-SECTOR-PUBLICO-GOBLAB-CPLT-final....pdf
Gobierno Nacional de Colombia. (s/f). Dashboard de seguimiento al Marco Ético de Inteligencia Artificial. Recuperado el 27 de diciembre de 2022, de https://inteligenciaartificial.gov.co/dashboard-IA/
GobLab UAI. (2022). Repositorio de algoritmos públicos de Chile. Primer informe de estado de uso de algoritmos en el sector público. Universidad Adolfo Ibáñez (UAI). https://goblab.uai.cl/wp-content/uploads/2022/02/Primer-Informe-Repositorio-Algoritmos-Publicos-en-Chile.pdf
GobLab UAI. (2023). Repositorio Algoritmos Públicos. Informe Anual 2023. Universidad Adolfo Ibáñez (UAI).
GOV.CO. (2021). Datos Abiertos. Datos Abiertos. https://herramientas.datos.gov.co/taxonomy/term/501?page=0
Gutiérrez, J. D. (2020). Retos éticos de la inteligencia artificial en el proceso judicial. En ICDP (Ed.), Derecho Procesal. #NuevasTendencias. XLI Congreso Colombiano de Derecho Procesal. Instituto Colombiano de Derecho Procesal (ICDP) y Universidad Libre. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4011179
Gutiérrez, J. D. (2023a). ¿Están los jueces en capacidad de usar modelos de lenguaje a gran escala (LLMs)? Revista EXCEJLENCIA, 7, 10–15.
Gutiérrez, J. D. (2023b). Hablemos sobre el uso de ChatGPT para redactar decisiones judiciales. La Silla Vacía. https://juangutierrez.co/publicaciones/otras-publicaciones/#:~:text=Hablemos%20sobre%20el%20uso%20de%20ChatGPT%20para%20redactar%20decisiones%20judiciales
Gutiérrez, J. D. (2023c, febrero 23). ChatGPT in Colombian Courts: Why we need to have a conversation about the digital literacy of the judiciary. VerfBlog. https://verfassungsblog.de/colombian-chatgpt/
Gutiérrez, J. D. (2023d, julio 6). Repositorios y registros públicos de algoritmos. Foro Administración, Gestión y Política Pública. https://forogpp.com/inteligencia-artificial/repositorios-y-registros-de-algoritmos/
Gutiérrez, J. D., & Dajer, D. M. (2023). Pensamiento de diseño y procesos de política pública. Desafíos, 35(1), 1–27.
Gutiérrez, J. D., & Muñoz-Cadena, S. (2022). Sistemas de decisión automatizada implementados por el Estado Colombiano. 32. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4294032
Gutiérrez, J. D., & Muñoz-Cadena, S. (2023). Assessing Government Design Practices from a Human-Centered Perspective: Case Study of an Improved Cookstoves Program in Colombia. Desafíos, 35(1), 1–38.
Gutiérrez, J. D., Muñoz-Cadena, S., & Castellanos-Sánchez, M. (2023). Sistemas de decisión automatizada en el sector público colombiano (Versión V1) [Data set]. Universidad del Rosario. https://doi.org/10.34848/YN1CRT
Gutiérrez-Ossa, J. A., & Flórez-Hernández, I. C. (2020). Inteligencia Artificial (IA) Aplicada en el Sistema Judicial en Colombia. Derecho y Realidad, 18(35), 53–80. https://doi.org/10.19053/16923936.v18.n35.2020.9638
ICBF (Director). (2020, agosto 27). Conoce cómo funciona el Asistente de Adopciones (ADA). https://www.youtube.com/watch?v=iL7mf0Swxx8
ICETEX. (2019). Gestión de accesos y retiro de servicios (Gestión de servicios tecnológicos Versión 11). https://web.icetex.gov.co/documents/20122/144117/Gestion+de+acceso+y+retiro+de+servicios+v11.pdf
ICETEX. (2020, 12). Café con Oficina Comercial y de Mercadeo- 15 de diciembre de 2020 (Gestión del Conocimiento e innovación).https://web.icetex.gov.co/documents/20122/301689/Caf%25C3%25A9%2Bcon%2BOficina%2BComercial%2By%2Bde%2BMercadeo.docx
ICFES. (s/f). Icfes-Bot—Icfes. Recuperado el 27 de diciembre de 2022, de https://www2.icfes.gov.co/icfes-bot
Information Commissioner’s Office. (s/f). What is automated individual decision-making and profiling? https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/automated-decision-making-and-profiling/what-is-automated-individual-decision-making-and-profiling/#id2
Instituto Humboldt. (2023, febrero 23). Escuchar para resguardar los bosques. http://www.humboldt.org.co/es/boletines-y-comunicados/item/1813-escuchar-para-resguardar-los-bosques
Ivančić, L., Suša Vugec, D., & Bosilj Vukšić, V. (2019). Robotic Process Automation: Systematic Literature Review. En C. Di Ciccio, R. Gabryelczyk, L. García-Bañuelos, T. Hernaus, R. Hull, M. Indihar Štemberger, A. Kő, & M. Staples (Eds.), Business Process Management: Blockchain and Central and Eastern Europe Forum (Vol. 361, pp. 280–295). Springer International Publishing. https://doi.org/10.1007/978-3-030-30429-4_19
Kuziemski, M., & Misuraca, G. (2020). AI governance in the public sector: Three tales from the frontiers of automated decision-making in democratic settings. ScienceDirect. https://doi.org/DOI: 10.1016/j.telpol.2020.101976
López, J. (2020). Experimentando con la pobreza: El SISBÉN y los proyectos de analítica de datos en Colombia. Fundación KARISMA. https://web.karisma.org.co/wp-content/uploads/download-manager-files/Experimentando%20con%20la%20pobreza.pdf
López, J., & Castañeda, J. D. (2020). Automatización, tecnologías digitales y justicia social: La experimentación con la pobreza en Colombia. En Inteligencia Artificial en América Latina y el Caribe. Ética, gobernanza y políticas. CETyS Universidad de San Andres. https://proyectoguia.lat/wp-content/uploads/2020/05/Lopez-Casta%C3%B1eda-Automatizacion-tecnologias-digitales-y-justicia-social-la-experimentacion-con-la-pobreza-en-Colombia.pdf
Martínez, C. A. (2022, junio). Analítica de datos en el sector público: El poder de los datos. Quinto Encuentro de equipo transversal de gestión de conocimiento y la innovación. https://www.funcionpublica.gov.co/documents/37183536/41306203/2022-0616_Presentacion_completa_quinto_gescoi.pdf/b827772a-b3b1-ece8-a29c-3979ae971ecd?t=1655501285963
MinTIC. (2021). Ciudades y Territorios Inteligentes [Gubernamental]. Gobierno Digital. https://gobiernodigital.mintic.gov.co/portal/Iniciativas/Ciudades-y-Territorios-Inteligentes/
Misión de Expertos en IA de Colombia. (s/f). Casos de Uso | AprendeIA. Recuperado el 15 de agosto de 2022, de https://aprendeia.org/casos_de_uso
Misuraca, G., Van Noordt, C., & Boukli, A. (2020, septiembre 23). The use of AI in public services: Results from a preliminary mapping across the EU. Proceedings of the 13th International Conference on Theory and Practice of Electronic Governance (ICEGOV 2020), Athens, Greece. https://doi.org/10.1145/3428502.3428513
Mojica Muñoz, K. S. (2021). Inteligencia Artificial para Detectar Corrupción en la Administración Pública Municipal de Colombia. Universidad de los Andes, Facultad de Economía, CEDE, 31, 70.
Mojica Muñoz, K. S., Algarra Saavedra, P. A., & Peña Duarte, J. (2021). Artificial Intelligence to Prevent the Assassination of Human Rights Defenders.
Noticiero 90 Minutos. (2021, diciembre 9). Se hundió proyecto de “Cali Inteligente” en el Concejo. Noticiero 90 Minutos. https://90minutos.co/cali/se-hundio-proyecto-cali-inteligente-concejo-09-12-2021/
Nueva Crónica Quindio. (2022, junio 13). Armenia ahora será una ciudad inteligente con semáforos tecnológicos 800. Cronica del Quindio. https://cronicadelquindio.com/noticias/ciudad/armenia-ahora-sera-una-ciudad-inteligente-con-semaforos-tecnologicos-800
OCDE. (2017). Revisión de Gobierno Digital de Colombia. Hacia un sector público impulsado por el ciudadano. Hallazgos clave. OECD Publishing. https://www.oecd.org/gov/digital-government/Digital%20Gov%20Review%20Colombia%20[Esp]%20def.pdf
OECD. (2022a). OECD Framework for the Classification of AI systems. OECD. https://doi.org/10.1787/cb6d9eca-en
OECD. (2022b). Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe. Organisation for Economic Co-operation and Development. https://www.oecd-ilibrary.org/governance/uso-estrategico-y-responsable-de-la-inteligencia-artificial-en-el-sector-publico-de-america-latina-y-el-caribe_5b189cb4-es
OECD & CAF. (2022). The Strategic and Responsible Use of Artificial Intelligence in the Public Sector of Latin America and the Caribbean. OECD Public Governance Reviews, OECD Publishing. https://www.oecd-ilibrary.org/governance/the-strategic-and-responsible-use-of-artificial-intelligence-in-the-public-sector-of-latin-america-and-the-caribbean_1f334543-en
OECD, & OPSI. (s/f). Tracking potential tax evaders on Instagram. Observatory of Public Sector Innovation. Recuperado el 27 de diciembre de 2022, de https://oecd-opsi.org/innovations/tracking-potential-tax-evaders-on-instagram/
Ortega Rance, G. (2021). La digitalización como estrategia para la calidad regulatoria: Aprendizajes de la iniciativa de transformación digital de la Superintendencia de Sociedades de Colombia (Policy Brief # 29) [WorkingPaper]. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1784
Peeters, R., & Widlak, A. C. (2023). Administrative exclusion in the infrastructure-level bureaucracy: The case of the Dutch daycare benefit scandal. Public Administration Review, n/a(n/a). https://doi.org/10.1111/puar.13615
People Contact (Director). (2021, septiembre 24). Prediccion de pasajeros | Cable aéreo | Manizales. https://www.youtube.com/watch?v=xQOY3o0uxzM
Pittsburgh Task Force on Public Algorithms. (2022). Report of the Pittsburgh Task Force on Public Algorithms. University of Pittsburgh. https://www.cyber.pitt.edu/sites/default/files/pittsburgh_task_force_on_public_algorithms_report.pdf
Price, J. F. (2012). Wagging, not barking: Statutory definitions. Cleveland State Law Review, 60(4).
Procuraduría General de la Nación. (2020). Informe relatoria actuación preventiva -Sistema de Ciberinteligencia basado en inteligencia artificial para la DIPOL. https://apps.procuraduria.gov.co/gp/gp/anexos/ciberseguridad_informe_relatoria.pdf
Reis, J., Santo, P. E., & Melão, N. (2019). Artificial Intelligence in Government Services: A Systematic Literature Review. En Á. Rocha, H. Adeli, L. P. Reis, & S. Costanzo (Eds.), New Knowledge in Information Systems and Technologies (Vol. 930, pp. 241–252). Springer International Publishing. https://doi.org/10.1007/978-3-030-16181-1_23
Richardson, R. (2022). Defining and Demystifying Automated Decision Systems. Maryland law review (1936), 81(785).
Saavedra, S. (2022). Technology and State Capacity: Experimental Evidence from Illegal Mining in Colombia. Red Investigadores de Economía. Documento de Trabajo. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3933128
Santiso, C., & Cetina, C. (2022). DIGIntegridad: La transformación digital de la lucha contra la corrupción. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1901
SENA. (2021, noviembre 24). Proyectos Transformación Digital. https://www.sena.edu.co/es-co/transparencia/FURAG2/Forms/AllItems.aspx
Sousa, W. G. de, Melo, E. R. P. de, Bermejo, P. H. D. S., Farias, R. A. S., & Gomes, A. O. (2019). How and where is artificial intelligence in the public sector going? A literature review and research agenda. Government Information Quarterly, 36(4), 101392. https://doi.org/10.1016/j.giq.2019.07.004
Torres-Melo, J., & Santander, J. (2013). Introducción a las Políticas Públicas: Conceptos y Herramientas Desde la Relación Entre Estado y Ciudadanía. Instituto de Estudios del Ministerio Público, Procuraduría General de la Nación.
Directive on Automated Decision-Making, (2023). https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592
Unidad Administrativa Especial de Rehabilitación. (2022, mayo 17). Transformación digital. SIGMA. https://tic.bogota.gov.co/sites/default/files/imagenSimple/UNIDADDEMANTENIMIENTOVIAL.pdf
Valle-Cruz, D., Criado, J. I., Sandoval-Almazán, R., & Ruvalcaba-Gomez, E. A. (2020). Assessing the public policy-cycle framework in the age of artificial intelligence: From agenda-setting to policy evaluation. Government Information Quarterly, 37(4), 101509. https://doi.org/10.1016/j.giq.2020.101509
WaTech. (2021). Automated Decision Making Systems Workgroup Charter. https://watech.wa.gov/sites/default/files/public/privacy/ADS%20Workgroup%20Charter%20Final%207-2021.pdf
Wirtz, B. W., & Müller, W. M. (2019). An integrated artificial intelligence framework for public management. Public Management Review, 21(7), 1076–1100. https://doi.org/10.1080/14719037.2018.1549268
Zuiderwijk, A., Chen, Y.-C., & Salem, F. (2021). Implications of the use of artificial intelligence in public governance: A systematic literature review and a research agenda. Government Information Quarterly, 38(3), 101577. https://doi.org/10.1016/j.giq.2021.101577
Published
2023-09-25
How to Cite
Gutiérrez, J. D., & Muñoz-Cadena, S. (2023). Adoption of automated decision-making systems in the public sector: Mapping of 113 systems in Colombia. GIGAPP Estudios Working Papers, 10(267-272), 365-395. Retrieved from https://gigapp.org/ewp/index.php/GIGAPP-EWP/article/view/329
Section
Articles
Copyright (c) 2023 Juan David Gutiérrez, Dr., Sarah Muñoz-Cadena (Autor/a)
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Those authors who have publications with this journal, accept the following terms:
a. Authors will retain their copyrights and guarantee the journal the right of first publication of their work, which will be simultaneously subject to the Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International (CC BY-NC-SA Recognition License). 4.0) that allows third parties to share the work as long as its author and its first publication are indicated in this journal.
Under this open access license, readers (users) can:
- Share — copy and redistribute the material in any medium or format
- Adapt — remix, transform, and build upon the material
Under the following terms:
-
Attribution — Users must give appropriate credit, provide a link to the license, and indicate if changes were made. You may do so in any reasonable manner, but not in any way that suggests the licensor endorses you or your use.
-
NonCommercial — Users may not use the material for commercial purposes.
-
ShareAlike — If remix, transform, or build upon the material, users must distribute your contributions under the same license as the original.
- No additional restrictions — Users may not apply legal terms or technological measures that legally restrict others from doing anything the license permits.
b. Authors may adopt other non-exclusive license agreements for the distribution of the version of the published work (eg: deposit it in an institutional telematic archive or publish it in a monographic volume) provided that the initial publication in this journal is indicated.
c. Authors are allowed and recommended to disseminate their work through the Internet (e.g. in institutional telematic files or on their website) before and during the submission process, which can lead to interesting exchanges and increase citations of the published work. (See The effects of open access).
