Adopción de sistemas de decisión automatizada en el sector público: Cartografía de 113 sistemas en Colombia
Palabras clave:
sistemas de decisión automatizada, algoritmos públicos, inteligencia artificial, administración pública, Colombia
Resumen
La literatura sobre el uso de sistemas de decisión automatizada (SDA) en el sector público ha dado cuenta de su creciente adopción en América Latina. En el caso de Colombia, no existen trabajos que mapeen y caractericen de forma sistemática el uso de SDA por parte del Estado. Este artículo contribuye a cerrar esa brecha en la literatura a partir del análisis de una nueva base de datos sobre 113 SDA de entidades del sector público colombiano, de los cuales 97 se encuentran en funcionamiento (86%), 14 en pilotaje (12%) y dos más que fueron descontinuados. La base de datos caracteriza los sistemas a partir de 40 variables y fue creada con más de 300 fuentes de información pública. Este artículo describe las principales características, usos y potenciales beneficios de estos sistemas en Colombia. Identificamos sistemas implementados por 51 entidades públicas nacionales y subnacionales del poder ejecutivo, así como por entidades de la rama judicial y de organismos de control. El grueso de los 111 sistemas que están en etapa de pilotaje o en ejecución fueron adoptados por entidades públicas del orden nacional (74%) y la gran mayoría fueron implementados por entidades del poder público ejecutivo (93%). Los SDA son usados para realizar una amplia gama de funciones y para apoyar diferentes tipos de actividades estatales, pero más de la mitad de los sistemas son usados para apoyar actividades de los sectores justicia (18%), educación (17%), y medio ambiente (13%). Además, la mayoría de los SDA pueden aportar a la implementación de políticas públicas (el 98%), pero algunos también pueden contribuir con otras fases del ciclo de las políticas públicas (12% al agendamiento, 18% a formulación y 2% a evaluación). Finalmente, el artículo identifica potenciales riesgos asociados al uso de diferentes tipos de SDA por parte entidades públicas.
Descargas
La descarga de datos todavía no está disponible.
Citas
AgataData. (s/f). ¿Qué hacemos? - AgataData. Recuperado el 25 de octubre de 2022, de https://agatadata.com/queHacemos.html
Agudelo Londoño, S. (2022). Inteligencia Artificial en el proceso penal: Análisis a la luz del fiscal Watson. Pensamiento Jurídico, 1(54). https://revistas.unal.edu.co/index.php/peju/article/view/96091
Alcaldía de Armenia. (2022, junio 6). $2.000 millones pondrían a Armenia a la altura de grandes capitales inteligentes—Alcaldía de Armenia. https://www.armenia.gov.co/atencion-al-ciudadano/noticias/2-000-millones-pondrian-a-armenia-a-la-altura-de-grandes-capitales-inteligentes
AlgorithmWatch & Bertelsmann Stiftung. (2019). Automating Society: Taking Stock of Automated Decision Making in the EU (1a ed.). AW AlgorithmWatch gGmbH. www.algorithmwatch.org/automating-society
Aránguiz Villagrán, M. (2022). Auditoría algorítmica para sistemas de toma o soporte de decisiones. BID. https://publications.iadb.org/publications/spanish/viewer/Auditoria-algoritmica-para-sistemas-de-toma-o-soporte-de-decisiones.pdf
Araujo, T., Helberger, N., Kruikemeier, S., & de Vreese, C. H. (2020). In AI we trust? Perceptions about automated decision-making by artificial intelligence. AI & SOCIETY, 35(3), 611–623. https://doi.org/10.1007/s00146-019-00931-w
Berryhill, J., Heang, K. K., Clogher, R., & Keegan McBride. (2019). Hola, Mundo: La inteligencia artificial y su uso en el sector público (Vol. 36). https://doi.org/10.1787/726fd39d-en
CAF. (2021). Experiencia: Datos e Inteligencia Artificial en el sector público. CAF. http://scioteca.caf.com/handle/123456789/1793
Calderon-Valencia, F., Perez-Montoya, J.-J., & De Morais, F. S. (2021). Sistemas de IA en la experiencia del Supremo Tribunal Federal Brasileño y la Corte Constitucional Colombiana: Análisis Prospectivo. Law, State and Telecommunications Review, 13(1), 143–169. https://doi.org/10.26512/lstr.v13i1.35614
Camacho Gutiérrez, O. L., Castañeda Gómez, J. D., & Saavedra Rionda, V. P. (2019). Colombia. Enthusiasm and complexity: Learning from the "PROMETEA” pilot in Colombia’s Judicial System. En APC, Sida, & Article 19, Global information society watch 2019: Artificial intelligence: Human rights, social justice and development (pp. 113–116).
Camacho Gutiérrez, O. L., & Saavedra Rionda, V. P. (2021). El acercamiento del sector público a la IA: la divergencia entre la expectativa y la realidad. En G. A. Dobratinich (Ed.), Derecho y nuevas tecnologías (1a ed.). La Ley.
Castaño, D. (2021). Marco analítico exploratorio—República de Colombia. En C. Aguerre & G. Bustos Frati (Eds.), Preparación del sector judicial para la inteligencia artificial en América Latina (compilación) (pp. 3–100). Centro de Estudios en Tecnología y Sociedad (CETyS) de la Universidad de San Andrés. https://www.researchgate.net/publication/360849506_Preparacion_del_sector_judicial_para_la_inteligencia_artificial_en_America_Latina_compilacion
Centro de Innovación Pública Digital. (2022). Estrategia de Seguimiento: Soluciones basadas en Inteligencia Artificial 2020. https://gobiernodigital.mintic.gov.co/692/articles-210416_recurso_8.pdf
Centro de Innovación Pública Digital. (2020). Ejercicios de innovación basados en Inteligencia Artificial. https://gobiernodigital.mintic.gov.co/portal/Centro-de-Innovacion-Publica-Digital/Proyectos/#data=%7B%22filter%22:%22412572%22,%22page%22:1%7D
Cepeda Espinoza, M. J., & Otálora Lozano, G. (2020). Modernización de la administración de justicia a través de la inteligencia artificial. FEDESARROLLO. https://www.repository.fedesarrollo.org.co/bitstream/handle/11445/3980/Repor_Julio_2020_Cepeda_y_Otálora.pdf?sequence=3&isAllowed=y
Cetina, C., Garay Salamanca, L. J., Salcedo-Albarán, E., & Vanegas, S. (2021). La analítica de redes como herramienta de integridad: El caso de la Procuraduría General de la Nación en Colombia (Policy Brief # 22) [WorkingPaper]. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1675
Chenou, J.-M., & Rodríguez Valenzuela, L. E. (2021). Habeas Data, Habemus Algorithms: Algorithmic Intervention in Public Interest Decision-Making in Colombia. Law, State and Telecommunications Review, 13(2), 56–77. https://doi.org/10.26512/lstr.v13i2.34113
CPAETD. (2021). ¿Cómo vamos avanzando en la transformación digital? DAPRE.
DANE. (2020). Clasificación de las funciones del gobierno (COFOG). https://www.dane.gov.co/files/sen/nomenclatura/cofog/COFOG-AC.pdf
Desouza, K. C., Dawson, G. S., & Chenok, D. (2020). Designing, developing, and deploying artificial intelligence systems: Lessons from and for the public sector. Business Horizons, 63(2), 205–213. https://doi.org/10.1016/j.bushor.2019.11.004
El Tiempo. (2022, junio 20). Las cuatro innovaciones para la defensa en demandas contra la nación. El Tiempo. https://www.eltiempo.com/justicia/servicios/las-cuatro-innovaciones-para-la-defensa-en-demandas-contra-la-nacion-681660
Estevadeordal, A., Beliz, G., Estevez, E., Ovanessoff, A., Plastino, E., Rao, A., Diamond, P., Barral, W., Petrus, G., Donaldson, D., Vashistha, A., Vashistha, A., Herrera, M., Heymann, D., Mira, P., Chesñevar, C., Lakhani, K., Tinn, P., Lin, M., … Gillam, M. (2018). Algoritmolandia: Inteligencia artificial para una integración predictiva e inclusiva de América Latina (1a ed.). Planeta. https://publications.iadb.org/publications/spanish/document/Revista-Integración--Comercio-Año-22-No-44-Julio-2018-Algoritmolandia-inteligencia-artificial-para-una-integración-predictiva-e-inclusiva-de-América-Latina.pdf
Fiscalía General de la Nación. (2019). Informe Rendición de cuentas (2018-2019) Fiscalía General de la Nación. https://www.fiscalia.gov.co/colombia/wp-content/uploads/FGN.-Informe-de-gestio%CC%81n.-Versio%CC%81n-final.pdf
Flórez Rojas, M. L., & Vargas Leal, J. (2020). El impacto de herramientas de inteligencia artificial: Un análisis en el sector público en Colombia. En C. Aguerre (Ed.), Inteligencia Artificial en América Latina y el Caribe. Ética, Gobernanza y Políticas. CETyS Universidad de San Andrés. https://guia.ai/wp-content/uploads/2020/05/GECTI-El-impacto-de-herramientas-de-inteligencia-artificial.pdf
Gallego, J., Prem, M., & Vargas, J. F. (2022). Predicting politicians’ misconduct: Evidence from Colombia. Data & Policy, 4. Cambridge Core. https://doi.org/10.1017/dap.2022.35
Gallego, J., Rivero, G., & Martínez, J. (2021). Preventing rather than punishing: An early warning model of malfeasance in public procurement. International Journal of Forecasting, 37(1), 360–377. https://doi.org/10.1016/j.ijforecast.2020.06.006
Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB UAI. Consejo para la Transparencia. https://goblab.uai.cl/wp-content/uploads/2021/10/ESTUDIO-TRANSPARENCIA-ALGORITMICA-EN-EL-SECTOR-PUBLICO-GOBLAB-CPLT-final....pdf
Gobierno Nacional de Colombia. (s/f). Dashboard de seguimiento al Marco Ético de Inteligencia Artificial. Recuperado el 27 de diciembre de 2022, de https://inteligenciaartificial.gov.co/dashboard-IA/
GobLab UAI. (2022). Repositorio de algoritmos públicos de Chile. Primer informe de estado de uso de algoritmos en el sector público. Universidad Adolfo Ibáñez (UAI). https://goblab.uai.cl/wp-content/uploads/2022/02/Primer-Informe-Repositorio-Algoritmos-Publicos-en-Chile.pdf
GobLab UAI. (2023). Repositorio Algoritmos Públicos. Informe Anual 2023. Universidad Adolfo Ibáñez (UAI).
GOV.CO. (2021). Datos Abiertos. Datos Abiertos. https://herramientas.datos.gov.co/taxonomy/term/501?page=0
Gutiérrez, J. D. (2020). Retos éticos de la inteligencia artificial en el proceso judicial. En ICDP (Ed.), Derecho Procesal. #NuevasTendencias. XLI Congreso Colombiano de Derecho Procesal. Instituto Colombiano de Derecho Procesal (ICDP) y Universidad Libre. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4011179
Gutiérrez, J. D. (2023a). ¿Están los jueces en capacidad de usar modelos de lenguaje a gran escala (LLMs)? Revista EXCEJLENCIA, 7, 10–15.
Gutiérrez, J. D. (2023b). Hablemos sobre el uso de ChatGPT para redactar decisiones judiciales. La Silla Vacía. https://juangutierrez.co/publicaciones/otras-publicaciones/#:~:text=Hablemos%20sobre%20el%20uso%20de%20ChatGPT%20para%20redactar%20decisiones%20judiciales
Gutiérrez, J. D. (2023c, febrero 23). ChatGPT in Colombian Courts: Why we need to have a conversation about the digital literacy of the judiciary. VerfBlog. https://verfassungsblog.de/colombian-chatgpt/
Gutiérrez, J. D. (2023d, julio 6). Repositorios y registros públicos de algoritmos. Foro Administración, Gestión y Política Pública. https://forogpp.com/inteligencia-artificial/repositorios-y-registros-de-algoritmos/
Gutiérrez, J. D., & Dajer, D. M. (2023). Pensamiento de diseño y procesos de política pública. Desafíos, 35(1), 1–27.
Gutiérrez, J. D., & Muñoz-Cadena, S. (2022). Sistemas de decisión automatizada implementados por el Estado Colombiano. 32. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4294032
Gutiérrez, J. D., & Muñoz-Cadena, S. (2023). Assessing Government Design Practices from a Human-Centered Perspective: Case Study of an Improved Cookstoves Program in Colombia. Desafíos, 35(1), 1–38.
Gutiérrez, J. D., Muñoz-Cadena, S., & Castellanos-Sánchez, M. (2023). Sistemas de decisión automatizada en el sector público colombiano (Versión V1) [Data set]. Universidad del Rosario. https://doi.org/10.34848/YN1CRT
Gutiérrez-Ossa, J. A., & Flórez-Hernández, I. C. (2020). Inteligencia Artificial (IA) Aplicada en el Sistema Judicial en Colombia. Derecho y Realidad, 18(35), 53–80. https://doi.org/10.19053/16923936.v18.n35.2020.9638
ICBF (Director). (2020, agosto 27). Conoce cómo funciona el Asistente de Adopciones (ADA). https://www.youtube.com/watch?v=iL7mf0Swxx8
ICETEX. (2019). Gestión de accesos y retiro de servicios (Gestión de servicios tecnológicos Versión 11). https://web.icetex.gov.co/documents/20122/144117/Gestion+de+acceso+y+retiro+de+servicios+v11.pdf
ICETEX. (2020, 12). Café con Oficina Comercial y de Mercadeo- 15 de diciembre de 2020 (Gestión del Conocimiento e innovación).https://web.icetex.gov.co/documents/20122/301689/Caf%25C3%25A9%2Bcon%2BOficina%2BComercial%2By%2Bde%2BMercadeo.docx
ICFES. (s/f). Icfes-Bot—Icfes. Recuperado el 27 de diciembre de 2022, de https://www2.icfes.gov.co/icfes-bot
Information Commissioner’s Office. (s/f). What is automated individual decision-making and profiling? https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/automated-decision-making-and-profiling/what-is-automated-individual-decision-making-and-profiling/#id2
Instituto Humboldt. (2023, febrero 23). Escuchar para resguardar los bosques. http://www.humboldt.org.co/es/boletines-y-comunicados/item/1813-escuchar-para-resguardar-los-bosques
Ivančić, L., Suša Vugec, D., & Bosilj Vukšić, V. (2019). Robotic Process Automation: Systematic Literature Review. En C. Di Ciccio, R. Gabryelczyk, L. García-Bañuelos, T. Hernaus, R. Hull, M. Indihar Štemberger, A. Kő, & M. Staples (Eds.), Business Process Management: Blockchain and Central and Eastern Europe Forum (Vol. 361, pp. 280–295). Springer International Publishing. https://doi.org/10.1007/978-3-030-30429-4_19
Kuziemski, M., & Misuraca, G. (2020). AI governance in the public sector: Three tales from the frontiers of automated decision-making in democratic settings. ScienceDirect. https://doi.org/DOI: 10.1016/j.telpol.2020.101976
López, J. (2020). Experimentando con la pobreza: El SISBÉN y los proyectos de analítica de datos en Colombia. Fundación KARISMA. https://web.karisma.org.co/wp-content/uploads/download-manager-files/Experimentando%20con%20la%20pobreza.pdf
López, J., & Castañeda, J. D. (2020). Automatización, tecnologías digitales y justicia social: La experimentación con la pobreza en Colombia. En Inteligencia Artificial en América Latina y el Caribe. Ética, gobernanza y políticas. CETyS Universidad de San Andres. https://proyectoguia.lat/wp-content/uploads/2020/05/Lopez-Casta%C3%B1eda-Automatizacion-tecnologias-digitales-y-justicia-social-la-experimentacion-con-la-pobreza-en-Colombia.pdf
Martínez, C. A. (2022, junio). Analítica de datos en el sector público: El poder de los datos. Quinto Encuentro de equipo transversal de gestión de conocimiento y la innovación. https://www.funcionpublica.gov.co/documents/37183536/41306203/2022-0616_Presentacion_completa_quinto_gescoi.pdf/b827772a-b3b1-ece8-a29c-3979ae971ecd?t=1655501285963
MinTIC. (2021). Ciudades y Territorios Inteligentes [Gubernamental]. Gobierno Digital. https://gobiernodigital.mintic.gov.co/portal/Iniciativas/Ciudades-y-Territorios-Inteligentes/
Misión de Expertos en IA de Colombia. (s/f). Casos de Uso | AprendeIA. Recuperado el 15 de agosto de 2022, de https://aprendeia.org/casos_de_uso
Misuraca, G., Van Noordt, C., & Boukli, A. (2020, septiembre 23). The use of AI in public services: Results from a preliminary mapping across the EU. Proceedings of the 13th International Conference on Theory and Practice of Electronic Governance (ICEGOV 2020), Athens, Greece. https://doi.org/10.1145/3428502.3428513
Mojica Muñoz, K. S. (2021). Inteligencia Artificial para Detectar Corrupción en la Administración Pública Municipal de Colombia. Universidad de los Andes, Facultad de Economía, CEDE, 31, 70.
Mojica Muñoz, K. S., Algarra Saavedra, P. A., & Peña Duarte, J. (2021). Artificial Intelligence to Prevent the Assassination of Human Rights Defenders.
Noticiero 90 Minutos. (2021, diciembre 9). Se hundió proyecto de “Cali Inteligente” en el Concejo. Noticiero 90 Minutos. https://90minutos.co/cali/se-hundio-proyecto-cali-inteligente-concejo-09-12-2021/
Nueva Crónica Quindio. (2022, junio 13). Armenia ahora será una ciudad inteligente con semáforos tecnológicos 800. Cronica del Quindio. https://cronicadelquindio.com/noticias/ciudad/armenia-ahora-sera-una-ciudad-inteligente-con-semaforos-tecnologicos-800
OCDE. (2017). Revisión de Gobierno Digital de Colombia. Hacia un sector público impulsado por el ciudadano. Hallazgos clave. OECD Publishing. https://www.oecd.org/gov/digital-government/Digital%20Gov%20Review%20Colombia%20[Esp]%20def.pdf
OECD. (2022a). OECD Framework for the Classification of AI systems. OECD. https://doi.org/10.1787/cb6d9eca-en
OECD. (2022b). Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe. Organisation for Economic Co-operation and Development. https://www.oecd-ilibrary.org/governance/uso-estrategico-y-responsable-de-la-inteligencia-artificial-en-el-sector-publico-de-america-latina-y-el-caribe_5b189cb4-es
OECD & CAF. (2022). The Strategic and Responsible Use of Artificial Intelligence in the Public Sector of Latin America and the Caribbean. OECD Public Governance Reviews, OECD Publishing. https://www.oecd-ilibrary.org/governance/the-strategic-and-responsible-use-of-artificial-intelligence-in-the-public-sector-of-latin-america-and-the-caribbean_1f334543-en
OECD, & OPSI. (s/f). Tracking potential tax evaders on Instagram. Observatory of Public Sector Innovation. Recuperado el 27 de diciembre de 2022, de https://oecd-opsi.org/innovations/tracking-potential-tax-evaders-on-instagram/
Ortega Rance, G. (2021). La digitalización como estrategia para la calidad regulatoria: Aprendizajes de la iniciativa de transformación digital de la Superintendencia de Sociedades de Colombia (Policy Brief # 29) [WorkingPaper]. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1784
Peeters, R., & Widlak, A. C. (2023). Administrative exclusion in the infrastructure-level bureaucracy: The case of the Dutch daycare benefit scandal. Public Administration Review, n/a(n/a). https://doi.org/10.1111/puar.13615
People Contact (Director). (2021, septiembre 24). Prediccion de pasajeros | Cable aéreo | Manizales. https://www.youtube.com/watch?v=xQOY3o0uxzM
Pittsburgh Task Force on Public Algorithms. (2022). Report of the Pittsburgh Task Force on Public Algorithms. University of Pittsburgh. https://www.cyber.pitt.edu/sites/default/files/pittsburgh_task_force_on_public_algorithms_report.pdf
Price, J. F. (2012). Wagging, not barking: Statutory definitions. Cleveland State Law Review, 60(4).
Procuraduría General de la Nación. (2020). Informe relatoria actuación preventiva -Sistema de Ciberinteligencia basado en inteligencia artificial para la DIPOL. https://apps.procuraduria.gov.co/gp/gp/anexos/ciberseguridad_informe_relatoria.pdf
Reis, J., Santo, P. E., & Melão, N. (2019). Artificial Intelligence in Government Services: A Systematic Literature Review. En Á. Rocha, H. Adeli, L. P. Reis, & S. Costanzo (Eds.), New Knowledge in Information Systems and Technologies (Vol. 930, pp. 241–252). Springer International Publishing. https://doi.org/10.1007/978-3-030-16181-1_23
Richardson, R. (2022). Defining and Demystifying Automated Decision Systems. Maryland law review (1936), 81(785).
Saavedra, S. (2022). Technology and State Capacity: Experimental Evidence from Illegal Mining in Colombia. Red Investigadores de Economía. Documento de Trabajo. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3933128
Santiso, C., & Cetina, C. (2022). DIGIntegridad: La transformación digital de la lucha contra la corrupción. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1901
SENA. (2021, noviembre 24). Proyectos Transformación Digital. https://www.sena.edu.co/es-co/transparencia/FURAG2/Forms/AllItems.aspx
Sousa, W. G. de, Melo, E. R. P. de, Bermejo, P. H. D. S., Farias, R. A. S., & Gomes, A. O. (2019). How and where is artificial intelligence in the public sector going? A literature review and research agenda. Government Information Quarterly, 36(4), 101392. https://doi.org/10.1016/j.giq.2019.07.004
Torres-Melo, J., & Santander, J. (2013). Introducción a las Políticas Públicas: Conceptos y Herramientas Desde la Relación Entre Estado y Ciudadanía. Instituto de Estudios del Ministerio Público, Procuraduría General de la Nación.
Directive on Automated Decision-Making, (2023). https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592
Unidad Administrativa Especial de Rehabilitación. (2022, mayo 17). Transformación digital. SIGMA. https://tic.bogota.gov.co/sites/default/files/imagenSimple/UNIDADDEMANTENIMIENTOVIAL.pdf
Valle-Cruz, D., Criado, J. I., Sandoval-Almazán, R., & Ruvalcaba-Gomez, E. A. (2020). Assessing the public policy-cycle framework in the age of artificial intelligence: From agenda-setting to policy evaluation. Government Information Quarterly, 37(4), 101509. https://doi.org/10.1016/j.giq.2020.101509
WaTech. (2021). Automated Decision Making Systems Workgroup Charter. https://watech.wa.gov/sites/default/files/public/privacy/ADS%20Workgroup%20Charter%20Final%207-2021.pdf
Wirtz, B. W., & Müller, W. M. (2019). An integrated artificial intelligence framework for public management. Public Management Review, 21(7), 1076–1100. https://doi.org/10.1080/14719037.2018.1549268
Zuiderwijk, A., Chen, Y.-C., & Salem, F. (2021). Implications of the use of artificial intelligence in public governance: A systematic literature review and a research agenda. Government Information Quarterly, 38(3), 101577. https://doi.org/10.1016/j.giq.2021.101577
Agudelo Londoño, S. (2022). Inteligencia Artificial en el proceso penal: Análisis a la luz del fiscal Watson. Pensamiento Jurídico, 1(54). https://revistas.unal.edu.co/index.php/peju/article/view/96091
Alcaldía de Armenia. (2022, junio 6). $2.000 millones pondrían a Armenia a la altura de grandes capitales inteligentes—Alcaldía de Armenia. https://www.armenia.gov.co/atencion-al-ciudadano/noticias/2-000-millones-pondrian-a-armenia-a-la-altura-de-grandes-capitales-inteligentes
AlgorithmWatch & Bertelsmann Stiftung. (2019). Automating Society: Taking Stock of Automated Decision Making in the EU (1a ed.). AW AlgorithmWatch gGmbH. www.algorithmwatch.org/automating-society
Aránguiz Villagrán, M. (2022). Auditoría algorítmica para sistemas de toma o soporte de decisiones. BID. https://publications.iadb.org/publications/spanish/viewer/Auditoria-algoritmica-para-sistemas-de-toma-o-soporte-de-decisiones.pdf
Araujo, T., Helberger, N., Kruikemeier, S., & de Vreese, C. H. (2020). In AI we trust? Perceptions about automated decision-making by artificial intelligence. AI & SOCIETY, 35(3), 611–623. https://doi.org/10.1007/s00146-019-00931-w
Berryhill, J., Heang, K. K., Clogher, R., & Keegan McBride. (2019). Hola, Mundo: La inteligencia artificial y su uso en el sector público (Vol. 36). https://doi.org/10.1787/726fd39d-en
CAF. (2021). Experiencia: Datos e Inteligencia Artificial en el sector público. CAF. http://scioteca.caf.com/handle/123456789/1793
Calderon-Valencia, F., Perez-Montoya, J.-J., & De Morais, F. S. (2021). Sistemas de IA en la experiencia del Supremo Tribunal Federal Brasileño y la Corte Constitucional Colombiana: Análisis Prospectivo. Law, State and Telecommunications Review, 13(1), 143–169. https://doi.org/10.26512/lstr.v13i1.35614
Camacho Gutiérrez, O. L., Castañeda Gómez, J. D., & Saavedra Rionda, V. P. (2019). Colombia. Enthusiasm and complexity: Learning from the "PROMETEA” pilot in Colombia’s Judicial System. En APC, Sida, & Article 19, Global information society watch 2019: Artificial intelligence: Human rights, social justice and development (pp. 113–116).
Camacho Gutiérrez, O. L., & Saavedra Rionda, V. P. (2021). El acercamiento del sector público a la IA: la divergencia entre la expectativa y la realidad. En G. A. Dobratinich (Ed.), Derecho y nuevas tecnologías (1a ed.). La Ley.
Castaño, D. (2021). Marco analítico exploratorio—República de Colombia. En C. Aguerre & G. Bustos Frati (Eds.), Preparación del sector judicial para la inteligencia artificial en América Latina (compilación) (pp. 3–100). Centro de Estudios en Tecnología y Sociedad (CETyS) de la Universidad de San Andrés. https://www.researchgate.net/publication/360849506_Preparacion_del_sector_judicial_para_la_inteligencia_artificial_en_America_Latina_compilacion
Centro de Innovación Pública Digital. (2022). Estrategia de Seguimiento: Soluciones basadas en Inteligencia Artificial 2020. https://gobiernodigital.mintic.gov.co/692/articles-210416_recurso_8.pdf
Centro de Innovación Pública Digital. (2020). Ejercicios de innovación basados en Inteligencia Artificial. https://gobiernodigital.mintic.gov.co/portal/Centro-de-Innovacion-Publica-Digital/Proyectos/#data=%7B%22filter%22:%22412572%22,%22page%22:1%7D
Cepeda Espinoza, M. J., & Otálora Lozano, G. (2020). Modernización de la administración de justicia a través de la inteligencia artificial. FEDESARROLLO. https://www.repository.fedesarrollo.org.co/bitstream/handle/11445/3980/Repor_Julio_2020_Cepeda_y_Otálora.pdf?sequence=3&isAllowed=y
Cetina, C., Garay Salamanca, L. J., Salcedo-Albarán, E., & Vanegas, S. (2021). La analítica de redes como herramienta de integridad: El caso de la Procuraduría General de la Nación en Colombia (Policy Brief # 22) [WorkingPaper]. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1675
Chenou, J.-M., & Rodríguez Valenzuela, L. E. (2021). Habeas Data, Habemus Algorithms: Algorithmic Intervention in Public Interest Decision-Making in Colombia. Law, State and Telecommunications Review, 13(2), 56–77. https://doi.org/10.26512/lstr.v13i2.34113
CPAETD. (2021). ¿Cómo vamos avanzando en la transformación digital? DAPRE.
DANE. (2020). Clasificación de las funciones del gobierno (COFOG). https://www.dane.gov.co/files/sen/nomenclatura/cofog/COFOG-AC.pdf
Desouza, K. C., Dawson, G. S., & Chenok, D. (2020). Designing, developing, and deploying artificial intelligence systems: Lessons from and for the public sector. Business Horizons, 63(2), 205–213. https://doi.org/10.1016/j.bushor.2019.11.004
El Tiempo. (2022, junio 20). Las cuatro innovaciones para la defensa en demandas contra la nación. El Tiempo. https://www.eltiempo.com/justicia/servicios/las-cuatro-innovaciones-para-la-defensa-en-demandas-contra-la-nacion-681660
Estevadeordal, A., Beliz, G., Estevez, E., Ovanessoff, A., Plastino, E., Rao, A., Diamond, P., Barral, W., Petrus, G., Donaldson, D., Vashistha, A., Vashistha, A., Herrera, M., Heymann, D., Mira, P., Chesñevar, C., Lakhani, K., Tinn, P., Lin, M., … Gillam, M. (2018). Algoritmolandia: Inteligencia artificial para una integración predictiva e inclusiva de América Latina (1a ed.). Planeta. https://publications.iadb.org/publications/spanish/document/Revista-Integración--Comercio-Año-22-No-44-Julio-2018-Algoritmolandia-inteligencia-artificial-para-una-integración-predictiva-e-inclusiva-de-América-Latina.pdf
Fiscalía General de la Nación. (2019). Informe Rendición de cuentas (2018-2019) Fiscalía General de la Nación. https://www.fiscalia.gov.co/colombia/wp-content/uploads/FGN.-Informe-de-gestio%CC%81n.-Versio%CC%81n-final.pdf
Flórez Rojas, M. L., & Vargas Leal, J. (2020). El impacto de herramientas de inteligencia artificial: Un análisis en el sector público en Colombia. En C. Aguerre (Ed.), Inteligencia Artificial en América Latina y el Caribe. Ética, Gobernanza y Políticas. CETyS Universidad de San Andrés. https://guia.ai/wp-content/uploads/2020/05/GECTI-El-impacto-de-herramientas-de-inteligencia-artificial.pdf
Gallego, J., Prem, M., & Vargas, J. F. (2022). Predicting politicians’ misconduct: Evidence from Colombia. Data & Policy, 4. Cambridge Core. https://doi.org/10.1017/dap.2022.35
Gallego, J., Rivero, G., & Martínez, J. (2021). Preventing rather than punishing: An early warning model of malfeasance in public procurement. International Journal of Forecasting, 37(1), 360–377. https://doi.org/10.1016/j.ijforecast.2020.06.006
Garrido, R., Lapostol, J. P., & Hermosilla, M. P. (2021). Transparencia algorítmica en el sector público. GOB LAB UAI. Consejo para la Transparencia. https://goblab.uai.cl/wp-content/uploads/2021/10/ESTUDIO-TRANSPARENCIA-ALGORITMICA-EN-EL-SECTOR-PUBLICO-GOBLAB-CPLT-final....pdf
Gobierno Nacional de Colombia. (s/f). Dashboard de seguimiento al Marco Ético de Inteligencia Artificial. Recuperado el 27 de diciembre de 2022, de https://inteligenciaartificial.gov.co/dashboard-IA/
GobLab UAI. (2022). Repositorio de algoritmos públicos de Chile. Primer informe de estado de uso de algoritmos en el sector público. Universidad Adolfo Ibáñez (UAI). https://goblab.uai.cl/wp-content/uploads/2022/02/Primer-Informe-Repositorio-Algoritmos-Publicos-en-Chile.pdf
GobLab UAI. (2023). Repositorio Algoritmos Públicos. Informe Anual 2023. Universidad Adolfo Ibáñez (UAI).
GOV.CO. (2021). Datos Abiertos. Datos Abiertos. https://herramientas.datos.gov.co/taxonomy/term/501?page=0
Gutiérrez, J. D. (2020). Retos éticos de la inteligencia artificial en el proceso judicial. En ICDP (Ed.), Derecho Procesal. #NuevasTendencias. XLI Congreso Colombiano de Derecho Procesal. Instituto Colombiano de Derecho Procesal (ICDP) y Universidad Libre. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4011179
Gutiérrez, J. D. (2023a). ¿Están los jueces en capacidad de usar modelos de lenguaje a gran escala (LLMs)? Revista EXCEJLENCIA, 7, 10–15.
Gutiérrez, J. D. (2023b). Hablemos sobre el uso de ChatGPT para redactar decisiones judiciales. La Silla Vacía. https://juangutierrez.co/publicaciones/otras-publicaciones/#:~:text=Hablemos%20sobre%20el%20uso%20de%20ChatGPT%20para%20redactar%20decisiones%20judiciales
Gutiérrez, J. D. (2023c, febrero 23). ChatGPT in Colombian Courts: Why we need to have a conversation about the digital literacy of the judiciary. VerfBlog. https://verfassungsblog.de/colombian-chatgpt/
Gutiérrez, J. D. (2023d, julio 6). Repositorios y registros públicos de algoritmos. Foro Administración, Gestión y Política Pública. https://forogpp.com/inteligencia-artificial/repositorios-y-registros-de-algoritmos/
Gutiérrez, J. D., & Dajer, D. M. (2023). Pensamiento de diseño y procesos de política pública. Desafíos, 35(1), 1–27.
Gutiérrez, J. D., & Muñoz-Cadena, S. (2022). Sistemas de decisión automatizada implementados por el Estado Colombiano. 32. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4294032
Gutiérrez, J. D., & Muñoz-Cadena, S. (2023). Assessing Government Design Practices from a Human-Centered Perspective: Case Study of an Improved Cookstoves Program in Colombia. Desafíos, 35(1), 1–38.
Gutiérrez, J. D., Muñoz-Cadena, S., & Castellanos-Sánchez, M. (2023). Sistemas de decisión automatizada en el sector público colombiano (Versión V1) [Data set]. Universidad del Rosario. https://doi.org/10.34848/YN1CRT
Gutiérrez-Ossa, J. A., & Flórez-Hernández, I. C. (2020). Inteligencia Artificial (IA) Aplicada en el Sistema Judicial en Colombia. Derecho y Realidad, 18(35), 53–80. https://doi.org/10.19053/16923936.v18.n35.2020.9638
ICBF (Director). (2020, agosto 27). Conoce cómo funciona el Asistente de Adopciones (ADA). https://www.youtube.com/watch?v=iL7mf0Swxx8
ICETEX. (2019). Gestión de accesos y retiro de servicios (Gestión de servicios tecnológicos Versión 11). https://web.icetex.gov.co/documents/20122/144117/Gestion+de+acceso+y+retiro+de+servicios+v11.pdf
ICETEX. (2020, 12). Café con Oficina Comercial y de Mercadeo- 15 de diciembre de 2020 (Gestión del Conocimiento e innovación).https://web.icetex.gov.co/documents/20122/301689/Caf%25C3%25A9%2Bcon%2BOficina%2BComercial%2By%2Bde%2BMercadeo.docx
ICFES. (s/f). Icfes-Bot—Icfes. Recuperado el 27 de diciembre de 2022, de https://www2.icfes.gov.co/icfes-bot
Information Commissioner’s Office. (s/f). What is automated individual decision-making and profiling? https://ico.org.uk/for-organisations/guide-to-data-protection/guide-to-the-general-data-protection-regulation-gdpr/automated-decision-making-and-profiling/what-is-automated-individual-decision-making-and-profiling/#id2
Instituto Humboldt. (2023, febrero 23). Escuchar para resguardar los bosques. http://www.humboldt.org.co/es/boletines-y-comunicados/item/1813-escuchar-para-resguardar-los-bosques
Ivančić, L., Suša Vugec, D., & Bosilj Vukšić, V. (2019). Robotic Process Automation: Systematic Literature Review. En C. Di Ciccio, R. Gabryelczyk, L. García-Bañuelos, T. Hernaus, R. Hull, M. Indihar Štemberger, A. Kő, & M. Staples (Eds.), Business Process Management: Blockchain and Central and Eastern Europe Forum (Vol. 361, pp. 280–295). Springer International Publishing. https://doi.org/10.1007/978-3-030-30429-4_19
Kuziemski, M., & Misuraca, G. (2020). AI governance in the public sector: Three tales from the frontiers of automated decision-making in democratic settings. ScienceDirect. https://doi.org/DOI: 10.1016/j.telpol.2020.101976
López, J. (2020). Experimentando con la pobreza: El SISBÉN y los proyectos de analítica de datos en Colombia. Fundación KARISMA. https://web.karisma.org.co/wp-content/uploads/download-manager-files/Experimentando%20con%20la%20pobreza.pdf
López, J., & Castañeda, J. D. (2020). Automatización, tecnologías digitales y justicia social: La experimentación con la pobreza en Colombia. En Inteligencia Artificial en América Latina y el Caribe. Ética, gobernanza y políticas. CETyS Universidad de San Andres. https://proyectoguia.lat/wp-content/uploads/2020/05/Lopez-Casta%C3%B1eda-Automatizacion-tecnologias-digitales-y-justicia-social-la-experimentacion-con-la-pobreza-en-Colombia.pdf
Martínez, C. A. (2022, junio). Analítica de datos en el sector público: El poder de los datos. Quinto Encuentro de equipo transversal de gestión de conocimiento y la innovación. https://www.funcionpublica.gov.co/documents/37183536/41306203/2022-0616_Presentacion_completa_quinto_gescoi.pdf/b827772a-b3b1-ece8-a29c-3979ae971ecd?t=1655501285963
MinTIC. (2021). Ciudades y Territorios Inteligentes [Gubernamental]. Gobierno Digital. https://gobiernodigital.mintic.gov.co/portal/Iniciativas/Ciudades-y-Territorios-Inteligentes/
Misión de Expertos en IA de Colombia. (s/f). Casos de Uso | AprendeIA. Recuperado el 15 de agosto de 2022, de https://aprendeia.org/casos_de_uso
Misuraca, G., Van Noordt, C., & Boukli, A. (2020, septiembre 23). The use of AI in public services: Results from a preliminary mapping across the EU. Proceedings of the 13th International Conference on Theory and Practice of Electronic Governance (ICEGOV 2020), Athens, Greece. https://doi.org/10.1145/3428502.3428513
Mojica Muñoz, K. S. (2021). Inteligencia Artificial para Detectar Corrupción en la Administración Pública Municipal de Colombia. Universidad de los Andes, Facultad de Economía, CEDE, 31, 70.
Mojica Muñoz, K. S., Algarra Saavedra, P. A., & Peña Duarte, J. (2021). Artificial Intelligence to Prevent the Assassination of Human Rights Defenders.
Noticiero 90 Minutos. (2021, diciembre 9). Se hundió proyecto de “Cali Inteligente” en el Concejo. Noticiero 90 Minutos. https://90minutos.co/cali/se-hundio-proyecto-cali-inteligente-concejo-09-12-2021/
Nueva Crónica Quindio. (2022, junio 13). Armenia ahora será una ciudad inteligente con semáforos tecnológicos 800. Cronica del Quindio. https://cronicadelquindio.com/noticias/ciudad/armenia-ahora-sera-una-ciudad-inteligente-con-semaforos-tecnologicos-800
OCDE. (2017). Revisión de Gobierno Digital de Colombia. Hacia un sector público impulsado por el ciudadano. Hallazgos clave. OECD Publishing. https://www.oecd.org/gov/digital-government/Digital%20Gov%20Review%20Colombia%20[Esp]%20def.pdf
OECD. (2022a). OECD Framework for the Classification of AI systems. OECD. https://doi.org/10.1787/cb6d9eca-en
OECD. (2022b). Uso estratégico y responsable de la inteligencia artificial en el sector público de América Latina y el Caribe. Organisation for Economic Co-operation and Development. https://www.oecd-ilibrary.org/governance/uso-estrategico-y-responsable-de-la-inteligencia-artificial-en-el-sector-publico-de-america-latina-y-el-caribe_5b189cb4-es
OECD & CAF. (2022). The Strategic and Responsible Use of Artificial Intelligence in the Public Sector of Latin America and the Caribbean. OECD Public Governance Reviews, OECD Publishing. https://www.oecd-ilibrary.org/governance/the-strategic-and-responsible-use-of-artificial-intelligence-in-the-public-sector-of-latin-america-and-the-caribbean_1f334543-en
OECD, & OPSI. (s/f). Tracking potential tax evaders on Instagram. Observatory of Public Sector Innovation. Recuperado el 27 de diciembre de 2022, de https://oecd-opsi.org/innovations/tracking-potential-tax-evaders-on-instagram/
Ortega Rance, G. (2021). La digitalización como estrategia para la calidad regulatoria: Aprendizajes de la iniciativa de transformación digital de la Superintendencia de Sociedades de Colombia (Policy Brief # 29) [WorkingPaper]. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1784
Peeters, R., & Widlak, A. C. (2023). Administrative exclusion in the infrastructure-level bureaucracy: The case of the Dutch daycare benefit scandal. Public Administration Review, n/a(n/a). https://doi.org/10.1111/puar.13615
People Contact (Director). (2021, septiembre 24). Prediccion de pasajeros | Cable aéreo | Manizales. https://www.youtube.com/watch?v=xQOY3o0uxzM
Pittsburgh Task Force on Public Algorithms. (2022). Report of the Pittsburgh Task Force on Public Algorithms. University of Pittsburgh. https://www.cyber.pitt.edu/sites/default/files/pittsburgh_task_force_on_public_algorithms_report.pdf
Price, J. F. (2012). Wagging, not barking: Statutory definitions. Cleveland State Law Review, 60(4).
Procuraduría General de la Nación. (2020). Informe relatoria actuación preventiva -Sistema de Ciberinteligencia basado en inteligencia artificial para la DIPOL. https://apps.procuraduria.gov.co/gp/gp/anexos/ciberseguridad_informe_relatoria.pdf
Reis, J., Santo, P. E., & Melão, N. (2019). Artificial Intelligence in Government Services: A Systematic Literature Review. En Á. Rocha, H. Adeli, L. P. Reis, & S. Costanzo (Eds.), New Knowledge in Information Systems and Technologies (Vol. 930, pp. 241–252). Springer International Publishing. https://doi.org/10.1007/978-3-030-16181-1_23
Richardson, R. (2022). Defining and Demystifying Automated Decision Systems. Maryland law review (1936), 81(785).
Saavedra, S. (2022). Technology and State Capacity: Experimental Evidence from Illegal Mining in Colombia. Red Investigadores de Economía. Documento de Trabajo. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3933128
Santiso, C., & Cetina, C. (2022). DIGIntegridad: La transformación digital de la lucha contra la corrupción. CAF. https://cafscioteca.azurewebsites.net/handle/123456789/1901
SENA. (2021, noviembre 24). Proyectos Transformación Digital. https://www.sena.edu.co/es-co/transparencia/FURAG2/Forms/AllItems.aspx
Sousa, W. G. de, Melo, E. R. P. de, Bermejo, P. H. D. S., Farias, R. A. S., & Gomes, A. O. (2019). How and where is artificial intelligence in the public sector going? A literature review and research agenda. Government Information Quarterly, 36(4), 101392. https://doi.org/10.1016/j.giq.2019.07.004
Torres-Melo, J., & Santander, J. (2013). Introducción a las Políticas Públicas: Conceptos y Herramientas Desde la Relación Entre Estado y Ciudadanía. Instituto de Estudios del Ministerio Público, Procuraduría General de la Nación.
Directive on Automated Decision-Making, (2023). https://www.tbs-sct.canada.ca/pol/doc-eng.aspx?id=32592
Unidad Administrativa Especial de Rehabilitación. (2022, mayo 17). Transformación digital. SIGMA. https://tic.bogota.gov.co/sites/default/files/imagenSimple/UNIDADDEMANTENIMIENTOVIAL.pdf
Valle-Cruz, D., Criado, J. I., Sandoval-Almazán, R., & Ruvalcaba-Gomez, E. A. (2020). Assessing the public policy-cycle framework in the age of artificial intelligence: From agenda-setting to policy evaluation. Government Information Quarterly, 37(4), 101509. https://doi.org/10.1016/j.giq.2020.101509
WaTech. (2021). Automated Decision Making Systems Workgroup Charter. https://watech.wa.gov/sites/default/files/public/privacy/ADS%20Workgroup%20Charter%20Final%207-2021.pdf
Wirtz, B. W., & Müller, W. M. (2019). An integrated artificial intelligence framework for public management. Public Management Review, 21(7), 1076–1100. https://doi.org/10.1080/14719037.2018.1549268
Zuiderwijk, A., Chen, Y.-C., & Salem, F. (2021). Implications of the use of artificial intelligence in public governance: A systematic literature review and a research agenda. Government Information Quarterly, 38(3), 101577. https://doi.org/10.1016/j.giq.2021.101577
Publicado
2023-09-25
Cómo citar
Gutiérrez, J. D., & Muñoz-Cadena, S. (2023). Adopción de sistemas de decisión automatizada en el sector público: Cartografía de 113 sistemas en Colombia. GIGAPP Estudios Working Papers, 10(267-272), 365-395. Recuperado a partir de https://gigapp.org/ewp/index.php/GIGAPP-EWP/article/view/329
Sección
Artículos/Articles
Derechos de autor 2023 Juan David Gutiérrez, Dr., Sarah Muñoz-Cadena (Autor/a)
Esta obra está bajo licencia internacional Creative Commons Reconocimiento-NoComercial-CompartirIgual 4.0.
Aquellos autores/as que tengan publicaciones con esta revista, aceptan los términos siguientes:
a. Los autores/as conservarán sus derechos de autor y garantizarán a la revista el derecho de primera publicación de su obra, el cuál estará simultáneamente sujeto a la Licencia de reconocimiento de Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International (CC BY-NC-SA 4.0) que permite a terceros compartir la obra siempre que se indique su autor y su primera publicación esta revista.
Con esta licencia de acceso abierto, los lectores (usuarios) pueden:
- Compartir — copiar y redistribuir el material en cualquier medio o formato
- Adaptar — remezclar, transformar y construir a partir del material
Bajo los siguientes términos:
-
Atribución — usarios deberán dar crédito de manera adecuada, brindar un enlace a la licencia, e indicar si se han realizado cambios. Puede hacerlo en cualquier forma razonable, pero no de forma tal que sugiera que usted o su uso tienen el apoyo de la licenciante.
-
NoComercial — usuarios no puede hacer uso del material con propósitos comerciales.
-
CompartirIgual — Si remezcla, transforma o crea a partir del material, usuarios deben distribuir su contribución bajo la misma licencia del original.
-
Sin restricciones adicionales: los usuarios no pueden aplicar términos legales o medidas tecnológicas que restrinjan legalmente a otros de hacer cualquier cosa que permita la licencia.
b. Los autores/as podrán adoptar otros acuerdos de licencia no exclusiva de distribución de la versión de la obra publicada (p. ej.: depositarla en un archivo telemático institucional o publicarla en un volumen monográfico) siempre que se indique la publicación inicial en esta revista
c. Se permite y recomienda a los autores/as difundir su obra a través de Internet (p. ej.: en archivos telemáticos institucionales o en su página web) antes y durante el proceso de envío, lo cual puede producir intercambios interesantes y aumentar las citas de la obra publicada. (Véase El efecto del acceso abierto).
