Programa preliminar GIGAPP2022

GT 2022-15 Retos de la gobernanza de datos públicos y la IA en el sector público Iberoamericano

Día 02. Jueves, 22 de septiembre 2022, de 12:00 a 13:50 pm (MAD-ECT)

ESPACIO 02. (Sesiones Híbridas). Super Aula (NT 159) Primera planta

GT.2022-15
Retos de la gobernanza de datos públicos y la IA en el sector público Iberoamericano

Coordinador/a: Juan David Gutiérrez

Profesor Asociado, Facultad de Estudios Internacionales, Políticos y Urbanos

Universidad del Rosario.

Email: juandavid.gutierrez@urosario.edu.co RRSS: @JuanDGut

Coordinador/a: María Lorena Flórez

Profesora, Facultad de Derecho, Universidad de los Andes

Email: ml.florez66@uniandes.edu.co RRSS: @loreflorez18

GT Panel con propuestas aceptadas, (1 virtuales y 5 presenciales, 2 comunicación sin presentación).

Formato sesión: Presencial (Madrid).

Status panel: Aprobado OK

RESUMEN JUSTIFICACION

El principal objetivo del grupo de trabajo es explorar los diversos retos que enfrenta el sector público de Iberoamérica en relación con la explotación de datos y los usos de sistemas de inteligencia artificial. Por una parte, se explorará la gobernanza de los datos públicos como desafío para la creación de valor público y eficaz gestión pública. Por otra parte, en cuanto los sistemas de inteligencia artificial, los retos incluirán tanto los asociados con la adopción de estas tecnologías por parte de los Estados para el cumplimiento de sus funciones, como los de regulación de su uso por parte de entidades públicas y privadas. El Grupo de Trabajo convocará manuscritos que contribuyan a entender en cualquier dimensión, teórica o empírica, del uso y gobierno de los datos públicos, la implementación de inteligencia artificial en los procesos de política pública y sobre el impacto público del uso de estas herramientas por entidades públicas y privadas.

Los artículos propuestos pueden abordar alguna de las siguientes preguntas y temas o en otras sugeridas por autoras y autores que se interesen por el tema:

  • ¿Cuáles son las principales barreras en el sector público para el gobierno de datos?

  • ¿Cuáles son los marcos de gobernanza de datos que han tenido mayor éxito?

  • ¿Cuáles son las dimensiones más importantes requeridas para asegurar la calidad de la información y su uso responsable y ético en las políticas públicas?

  • ¿Cómo asegurar la protección de los derechos fundamentales en el marco de la recolección y explotación de datos públicos?

  • ¿Qué tipo de herramientas de inteligencia artificial son actualmente usadas por los Estados en los procesos de política pública?

  • ¿Qué beneficios y riesgos genera el uso de inteligencia artificial en la formulación, implementación y evaluación de políticas públicas?

  • ¿Qué beneficios y riesgos públicos genera el uso de inteligencia artificial por parte de las empresas?

  • ¿Cuáles son los principales retos éticos y de regulación de la inteligencia artificial en determinada jurisdicción?

  • ¿Cómo se aborda la transparencia algorítmica en determinada jurisdicción?

  • ¿Cuáles son las principales barreras y/o limitaciones para la planeación, diseño, contratación, implementación y/o evaluación de proyectos de inteligencia artificial en el sector público?

  • Casos de estudios sobre aplicaciones de inteligencia artificial para funciones específicas en las ramas ejecutivas, judiciales y legislativas.

  • Economía política del uso de inteligencia artificial por parte de los gobiernos.

  • Aproximaciones críticas al uso de inteligencia artificial por parte de los Estados.


2022

Hasta el 22 de agosto 2022, los/las participantes deberán registrarse y pagar cuota y subir documento definitivo (WORD) en su espacio personal Mi tablero, siguiendo las normas de estilo.

Propuestas aceptadas

043. Estado de la transparencia y acceso a la información pública en Ecuador pos pandemia. ¿Han cambiado las necesidades ciudadanas?

Autor(es/as): Irma Jara Iñiguez

Entidad: Instituto de Altos Estudios Nacionales.

Email contacto: (ijarainiguez@gmail.com)

En Ecuador durante la pandemia se registraron serios problemas de opacidad en cuanto al plan de vacunación, los procesos de adquisición de vacunas y una diversidad de insumos. Esta situación agravó y evidenció las falencias que se han mantenido por décadas y que se relacionan con el incumplimiento de la ley de transparencia y acceso a la información pública, expedida hace 18 años. Actualmente, se discute una propuesta de nueva ley que, si bien considera varios aspectos del modelo de la OEA, aun presenta vacíos que deben ser atendidos para superar la situación de pospandemia. Esta construcción se da en un ambiente en el que los poderes públicos enfrentan baja legitimidad y confianza De acuerdo al reporte de Latinobarómetro al 2020, en Ecuador, el nivel de confianza en el legislativo alcanzó el 13%, mientras que en el gobierno fue de apenas el 10%. Adicionalmente, de evaluaciones previas se evidenció que los datos publicados por las instituciones obligadas (transparencia activa) no reflejan la calidad de la información publicada, ni entregada a la ciudadanía, ni el uso que da la ciudadanía a la información pública para incidir en la gestión o ejercer control social. Al respecto, se tiene como premisa que sobre la base de la evolución de la sociedad y el aprendizaje ciudadano, la nueva propuesta no sólo debe dar una respuesta frente a los avances tecnológicos y modelos regionales, sino también partir de los aspectos contextuales y la experiencia. Las solicitudes de los ciudadanos (transparencia pasiva) no se limitan a la información general sobre la gestión y uso de los recursos públicos, sino también se requiere de información específica para la toma de decisiones. Por lo que, en el estudio se propone identificar los cambios en las necesidades de información de la ciudadanía, a partir de las solicitudes de acceso; y, con ello, se identificará la necesidad de transparencia focalizada, entre las obligaciones del Estado. Para el efecto, se aplicará un diseño de estudio de caso analizando una muestra de las entidades del ejecutivo y se utilizará un análisis documental, a partir de fuentes oficiales proporcionadas por el órgano garante del derecho.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Formato propuesto: Ponencia Presencial(Madrid).

Status: Accepted-Aceptado


081. El papel de la transparencia gubernamental como herramienta para combatir la evasión fiscal.

Autor(es/as): Ivonne Alejandra Orozco González

Entidad: Universidad de Guadalajara

Email contacto: (ivonneorozgonz@hotmail.com)


Este documento es un estudio empírico y comparativo de la doctrina y legislación de la transparencia gubernamental cuyo propósito es analizar su calidad, oportunidad, confiabilidad y accesibilidad para el contribuyente, una vez analizados estos aspectos comprobar si existe una correlación entre la transparencia y la recaudación, es decir si el contribuyente responde ante el ejercicio de la transparencia gubernamental al poner a su disposición todos los datos y elementos que componen el gasto público. La transparencia gubernamental debe ser ejercida y estudiada desde el derecho humano de acceso a la información, es decir que debemos proteger dicho derecho humano que conlleva la evaluación del desempeño de la administración publica gubernamental, ya que en diversos estudios se ha analizado el papel de la transparencia en la cultura tributaria. En la actualidad la transparencia gubernamental y la protección al derecho humano de acceso a la información se ha convertido en la base de un sistema fiscal eficiente, es por ello que en el presente artículo se sostiene que son fundamental no solo para ejercicio democrático que embiste a los gobernantes en el ejercicio de sus facultades, sino la protección a un estado de derecho que brinde certeza a sus ciudadanos, la transparencia no solo debe ser vista como una herramienta para combatir la evasión fiscal sino como una herramienta para incentivar las contribuciones fiscales. Es por ello que se analiza el impacto en la cultura tributaria, no solo el ejercicio del gasto publico y la transparencia gubernamental sino además del impacto en las contribuciones cuando existe una desmedida ausencia de ello, es por eso que se expone a lo largo de este artículo las diversas aportaciones sobre este tema, que se han originado en el quehacer científico de la investigación sobre la evasión fiscal y sus factores explicativos, si es hora de afirmar que la transparencia gubernamental es un regulador de la cultura tributaria y la recaudación o debe ser visto como un complemento de una democracia.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Formato propuesto: Ponencia Presencial(Madrid).

Status: Accepted-Aceptado


107. Sistemas de decisión automatizada implementados por el Estado Colombiano

Autor(es/as): Juan David Gutiérrez.

Entidad: Universidad del Rosario.

Email contacto: (juandavid.gutierrez@urosario.edu.co)


La adopción de herramientas tecnológicas que incorporan algoritmos, especialmente aquellos que facilitan decisiones automatizadas, puede contribuir significativamente con los objetivos de los Estados. Por ejemplo, la implementación de sistemas asistidos por inteligencia artificial (IA) por parte de entidades públicas puede aumentar la velocidad y precisión del procesamiento de grandes volúmenes de datos; reducir los tiempos de respuesta de solicitudes y casos; y, eximir al talento humano de tareas rutinarias para reasignarlo a actividades más complejas, entre otros. Sin embargo, el uso de algoritmos en la gestión pública también puede generar riesgos y potenciales efectos negativos para los ciudadanos. La implementación de IA por los gobiernos puede implicar la pérdida de predictibilidad de los procesos de la administración pública en la medida en que los sistemas arrojen resultados o decisiones que no sean comprensibles o cuyas justificaciones no sean verificables (el efecto “caja negra”); reducir o eliminar el control de los funcionarios sobre las herramientas que utilizan; y, genera riesgos en relación con el tratamiento de datos personales, particularmente aquellos sensibles, y pérdida o afectación de la privacidad, entre otros. La literatura sobre el uso de IA en el sector público de Colombia incluye casos de estudio sobre herramientas puntuales, pero no cuenta con trabajos que mapeen y caractericen el uso de sistemas de decisión automatizada (SDA) por el Estado colombiano. Los problemas de investigación abordados por este trabajo buscan contribuir cerrar esa brecha de la literatura: ¿Con qué finalidades son utilizados los SDA en la administración pública de Colombia? ¿Qué beneficios ofrecen y qué riesgos generan? Para responder a las preguntas se recolectará y procesará información disponible públicamente, información solicitada directamente a entidades estatales (DNP, DAFP, MINTIC, DAPRE), y entrevistas semiestructuradas a funcionarios públicos encargados de diseñar, pilotear y/o implementar los SDA. Con dicha información se creará un catastro de SDA implementados en Colombia. Los resultados del estudio permitirán generar implicaciones de política pública en materia de ética en el uso de los datos, transparencia algorítmica y, en general, sobre la gobernanza del uso de SDA e IA (y de los datos que lo alimentan) en el sector público.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Formato propuesto: Ponencia Presencial(Madrid).

Status: Accepted-Aceptado

149. PretorIA en la Corte Constitucional de Colombia

Autor(es/as): Juliana Vargas Leal.

Entidad: Corte Constitucional.

Email contacto: (jvlealc@gmail.com)


PretorIA es un sistema que apoyará el proceso de selección, análisis y estructuración de las sentencias de tutela para revisión de la Corte Constitucional de Colombia. Es un proyecto de inteligencia artificial cuyo objetivo es clasificar las sentencias de tutela que todos los jueces deben remitir a la Corte, bajo criterios definidos por la Corporación. En virtud de esta clasificación, PretorIA permite presentar la información en fichas-resumen que indican la concurrencia o no de las categorías en un texto. Además, permite la creación de estadísticas e identificación de temas recurrentes. De este modo, le facilita a los judicantes de la Corte preseleccionar los procesos de tutela para una eventual revisión de la Corte.PretorIA facilita el estudio de las cerca de 12.000 tutelas que llegan semanalmente y otorga las bases para realizar análisis de los temas por los cuales los usuarios acuden a la jurisdicción constitucional y las decisiones de los jueces. Sin embargo, también es cierto que la información que usará PretorIA para funcionar es sensible. Inadvertidamente, los criterios bajo los cuales funcionará esta inteligencia artificial pueden repercutir en el tratamiento de datos personales, la transparencia de la herramienta y en posibles actos discriminatorios contra los tutelantes. En esa medida, desde una óptica jurídica, es imperativo preguntarse cuáles son los riesgos a los derechos fundamentales de las personas que existen con ocasión del eventual funcionamiento de PretorIA. Para responder dicho problema de investigación, se ha acudido a los documentos que han publicado organizaciones sociales que han hecho control sobre el proyecto, a entrevistas con las personas involucradas en el desarrollo de PretorIA y a textos académicos relacionados con los riesgos éticos de la inteligencia artificial. Como resultado, en el curso de esta investigación, se han encontrado riesgos en la clasificación de los usuarios conforme a criterios como la edad, género y grupo étnico; también, en una probable opacidad en la manera como trabajará la herramienta y, finalmente, en posibles casos que pueden ser ignorados si no clasifican en una u otra categoría, sobre todo, si se tratan de asuntos novedosos o distintos tipos de vulneración a derechos fundamentales.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Formato propuesto: Ponencia virtual.

Status: Accepted-Aceptado

168. Pensamiento de diseño y marcos éticos para la Inteligencia Artificial: Una mirada a la participación de las múltiples partes interesadas.

Autor(es/as): María Lorena Flórez Rojas.

Entidad: Universidad de los Andes.

Email contacto: (ml.florez66@uniandes.edu.co)


La tecnología de Inteligencia Artificial que excluye a grupos de personas y explota la psicología humana se ha abierto paso en nuestra vida cotidiana y ha impactado en la sociedad de formas que nunca imaginamos. De allí, que la implementación de estas nuevas tecnologías este permeada por el desarrollo de guías o marcos éticos para mitigar posibles efectos nocivos o imprevistos que pueda causar. Sin embargo, estas directrices han sido blanco de críticas por la falta real de inclusión de las partes interesadas y la falta de transparencia en el proceso de creación de estos documentos. A través de este texto se pretende explorar cómo la metodología del análisis de impacto tecnológico, pensamiento de diseño y el diseño legal, aportan en la creación de programas centrados en el ciudadano de ética de la IA. Esto, para prevenir algunas de las preocupaciones existentes relacionadas con la adopción de la IA a gran escala en todo el mundo y salvaguardar el beneficio social. Con ello, se estudia cómo los procesos de colaboración, inclusión y co-creación, acompañados del estudio dogmático legal, aportan valor a la elaboración de estas guías éticas. De esta investigación, se concluye principalmente que la inclusión de todas las partes interesadas a través de procesos de colaboración, inclusión y co-creación, revisten de legitimidad a los códigos de conducta e incluso promueven la búsqueda de soluciones y alternativas por parte de los mismos interesados. Para ello, se toma como casos de estudio las experiencias de Canadá, la Unión Europea y Colombia, evidenciando como los actores aportan en la construcción de las ideas y como las dinámicas del diseño y el análisis de impacto contribuyen a un mejor proceso de legitimidad y creación. Si se pretende incentivar la innovación tecnológica protegiendo a su vez los derechos humanos y salvaguardando ‘el bien’ de la sociedad, se debe identificar en primera medida cuál es el significado cultural y social sobre el “bien” y encontrar la manera de hacer que las múltiples partes interesadas lo persigan, en lugar de perseguir un solo interés.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Formato propuesto: Ponencia Presencial(Madrid).

Status: Accepted-Aceptado


200. Influencia de las políticas de promoción europeas de uso de las TIC, en el proceso modernizador de las Administraciones públicas españolas

Autor(es/as): Elena Casarrubios Blanco

Entidad: Universidad Rey Juan Carlos

Email contacto: (e.casarrubiosb@alumnos.urjc.es)

Este trabajo afronta el análisis de la evolución de las políticas de promoción de la Unión Europea, relacionadas con la Sociedad de la Información y la implantación de las TIC, en el contexto del proceso modernizador de las administraciones públicas españolas -y más concretamente el de la Administración General del Estado. Por principio, una política pública tiene que concluir un resultado, que puede ser una mejora, o -en el peor de los casos- el mantenimiento de la situación inicial. El caso de la implantación de este tipo de políticas ha supuesto como mínimo la normalización del uso de las TIC en el día a día de las Administraciones, piedra angular del proceso modernizador de éstas. El punto de partida es la incorporación de España en la Unión Europea, considerando como precedente la situación política, económica y administrativa habida en España desde 1978. El último periodo analizado sería el de la implantación del actual 'Plan de Recuperación para Europa'. En esta investigación se analiza, en primer lugar, la evolución de las medidas de promoción a través de diferentes periodos y considerando diferentes medios y proyectos. A continuación se exponen las principales características de estos proyectos. Una parte muy importante de la investigación es la que muestra el estado del arte de la Administración General del Estado, en cuanto a infraestructura (hardware, software, conectividad, servicios que usa y ofrece, interoperabilidad...) tanto desde el punto de vista cuantitativo (a través de estadísticas) como cualitativo. Como conclusión se muestra la relación existente entre la implantación de los diferentes programas y proyectos, y la actual definición de la Administración General, recogiendo todos aquellos puntos en los que se ha hecho hincapié se debía incidir para conseguir que las políticas relacionadas con la Sociedad de la Información, el proceso digitalizador, y el uso de las TIC, pudieran recibir especial promoción para conseguir el objetivo más importante: acercar a ciudadanos, empresas y otras administraciones entre sí.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Formato propuesto: Comunicación-sin presentación.

Status: Accepted-Aceptado


272. Transparência ativa nas instituições da Red Federal de Educação, Ciência e Tecnologia da Região Norte Brasileira

Autor(es/as): Suzana Gilioli C. Nunes Fabricio Barbosa da Costa Daiane Padula Paz

Entidad: UFT UFT IFPR

Email contacto: (suzana.gilioli.nunes@gmail.com )

O direito de acesso à informação é uma temática que vem sendo cada vez mais debatida com o passar dos anos devido a procura por transparência e participação democrática na sociedade. A utilização de tecnologias da informação tem facilitado o controle social e a cobrança por direitos pela população. Portanto, esta pesquisa objetivou analisar o atendimento às legislações relacionadas ao acesso à informação, por meio do mecanismo de transparência ativa dos portais eletrônicos das Instituições de Ensino Público da Rede Federal de Educação, Ciência e Tecnologia da Região Norte brasileira. Este trabalho é classificado quanto aos seus objetivos como descritivo e exploratório, com relação à sua natureza é quantitativa e qualitativa, e quanto aos procedimentos técnicos consiste em uma pesquisa documental e bibliográfica. Os dados foram coletados por meio da técnica de observação sistemática com o apoio do instrumento de uma tabela de navegação orientada, elaborada pelo autor com base no guia de transparência ativa da CGU, de uso obrigatório nos órgãos públicos do Poder Executivo na Esfera Federal. Os resultados apontam que de acordo com a média obtida pelo conjunto das instituições analisadas, o atendimento ocorre em apenas 51% do que foi observado, em 33% o atendimento se dá de forma parcial, e em 16% das categorias analisadas as entidades não atendem à legislação.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Formato propuesto: Ponencia Presencial(Madrid).

Status: Accepted-Aceptado

292. La administración pública y la cuarta revolución industrial

Autor(es/as): Villalobos García Luis

Entidad: Instituto de Estudios Estratégicos en Seguridad y Desarrollo Nacional

Email contacto: (luis_villal@hotmail.com )

Al integrarse grupos de personas –al momento de existir comunidades–, existen intereses comunes, compartidos, por lo tanto, existe lo público, lo que nos vincula como sociedad, de ahí que surja la necesidad de ordenar y organizar el manejo de lo que nos es común a todos, de lo que nos concierne como comunidad: la política y el gobierno deben servir para resolver nuestros problemas. Por otra parte, la historia de la humanidad siempre ha estado fuertemente influida por los avances científicos, de esto que las dinámicas de las transformaciones actuales de las interrelaciones sociales, económicas y políticas, signadas por la emergencia de la importancia de los derechos humanos que fundamenta el tránsito de democracias representativas / participativas hacia democracias constitucionales, las redimensiones de las relaciones ciudadanía – gobierno (gobernanza), los enfoques de género, la necesaria sustentabilidad ecológica de las dinámicas comerciales – financieras, la globalización –no solo económica– y la emergencia de las sociedades de la información y el conocimiento (Cuarta revolución industrial / Economía de la información); demandan un repensar de las formas convencionales en que históricamente se han planteado y definido el manejo de los asuntos públicos. Esta agenda de revisión de la praxis de la administración pública contextualizada por la cuarta revolución industrial y la economía de la información, en aplicaciones que van desde el disponer de internet más eficiente, herramientas más potentes, baratas y accesibles, inteligencia artificial, robótica y la importancia de transformar la información en conocimiento (economía de la información / sociedad del conocimiento), tiene entre otras agendas, dos que se desarrollarán en el artículo: Empleo de los aportes, procesos y soluciones del cómputo y las comunicaciones existentes en la gestión gubernamental: revisión de las salidas del sistema público administrativo como servicios, bienes y productos públicos. La aplicación de estos insumos en la misma administración pública, para mejorar el manejo de las organizaciones públicas: revisión de los procesos del sistema.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Formato propuesto: por definir..

Status: Accepted-Aceptado