En Ecuador durante la pandemia se registraron serios problemas de opacidad en cuanto al plan de vacunación, los procesos de adquisición de vacunas y una diversidad de insumos. Esta situación agravó y evidenció las falencias que se han mantenido por décadas y que se relacionan con el incumplimiento de la ley de transparencia y acceso a la información pública, expedida hace 18 años. Actualmente, se discute una propuesta de nueva ley que, si bien considera varios aspectos del modelo de la OEA, aun presenta vacíos que deben ser atendidos para superar la situación de pospandemia. Esta construcción se da en un ambiente en el que los poderes públicos enfrentan baja legitimidad y confianza De acuerdo al reporte de Latinobarómetro al 2020, en Ecuador, el nivel de confianza en el legislativo alcanzó el 13%, mientras que en el gobierno fue de apenas el 10%. Adicionalmente, de evaluaciones previas se evidenció que los datos publicados por las instituciones obligadas (transparencia activa) no reflejan la calidad de la información publicada, ni entregada a la ciudadanía, ni el uso que da la ciudadanía a la información pública para incidir en la gestión o ejercer control social. Al respecto, se tiene como premisa que sobre la base de la evolución de la sociedad y el aprendizaje ciudadano, la nueva propuesta no sólo debe dar una respuesta frente a los avances tecnológicos y modelos regionales, sino también partir de los aspectos contextuales y la experiencia. Las solicitudes de los ciudadanos (transparencia pasiva) no se limitan a la información general sobre la gestión y uso de los recursos públicos, sino también se requiere de información específica para la toma de decisiones. Por lo que, en el estudio se propone identificar los cambios en las necesidades de información de la ciudadanía, a partir de las solicitudes de acceso; y, con ello, se identificará la necesidad de transparencia focalizada, entre las obligaciones del Estado. Para el efecto, se aplicará un diseño de estudio de caso analizando una muestra de las entidades del ejecutivo y se utilizará un análisis documental, a partir de fuentes oficiales proporcionadas por el órgano garante del derecho.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Ponencia Virtual (Madrid).

Este documento es un estudio empírico y comparativo de la doctrina y legislación de la transparencia gubernamental cuyo propósito es analizar su calidad, oportunidad, confiabilidad y accesibilidad para el contribuyente, una vez analizados estos aspectos comprobar si existe una correlación entre la transparencia y la recaudación, es decir si el contribuyente responde ante el ejercicio de la transparencia gubernamental al poner a su disposición todos los datos y elementos que componen el gasto público. La transparencia gubernamental debe ser ejercida y estudiada desde el derecho humano de acceso a la información, es decir que debemos proteger dicho derecho humano que conlleva la evaluación del desempeño de la administración publica gubernamental, ya que en diversos estudios se ha analizado el papel de la transparencia en la cultura tributaria. En la actualidad la transparencia gubernamental y la protección al derecho humano de acceso a la información se ha convertido en la base de un sistema fiscal eficiente, es por ello que en el presente artículo se sostiene que son fundamental no solo para ejercicio democrático que embiste a los gobernantes en el ejercicio de sus facultades, sino la protección a un estado de derecho que brinde certeza a sus ciudadanos, la transparencia no solo debe ser vista como una herramienta para combatir la evasión fiscal sino como una herramienta para incentivar las contribuciones fiscales. Es por ello que se analiza el impacto en la cultura tributaria, no solo el ejercicio del gasto publico y la transparencia gubernamental sino además del impacto en las contribuciones cuando existe una desmedida ausencia de ello, es por eso que se expone a lo largo de este artículo las diversas aportaciones sobre este tema, que se han originado en el quehacer científico de la investigación sobre la evasión fiscal y sus factores explicativos, si es hora de afirmar que la transparencia gubernamental es un regulador de la cultura tributaria y la recaudación o debe ser visto como un complemento de una democracia.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Ponencia Presencial(Madrid).

La adopción de herramientas tecnológicas que incorporan algoritmos, especialmente aquellos que facilitan decisiones automatizadas, puede contribuir significativamente con los objetivos de los Estados. Por ejemplo, la implementación de sistemas asistidos por inteligencia artificial (IA) por parte de entidades públicas puede aumentar la velocidad y precisión del procesamiento de grandes volúmenes de datos; reducir los tiempos de respuesta de solicitudes y casos; y, eximir al talento humano de tareas rutinarias para reasignarlo a actividades más complejas, entre otros. Sin embargo, el uso de algoritmos en la gestión pública también puede generar riesgos y potenciales efectos negativos para los ciudadanos. La implementación de IA por los gobiernos puede implicar la pérdida de predictibilidad de los procesos de la administración pública en la medida en que los sistemas arrojen resultados o decisiones que no sean comprensibles o cuyas justificaciones no sean verificables (el efecto “caja negra”); reducir o eliminar el control de los funcionarios sobre las herramientas que utilizan; y, genera riesgos en relación con el tratamiento de datos personales, particularmente aquellos sensibles, y pérdida o afectación de la privacidad, entre otros. La literatura sobre el uso de IA en el sector público de Colombia incluye casos de estudio sobre herramientas puntuales, pero no cuenta con trabajos que mapeen y caractericen el uso de sistemas de decisión automatizada (SDA) por el Estado colombiano. Los problemas de investigación abordados por este trabajo buscan contribuir cerrar esa brecha de la literatura: ¿Con qué finalidades son utilizados los SDA en la administración pública de Colombia? ¿Qué beneficios ofrecen y qué riesgos generan? Para responder a las preguntas se recolectará y procesará información disponible públicamente, información solicitada directamente a entidades estatales (DNP, DAFP, MINTIC, DAPRE), y entrevistas semiestructuradas a funcionarios públicos encargados de diseñar, pilotear y/o implementar los SDA. Con dicha información se creará un catastro de SDA implementados en Colombia. Los resultados del estudio permitirán generar implicaciones de política pública en materia de ética en el uso de los datos, transparencia algorítmica y, en general, sobre la gobernanza del uso de SDA e IA (y de los datos que lo alimentan) en el sector público.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Ponencia Presencial(Madrid).

PretorIA es un sistema que apoyará el proceso de selección, análisis y estructuración de las sentencias de tutela para revisión de la Corte Constitucional de Colombia. Es un proyecto de inteligencia artificial cuyo objetivo es clasificar las sentencias de tutela que todos los jueces deben remitir a la Corte, bajo criterios definidos por la Corporación. En virtud de esta clasificación, PretorIA permite presentar la información en fichas-resumen que indican la concurrencia o no de las categorías en un texto. Además, permite la creación de estadísticas e identificación de temas recurrentes. De este modo, le facilita a los judicantes de la Corte preseleccionar los procesos de tutela para una eventual revisión de la Corte.PretorIA facilita el estudio de las cerca de 12.000 tutelas que llegan semanalmente y otorga las bases para realizar análisis de los temas por los cuales los usuarios acuden a la jurisdicción constitucional y las decisiones de los jueces. Sin embargo, también es cierto que la información que usará PretorIA para funcionar es sensible. Inadvertidamente, los criterios bajo los cuales funcionará esta inteligencia artificial pueden repercutir en el tratamiento de datos personales, la transparencia de la herramienta y en posibles actos discriminatorios contra los tutelantes. En esa medida, desde una óptica jurídica, es imperativo preguntarse cuáles son los riesgos a los derechos fundamentales de las personas que existen con ocasión del eventual funcionamiento de PretorIA. Para responder dicho problema de investigación, se ha acudido a los documentos que han publicado organizaciones sociales que han hecho control sobre el proyecto, a entrevistas con las personas involucradas en el desarrollo de PretorIA y a textos académicos relacionados con los riesgos éticos de la inteligencia artificial. Como resultado, en el curso de esta investigación, se han encontrado riesgos en la clasificación de los usuarios conforme a criterios como la edad, género y grupo étnico; también, en una probable opacidad en la manera como trabajará la herramienta y, finalmente, en posibles casos que pueden ser ignorados si no clasifican en una u otra categoría, sobre todo, si se tratan de asuntos novedosos o distintos tipos de vulneración a derechos fundamentales.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Ponencia virtual.

La tecnología de Inteligencia Artificial que excluye a grupos de personas y explota la psicología humana se ha abierto paso en nuestra vida cotidiana y ha impactado en la sociedad de formas que nunca imaginamos. De allí, que la implementación de estas nuevas tecnologías este permeada por el desarrollo de guías o marcos éticos para mitigar posibles efectos nocivos o imprevistos que pueda causar. Sin embargo, estas directrices han sido blanco de críticas por la falta real de inclusión de las partes interesadas y la falta de transparencia en el proceso de creación de estos documentos. A través de este texto se pretende explorar cómo la metodología del análisis de impacto tecnológico, pensamiento de diseño y el diseño legal, aportan en la creación de programas centrados en el ciudadano de ética de la IA. Esto, para prevenir algunas de las preocupaciones existentes relacionadas con la adopción de la IA a gran escala en todo el mundo y salvaguardar el beneficio social. Con ello, se estudia cómo los procesos de colaboración, inclusión y co-creación, acompañados del estudio dogmático legal, aportan valor a la elaboración de estas guías éticas. De esta investigación, se concluye principalmente que la inclusión de todas las partes interesadas a través de procesos de colaboración, inclusión y co-creación, revisten de legitimidad a los códigos de conducta e incluso promueven la búsqueda de soluciones y alternativas por parte de los mismos interesados. Para ello, se toma como casos de estudio las experiencias de Canadá, la Unión Europea y Colombia, evidenciando como los actores aportan en la construcción de las ideas y como las dinámicas del diseño y el análisis de impacto contribuyen a un mejor proceso de legitimidad y creación. Si se pretende incentivar la innovación tecnológica protegiendo a su vez los derechos humanos y salvaguardando ‘el bien’ de la sociedad, se debe identificar en primera medida cuál es el significado cultural y social sobre el “bien” y encontrar la manera de hacer que las múltiples partes interesadas lo persigan, en lugar de perseguir un solo interés.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Ponencia Presencial(Madrid).

Este trabajo afronta el análisis de la evolución de las políticas de promoción de la Unión Europea, relacionadas con la Sociedad de la Información y la implantación de las TIC, en el contexto del proceso modernizador de las administraciones públicas españolas -y más concretamente el de la Administración General del Estado. Por principio, una política pública tiene que concluir un resultado, que puede ser una mejora, o -en el peor de los casos- el mantenimiento de la situación inicial. El caso de la implantación de este tipo de políticas ha supuesto como mínimo la normalización del uso de las TIC en el día a día de las Administraciones, piedra angular del proceso modernizador de éstas. El punto de partida es la incorporación de España en la Unión Europea, considerando como precedente la situación política, económica y administrativa habida en España desde 1978. El último periodo analizado sería el de la implantación del actual 'Plan de Recuperación para Europa'. En esta investigación se analiza, en primer lugar, la evolución de las medidas de promoción a través de diferentes periodos y considerando diferentes medios y proyectos. A continuación se exponen las principales características de estos proyectos. Una parte muy importante de la investigación es la que muestra el estado del arte de la Administración General del Estado, en cuanto a infraestructura (hardware, software, conectividad, servicios que usa y ofrece, interoperabilidad...) tanto desde el punto de vista cuantitativo (a través de estadísticas) como cualitativo. Como conclusión se muestra la relación existente entre la implantación de los diferentes programas y proyectos, y la actual definición de la Administración General, recogiendo todos aquellos puntos en los que se ha hecho hincapié se debía incidir para conseguir que las políticas relacionadas con la Sociedad de la Información, el proceso digitalizador, y el uso de las TIC, pudieran recibir especial promoción para conseguir el objetivo más importante: acercar a ciudadanos, empresas y otras administraciones entre sí.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Comunicación-sin presentación.

O direito de acesso à informação é uma temática que vem sendo cada vez mais debatida com o passar dos anos devido a procura por transparência e participação democrática na sociedade. A utilização de tecnologias da informação tem facilitado o controle social e a cobrança por direitos pela população. Portanto, esta pesquisa objetivou analisar o atendimento às legislações relacionadas ao acesso à informação, por meio do mecanismo de transparência ativa dos portais eletrônicos das Instituições de Ensino Público da Rede Federal de Educação, Ciência e Tecnologia da Região Norte brasileira. Este trabalho é classificado quanto aos seus objetivos como descritivo e exploratório, com relação à sua natureza é quantitativa e qualitativa, e quanto aos procedimentos técnicos consiste em uma pesquisa documental e bibliográfica. Os dados foram coletados por meio da técnica de observação sistemática com o apoio do instrumento de uma tabela de navegação orientada, elaborada pelo autor com base no guia de transparência ativa da CGU, de uso obrigatório nos órgãos públicos do Poder Executivo na Esfera Federal. Os resultados apontam que de acordo com a média obtida pelo conjunto das instituições analisadas, o atendimento ocorre em apenas 51% do que foi observado, em 33% o atendimento se dá de forma parcial, e em 16% das categorias analisadas as entidades não atendem à legislação.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)

Ponencia Presencial(Madrid).

Al integrarse grupos de personas –al momento de existir comunidades–, existen intereses comunes, compartidos, por lo tanto, existe lo público, lo que nos vincula como sociedad, de ahí que surja la necesidad de ordenar y organizar el manejo de lo que nos es común a todos, de lo que nos concierne como comunidad: la política y el gobierno deben servir para resolver nuestros problemas. Por otra parte, la historia de la humanidad siempre ha estado fuertemente influida por los avances científicos, de esto que las dinámicas de las transformaciones actuales de las interrelaciones sociales, económicas y políticas, signadas por la emergencia de la importancia de los derechos humanos que fundamenta el tránsito de democracias representativas / participativas hacia democracias constitucionales, las redimensiones de las relaciones ciudadanía – gobierno (gobernanza), los enfoques de género, la necesaria sustentabilidad ecológica de las dinámicas comerciales – financieras, la globalización –no solo económica– y la emergencia de las sociedades de la información y el conocimiento (Cuarta revolución industrial / Economía de la información); demandan un repensar de las formas convencionales en que históricamente se han planteado y definido el manejo de los asuntos públicos. Esta agenda de revisión de la praxis de la administración pública contextualizada por la cuarta revolución industrial y la economía de la información, en aplicaciones que van desde el disponer de internet más eficiente, herramientas más potentes, baratas y accesibles, inteligencia artificial, robótica y la importancia de transformar la información en conocimiento (economía de la información / sociedad del conocimiento), tiene entre otras agendas, dos que se desarrollarán en el artículo: Empleo de los aportes, procesos y soluciones del cómputo y las comunicaciones existentes en la gestión gubernamental: revisión de las salidas del sistema público administrativo como servicios, bienes y productos públicos. La aplicación de estos insumos en la misma administración pública, para mejorar el manejo de las organizaciones públicas: revisión de los procesos del sistema.

GT-Panel: GT.2022-15 Retos de la gobernanza de datos públicos y la Inteligencia Artificial en el sector público (Juan David Gutiérrez)