Transparencia de la inteligencia artificial en la administración pública: Una revisión de estándares internacionales

Abstract

Este artículo compara estándares de soft law aplicables a los sistemas automatizados por inteligencia artificial (IA) en la administración pública, con el propósito de promover la gobernanza de algoritmos confiables, transparentes, responsables y centrados en los derechos de las personas. La metodología empleada se basa en una revisión comparativa de instrumentos de organismos globales. Se argumenta que, en la última década, la sociedad digital basada en datos ha transformado las interacciones y la toma decisiones, dando lugar a la formulación acelerada de estándares internacionales que influyen en procesos de transformación digital de la administración pública, conforme al concepto de gobernanza algorítmica, que apenas comienza a integrarse en los procesos automatizados del sector público. Se concluye que, a pesar de su rápida evolución, la discusión se ha centrado principalmente en aspectos técnicos, descuidando la garantía del derecho de acceso a una explicación de las decisiones y riesgos asociados al oscurantismo de las democracias. El estudio contextualiza cinco principios indispensables de transparencia algorítmica y destaca, dentro de las limitaciones, que no se puede asegurar que el legislador adopte vía lege ferenda estas recomendaciones porque estos instrumentos cambian vertiginosamente, y además no surten efectos vinculantes. La contribución principal del artículo es proporcionar una visión global y armonizada, instando a los actores políticos a examinar detenidamente la experiencia comparada para impulsar las regulaciones necesarias que permitan incrementar la confianza de los ciudadanos en sistemas automatizados por algoritmos, y la responsabilidad de la inteligencia artificial en la administración pública.