Inteligencia Artificial en la gestión pública: impactos de su aplicación y el desafío de una regulación

La Inteligencia Artificial (IA) avanza cada vez más sobre distintas áreas de la vida cotidiana. Su uso, desde hace algunos años, ya es un hecho en la gestión pública con herramientas como los chatbots para dar respuestas a las consultas de la ciudadanía. Desde El Auditor.info dialogamos con especialistas sobre la incorporación de estos desarrollos en el Estado, sus beneficios y desventajas.

Las nuevas tecnologías vinculadas a la IA pueden mejorar la gestión pública, acelerar procesos, brindar mejores servicios y tomar decisiones de forma más eficiente. Esto se da siempre y cuando la implementación e incorporación de las mismas se haga con los cuidados necesarios. “No hay que caer en el solucionismo tecnológico”, expresó Sofía Beatriz Scasserra, directora del Observatorio de Impactos Sociales de la Inteligencia Artificial de la UNTREF y miembro del Instituto del Mundo del Trabajo Julio Godio.

Para la implementación adecuada de estos desarrollos es necesario, según Scasserra, escuchar a especialistas, capacitar a los trabajadores, hacer evaluaciones de impacto y sus posteriores correcciones. Además es importante contar con una regulación, “que busque analizar los impactos tanto éticos como sociales. Y que haya una autoridad de aplicación analice los impactos y autorice determinadas tecnologías”, añadió la directora del observatorio.  

“Es imperioso dotar de un marco regulatorio apropiado".

Por su parte, Beatriz Busaniche, presidenta de Fundación Vía Libre, coincide con Scaserra. “Es imperioso dotar de un marco regulatorio apropiado la integración de estos sistemas, que no suponga algún tipo de riesgo para los derechos de la ciudadanía”, comentó Busaniche. En esta línea la integración tiene que ser transparente, es decir, las personas que están interactuando con estas tecnologías como es el caso de BOTI el chat del Gobierno de la Ciudad de Buenos Aires, sepa que está dialogando con un sistema automatizado.

En segundo lugar, para Busaniche, deberían hacerse “auditorías de sesgos discriminatorios, control y monitoreo permanentemente. Hay áreas en las cuales nos oponemos a que estos sistemas sean utilizados como pueden ser cuestiones vinculadas con seguridad pública o para la toma de decisiones en el Poder Judicial”.

Ambas coinciden en que lo primordial es dotar a estos sistemas de transparencia algorítmica y explicabilidad: “Que nos expliquen qué están haciendo los algoritmos, necesitamos saber cuándo estamos interactuando con Inteligencia Artificial”, agregó Scasserra.

Los chatbots: el caso de Boti

Actualmente varios desarrollos estatales con Inteligencia Artificial se encuentran al servicio de la ciudadanía, pero poco se sabe sobre cómo funcionan. En 2023 la Auditoría General de la Ciudad de Buenos Aires publicó un informe sobre el Chatbot Boti donde se observó, entre otras cuestiones, que el auditado, la Subsecretaría Ciudad Inteligente, no aclara si existe un método de monitoreo de riesgo, registro de eventos, evaluación de impactos y su frecuencia. Tampoco las áreas responsables de generar los informes y las acciones correctivas.

El informe señala que “es esencial evaluar, planificar e implementar políticas y acciones que permitan al GCBA la posibilidad de la portabilidad del chatbot hacia otros posibles proveedores; así como reducir el nivel de dependencia total hacia el proveedor actual y el riesgo que implica la caída del servicio frente a problemas técnicos o cambios contractuales”.

La situación actual de BOTI no garantiza la continuidad y disponibilidad del chatbot ante imprevistos ocurridos con el proveedor. Asimismo no se informa si existen procedimientos de evaluación y clasificación de la información según su criticidad, nivel de confidencialidad y privacidad.

El impacto en la sociedad

Según datos del Instituto Nacional de Estadísticas y Censos (INDEC) de 2022 en Argentina el 62,6% de los hogares tienen computadoras, el 92,1% cuenta con acceso a internet, entre la población solo un 39,2% utiliza computadora y un 88,4% utiliza internet. Esto demuestra que existe un porcentaje de la población que sufre la brecha digital.

Para que estos desarrollos puedan ser aprovechados por todos “hace falta educación ciudadana en tecnologías. En esta era donde la tecnología avanzó tan rápido, los programas educativos no fueron debidamente renovados. La mayoría de las personas sabe cómo utilizarlas pero no las comprende en su totalidad”, indicó Scasserra.

Siguiendo a Scasserra, es necesario que haya canales de evaluación y comunicación al respecto. “Si te imponen la aplicación, te imponen el bot, en muchos casos sacan el canal presencial y hay gente que no está tecnologizada. La tecnología requiere de una implementación correcta y consciente, ya que puede generar problemas muy graves y puede tener un impacto negativo en el Estado o en cualquier otro sector de la sociedad”.

“La tecnología tiene que estar puesta al servicio de la sociedad y no la sociedad del servicio de la tecnología”, subrayó Scasserra. Desde hace unos días desde el gobierno nacional preparan un proyecto de ley para ser presentado en el Congreso que busca regular la IA en el mundo laboral.  

En cuanto a la incorporación de Inteligencia Artificial en los ámbitos laborales, para Scasserra, tiene que formar parte de la agenda sindical, “tiene que haber una negociación colectiva sobre cómo se va a implementar, cuál va a ser la capacitación, qué tiempo de adaptación van a tener, cómo va a ser la evaluación posterior y corrección de problemas. Esto tiene que formar parte de la negociación colectiva cotidiana y es parte de la regulación que necesitamos”.

Capacitación en la administración pública

Pablo Nemiña, director nacional de Planeamiento Estratégico de la Capacitación del Instituto Nacional de la Administración Pública (INAP), en diálogo con El Auditor.info, explicó que actualmente se encuentran capacitando sobre a estos nuevos desarrollos a los trabajadores de la administración pública a través del Programa INAP Futuro.

“El Programa asume el desafío no sólo de reflexionar sobre las tecnologías digitales y la IA en su relación con la transformación de la gestión pública, sino también de desarrollar investigación, prospectivas, capacitaciones y productos concretos que contribuyan a garantizar cada vez más y mejores derechos en un mundo en creciente transformación”, indicó Nemiña.

Para Nemiña existen riesgos que deben ser objeto de un cuidadoso análisis. “La dimensión ética y la seguridad de los datos son dos cuestiones centrales”, aseguró desde el INAP.  Estas tecnologías “deben ser probadas previamente en ambientes controlados, bajo la minuciosa observación y evaluación de un grupo multidisciplinario de especialistas capaces de validar su utilidad y asegurar su funcionamiento bajo los estándares éticos aplicables”, afirmó.

Regulación, el caso de la Unión Europea

Actualmente en Europa se debate un marco normativo para regular la Inteligencia Artificial. “Lo que busca este modelo es establecer niveles de riesgos e impactos, en los cuales, la integración de sistemas de IA supone riesgos inaceptables, como es el caso de los sistemas de armas automatizada o sistemas de reconocimiento facial en la vía pública como el que tenemos en la Ciudad”, aseveró Busaniche.

La Inteligencia Artificial trasciende los países y regiones, por lo cuál para Scasserra además de la importancia de contar con leyes en Argentina al respecto, es necesario “empezar a tener agendas regionales sobre gobernanza de datos, auditoría algorítmica, importación y exportación de software, entre otros temas, para empezar a tener una dimensión regional y global de hacia dónde van estos procesos tecnológicos”, reflexionó Scasserra.

Argentina y la región

“Estas agendas en nuestro país son muy endebles y están sujetas a los vaivenes, faltas de presupuesto, falta una política de Estado. La verdad es que el Estado argentino está bastante lejos de la discusión que requieren este tipo de cuestiones ni hablar del Congreso, está muy lejos de debatir cómo lo están haciendo en Europa”, advirtió Busaniche.

El año pasado la Corte Suprema de Justicia de la Nación emitió un fallo por derecho al olvido en el caso Natalia De Negri contra Google y, en los considerandos, señala la importancia de que Argentina legisle al respecto y que existan exigencias en materia de transparencia de los algoritmos de las empresas que los administran. “Nos toca a quien estamos en la sociedad civil, en la Academia, empujar esta agenda”, añadió Busaniche.

¿Qué es la Declaración de Montevideo?

En marzo de este año especialistas en la materia publicaron la “Declaración de Montevideo sobre Inteligencia Artificial y su impacto en América Latina”, en el marco de una reunión Khipu – Encuentro Latinoamericano de Inteligencia Artificial - que se realizó en la ciudad de Montevideo, Uruguay.  

En la misma proponían que las tecnologías debían estar al servicio de las personas para mejorar la calidad de vida, las condiciones laborales, económicas y de bienestar general. Asimismo remarcaron en esta declaración conjunta que la implementación de IA tiene que cumplir con los principios rectores de los derechos humanos.

Entre otras cuestiones mencionadas en la declaración se encuentra minimizar su impacto ambiental, el impacto en el desempleo, contemplar la diversidad cultural de la región en los diseños de IA y fortalecer la soberanía de los países latinoamericanos en cuanto a cuestiones estratégicas y regulatorias de estas tecnologías. Por último, propusieron desarrollar criterios para calificar los riesgos de la IA de forma transparente y analizar y comunicar sus limitaciones.

“Es un piso mínimo de consensos de una comunidad que es muy diversa donde hay investigadores, desarrolladores y del mundo académico, que hace tiempo debaten en torno a los aspectos éticos de estas tecnologías. Ahora estamos empezando a trabajar en un plan de acción para dotar a esta carta de acciones concretas”, remarcó Busaniche. Mientras la tecnología avanza sin freno, toca esperar que se regule para el beneficio de la ciudadanía, tanto en Argentina como en el mundo.