La utilización de Inteligencia Artificial (IA) en la gestión pública es un tema que no termina de ser parte de un debate amplio. En ese sentido, hay certezas, pero también dudas. ¿Qué significa hacer un uso responsable de ella? ¿Cómo se mide su impato? El Auditor.info dialogó con Gastón Addati, experto en Big Data, Inteligencia Artificial y Gestión Tecnológica, CEO de Adda Tech y director de la carrera de Ingeniería en Informática en la Universidad del CEMA.

- ¿Qué significa o cómo se practica un uso responsable de herramientas de IA?

Un uso responsable de la IA implica que tanto los desarrollos como las implementaciones de los sistemas generen beneficios, optimicen procesos, reduzcan costos y ahorren tiempo. Pero no a cualquier precio, sino considerando que respeten los derechos humanos, que promuevan la equidad y, en lo posible, que generen beneficios sociales, minimizando al mismo tiempo los riesgos y daños potenciales por un mal uso de esta tecnología. Un uso responsable implica que exista supervisión humana en aquellas decisiones o situaciones complejas.

- ¿Y en la gestión estatal puntualmente la responsabilidad adquiere otro significado?

Sin ninguna duda, porque el Estado, entre tantas funciones, se ocupa de administrar recursos públicos. Está obligado a rendir cuentas democráticamente y, fundamentalmente, porque no puede delegar su responsabilidad en herramientas automatizadas. Por ejemplo, si se usa un algoritmo para asignar turnos en un hospital público y este margina a un grupo poblacional, la autoridad sanitaria sigue siendo responsable por esa discriminación, aunque el sesgo sea algorítmico.

- ¿Qué crees que aporta la IA a la gestión pública? ¿Qué área puede sacar más provecho?

Son muchos los aportes y todo depende de la dimensión que se quiera observar. En líneas generales, la IA aporta mucho valor en la automatización de procesos, en la atención al ciudadano, en la autogestión (por medio de bots que utilizan lenguaje natural), en la optimización de procesos estatales que son complejos; pero, fundamentalmente, puede aportar valor mejorando la calidad en la toma de decisiones.

En el área de seguridad, que es mi expertise, se puede ayudar a predecir y prevenir delitos, crímenes y atentados. También puede combinarse con diversas tecnologías para que las fuerzas de seguridad tomen mejores decisiones y se anticipen a los hechos. Puede servir para el manejo de situaciones de crisis, desastres climáticos y en la anticipación de todos estos eventos.

- ¿Necesariamente reemplaza al recurso humano o este lo incorpora y hasta puede haber gente específica para su gestión?

No necesariamente. La IA no reemplaza; sí puede potenciar, asistir e incluso crear nuevos roles humanos. En algunos casos, es mucho más eficiente implementar un bot con lenguaje natural, que tiene capacidad de atender cientos o miles de consultas de forma simultánea, a tener que disponer de grandes lugares físicos con cientos de personas para atender llamados. Sin dudas, la tecnología en esta parte de atención al ciudadano (siempre que esté correctamente implementada) contribuye muchísimo a disponer de atención las 24 horas horas los siete días de la semana y a mejorar la experiencia de los ciudadanos. Hacer eso con gente sería muy costoso, laborioso y hoy no tendría sentido. Las personas deberían estar abocadas a programar a los bots y a analizar los datos que se generan para que, con ayuda de la IA, se puedan tomar mejores decisiones.

- El Gobierno de la Provincia de Buenos Aires publicó recientemente una guía de pautas para el uso responsable de la inteligencia artificial (IA) dentro de la gestión local (“Directrices de uso de Inteligencia Artificial Generativa en la Administración Pública de la Provincia de Buenos Aires”). ¿Qué opinión tenés sobre este documento?

La guía plantea algunos puntos que son generalistas, que son correctos y están acordes al uso estatal. Me parece clave la capacitación permanente del personal que utilizará estas tecnologías, porque si bien estos puntos tratan de minimizar los riesgos, es importante mencionar que las personas deben estar capacitadas para su correcto uso y deben ser conscientes de la implicancia que tiene la tecnología en su labor cotidiana. Una persona que no está capacitada no tiene forma de discernir que puede estar cometiendo un error.