Chat BOTI: ¿cómo y quién protege la información que le confiamos al robot de la Ciudad?
Desde 2019 el gobierno porteño comenzó a interactuar con los vecinos a través de un chat gestionado por Inteligencia Artificial. La AGCBA auditó los sistemas, a cargo de la Subsecretaría Ciudad Inteligente, y los hallazgos en seguridad y propiedad del servicio no fueron satisfactorios.
¡Hola! Acá Boti. 👋
Y como siempre, tengo todo listo para ayudarte.
Contame, ¿qué puedo hacer por vos?
Con estas amables líneas inicia el chat del Gobierno de la Ciudad cuando lo contactamos por ayuda. A partir de allí, la conversación se va dando de forma alternada entre quien escriba y el robot de respuestas automáticas, solicitando datos, documentos y especificidad en las solicitudes.
Si nuestra inquietud se encuentra dentro de la media, seremos ágilmente asistidos y recibiremos una respuesta a una pregunta, un certificado a una solicitud o un esclarecimiento a una duda, según corresponda. Pero, ¿cómo y quién protege la información que compartimos con este veloz robot detrás del chat?
La Auditoría General de la Ciudad de Buenos Aires (AGCBA), durante el 2021, revisó los sistemas, procesos, servicios, y tecnologías que garantizan la operatividad del chatbot “BOTI”, gestionado por la Subsecretaría Ciudad Inteligente, y los hallazgos en materia de seguridad no fueron los esperables.
Datos desprotegidos
El Gobierno de la Ciudad, hasta el 2018, contaba con tres canales de comunicación de este tipo mediante la web, Facebook y Telegram. Esto descentralizaba las consultas, por lo que se creó, en el 2019, el chatbot “BOTI”, tal como lo conocemos ahora.
Desde ese momento, el 80% de las consultas totales migró a este nuevo canal ya que, según el análisis general de la AGCBA, “facilita el acceso a la información y la gestión de trámites y turnos”.
El incremento de los servicios brindados a los ciudadanos a través del chat satisface diferentes demandas y mejora continuamente el rendimiento a través de inteligencia artificial. Es por esto que se deben crear y actualizar las políticas informáticas que protegen los datos procesados.
La auditoría no pudo constatar la documentación respaldatoria que asegure la firma de convenios de confidencialidad con las empresas desarrolladoras de BOTI.
En disonancia con ello, la Auditoría no pudo constatar la documentación respaldatoria que asegure la firma de convenios de confidencialidad y no divulgación del código fuente con las empresas desarrolladoras de BOTI, es decir, no hay registros del compromiso de dichas compañías con la protección del canal ni de la información brindada por los usuarios.
Además, si bien se señala a la Agencia de Sistemas de Información (ASInf) como encargada de las conexiones físicas y lógicas, no se identifica al responsable del hardware y software de protección de las conexiones, direcciones IP y puntos de acceso.
Tampoco se hallaron especificaciones al respecto del umbral de tiempo de resguardo de los registros y la información provista por el auditado “no asegura que el desarrollo y las modificaciones aplicadas al chatbot cumplan con el Estándar de Desarrollo (ES0901) establecido por ASInf.”
En el informe, el organismo indica que utiliza criterios para la gestión de la información basados en la Ley N° 1845/05 de Protección de Datos Personales, pero no anexa la documentación respaldatoria que acredite la implementación de los mismos.
Los hallazgos en seguridad abarcaron, además, falencias desde lo físico ya que no se constataron procedimientos formales para el ingreso de personas a las instalaciones donde se encuentran los dispositivos que acceden al sistema.
Propiedad privada
Con respecto a la propiedad del chat, la implementación de BOTI fue realizada mediante la contratación con la empresa Botmaker S.R.L., a través de la plataforma Botmaker. El servicio de conversaciones del chatbot fue renovado con dicha empresa en los años que siguieron.
Esto implica que el propietario del sistema no es el Gobierno de la Ciudad sino una empresa privada y, además, la documentación suministrada por el auditado “no expone un proceso de evaluación de asignación del presupuesto y recursos necesarios para que el GCABA sea el titular de la Plataforma y de toda la Propiedad Intelectual vinculada a la misma”. Es decir, no hubo planes de modificar esta situación.
El propietario del sistema no es el Gobierno de la Ciudad sino una empresa privada.
Esto es destacable ya que, de esta manera, la Subsecretaría Ciudad Inteligente tendría la potestad e independencia de administrar la plataforma o asignar la gestión de la misma a otros proveedores. El informe señala la importancia de poder tomar ese tipo de decisiones, no sólo por competitividad comercial sino también para disminuir el nivel de dependencia hacia el proveedor actual, el cual aumenta el riesgo que implica la caída del servicio frente a problemas técnicos o cambios contractuales.
Actualmente, en estos términos, no está garantizada la continuidad y disponibilidad de BOTI ante imprevistos ocurridos con el proveedor.
Una base de datos cada vez más grande
El GCABA eligió WhatsApp como canal de comunicación ya que posee el mayor nivel de penetración en mensajería y la mayoría de los smartphones de Argentina lo utilizan. Es por ésto que el crecimiento de las conversaciones a través del chatbot es exponencial.
Durante el primer trimestre del año 2021 se atendieron 4.167.362, mientras que durante el mismo período del año 2022 ese número se elevó a 26.181.606.
El fallo o incumplimiento de alguna de las políticas de confidencialidad puede permitir el acceso no deseado a los datos, poniendo en peligro la integridad, la disponibilidad y la privacidad de la información. Para la AGCBA es necesario adoptar medidas que garanticen el correcto tratamiento y almacenamiento de la información generada, en particular la protección de los datos de carácter personal.