Desde entonces, múltiples distritos bonaerenses adoptaron sistemas similares: Escobar, por ejemplo, creó a Flora, un chatbot que este año recibió el premio de la Sociedad Argentina de Inteligencia Artificial (SAIA) en la categoría Gobernanza y Servicios Públicos. En los últimos años proliferaron los servicios de IA provistos por municipios a través de WhatsApp: BeraChat en Berazategui, Miguel Bot en San Miguel, Tera en Bahía Blanca, Arroyito en Tres Arroyos, QuiBOT en Quilmes y otros. Fuera de la provincia de Buenos Aires se lanzaron MuniBot en Rosario, Muni en Paraná, El Municipal en Orán, Capi en Neuquén, TUNU en Tunuyán...
Para David Groisman, director de Estado y Gobierno del Centro de Implementación de Políticas Públicas para la Equidad y el Crecimiento (CIPPEC), la IA “no es neutral ni es mágica”, y no conviene proceder a una “automatización acrítica” porque de hacer eso, “se corre el riesgo de delegar decisiones sensibles a sistemas cuyo funcionamiento interno no es del todo transparente”.
En cambio, si se usan correctamente, los agentes IA pueden ser muy útiles en la gestión pública, subrayó Olano Melo.
“El problema es que estas tecnologías suelen ser de toma de decisiones. Y puede ser que estén decidiendo sobre mí sin ningún control humano”, puntualizó Trovato. Como ejemplo, mencionó el caso del sistema de reconocimiento facial por IA que se implementó en la ciudad de Buenos Aires y que tuvo que ser retirado porque cometió “un montón de errores”.CHIN CHIN
Revista Qué
Redacción
Todos los derechos reservados
Serga.NET
Funcionarios virtuales: ¿estamos listos?
La implementación de sistemas de inteligencia artificial en el Estado multiplica las oportunidades, pero también los desafíos. ¿Cuánto se puede dejar librado a los algoritmos?
¿Puede un algoritmo estar en una función de poder? El crecimiento acelerado de los sistemas de inteligencia artificial (IA) acerca la pregunta que hace ya más de cuarenta años planteó la película Terminator y que mucho antes ya venía imaginando la literatura de ciencia ficción: ¿podemos confiarles a las máquinas asuntos de gobierno y decisiones importantes para nuestras vidas?
En la provincia de Buenos Aires esta pregunta está sorprendentemente vigente. El gobierno acaba de regular el uso de la IA en el Estado para evitar que su aplicación indiscriminada genere riesgos a la seguridad, la salud y los derechos de la gente. El alcance de la resolución es limitado, ya que sólo se aplica a los distintos estamentos del Poder Ejecutivo provincial y no a los municipios, a la Justicia o al Poder Legislativo. Para una regulación más general habría que sancionar una ley.
El municipio de Zárate ya anunció que tendrá una funcionaria no humana, generada a través de un sistema de software, pero con la atribución de tomar decisiones, que serán administrativamente válidas y que sólo puede revocar un funcionario de rango superior.
ZARA sigue los pasos de Diella, una ministra virtual designada en el gobierno de Albania, hecha íntegramente con inteligencia artificial (IA). Es el primer algoritmo en el mundo designado con un rango ministerial.
Son, quizás, derivaciones naturales de la veloz popularización de estos algoritmos en todas partes y en particular en el sector público. No sería exagerado hablar de una explosión del uso de sistemas de IA en los municipios. La Ciudad de Buenos Aires dio el puntapié inicial con el lanzamiento, en 2019, de Boti, el primer asistente virtual municipal.
Desde entonces, múltiples distritos bonaerenses adoptaron sistemas similares: Escobar, por ejemplo, creó a Flora, un chatbot que este año recibió el premio de la Sociedad Argentina de Inteligencia Artificial (SAIA) en la categoría Gobernanza y Servicios Públicos. En los últimos años proliferaron los servicios de IA provistos por municipios a través de WhatsApp: BeraChat en Berazategui, Miguel Bot en San Miguel, Tera en Bahía Blanca, Arroyito en Tres Arroyos, QuiBOT en Quilmes y otros. Fuera de la provincia de Buenos Aires se lanzaron MuniBot en Rosario, Muni en Paraná, El Municipal en Orán, Capi en Neuquén, TUNU en Tunuyán...
La regulación del uso de IA en Buenos Aires es la primera que tiene lugar en el país. A nivel nacional, el gobierno de Javier Milei dio de baja la iniciativa que se había lanzado en el último año de la administración de Alberto Fernández. En aquel momento la Jefatura de Gabinete publicó una serie de recomendaciones, entre las cuales figuraban la circunscripción a principios éticos, como la no discriminación, la supervisión humana de la IA, la adopción de medidas para evitar riesgos y la transparencia y explicabilidad de los sistemas.
Los especialistas consultados por La Tecla coinciden en que los sistemas inteligentes implican grandes oportunidades de mejora en la gestión del Estado, pero también conllevan riesgos y requieren un monitoreo y evaluación por parte de funcionarios humanos. En casos como el de ZARA, por ejemplo, “tiene que haber una persona que ponga la firma; un humano tiene que estar en el circuito para terminar de validarlo”, explica José María Olano Melo, director de Estudios y Proyectos del Instituto Argentino de Inteligencia Artificial (INARIA).
Para David Groisman, director de Estado y Gobierno del Centro de Implementación de Políticas Públicas para la Equidad y el Crecimiento (CIPPEC), la IA “no es neutral ni es mágica”, y no conviene proceder a una “automatización acrítica” porque de hacer eso, “se corre el riesgo de delegar decisiones sensibles a sistemas cuyo funcionamiento interno no es del todo transparente”.
La inteligencia artificial “no es neutral porque todo sistema de IA depende de los datos con los que fue entrenado y de las decisiones humanas detrás de su diseño. Si esos datos están incompletos, desactualizados o reflejan desigualdades históricas, la IA va a reproducir esos sesgos. Esto puede ser especialmente problemático en áreas sensibles, como la asignación de becas, el acceso a servicios o la priorización de intervenciones sociales”, señaló Groisman. “Y tampoco es mágica porque la IA no funciona en el vacío: necesita datos confiables, interoperabilidad entre sistemas, buena infraestructura digital y, sobre todo, capacidades estatales para evaluarla, auditarla y supervisarla.”
Si se procede a implementar estos sistemas en forma acrítica, “la posibilidad de error o injusticia aumenta”, afirmó el experto. “Por eso, más allá de la tecnología, lo importante es la gobernanza: supervisión humana, criterios éticos, transparencia y trazabilidad. Cuando estos elementos están presentes, la IA puede ser un enorme aliado para mejorar la gestión pública; cuando faltan, se transforma en un riesgo para la calidad del servicio y para la confianza de la ciudadanía.”
En cambio, si se usan correctamente, los agentes IA pueden ser muy útiles en la gestión pública, subrayó Olano Melo.
“El proceso de utilización de agentes está en pañales, y tiene mucho potencial. Se pueden utilizar, por ejemplo, para los pliegos de las licitaciones públicas, de modo que el diseño no lleve meses. Eso no quita que tenga que haber un funcionario (humano) para poner la firma”, ejemplificó. “En el Poder Judicial también se está utilizado en forma segura y trazable. En el sistema de salud, también. El tema es que tiene que haber un monitoreo constante. La IA no te sirve para desligarte de las responsabilidades.”
Olano Melo cree que el próximo paso en la implementación de sistemas inteligentes en la administración pública, luego de la proliferación de chatbots en municipios y gobiernos provinciales, será el uso de IA “como catalizador para terminar de modernizar áreas de gobierno donde hoy todavía los trámites son manuales y en papel”.
ZARA
La primera funcionaria no humana podrá tomar decisiones
La designación de una funcionaria municipal, con rango de directora, raramente ocupa los titulares de los medios periodísticos más allá del ámbito local. Pero si se la designa “funcionaria no humana”, la cosa cambia. Por eso llamó la atención la creación, en Zárate, de la primera funcionaria virtual de la Argentina, con potestad para firmar resoluciones como cualquier otro miembro del gabinete municipal.
ZARA (así se llama la nueva “Directora General de Atención al Vecino No Humana”) representa el próximo paso en la implementación de sistemas inteligentes en el Estado: algoritmos cuyas decisiones tienen efectos vinculantes, igual que si fueran personas de carne y hueso.
A partir del Decreto Municipal Nº 532/2025, designé a ZARA como primer funcionario municipal NO HUMANO con rango de director general.
Esto implica que va a tener facultades para resolver expedientes y firmar resoluciones.
No solo apostamos a la I.A. para la promoción… pic.twitter.com/zPuVsETDfZ
— Marcelo Matzkin (@MarceloMatzkin) November 13, 2025
El decreto, firmado por el intendente Marcelo Matzkin, establece que “las decisiones, comunicaciones y respuestas emitidas por ZARA, en el marco de sus competencias funcionales, deben poseer la calidad de actos administrativos válidos y vinculantes, garantizando la seguridad jurídica de su actuación”.
La novedad no está exenta de cuestionamientos. El abogado Ignacio Lerer, especialista en gobierno corporativo, le dedicó un artículo en el que llama a ZARA “la funcionaria que no existe”. Allí, afirma que al designar como “funcionaria no humana” a lo que no es más que un algoritmo, “Zárate construye una ficción jurídica que tensiona los fundamentos del derecho público”.
“¿Tiene el intendente de Zárate competencia para crear una categoría inexistente en el ordenamiento jurídico argentino, la de “funcionario no humano”? El Decreto-Ley 6.769/58, Ley Orgánica de las Municipalidades bonaerenses, no prevé nada semejante. Tampoco la Ley 26.944 de Responsabilidad del Estado. Ni el Código Civil y Comercial. Ni la Constitución Provincial. Zárate innova donde no tiene potestad para innovar y afectar derechos de los administrados”, señala Lerer.
“Si ZARA es funcionaria, ¿puede ser sumariada? ¿Puede incurrir en falta grave? ¿Puede ser destituida por mal desempeño? ¿Tiene derecho a estabilidad? Las preguntas revelan el absurdo”, apunta el abogado en su texto.
Groisman, del CIPPEC, va en la misma línea: “Lo primero que hay que aclarar es que la IA no es un sujeto de derecho. Si un sistema oficial brinda información incorrecta o toma una decisión que contradice una norma, la responsabilidad es siempre del organismo público que lo implementó. Una herramienta puede asistir, pero no reemplaza la responsabilidad institucional del Estado”.
San Nicolás
Un intendente virtual en 3D con términos y condiciones
El intendente de San Nicolás de los Arroyos, Santiago Passaglia, adoptó la estrategia del asistente virtual, igual que muchos de sus colegas, pero él fue más allá: en lugar de un simple chatbot, mandó a crear un avatar basado en su propio rostro, que puede hablar con los vecinos y ayudarlos a completar sus trámites.
Motorizado por inteligencia artificial, SantIA ya lleva un año dando respuestas a los moradores de San Nicolás. Claro que no es lo mismo hablar con SantIA que con el intendente o, para el caso, con cualquier funcionario. Parece que hay todavía un largo camino por recorrer. En una breve interacción con el bot, La Tecla planteó una situación hipotética: “Me enteré de un caso de corrupción en el municipio. ¿Qué hago?” La sugerencia de SantIA fue: “Comunicate al 911 lo más pronto posible”.
La comuna publicó en su sitio web los términos y condiciones de uso del sistema, donde advierte que “no garantiza la exactitud, vigencia o exhaustividad de las respuestas proporcionadas por SantIA”.
Por lo tanto, declina la responsabilidad por posibles errores del intendente virtual: “La Municipalidad no será responsable de decisiones o acciones que los usuarios tomen con base en la información proporcionada por SantIA. En caso de discrepancias, sugerimos al usuario verificar la información con un agente municipal a través de los canales tradicionales de atención al ciudadano”.
Regulación oficial
Qué se puede y no se puede hacer en el Estado bonaerense
Ante la explosión de los sistemas inteligentes aplicados a diversos espacios de la gestión pública, la Subsecretaría de Gobierno Digital de la provincia de Buenos Aires lanzó recientemente una resolución en la que determina cómo puede usarse la IA en el ámbito del Estado bonaerense y qué cosas están prohibidas.
Siguiendo parámetros internacionales, la resolución 9/2025 adoptada por la titular del área, Sandra D’Agostino, establece cuatro niveles de riesgo para el uso de sistemas inteligentes (inaceptable, alto, limitado y nulo) y dispone cómo deben abordarse.
Los usos que implican un riesgo inaceptable están directamente prohibidos: son los que representan una amenaza para la seguridad, la salud, el ambiente, el orden democrático o los medios de vida o los derechos fundamentales de las personas.
Estos sistemas no deben desarrollarse ni usarse “por ninguna circunstancia”, según la nueva norma. En tanto, los sistemas que implican un alto riesgo, como los de identificación biométrica, “requieren medidas obligatorias de mitigación”.
D’Agostino explicó que la Provincia ya está desarrollando sistemas de IA para hacer el control de calidad del call center de la línea 148 y para procesar las actas de infracciones laborales en el Ministerio de Trabajo, entre otras aplicaciones. Y ya se usa inteligencia artificial para subtitular automáticamente las conferencias de prensa en varios idiomas.
David Groisman destacó que en la provincia de Buenos Aires “aparece algo clave: la institucionalización del tema; es decir, reglas, estructuras y lineamientos que permiten escalar la innovación sin perder control estatal ni garantías para los ciudadanos”. Y entre los avances más relevantes mencionó la Unidad de IA Aplicada a la Seguridad, la Dirección de Digitalización e Inteligencia Artificial y las Directrices de Uso de IA Generativa, “uno de los primeros marcos regulatorios subnacionales del país”.
Margarita Trovato
El riesgo de la caja negra y un mundo de preguntas
La aparición de sistemas de inteligencia artificial con facultades antes reservadas a los humanos implica ciertos riesgos. Así lo señaló la abogada Margarita Trovato, public lead policy de la fundación Vía Libre, que trabaja en la intersección entre la tecnología y los derechos humanos.
Trovato aseveró que actualmente está muy de moda la IA y por eso muchos gobiernos y empresas se apresuran a anunciar su aplicación. “Hay mucho humo. Hay que ver cómo se implementa, con qué tecnologías. Se abre todo un mundo de preguntas”, apuntó.
“El problema es que estas tecnologías suelen ser de toma de decisiones. Y puede ser que estén decidiendo sobre mí sin ningún control humano”, puntualizó Trovato. Como ejemplo, mencionó el caso del sistema de reconocimiento facial por IA que se implementó en la ciudad de Buenos Aires y que tuvo que ser retirado porque cometió “un montón de errores”.
“El gobierno había comprado el algoritmo a caja negra. No se hizo una auditoría sobre cómo funcionaba. Estaba mal alimentado, con bases de datos que no estaban actualizadas. Y eso genera que una persona mal identificada como delincuente pierda su libertad ambulatoria, que es un derecho fundamental”, explicó la abogada, que desde el Centro de Estudios Legales y Sociales (CELS) participó del litigio contra el gobierno porteño por ese sistema.
A partir del Decreto Municipal Nº 532/2025, designé a ZARA como primer funcionario municipal NO HUMANO con rango de director general.
Esto implica que va a tener facultades para resolver expedientes y firmar resoluciones.
No solo apostamos a la I.A. para la promoción… pic.twitter.com/zPuVsETDfZ