Se trata de un paso clave en materia de tecnología y derechos: por primera vez, el Gobierno de la provincia de Buenos Aires fijó reglas claras para el desarrollo, implementación y control de la Inteligencia Artificial (IA) dentro de las diversas áreas del Estado.
En este marco y al aire de Radio Universidad 89.1, la subsecretaria de Gobierno Digital, Sandra D’Agostino, explicó que el objetivo central es ordenar el uso de la IA sin frenar la innovación. “Nuestra mirada no es prohibir, todo lo contrario”, afirmó.
Inteligencia Artificial: “Una normativa con pilares definidos”
La resolución establece estándares para proteger datos personales, resguardar derechos humanos y controlar sesgos en los algoritmos que ya utilizan distintos organismos provinciales.
Lo que en enero comenzó como una guía de buenas prácticas se consolidó, ahora, en una normativa con pilares definidos. Uno de ellos es la soberanía digital, vinculado al data center provincial inaugurado en Gonnet, La Plata, donde se alojan modelos y bases de datos del Estado.
Según D’Agostino, esto reduce la dependencia de proveedores externos y garantiza que la información sensible permanezca en infraestructura propia.
Otro pilar es la supervisión humana obligatoria y la prohibición de automatizar completamente procesos estatales. “Siempre tiene que haber vigilancia humana”, remarcó la funcionaria y sumó que la “IA debe potenciar tareas y mejorar el trabajo del personal sin reemplazar a las personas”.
La línea 148, un ejemplo de trabajo combinado
Ese enfoque se refleja en la experiencia de la Línea 148, donde la tecnología transcribe llamadas y organiza alertas, pero la decisión final sigue en manos de un auditor. “No viene a reemplazar al auditor, viene a mejorar su trabajo”, enfatizó. Este esquema se complementa con capacitaciones en ética, datos y programación para trabajadores estatales.
La regulación también exige que toda herramienta de IA sea clara y comprensible para las personas: los organismos deberán informar cuando se interactúe con un sistema automatizado. Además, cada dependencia que use o desarrolle IA tendrá que inscribirla en un registro provincial y someterla a una evaluación de riesgo.
Asimismo, la normativa incorpora, incluso, criterios de sustentabilidad, que obligan a medir el consumo energético y reducir el impacto ambiental de estas tecnologías.
D’Agostino marcó, por último, diferencias con el enfoque del Gobierno Nacional, que sostiene que regular desalienta inversiones. “No estoy de acuerdo. Trabajamos con empresas privadas dentro de esta regulación”, respondió, reafirmando que innovación y derechos pueden convivir.
El caso ZARA
La normativa provincial adquiere especial relevancia tras la reciente presentación en Zárate de ZARA, una IA nombrada como “Directora General de Atención al Vecino No Humana”.
El chatbot fue anunciado como una funcionaria capaz de recibir reclamos, organizar tareas y firmar documentación administrativa, convirtiéndose en el primer caso de este tipo en el país.
Esta experiencia, sin embargo, puso en evidencia los vacíos regulatorios existentes sobre el uso de IA con funciones administrativas.
Aunque fue presentada como una innovación, ZARA abrió interrogantes sobre supervisión, transparencia y manejo de los datos que aportan los vecinos.
Con la nueva normativa bonaerense, la experiencia de Zárate enfrenta ahora desafíos en materia de auditoría y control sobre sus decisiones cotidianas, mostrando la necesidad de un marco común para toda la Provincia.
Texto: Camila Sancci.
