La Dirección Provincial de Innovación Digital publicó pautas para el uso responsable de la Inteligencia Artificial (IA). Bajo el nombre “Directrices de uso de Inteligencia Artificial Generativa en la Administración Pública de la Provincia de Buenos Aires”, en la resolución se busca establecer un marco de seguridad ante los riesgos por el uso indebido de la IA y garantizar la protección de los derechos humanos de la ciudadanía, la innovación y el desarrollo. Para ello es fundamental contar con una supervisión humana, capacitación permanente y evaluación de impacto.
El documento cuenta con ocho puntos para el correcto uso de la IA generativa (IAGen):
Autorización de acceso y uso: antes de utilizar la IAGen, los agentes tendrán que obtener la aprobación de su superior jerárquico inmediato.
Comportamiento ético: los agentes que utilicen una IAGen deberán hacerlo de forma ética y profesional; de acuerdo con las características propias de su trabajo, teniendo como valores cardinales la responsabilidad; el compromiso, la confidencialidad, la dignidad y el respeto que merecen las funciones que ejerce.
Transparencia: que una IA sea transparente significa que posee un grado de comprensibilidad e interpretabilidad inteligible para los seres humanos que se relacionan con ella. En este caso es aconsejable que la IAGen cuente con el respaldo de información y documentación explicativa sobre el alcance de su sistema.
Confidencialidad y protección de datos: antes de compartir datos o documentos electrónicos con la IAGen, y de contener información confidencial que pertenezca a la provincia de Buenos Aires, o datos personales o sensibles que identifiquen individuos, previamente estos deberán anonimizarse.
Seguridad de la información: queda terminantemente prohibido introducir en la lAGen información que pueda comprometer la seguridad del Estado de la Provincia de Buenos Aires. por ejemplo: contraseñas, claves de acceso, detalles de infraestructura crítica.
IA: datos clave
Evaluación de resultados: los agentes deben asegurarse de que el contenido generado o modificado utilizando estas IAs sea revisado por las personas correctas para verificar su precisión, relevancia, sensibilidad de los datos, prejuicios cifrados, sesgos inapropiados y cumplimiento normativo antes de utilizarlo oficialmente. Además, los resultados obtenidos deben llevar advertencia que son productos de la IA, para el caso de generación de imágenes, sonido o vídeo; y en la producción o composición de documentos en los que la IA sea su creadora.
Usos prohibidos: las herramientas de IA generativa no pueden ser utilizadas sin intervención y revisión humana; en el proceso de toma de decisiones para la adjudicación de beneficios, acreditación, verificación o acciones relacionadas con investigaciones, aplicación civil o que puedan afectar negativamente un derecho de la ciudadanía.
Concientización: los interesados en IAGen tienen que mantenerse informados sobre las mejores prácticas y actualización de la presente directriz. Además, deberán comprender e interiorizarse de las limitaciones internas y externas de las inteligencias artificiales generativas, en particular sobre los sesgos inapropiados.
En relación a esta iniciativa, la subsecretaria de Gobierno Digital, Sandra D’Agostino, afirmó: “En el Gobierno de la Provincia de Buenos Aires trabajamos en el desarrollo de soluciones digitales basadas en IA para optimizar la gestión pública, asegurar la soberanía digital y mantener altos estándares de seguridad tecnológica, con el fin de brindarle a la población bonaerense respuestas ágiles y eficientes”.
