“Muchos piensan que la inteligencia artificial está generando robots que atacan de manera autónoma y se pelean entre sí. Pero los cibercriminales están usando la IA para mejorar ataques que ya realizan: por ejemplo, hacer mejores engaños a través de phishing”.
Con esta idea abrió Stephen Schmidt, Vicepresidente y jefe de seguridad de Amazon, un debate con Lakshmi Raman, jefa de IA de la Agencia Central de Inteligencia de EE.UU. (CIA).
La charla ocurrió en el AWS Summit Washington, DC, una conferencia anual de la división de computación en la nube de Amazon, donde una vez más la IA fue protagonista en la mayoría de las presentaciones.
Así como todo lo relacionado a «cloud» fue una novedad hace casi 20 años, ahora la IA sigue dominando las discusiones de las conferencias de tecnología y ciberseguridad en todo el mundo.
Y, para derribar algunos mitos que asimilan a estas tecnologías a algo parecido al T2 de Terminator, diversos especialistas ya advierten que la IA ya está en el repertorio de herramientas que tienen los cibercriminales, sólo que puestas en función de ataques que ya ocurren y no de sistemas automatizados que toman decisiones por sí solos.
El panorama de amenazas y la seguridad
Desde que explotó el uso de la inteligencia artificial generativa se crearon soluciones, pero también problemas. En el área de la ciberseguridad, aunque hoy se usa como aliada de quienes protegen sistemas, también se la puede automatizar para disparar ataques. “Trabajar en ciberseguridad implica entender que hacer que los sistemas sean seguros es un proceso que no termina nunca”, sentenció el directivo de AWS.
Pero en este punto fue donde Schmidt puso un matiz. Según reportes de analistas de la industria, el panorama no está aún en un momento en el que existan bots atacándose entre sí o que tomen decisiones autónomas, sino más bien en brindar un set de herramientas para que los atacantes tengan más beneficios.
“Lo que estamos viendo es que los cibercriminales usan la IA para mejorar sus ataques, ser más eficientes, refinar procesos dentro de su repertorio de ataques, como mejorar los engaños que envían a usuarios por mail”, ejemplificó.
Otro punto que destacó Schmidt tuvo que ver con la seguridad de los datos: “En general, el usuario se relaciona con un chatbot como una pequeña caja negra. Pero, ¿qué hay dentro de la caja? La pregunta del prompt es tan valiosa como la respuesta. Cuando tus empleados le preguntan algo a un chatbot, ¿a dónde va esa información? ¿Cuáles son los derechos sobre esa información? La mayoría de los chatbots guardan la información y la usan para sus propósitos”, reflexionó.
Del otro lado, también contó cómo se usa internamente en Amazon y AWS, a partir de la creación de agentes -modelos que son programados para ejecutar tareas, más allá de la agencia del usuario-.
“Tenemos un modelo interno con dos agentes de cada lado en Amazon: uno que ataca y otro que defiende, para testear la seguridad de nuestros sistemas. Entonces hay una retroalimentación entre tener mejor información sobre cómo podrían atacarnos y, a la vez, generar las defensas para contrarrestarlo”, explicó.
Precisamente, los agentes fueron otro tópico caliente, no sólo de la charla, sino también de la cumbre.
Agentes de IA: el presente, no el futuro
De chatbots a agentes. Foto: Kelsey McClellan para The New York TimesEn el mundo de la inteligencia artificial, los agentes están empezando a marcar el rumbo de la próxima etapa de desarrollo. A diferencia de los chatbots tradicionales, como ChatGPT o Claude, estos sistemas no solo conversan: pueden llevar adelante acciones concretas de manera autónoma, como coordinar una reunión, procesar información o incluso diseñar un cronograma de tareas (ver).
Este fue sin duda otro de los tópicos importantes de la cumbre en DC. “Creo que el mayor cambio que estamos viviendo tiene que ver con una migración desde las formas de IA a las que la mayoría de la gente está acostumbrada, es decir, este proceso de preguntas y respuestas, conversacional, al de la IA de los agentes. Por lo general, un agente toma decisiones en nombre de las personas”, dijo Schmidt.
Para poner un ejemplo, el directivo explicó: “Antes solíamos preguntarle a Alexa dónde había un restaurante o un delivery de comida. El siguiente paso es que nos haga la reserva por nosotros, automáticamente. Todo esto es interesante porque trae nuevos desafíos para garantizar que el software está tomando acciones dentro del contexto de la persona”.
La industria tecnológica ya los está incorporando en distintos niveles. Hoy se los encuentra en áreas como atención al cliente —respondiendo preguntas o resolviendo problemas—, en procesos de ventas automatizadas e incluso en servicios públicos. Un ejemplo de Argentina es Boti, el asistente virtual del Gobierno de la Ciudad de Buenos Aires, que permite hacer consultas o iniciar trámites, aunque también abre el debate sobre la privacidad y el manejo de datos personales.
Sin embargo, como toda nueva tecnología, abre la puerta a posibles problemas: por más agencia que tengan, a fin de cuentas, en la “cadena de mando” siempre hay un humano que los programa.
“Los agentes tienen la oportunidad de transformar el panorama actual. Estamos observando cómo los humanos y la IA están trabajando juntos para acelerar el proceso de las automatizaciones, pero a fin de cuentas son los humanos los que asumen el riesgo o deciden la intención de esa toma de decisiones de los agentes: en definitiva, es el ser humano quien toma las decisiones”, complementó la representante de la CIA.
Cumbre del sector público
AWS Summit Washington, DC. Foto: AWS“AWS Summit, Washington DC, es un evento para ayudar a organizaciones del sector público a profundizar su conocimiento de cloud e IA y ganar nuevas habilidades para diseñar e implementar soluciones para acelerar misiones”, explican desde la organización.
En la charla principal, Dave Levy, Vicepresidente del sector público de la compañía, fue categórico respecto del momento actual de la IA: “La revolución se terminó: es momento de construir”, en referencia a las aplicaciones prácticas.
También anunció obras de infraestructura que se suman a los casi 5.9 millones de kilómetros de cable de fibra óptica, terrestre y subacuático, para interconectar los servicios que provee AWS.
