Frente a investigaciones que advierten sobre la vulnerabilidad de la IA autónoma, expertos en ciberseguridad señalan que la solución no es temer a la tecnología, sino gestionar correctamente los permisos y límites de estos sistemas.
A raíz de una investigación de la Escuela Politécnica Federal de Lausana (EPFL) en Suiza, se encendieron las alarmas sobre cómo los asistentes de Inteligencia Artificial pueden ser manipulados para realizar acciones indebidas.
El estudio reveló que los filtros de seguridad comunes no logran detectar estos riesgos cuando las órdenes no se dan de golpe, sino divididas en varios pasos pequeños que parecen inofensivos por separado. En base al impacto de este hallazgo, expertos en tecnología llaman a la tranquilidad: no se trata de temerle a la Inteligencia Artificial ni de frenar su uso, sino de entender cómo opera para poner reglas claras.
Según explica David Pereira, gerente general de Inside Security, el informe demuestra que el engaño no ocurre mediante un ataque directo o evidente, sino guiando al sistema a través de tareas cotidianas. Por ejemplo, la IA puede leer un mensaje, buscar un archivo en el equipo y enviarlo por correo sin que nada parezca sospechoso en cada paso individual, aunque la secuencia completa termine en una falla de seguridad.
“A diferencia de los ataques cibernéticos tradicionales, los engaños a estos sistemas no suelen llegar como una orden maliciosa evidente, sino como una secuencia de pasos pequeños que parecen inofensivos por separado. Un agente puede leer un correo, buscar un archivo y responder una solicitud sin levantar sospechas en cada acción aislada”, señala.
A ello, Pereira añade que el desafío con los agentes de IA no es evitar que sean autónomos, sino asegurarnos de que esa autonomía tenga límites, que podamos supervisar y saber exactamente qué ocurrió si algo sale mal.
Para desmitificar los riesgos y operar con tranquilidad sin perder la eficiencia que ofrece la IA, el especialista comparte cuatro datos útiles indispensables:
- Supervisar por nivel de riesgo: No intentes aprobar cada paso que da la IA, porque perderías toda su agilidad. Permite que las tareas mecánicas se ejecuten solas y exige validación humana únicamente para procesos irreversibles o que involucren información sensible.
- Entregar identidad propia al agente: La IA jamás debe operar bajo las credenciales o la clave personal de un usuario. Si cuenta con su propia cuenta, se puede auditar exactamente qué hizo el sistema y qué hizo la persona, permitiendo cortar sus accesos de inmediato ante cualquier anomalía sin bloquear al trabajador.
- Separar las facultades de acceso: Aplica el control de permisos distinguiendo entre consultar, modificar y ejecutar. Que un agente pueda leer un documento no implica que deba tener autorización para alterarlo o enviarlo a terceros.
- Exigir trazabilidad y reglas claras: Al contratar o usar herramientas con IA, asegúrate de que el proveedor transparente qué datos consulta, qué herramientas utiliza y cómo se registran sus decisiones
