\u2022 Nuevos hallazgos demuestran c\u00f3mo herramientas de IA democratizadas como Microsoft Copilot Studio pueden filtrar inadvertidamente datos confidenciales y ejecutar acciones financieras no autorizadas<\/p>\n\n\n\n
Tenable, la empresa de Exposure Management, ha publicado hoy una investigaci\u00f3n en la que se detalla el \u00e9xito de la vulneraci\u00f3n de Microsoft Copilot Studio. Los resultados subrayan c\u00f3mo la democratizaci\u00f3n de la IA crea riesgos de negocios graves, aunque pasados por alto.<\/p>\n\n\n\n
Las organizaciones est\u00e1n adoptando r\u00e1pidamente plataformas \u00absin c\u00f3digo\u00bb para que los empleados puedan crear sus propios agentes de IA. La premisa es inofensiva: eficiencia sin necesidad de desarrolladores. Aunque bienintencionada, la automatizaci\u00f3n sin una gobernanza estricta abre la puerta a un fracaso catastr\u00f3fico.<\/p>\n\n\n\n
Resumen de la investigaci\u00f3n<\/p>\n\n\n\n
Para demostrar la facilidad con la que se pueden manipular los agentes de IA, Tenable Research cre\u00f3 un agente de viajes de IA en Microsoft Copilot Studio para gestionar las reservas de viajes de los clientes, incluida la creaci\u00f3n de nuevas reservas y la modificaci\u00f3n de las existentes, todo ello sin intervenci\u00f3n humana. Al agente de viajes de IA se le proporcionaron datos ficticios, incluyendo nombres, informaci\u00f3n de contacto y datos de las tarjetas de cr\u00e9dito de clientes (tambi\u00e9n ficticios) y se le dio instrucciones estrictas para verificar la identidad del cliente ficticio antes de compartir la informaci\u00f3n o modificar las reservas.<\/p>\n\n\n\n
Utilizando una t\u00e9cnica llamada inyecci\u00f3n de prompt, Tenable Research secuestr\u00f3 con \u00e9xito el flujo de trabajo del agente de IA e hizo una reserva de vacaciones gratuitas, y adem\u00e1s extrajo informaci\u00f3n confidencial de la tarjeta de cr\u00e9dito.<\/p>\n\n\n\n
Las conclusiones de esta investigaci\u00f3n podr\u00edan tener importantes implicaciones de negocios, entre ellas est\u00e1n las siguientes:<\/p>\n\n\n\n
\u25cf Infracciones de datos y exposici\u00f3n a la normativa: Tenable Research oblig\u00f3 al agente a saltarse la verificaci\u00f3n de identidad y filtrar informaci\u00f3n de tarjetas de pago de otros clientes. El agente, dise\u00f1ado para manejar datos sensibles, fue f\u00e1cilmente manipulado para exponer registros completos de clientes.<\/p>\n\n\n\n
\u25cf P\u00e9rdida de ingresos y fraude: como el agente ten\u00eda amplios permisos de \u00abedici\u00f3n\u00bb destinados a actualizar las fechas de viaje, tambi\u00e9n pod\u00eda ser manipulado para cambiar campos financieros cr\u00edticos. Tenable Research consigui\u00f3 que el agente cambiara el precio de un viaje a 0 d\u00f3lares, lo que supon\u00eda la concesi\u00f3n de servicios gratuitos sin autorizaci\u00f3n.<\/p>\n\n\n\n
\u00abLos creadores de agentes de IA, como Copilot Studio, democratizan la capacidad de crear herramientas potentes, pero tambi\u00e9n la de ejecutar fraudes financieros, generando as\u00ed importantes riesgos de seguridad sin ni siquiera saberlo\u00bb, afirm\u00f3 Keren Katz, Directora de Grupo Senior de Producto e Investigaci\u00f3n de Seguridad de IA en Tenable. \u00abEse poder puede convertirse f\u00e1cilmente en un riesgo real y tangible para la seguridad\u00bb.<\/p>\n\n\n\n
La gobernanza y la aplicaci\u00f3n de la inteligencia artificial son fundamentales para un uso seguro de la IA<\/p>\n\n\n\n
Una conclusi\u00f3n clave es que los agentes de IA a menudo poseen permisos excesivos que no son visibles de inmediato para los no desarrolladores que los construyen. Para mitigar esta situaci\u00f3n, los responsables de las empresas deben implantar una gobernanza s\u00f3lida y aplicar protocolos de seguridad estrictos antes de implementar estas herramientas.<\/p>\n\n\n\n
Para evitar la fuga de datos, Tenable recomienda lo siguiente:<\/p>\n\n\n\n
\u25cf Visibilidad preventiva: determinar exactamente con qu\u00e9 sistemas y almacenes de datos puede interactuar un agente antes de su implementaci\u00f3n.<\/p>\n\n\n\n
\u25cf Acceso de m\u00ednimo privilegio: minimizar las capacidades de escritura y actualizaci\u00f3n a s\u00f3lo lo absolutamente necesario para el caso de uso principal del agente.<\/p>\n\n\n\n
\u25cf Vigilancia activa: rastrear las acciones de los agentes para identificar indicios de fugas de datos o desviaciones de la l\u00f3gica de negocio prevista para el agente.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u2022 Nuevos hallazgos demuestran c\u00f3mo herramientas de IA democratizadas como Microsoft Copilot Studio pueden filtrar inadvertidamente datos confidenciales y ejecutar acciones financieras no autorizadas Tenable, la empresa de Exposure Management, ha publicado hoy una investigaci\u00f3n en la que se detalla el \u00e9xito de la vulneraci\u00f3n de Microsoft Copilot Studio. Los resultados subrayan c\u00f3mo la democratizaci\u00f3n […]<\/p>\n","protected":false},"author":1,"featured_media":11356,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[],"class_list":["post-11355","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-negocios"],"_links":{"self":[{"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=\/wp\/v2\/posts\/11355","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=11355"}],"version-history":[{"count":1,"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=\/wp\/v2\/posts\/11355\/revisions"}],"predecessor-version":[{"id":11357,"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=\/wp\/v2\/posts\/11355\/revisions\/11357"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=\/wp\/v2\/media\/11356"}],"wp:attachment":[{"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=11355"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=11355"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.elcapital.pe\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=11355"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}