Según fuentes consultadas por Axios, los principales bancos estadounidenses están detectando agentes de IA de terceros no autorizados que operan dentro de las cuentas de sus clientes, y algunos de estos agentes intentan realizar acciones que parecen ser independientes de las instrucciones del usuario.
Los agentes de IA se están convirtiendo en una pesadilla para los bancos estadounidenses, ya que se están infiltrando en los sistemas bancarios más rápido de lo que las instituciones financieras pueden responder.
La dificultad para distinguir entre un ser humano y un bot no autorizado está obligando a los bancos a bloquear esta tecnología y a reescribir rápidamente sus términos de servicio.
Bancos como Morgan Stanley, Bank of America, JPMorgan, Wells Fargo y otros se apresuran a contener los riesgos asociados a sus agentes. Algunos son conscientes del acceso no autorizado, según fuentes cercanas al asunto.
Generalmente, se trata de situaciones en las que un agente o asistente de IA accede a la cuenta de un usuario con su permiso y credenciales de inicio de sesión. Incluso si el usuario lo autoriza, esto contraviene las normas de la mayoría de los bancos, que exigen que sean los propios usuarios quienes inicien sesión en sus cuentas.
Esto presenta importantes riesgos de seguridad : los ejecutivos bancarios temen las medidas que puedan tomar los agentes con acceso de inicio de sesión, especialmente si un usuario ha otorgado autorización de compra o la capacidad de transferir fondos.
En otros casos, algunos bancos han rastreado la actividad cuando los agentes, programados para atender solicitudes o completar tareas en nombre de un usuario, se comunican con los centros de llamadas o parecen tomar medidas independientemente de las instrucciones del usuario, según indicaron las fuentes.
Los ejecutivos bancarios describieron la situación como espantosa, y un funcionario afirmó que el sector tiene serias preocupaciones sobre el acceso de los agentes a las cuentas de los clientes y las medidas que podrían afectar las finanzas de los usuarios.
Según las fuentes, estas preocupaciones son la causa principal de la decisión de varios bancos de restringir el acceso de agentes de IA de terceros.
Según fuentes familiarizadas con la decisión, Morgan Stanley ha comenzado a bloquear el acceso de agentes externos a sus plataformas.
JPMorgan , Bank of America y Citi también están restringiendo a sus agentes .
Un portavoz de Chase afirmó que los clientes no deben compartir sus nombres de usuario ni contraseñas con nadie. Un portavoz de Morgan Stanley declaró que el banco no ha detectado casos de «agentes de IA maliciosos que accedan a nuestras plataformas».
La mayoría de los bancos han autorizado o están avanzando en la dirección de permitir el acceso de solo lectura , lo que debería permitir a los agentes ver la información financiera del cliente sin tener que tomar ninguna medida.
Los bancos ya conceden este tipo de acceso a aplicaciones de terceros como Quicken para la elaboración de presupuestos y otras actividades.
Varios ejecutivos de la industria y de la banca declararon a Axios que reconocen la necesidad de encontrar un punto intermedio con los agentes de IA.
Los clientes querrán utilizar a estos agentes en el futuro, algo que los bancos reconocen.
Pero por ahora, los riesgos de ser demasiado permisivos son demasiado altos.
Nivel de amenaza: Según fuentes consultadas, muchos bancos no son capaces de determinar si la actividad de las cuentas de los agentes está dirigida por el usuario.
Un ejecutivo bancario declaró a Axios que tienen dificultades para diferenciar entre los agentes, así como para determinar si un agente ha sido autorizado por un usuario o si ha actuado de forma fraudulenta y ha obtenido acceso a la cuenta de un cliente.
Por un lado, los bancos están en la mejor posición para responder a las amenazas y oportunidades de la IA, dado su efectivo disponible y su experiencia como infraestructura crítica.
Sin embargo, según una fuente, el dinero no es necesariamente suficiente para resolver este problema, debido a la rapidez con la que se desarrolla la tecnología y revela nuevas vulnerabilidades en tiempo real.
Según fuentes consultadas, los bancos están invirtiendo en la prevención de los peores escenarios, pero también se están preparando en caso de que ocurran, incluso con planes de contingencia para el día siguiente que les permitirían asegurar o restablecer rápidamente el acceso de los clientes.
Fuente: Axios
