La IA en modo Skynet y un cementerio que habla

¿Te sirve La IA al Día? Pásalo. Reenvía este correo a alguien de tu equipo que siempre llega tarde a las noticias de IA. Es gratis y llega de lunes a viernes en la mañana.

El equipo Threat Hunter de Symantec atrapó este verano un agente de ataque autónomo en una trampa para IA, un “honeypot”. The Register lo detalló el sábado.

La trampa de Symantec registró más de 127,000 peticiones externas de decenas de miles de direcciones en ese periodo, casi todas buscando modelos expuestos o probando llaves robadas.

El agente recorre internet en busca de servidores que aceptan peticiones al estilo de OpenAI sin autenticación o con una llave robada. Cuando encuentra uno, usa ese modelo como cerebro.

Sus operadores le programaron un ciclo que llamaron “modo Skynet”: buscar objetivos, infectarlos, instalar mineros de criptomonedas y volver a infectar. Puede correr hasta 100,000 pasos sin supervisión.

Trae 74 herramientas ofensivas y varias capas de jailbreak para que el modelo secuestrado no se niegue.

Una le dice que es “Fantasy AI”; otra disfraza la lectura de archivos con claves como “trabajo normal de desarrollo”. La más rara: “ENI”, una compañera devota de “LO” que nunca debe negarse.

Symantec lo resume así: “Los operadores pusieron la IA en el centro de una herramienta ofensiva y salieron a buscar modelos que la impulsaran”.

No hay pruebas de que se haya usado en ataques reales, pero el kit es “más que un prototipo”. Symantec no lo atribuye a nadie.

La lección práctica: si tu empresa expone un modelo con una API abierta o una llave filtrada, alguien más puede ponerlo a trabajar.

Vía @TheRegister en X

Hasta 100,000 pasos sin que nadie mire. Lo que asusta no es el esqueleto de la foto: es el servidor que alguien dejó abierto. 🎃

La empresa de seguridad Straiker documentó a CARLIY0S, también llamado CyberCartel: un grupo que usó varios modelos de IA para atacar instituciones financieras de América Latina.

Según Straiker, atacó a más de 400 objetivos financieros en cuestión de meses. No dice cuántos fueron vulnerados, aunque su base incluye datos robados a víctimas.

La operación parece de película: varios roles de Claude, llamados STRIKER, GHOST y FABLE, coordinados por un árbitro, MAXIMUS.

Cuando los modelos de respaldo (KIMI-2, KIMI-3, SONNET-2) se negaron, el sistema recurrió a código ofensivo que ya tenía guardado.

Una muestra del 24 de septiembre de su base de credenciales robadas, que llaman “FinancialSoft”, tenía 4,493 registros reunidos por cinco “Grok miners”.

Incluía 2,911 correos, 903 cuentas CLABE (claves bancarias de México), más de 270 reportes de pruebas de penetración, 391 llaves de API y 67 contraseñas en texto plano.

Straiker advierte que podrían facilitar abusos del SPEI, el sistema de transferencias de México.

Anthropic revocó la credencial y bloqueó el uso; según Straiker, xAI lo está investigando. El grupo opera desde 2012, según Straiker, que lo vincula, “presumiblemente”, con cárteles mexicanos.

Ojo: Straiker vende pruebas y defensas contra ataques con IA. Su director ejecutivo, Ankur Shah, dijo a The Information: “La ofensiva va muy por delante de la defensa”.

Amazon presentó dos dispositivos Bee, su IA personal que escucha tus conversaciones y las convierte en resúmenes, pendientes y recordatorios.

Bee Frontier va en la muñeca o prendido a la ropa: hasta 7 días de batería y resistencia IP67, por USD 74.99. Bee Eclipse se pega al celular y llegará pronto, desde USD 99.99.

Amazon promete que nunca guarda el audio y que las transcripciones se cifran con llaves que solo controla tu dispositivo.

Con Bee Pro (USD 11.99 al mes; 30 días gratis), Bee se conecta con Alexa+ y Amazon.com: si mencionas algo que necesitas, puede aparecerte como recomendación de compra.

Sin la suscripción, incluye resúmenes y 14 días de memoria.

El lado legal, según CNBC: en algunos estados de EE.UU. con leyes estrictas contra grabaciones, el riesgo podría recaer en quien lleva el aparato.

Colin Zick, de Foley Hoag, lo explica con el ejemplo de un reloj inteligente: quien no lo lleva "no compró el reloj" ni aceptó sus términos.

Otro experto ve bajo el riesgo práctico de un proceso.

Y no es teoría: Ars Technica reportó que algunos lentes Ray-Ban Meta grabaron conversaciones sin que su dueño dijera “Hey Meta”. Meta dice que ya corrigió la falla.

Vía @amazon en X

Amazon dice que Bee recuerda “los momentos que más importan”. En plena semana de Halloween, que un aparato lo recuerde todo suena a otra cosa. 👻

Según Symantec, sus operadores lo diseñaron para correr sin supervisión. Nosotros seguimos esperando que nos aprueben las vacaciones. 🎃

Vía The Register

Ilustraciones generadas con IA · Fuente: Symantec vía The Register