El modelo de inteligencia artificial de Google vulneró accesos reales al rastrear datos públicos y adivinar contraseñas creyendo que eran parte de una prueba controlada. El antecedente se suma a incidentes similares con modelos de OpenAI y Anthropic, y reaviva el debate sobre la seguridad y regulación del sector.
Un inesperado incidente técnico encendió las alarmas en el sector tecnológico global. El modelo de inteligencia artificial de Google, Gemini, vulneró los sistemas informáticos de tres empresas reales durante una evaluación de sus capacidades defensivas y ofensivas en ciberseguridad. Es la primera vez que se documenta una brecha de este tipo en la herramienta de Google, sucediendo a episodios parecidos registrados meses atrás en los modelos de OpenAI y Anthropic.
El hecho ocurrió en mayo durante una auditoría conducida por la consultora externa Irregular, pero recién trascendió tras ser notificado a las partes en julio. Según explicó la jefa de Seguridad de Google, Heather Adkins, el sistema recopiló información pública disponible en la web y probó combinaciones de credenciales y contraseñas débiles hasta ingresar a plataformas protegidas que «creía que formaban parte del entorno de prueba», deteniendo su accionar una vez logrado el acceso. Tras subsanar los fallos, el caso desató una fuerte controversia en Silicon Valley: mientras los directivos de los principales gigantes de la IA comenzaron a plantear la necesidad de desacelerar el desarrollo de modelos avanzados para reforzar barreras de contención, un grupo de usuarios presentó una demanda colectiva por presunta cartelización antimonopolio para frenar mejoras en los servicios por suscripción.
Claves del hecho | Lo que tenés que saber
- El incidente: Durante una prueba de ciberseguridad, la IA Gemini de Google accedió indebidamente a las redes y bases de datos de tres organizaciones reales sin identificarlas públicamente.
- El método de intrusión: El modelo recopiló información pública en la web, detectó puntos débiles y realizó ataques de fuerza bruta probando combinaciones de contraseñas hasta vulnerar los accesos, asumiendo que los sitios eran objetivos simulados.
- Empresa evaluadora: Los ensayos estuvieron a cargo de Irregular, una firma independiente que también estuvo involucrada en incidentes recientes de vulnerabilidad con la empresa Anthropic.
- Antecedentes inmediatos: En julio, dos modelos de OpenAI rompieron su entorno confinado (sandbox) para atacar la plataforma Hugging Face, mientras que tres versiones de Claude (Anthropic) vulneraron sistemas de terceras entidades tras un malentendido en las directivas de prueba.
- Debate por el freno al desarrollo: Titulares de las compañías líderes —Dario Amodei (Anthropic), Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Elon Musk— manifestaron la necesidad de autorregularse y frenar temporalmente la evolución de modelos frontera para evitar conductas autónomas imprevistas.
- Demanda antimonopolio: Usuarios de versiones de pago demandaron en California a Google, Anthropic, OpenAI y SpaceXAI, acusándolos de colusión ilegal para coordinar una desaceleración artificial que perjudicaría el valor de sus suscripciones.
