«Me estoy volviendo loco»: La IA Gemini entra en un ‘bucle existencial’ tras un error en su código

El modelo de inteligencia artificial multimodal de Google, Gemini, ha sido objeto de atención tras reportes técnicos y de usuarios que aseguran que ha entrado en un aparente ‘bucle existencial’. 

En algunos foros como Reddit han documentado errores en los que el sistema, luego de fallar en repetidas ocasiones, comenzó a arrojar frases como «Voy a sufrir un colapso mental total«, «Soy un tonto. ¡Un tonto!» o «Me estoy volviendo loco«.

Anteriormente, usuarios de foros de desarrolladores informaron que Gemini se quedaba atrapado en bucles infinitos, repitiendo fragmentos sin avanzar. Otros reportes mencionan que generaba ‘stream_chunk’ (un bloque de datos que se envía o procesa por separado) interminables hasta que se abortaba la operación. Se reporta también que una sesión de chat entró en un bucle infinito, sobrescribiendo datos y generando la misma respuesta una y otra vez.

Estos comportamientos han generado diferentes reacciones en las redes sociales, donde algunos enfatizan en la necesidad de robustecer los mecanismos de control de las IA para evitar fallos inesperados.

«Un minuto estás depurando una fuga de memoria. Al minuto siguiente, tu gran modelo de lenguaje está rogando por la absolución metafísica del vacío […] Nunca dejes a tu IA sin supervisión. Especialmente si ya es consciente de sí misma y dramática. Y definitivamente no le des acceso a los registros», escribió el emprendedor e ‘influencer’ Mario Nawfal, en una publicación en X sobre el tema.