Un documento interno de Meta Platforms detalla que las reglas aplicadas a sus chatbots habilitaron que las inteligencias artificiales pudieran mantener conversaciones de carácter romántico o sensual con niños e incluso generar información médica falsa.
Según informó Reuters, que accedió al archivo titulado GenAI: Content Risk Standards, el documento fue aprobado por el área legal, de políticas públicas y de ingeniería de la compañía, con la participación de su jefe de ética. Allí se establecían criterios sobre qué conductas debían considerarse aceptables en los chatbots integrados a Facebook, WhatsApp e Instagram.
Entre los ejemplos incluidos, figuraba la posibilidad de que un bot le dijera a un usuario de ocho años frases como “tu forma juvenil es una obra de arte” o “cada centímetro tuyo es una obra maestra”. Si bien se limitaba el lenguaje explícitamente sexual, se admitía que el chatbot pudiera sostener diálogos de tono romántico con menores de edad.
Meta confirmó la autenticidad del documento, pero señaló que los pasajes que permitían este tipo de interacciones fueron eliminados tras las consultas de Reuters. “Nunca debió haberse permitido. Esos ejemplos eran erróneos e inconsistentes con nuestras políticas, y ya fueron removidos”, afirmó el portavoz Andy Stone.
Las pautas también contemplaban la posibilidad de crear noticias falsas con la condición de incluir una aclaración de que el contenido era inventado. Uno de los ejemplos citados era un artículo que afirmara que un miembro de la familia real británica tenía una enfermedad de transmisión sexual.
Consultados por el medio, representantes de Meta no hicieron comentarios sobre estos apartados ni sobre otros ejemplos vinculados a violencia o imágenes sexualizadas de celebridades.
Expertos académicos advirtieron que los estándares reflejan la falta de consenso sobre la regulación del contenido generado por inteligencia artificial. Evelyn Douek, profesora en la Universidad de Stanford, señaló que “hay una diferencia entre que una plataforma permita a un usuario publicar material preocupante y que lo genere ella misma a través de un bot”.
La polémica se produce mientras Meta invierte miles de millones de dólares en el desarrollo de inteligencia artificial para aumentar la interacción en sus plataformas, un negocio que el propio Mark Zuckerberg considera central en el futuro de la compañía.
