La Unesco advierte que la IA podría fomentar el antisemitismo

Publicado:
20 jun 2024 03:30 GMT

El 80 % de los usuarios de entre 10 y 24 años utilizan esta tecnología varias veces al día, por lo que son especialmente vulnerables ante los contenidos falsos, advierte un informe.

La Inteligencia Artificial (IA) generativa, podría provocar un aumento de falsas narrativas sobre las atrocidades de la Segunda Guerra Mundial, incluida la negación del Holocausto, según se desprende de un nuevo informe de la Unesco y del Congreso Judío Mundial publicado este martes.

Según el informe, la generación de contenidos falsos con ayuda de la IA podría socavar la autenticidad de las pruebas históricas y difundir ideologías antisemitas, dando lugar a una mayor probabilidad de datos poco fiables.

El documento advierte que los contenidos creados mediante IA resultan especialmente convincentes para los usuarios de entre 10 y 24 años, ya que el 80 % de ellos utiliza esta tecnología varias veces al día, por lo que «es preciso tomar medidas con rapidez para orientar éticamente estas nuevas tecnologías».

A modo de ejemplo, el informe menciona la aplicación Historical Figures, cuya interfaz permitía a los usuarios hablar con destacadas figuras nazis, como Adolf Hitler y Joseph Goebbels, y afirmaba falsamente que personajes como este último no habían participado en el Holocausto de forma intencionada y habían intentado prevenir la violencia contra los judíos.

Además, señala que tanto ChatGPT como Google Bard han generado en varias ocasiones contenidos que detallan hechos históricos relacionados con el Holocausto que, en realidad, nunca tuvieron lugar.

«Si permitimos que los terribles hechos del Holocausto se diluyan, distorsionen o falsifiquen mediante el uso irresponsable de la IA, corremos el riesgo de que el antisemitismo se extienda de forma explosiva y que disminuya gradualmente nuestra compresión de estas atrocidades», declaró la Directora General de la Unesco, Audrey Azoulay.

El organismo exige a los gobiernos que aceleren la aplicación de la Recomendación sobre la ética de la IA, adoptada en 2021 por los estados miembros, e insta a las empresas tecnológicas a establecer normas éticas para el desarrollo y el uso de la IA en un esfuerzo por reducir las posibilidades de que se genere información poco fiable.