Un rapport de l'UNESCO avertit que l'IA pourrait renforcer le déni de l'Holocauste

Au lieu du débat sur la question de savoir si l'art imite la culture ou si la culture imite l'art, nous sommes confrontés à un nouveau dilemme avec l'émergence de l'intelligence artificielle. L'IA se contentera-t-elle de régurgiter les idées de l'internet, ou les idées se propageront-elles sur l'internet grâce à l'IA ? Dans un cas comme dans l'autre, le déni et la distorsion de l'Holocauste pourraient bien en résulter, selon l'UNESCO.

Dans un nouveau rapport, l'UNESCO met en garde contre les dangers qui pourraient découler de l'utilisation de l'IA dans le cadre de l'enseignement relatif à l'Holocauste. L'utilisation de l'IA par 80 % des jeunes de 10 à 25 ans est devenue une question d'urgence. Dans le cadre de ses travaux sur les questions éducatives, scientifiques et culturelles, l'organe des Nations unies a mis en évidence plusieurs domaines de préoccupation majeurs concernant les informations sur l'Holocauste, notamment la dilution, la déformation et la falsification.

Le déni de l'Holocauste et la minimisation des crimes nazis sont déjà monnaie courante sur l'internet. Les distorsions et les mensonges sont largement diffusés dans certains cercles, attisant la haine et conduisant à la violence antisémite. Toutefois, le rapport de l'UNESCO souligne que l'IA est susceptible d'exacerber le problème si elle n'est pas maîtrisée.

La déclaration suivante de la directrice générale de l'UNESCO, Audrey Azoulay, accompagnait le rapport. Audrey Azoulay accompagne le rapport : "Si nous permettons que les faits horribles de l'Holocauste soient dilués, déformés ou falsifiés par l'utilisation irresponsable de l'IA, nous risquons une propagation explosive de l'antisémitisme et une diminution progressive de notre compréhension des causes et des conséquences de ces atrocités."

Les résultats générés par les programmes d'IA reflètent une compréhension limitée du monde puisque les informations sont collectées à partir d'une sélection de sources et reflètent inévitablement les biais des sources utilisées.

Le site de l'UNESCO explique : "Ces données sont souvent extraites d'Internet et peuvent inclure des contenus trompeurs ou nuisibles. Les systèmes d'IA héritent donc des préjugés humains, ce qui risque de déformer les informations sur des événements spécifiques et de renforcer les préjugés".

"Cela est particulièrement vrai dans le contexte de l'Holocauste, en raison de la prévalence de la désinformation sur cet événement. Le rapport note qu'en raison du manque de supervision, d'orientation et de modération de la part des développeurs d'IA, les outils d'IA générative peuvent également être formés sur des données provenant de sites web négationnistes."

Que ce soit intentionnel ou non, l'utilisation généralisée de ces programmes au fil du temps peut entraîner des réponses trompeuses ou incomplètes dans le meilleur des cas, et la négation et la déformation de l'Holocauste dans le pire des cas.

Cependant, plus que les inexactitudes involontaires causées par des failles dans les programmes d'IA, l'organe des Nations unies a mis en évidence les possibilités offertes aux antisémites de répandre délibérément des mensonges. L'IA peut être utilisée pour créer des images et des vidéos complètement fausses, avec des vidéos "deep fake" (faux profond) qui semblent totalement réelles. Le rapport note que certains programmes assistés par l'IA permettent en fait aux utilisateurs d'interagir avec des personnages historiques simulés, y compris d'éminents nazis comme Adolf Hitler.

En réponse, le rapport de l'UNESCO recommande que des règles d'éthique pour le développement et l'utilisation de l'IA soient créées et respectées par les gouvernements et les entreprises technologiques. On espère que cette réglementation limitera les abus et préservera l'exactitude de l'enseignement relatif à l'Holocauste et aux événements qui ont conduit à l'assassinat de tant de millions de personnes.