Les amenaces associades amb la IA i l’Holocaust són múltiples, i van des de la potencial manipulació per actors malintencionats, fins a la introducció de falsedats o a la difusió d'informació esbiaixada i l’erosió gradual de la confiança pública en les fonts autèntiques. Aquest document adverteix sobre els perills de distorsionar la veritat històrica en una era digital cada cop més condicionada per la IA. L'informe destaca cinc grans preocupacions:

1. La IA automàtica pot inventar fets sobre l'Holocaust. Els models d'IA han produït narratives enganyoses o falses sobre l'Holocaust. Els buits de dades i els biaixos han provocat «al·lucinacions» en els sistemes de IA generativa, produint contingut incorrecte o inventat la idea que l'Holocaust no va ser real. Sense alfabetització en IA i habilitats de recerca, els usuaris poden no saber com verificar els textos produïts per IA, o reconèixer la falta de fiabilitat de les dades.

2. Falsificar proves històriques: Tecnologia Deep fake. La tecnologia deep fake ofereix la possibilitat de manipular àudio i vídeo per fabricar contingut relacionat amb l'Holocaust. Es necessiten mecanismes per prevenir l'ús indegut de la IA en la creació intencionada de «proves» falses que soscavin la veracitat del registre històric establert sobre l'Holocaust i difonguin discursos d'odi. S'ha utilitzat tecnologia deep fake per difondre la ideologia nazi o per simular converses amb líders nazis, inclòs Adolf Hitler, que rebaixen o directament neguen l'Holocaust.

3. Els models d'IA poden ser manipulats per difondre discursos d'odi. Les campanyes en línia dirigides per grups extremistes violents poden explotar els defectes de la IA per promoure discursos d'odi i contingut antisemita sobre l'Holocaust. Els xatbots i els motors de cerca han estat piratejats o manipulats per actors malintencionats per difondre la ideologia nazi.

4. El biaix algorítmic pot difondre la negació de l'Holocaust. Els conjunts de dades esbiaixades han provocat que alguns motors de cerca i xatbots d'IA minimitzin els fets de l'Holocaust o promoguin contingut d'extrema dreta, incloent-hi la negació de l'Holocaust.

5. Simplificar la història. La tendència de la IA a centrar-se en els aspectes més coneguts de l'Holocaust simplifica excessivament la seva complexitat. L’omissió d’episodis i esdeveniments menys coneguts en la història de l'Holocaust reforça representacions estereotípiques de l'Holocaust i limita la nostra comprensió d’un passat complex que va afectar persones en tots els estats d’Europa i al nord d’Àfrica, el llegat del qual continua a tot el món.

Taula de Continguts

1. Introducció 
2. Què està en risc?
3. Ètica i sistemes d'IA 
4. Com amenaça la IA el coneixement i la comprensió de l'Holocaust? 
5. Utilitzant la IA per millorar la comprensió de l'Holocaust 
6. Com contrarestar la distorsió de l'Holocaust en sistemes d'IA 
7. Utilitzant la IA per contrarestar la distorsió de l'Holocaust 
8. Recomanacions per contrarestar l'amplificació i la distorsió de la IA 
9. Referències