Mediante un comunicado de prensa publicado por la a Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) el pasado 18 de junio, la organización alerta sobre el riesgo de que “la inteligencia artificial (IA) distorsione la historia del Holocausto y alimente el antisemitismo, si no se adoptan medidas contundentes para asegurar que su funcionamiento se rija por principios éticos”.
En este contexto presentó un informe publicado en conjunto con el Congreso Judío Mundial, que explica, entre otras cosas que el “aumento de la utilización de la IA generativa para realizar tareas y buscar información hace que los jóvenes corran el riesgo de exponerse a información distorsionada sobre el Holocausto, que ha encontrado nuevas vías de difusión a través de los contenidos generados por ésta”, por lo que es imperativo establecer “marcos éticos en dichas tecnologías” que cada vez son más utilizadas entre los jóvenes de entre 10 y 24 años con fines educativos y de entretenimiento sin discernir o verificar la información generada.
Asimismo, señala que estas plataformas además de facilitar que personas malintencionadas difundan información falsa, también “pueden crear involuntariamente contenidos falsos o engañosos”.
Agrega que la IA generativa no solo facilita que personas malintencionadas difundan desinformación y discursos de odio, sino que también puede crear involuntariamente contenidos falsos o engañosos sobre el Holocausto y más aún no solo en este caso pero, ya ha sido detectado, ante la falta de información estas tecnologías, son “propensas a inventar o ‘alucinar’ sucesos que nunca sucedieron” y en otros casos “tienden a simplificar en exceso la complejidad de la historia, priorizando una pequeña selección de fuentes y acontecimientos y no la presentan completa”.
Por lo tanto la UNESCO insta a las empresas tecnológicas a “aplicar sus normas, asumir sus responsabilidades y velar por que principios éticos como la imparcialidad, la transparencia, los derechos humanos y la diligencia debida se tengan en cuenta en la fase de diseño de las aplicaciones”; “colaborar estrechamente con la comunidad judía, los sobrevivientes del Holocausto y sus descendientes, los educadores, los expertos en antisemitismo y los historiadores a la hora de desarrollar nuevos sistemas de IA” y hace un llamado para que los “sistemas educativos contribuyan a proteger los hechos probados del Holocausto dotando a los jóvenes de competencias digitales y pensamiento crítico, así como de una sólida comprensión de la historia de este genocidio”.
Información comunicado y fotografía: UNESCO
