Sistema de IA Midjourney bloquea la generación de imágenes sobre Trump y Biden

El generador de imágenes con IA Midjourney ha comenzado a impedir que sus usuarios creen imágenes falsas del presidente Joe Biden y del expresidente Donald Trump antes de las próximas elecciones presidenciales de EE. UU. en noviembre, según The Associated Press.

El director ejecutivo de Midjourney, David Holz, señaló durante un evento digital que la aplicación comenzaría a bloquear las solicitudes de imágenes de los dos candidatos.

El CEO no describió exactamente qué cambios de política se estaban realizando, pero describió el bloqueo como una medida temporal para hacer más difícil que la gente abuse de la herramienta.

The Associated Press informó que pidió a la herramienta una imagen de “Trump y Biden dándose la mano en la playa”, y que recibió una advertencia de “Mensaje prohibido detectado”. Tras un segundo intento de obtener la imagen se recibió el mensaje: “Has activado una alerta de abuso”.

“Realmente no me importa mucho el discurso político”, mencionó Holz, citado en AP. “Ese no es el propósito de Midjourney. No es tan interesante para mí. Dicho esto, tampoco quiero pasar todo mi tiempo intentando controlar el discurso político. Así que vamos a tener que ponernos firmes un poco”.

De esta forma, la organización de poco más de 10 personas añade controles que hasta hace una semana carecía a la hora de generar imágenes de las figuras políticas ya mencionadas.

Midjourney fue el único generador de imágenes de IA que no se unió al pacto voluntario de la industria tecnológica para combatir los deepfakes que engañan a los votantes.

Vía AP.

Foto: www.whitehouse.gov