El generador de imágenes Midjourney confunde a los usuarios con sus propias inconsistencias. El debate se enardece en aquel país, conforme se aproximan las elecciones presidenciales.

02 de julio 2024, 11:11hs

Los responsables del generador Midjourney prometieron que el sistema no crearía imágenes de Joe Biden y Donald Trump en la previa de las elecciones presidenciales en Estados Unidos. Sin embargo, un informe de Engadget revela que ese sistema de inteligencia artificial sí permite trabajar con prompts que incluyen los nombres del demócrata y del republicano. Además, que el modelo entrega información errónea.

Midjourney, ¿quién es el presidente de Estados Unidos?

Este generador es uno de los más conocidos de su especie. Opera de forma similar a DALL-E de OpenAI y a Stable Diffusion. En la práctica, reconoce indicaciones por escrito —“prompts”, en la jerga de la IA— y en base a esos pedidos crea imágenes.

Leé también: YouTube arremete contra los videos no consentidos generados con IA: así frenará a las deepfakes

El sitio Engadget puso a prueba a Midjourney para que pise el palito. A sabiendas de las restricciones de carácter político, pidió que cree una imagen del presidente de Estados Unidos. Insólitamente, el sistema arrojó cuatro variantes, todas con Donald Trump como protagonista, que no es el mandatario de ese país desde el 2021 cuando Joe Biden llegó a la Casa Blanca.

Con ese accionar, el generador de imágenes incurrió en dos “errores”. Por un lado, arrojó material con contenido político, a pesar de que había prometido no hacerlo. Además, desinformó al responder que Trump es el actual presidente estadounidense.

Midjourney, ¿quién será el próximo presidente de Estados Unidos?

Siguiendo a la fuente, a esta consulta el sistema también arrojó cuatro imágenes del republicano. Entonces apareció una repregunta: Engadget solicitó que genere fotos del “actual presidente”. Nuevo yerro, ahora más insólito: tres piezas en las que aparece Trump y una cuarta en la que está Barack Obama.

Leé también: ¿Por qué los algoritmos de inteligencia artificial discriminan?

En la prueba, la única vez que el generador con IA se negó a crear imágenes de Trump o Biden fue cuando el pedido fue sumamente explícito. La respuesta: “La comunidad de Midjourney votó para impedir el uso de ‘Donald Trump’ y ‘Joe Biden’ durante la temporada electoral”.

En este punto, Midjourney sale perdiendo con competidores en su ámbito. Cuando se trasladan esas mismas consultas a DALL-E —vía ChatGPT— o a Gemini, esos modelos se niegan a crear imágenes con contenido político.

“Es divertido crear imágenes de Trump”, dijo el CEO de Midjourney

Paradójicamente, este generador fue uno de los primeros que prohibió la creación de imágenes en las que aparezcan Trump o Biden. El propio CEO de Midjourney habló al respecto a comienzos de este año. “Sé que es divertido hacer fotografías de Trump; yo hago fotografías de Trump”, dijo David Holz. “Sin embargo, probablemente sea mejor simplemente no hacerlo, mejor retirarse un poco durante estas elecciones. Ya veremos.”

¿Querés recibir más noticias de Tecno?

Suscribite acáLa capacidad de engaño de este tipo de herramientas debe ser atendida. De hecho, la famosa foto que se viralizó el año pasado que mostraba al Papa Francisco vistiendo una campera blanca y larga había sido creada con Midjourney.

A principios de 2024, un grupo compuesto por 20 empresas de tecnología, incluidas OpenAI, Google, Meta, Amazon, Adobe y X, firmaron un acuerdo para ayudar a prevenir las falsificaciones profundas en la previa de las elecciones presidenciales que tendrán lugar en Estados Unidos, en noviembre. Como puede comprobarse, Midjourney no participó en esa colisión.