Midjourney concluye las pruebas gratuitas en su generador de imágenes debido a los deepfakes del Papa y Donald Trump

Midjourney, la IA que genera imágenes a partir de texto, ha detenido las pruebas gratuitas para los usuarios. La decisión se ha tomado debido a que algunas personas han utilizado esta inteligencia artificial para crear deepfakes, como los del Papa Francisco y Donald Trump, que han causado preocupación debido a que parecen reales.

“Midjourney está poniendo fin al uso gratuito de su generador de imágenes de IA después de que las personas crearan deepfakes de alto perfil con la herramienta. El CEO David Holz dice en Discord que la compañía está poniendo fin a las pruebas gratuitas debido a la ‘demanda extraordinaria y el abuso de las pruebas’”, reporta Engadget.

MIRA: Cómo construir una bomba y otras preguntas maliciosas: OpenAI dice que ahora GPT-4 es capaz de negarse a responderlas

Pese a que implementaron nuevas normas, no han podido manejar esta situación. “Las nuevas medidas de seguridad no han sido ‘suficientes’ para evitar el uso indebido durante los períodos de prueba, dice Holz. Por ahora, deberás pagar al menos US$10 por mes para usar la tecnología”, agrega.

Las fotos falsas de Donald Trump y el Papa Francisco han generado alarma. “Los usuarios utilizaron la IA de la compañía para crear deepfakes del arresto de Donald Trump y del Papa Francisco con un abrigo moderno. Si bien las imágenes se identificaron rápidamente como falsas, existe la preocupación de que los malos actores puedan usar Midjourney, DALL-E de OpenAI y generadores similares para difundir información errónea”, afirma.

MIRA: Bold Glamour: qué peligros esconde el filtro de belleza con IA que incendió TikTok

Las reglas tendrán que modificarse para que no se permitan crear estos deepfakes, tal y como lo hacen otras inteligencias artificiales. “Algunos desarrolladores han recurrido a reglas estrictas para prevenir incidentes. OpenAI, por ejemplo, bloquea cualquier imagen de eventos políticos en curso, teorías de conspiración y políticos. También prohíbe el odio, la sexualidad y la violencia”, concluye.

Midjourney sorprendió al mundo con imágenes realistas y de gran calidad. La IA solo necesita un texto específico para generar estas representaciones y lo hace en prácticamente un minuto. Si bien la mayoría de usuarios simplemente dieron rienda suelta a su imaginación, algunos han aprovechado esta herramienta con otros objetivos no éticos.