Vea cómo se crean las imágenes reales generadas por IA

Durante mucho tiempo no se ha creído en la visión. Las imágenes han sido falsificadas y manipuladas desde que existe la fotografía.

Ahora, ni siquiera es necesaria la realidad para que las fotos se vean auténticas, solo una IA que responde al aviso. Incluso los expertos a veces luchan por saber si uno de ellos es real o no. ¿puedes?

El rápido avance de la inteligencia artificial ha generado alarmas de que la tecnología utilizada para engañar a las personas avanza mucho más rápido que la tecnología que puede identificar estafas. Las empresas de tecnología, los investigadores, las agencias de fotografía y las organizaciones de noticias se esfuerzan por ponerse al día, tratando de establecer estándares para la procedencia y la propiedad del contenido.

Este avance ya está alimentando la desinformación y se está utilizando para inflamar las divisiones políticas. Los gobiernos autoritarios han creado presentadores de noticias de aspecto realista para promover sus objetivos políticos. El mes pasado, algunas personas se inscribieron para fotos que mostraban al Papa Francisco con la chaqueta acolchada de Balenciaga y un terremoto que devastó el noroeste del Pacífico, aunque no ocurrió ninguno de los eventos. Las imágenes fueron creadas con Midjourney, un popular creador de imágenes.

El martes, cuando el expresidente Donald J. Trump se entregó en la oficina del fiscal general de Manhattan para enfrentar cargos penales, aparecieron en Reddit imágenes generadas por IA que mostraban al actor Bill Murray como jefe de la Casa Blanca. Otra imagen que muestra a Trump caminando junto a una gran multitud con banderas estadounidenses de fondo se volvió a compartir rápidamente en Twitter sin revelar quién acompañaba la publicación original, afirmando que en realidad no era una fotografía.

Los expertos temen que la tecnología pueda acelerar la erosión de la confianza en los medios, el gobierno y la sociedad. Si cualquier imagen puede fabricarse y manipularse, ¿cómo podemos creer todo lo que vemos?

dijo Wassim Khaled, CEO de Blackbird, una empresa que ayuda a los clientes a combatir la desinformación.

La inteligencia artificial permite a casi cualquier persona crear obras de arte complejas, como las que ahora se exhiben en la Gagosian Art Gallery de Nueva York, o imágenes fotorrealistas que desdibujan la línea entre lo real y lo imaginario. Ingrese una descripción de texto y la tecnología puede producir una imagen relevante, sin necesidad de habilidades especiales.

Con frecuencia, hay indicios de que las imágenes virales fueron generadas por una computadora en lugar de capturadas en la vida real: por ejemplo, el Papa lujosamente pintado tenía anteojos que parecían derretirse en su mejilla y dedos borrosos. Las herramientas de arte de IA a menudo producen texto sin sentido. Aquí hay unos ejemplos:

Sin embargo, los rápidos avances tecnológicos están eliminando muchos de esos inconvenientes. La última versión de Midjourney, lanzada el mes pasado, puede representar manos realistas, una hazaña que, obviamente, eludió a los primeros tiradores.

Días antes de que Trump se entregara para enfrentar cargos criminales en la ciudad de Nueva York, Eliot Higgins, un periodista británico y fundador de Bellingcat, una organización de investigación de código abierto, hizo circular imágenes de su “arresto” en las redes sociales. Usó Midjourney para imaginar el arresto, juicio y encarcelamiento del ex presidente en un mono naranja y escapar por las alcantarillas. Publicó las fotos en Twitter, describiéndolas claramente como creaciones. Desde entonces ha sido ampliamente compartido.

Las imágenes no tenían la intención de engañar a nadie. En cambio, el Sr. Higgins quería llamar la atención sobre el poder de la herramienta, incluso en su infancia.

Dijo que las fotos de Midjourney pudieron pasar el software de reconocimiento facial que utiliza Bellingcat para verificar identidades, generalmente de rusos que han cometido delitos u otros abusos. No es difícil imaginar gobiernos u otros actores nefastos creando imágenes para hostigar o desacreditar a sus enemigos.

Al mismo tiempo, dijo Higgins, la herramienta también tuvo problemas para crear imágenes atractivas con personas no tan ampliamente retratadas como Trump, como el nuevo primer ministro británico, Rishi Sunak, o el comediante Harry Hill, “quien no sea tan conocido fuera el Reino Unido “mucho”.

Midjourney no se divirtió de ninguna manera. La cuenta de Higgins fue suspendida sin explicación después de que las fotos se volvieran virales. La compañía no respondió a las solicitudes de comentarios.

Las limitaciones de las imágenes sintéticas las hacen relativamente fáciles de detectar por parte de las organizaciones de noticias u otras personas preocupadas por los riesgos, al menos por el momento.

Aún así, las compañías de fotografía de stock, los reguladores gubernamentales y un grupo comercial de la industria de la música se han movido para proteger su contenido del uso no autorizado, pero la poderosa capacidad de la tecnología para imitar y adaptar complica esos esfuerzos.

Algunos generadores de imágenes de IA incluso han reproducido las imágenes, un tierno homenaje a “Twin Peaks”. Will Smith come un montón de pasta, con versiones distorsionadas de las marcas de agua utilizadas por empresas como Getty Images o Shutterstock.

En febrero, Getty Stability AI fue acusada de copiar ilegalmente más de 12 millones de imágenes de Getty, junto con comentarios y metadatos, para entrenar el software detrás de la herramienta Stable Diffusion. En su demanda, Getty argumentó que Stable Diffusion devaluó la marca de agua de Getty al incorporarla en imágenes que van “desde lo extraño hasta lo horrible”.

Getty dijo que el “robo descarado y gratuito” se realizó “en una escala asombrosa”. Estabilidad Amnistía Internacional no respondió a una solicitud de comentarios.

La demanda de Getty refleja las preocupaciones planteadas por muchos artistas individuales: que las empresas de inteligencia artificial se están convirtiendo en una amenaza competitiva al copiar contenido que no tienen permiso para usar.

Las violaciones de marcas comerciales también se convirtieron en una preocupación: las imágenes creadas artificialmente replicaban el logotipo del pavo real de NBC, aunque con letras incomprensibles, y mostraban el familiar logotipo ondulado de Coca-Cola con la O adicional en el nombre.

En febrero, la Oficina de Derechos de Autor de EE. UU. se centró en las imágenes creadas artificialmente cuando evaluó el caso de “Zarya of the Dawn”, un cómic de 18 páginas escrito por Kristina Kashtanova con arte producido por Midjourney. El funcionario del gobierno decidió proporcionar protección de derechos de autor para el texto del cómic, pero no para su arte.

“Debido a la distancia significativa entre lo que un usuario puede indicarle a Midjourney que cree y el material visual que Midjourney realmente produce, los usuarios de Midjourney carecen de control suficiente sobre las imágenes creadas para ser tratadas como la ‘mente maestra’ detrás de ellas”, explicó la oficina en su decisión. .

La amenaza para los paparazzi está superando rápidamente el desarrollo de protecciones legales, dijo Mickey Ostericher, asesor general de la Asociación Nacional de Fotógrafos de Prensa. Las salas de redacción tendrán cada vez más dificultades para autenticar el contenido. Dijo que los usuarios de las redes sociales ignoran las etiquetas que identifican claramente las imágenes como artificiales y optan por creer que son imágenes reales.

La IA generativa también puede hacer que los videos falsos sean más fáciles de producir. Esta semana, apareció un video en línea que parecía mostrar a Nina Schick, autora y experta en inteligencia artificial, explicando cómo la tecnología estaba creando “un mundo donde las sombras se confunden con la realidad”. Luego, el rostro de la Sra. Chic vaciló cuando la cámara retrocedió, mostrando un cuerpo doble en su lugar.

El video explica que el deepfake fue creado, con la aprobación de la Sra. Schick, por la compañía holandesa Revel.ai y Truepic, una compañía de California que explora la verificación de contenido digital de manera más amplia.

Su video, que presenta a un personaje que lo identifica como generado por computadora, ha sido descrito por las compañías como “el primer video falso digital transparente”. Los datos se sellan criptográficamente en el archivo; La manipulación de la imagen rompe la firma digital y evita que aparezcan las credenciales cuando se utiliza un software de confianza.

Las empresas esperan que la insignia, que vendrá con una tarifa para los clientes comerciales, sea adoptada por otros creadores de contenido para ayudar a establecer un estándar de confianza que incluya imágenes de IA.

“La escala de este problema se acelerará tan rápidamente que impulsará la educación del consumidor muy rápidamente”, dijo Jeff McGregor, director ejecutivo de Tropic.

Truepic es parte de Coalition for Content Proviance and Authenticity, un proyecto creado a través de una alianza con empresas como Adobe, Intel y Microsoft para realizar un mejor seguimiento de los activos de medios digitales. El fabricante de chips Nvidia dijo el mes pasado que estaba trabajando con Getty para ayudar a entrenar modelos de IA “responsables” utilizando contenido con licencia de Getty, con regalías pagadas a los artistas.

El mismo día, Adobe dio a conocer su propio producto de generación de imágenes, Firefly, que se entrenará utilizando solo imágenes con licencia o de sus propias existencias o que ya no tengan derechos de autor. Dana Rao, directora de confianza de la compañía, dijo en su sitio web que la herramienta agregará automáticamente credenciales de contenido, “como una etiqueta nutricional para fotografía”, que definen cómo se crea la imagen. Adobe dijo que también planea compensar a los accionistas.

El mes pasado, la supermodelo Chrissy Teigen escribió en Twitter que había sido engañada por la chaqueta hinchada del Papa, y agregó que era “imposible para mí sobrevivir al futuro de la tecnología”.

la semana pasada, un Una serie de nuevas imágenes de IA Mostraba al Papa, con su túnica habitual, disfrutando de un vaso alto de cerveza. Las manos parecían en su mayoría normales, excepto por el anillo de bodas en el dedo anular del Papa.

Producción adicional de Jeanne Noonan DelMundo, Aarón Krollek y Michael André.