OPINIÓN: Adobe presentó recientemente la versión más nueva y avanzada de su modelo de IA generativa Firefly, Firefly Image 3, pero ¿podría esta actualización provocar un aumento en los robos e imitaciones de arte?
Actualmente en su fase beta, el modelo Firefly Image 3 promete algunas actualizaciones significativas tanto para Firefly como para Photoshop.
¿Qué hay de nuevo?
Firefly ahora comprende mejor las indicaciones y es más hábil para crear imágenes en lo que respecta tanto a la estructura como a los detalles. El modelo Image 3 también puede producir una gama más variada de emociones humanas y se inspira en una gama más amplia de estilos artísticos.
La herramienta Generative Fill gen-AI de Photoshop también recibió una importante actualización impulsada por Firefly, con nuevas características que incluyen Imagen de referencia, Mejorar detalles, Generar fondo y Generar similar.
Reference Image es la herramienta que me llamó la atención de inmediato, ya que permite a los usuarios cargar imágenes existentes como indicaciones en lugar de depender de una breve descripción textual. Durante una demostración con Adobe, vi cómo se cargaba una guitarra como mensaje de imagen de referencia. Luego, Firefly se inspiró mucho en esa imagen y colocó una guitarra casi idéntica en los brazos del oso ya abierta en Photoshop.
Usado para el mal
Esta tecnología es muy impresionante y permite transmitir una forma, estilo y color específicos al elemento Generative Fill sin escribir una palabra. Sin embargo (y tal vez esto diga algo sobre mí), inmediatamente me sorprendió cómo esta característica podría usarse para el mal.
El robo de arte ya es un problema generalizado en línea, donde las personas vuelven a subir sus obras y las reclaman como propias, ya sea por dinero o por me gusta. ¿No podría usarse esta característica para generar arte similar a una obra que ya existe?
Llevé estas inquietudes al CTO de Digital Media Business de Adobe, Ely Greenfield, y esto es lo que me dijo.
“El concepto de si un artista tiene derecho a su estilo es complicado”
“Nuestra perspectiva en Adobe es que un artista debe tener derecho a su estilo y trabajamos con los reguladores, estamos promoviendo varias leyes en los EE. UU. en este momento, creo, para tratar de lograr que se aprueben leyes que respalden eso. Lo que diré es que sí, puedes cargar una imagen como coincidencia de estilo, como coincidencia de referencia, y el punto es poder usar eso como fuente, como semilla, para poder generar otras cosas como eso”, explicó Greenfield.
“Existe un cierto grado de responsabilidad que asignamos al usuario. Quiero decir que cada vez que usas cualquier herramienta de edición, incluso un lápiz, tienes la capacidad de copiar el trabajo de otra persona y por eso no podemos impedir que la gente lo haga. Hacemos todo lo posible en la herramienta para tratar de ayudar a alentar a las personas a actuar con integridad. Recordamos a las personas que se aseguren de tener los derechos. Verificamos las credenciales de contenido para ver si hay una bandera que diga no usar esto con IA, pero al final del día, sí, puedes cargar el contenido de otra persona y usarlo incluso cuando no necesariamente tienes los derechos y permiso para hacerlo”.
¿Alguien podría ganar dinero con tu estilo artístico?
Le pregunté a Greenfield si existe algún sistema para evitar o marcar imágenes generadas a partir de otra obra de arte para que no se carguen en sitios web de impresión bajo demanda, como Redbubble o Amazon.
“No tenemos forma de validar si usted tiene derecho a una imagen, y no tenemos forma de rastrear lo que hace con esa imagen después del hecho. Así que lamentablemente no, no hay nada que podamos hacer al respecto”, dijo.
“Lo mejor que podemos hacer, y gran parte de esto es la mitad de nuestra inversión con la Iniciativa de Autenticidad de Contenido, la mitad es técnica. ¿Cómo creamos los sistemas que nos permitan rastrear esta información? Y la mitad es social, social y política. Trabajamos con agencias reguladoras, trabajamos con otros medios y empresas de tecnología, empresas de hardware, empresas de software, para intentar difundir la tecnología, de modo que podamos, con el tiempo, cambiar las expectativas del público”.
La iniciativa de autenticidad del contenido
La Content Authenticity Initiative es un colectivo de empresas de medios y tecnología que trabajan juntas para promover la adopción de un estándar industrial abierto para la autenticidad del contenido. Una forma en que Adobe ha estado haciendo su parte ha sido marcando imágenes creadas o editadas con IA con sus metadatos de Credenciales de contenido.
“[One] La analogía que me gusta usar es el ícono de candado en el navegador donde llegamos al punto en que finalmente la gente comenzó a esperar ese ícono de candado y, si no estaba allí, sospechaban del sitio web y no ponían su tarjeta de crédito. Ahora, nos estamos acercando al punto en el que el navegador comienza a decir, si no está allí, simplemente no le permitiremos ver el sitio web. Puedes solucionarlo, puedes decir Quiero correr el riesgo, pero el navegador dice cada vez más [no].”, explicó Greenfield.
«Me encantaría vernos llegar a ese punto con las Credenciales de contenido, pero definitivamente es un viaje para llegar desde aquí».
¿La IA generativa es mala para los artistas?
Esto no significa que Adobe esté en contra de la IA generativa. Sólo necesita pasar cinco minutos en Adobe Firefly para darse cuenta de que Adobe es uno de los pioneros en esta carrera.
«En realidad, no creo que la manipulación sea intrínsecamente mala, y la IA no es intrínsecamente mala», dijo Greenfield cuando se le preguntó si la visión de Adobe para el futuro era una Internet en la que cada imagen sea marcada si ha sido manipulada mediante AI.
“Si quisiéramos marcar cualquier imagen en la que se haya utilizado IA en su creación y ponerle una gran etiqueta de advertencia, cada foto que salga de un iPhone se marcaría porque se utiliza IA en el renderizado, en la captura de la imagen. En realidad, lo que ve el sensor no son los valores brutos de luminosidad. Apple realmente tiene IA, maravillosamente. Hace cosas como detectar rostros y iluminarlos porque eso es lo que la gente quiere ver en sus fotos. El 99,999% de los casos de uso de personas que utilizan IA generativa en Photoshop son razones perfectamente legítimas… o están haciendo cambios que no distorsionan la verdad o no están tratando de representar la verdad”.
“No creo que terminemos en un mundo en el que recibamos señales de advertencia a diestro y siniestro, como si se utilizara la IA en esto. Creo que terminamos en un mundo donde cuando un consumidor dice, oh, esta persona representa la verdad, o podríamos tener situaciones en las que la IA puede ayudar a detectar si se trata de una historia editorial, si se supone que representa la verdad, y esa información es emerge en esas situaciones para que el consumidor pueda elegir ir y hacer una elección”.
¿Cuál es el objetivo final de Adobe con las credenciales de contenido?
“Nuestro trabajo es, primero, educar al público sobre que todos deberíamos prestar atención a esto cuando sea importante, y segundo, hacer que sea muy fácil, estúpidamente fácil, para que la gente luego vaya y obtenga la información que necesita. y comprender cómo utilizar esa información cuando decidan que es importante para ellos. Ésa es la visión del futuro”.
