Let's start this right. Honestly, I didn't know what I was going to draw. I grabbed my bag of crayons and some white cardstock. I had been reading about angels and types of angels for months; I think I'm focusing on more theological art, if you could call it that...
We can start this topic by asking the AI about The Glaze Project and Nightshade (
Now I know that the Glaze Project means that when you put art into an AI image generator, you won't be able to generate because other things will come out. It's like an anti-AI virus. Now my question is: Could I put art that already has AI in it into the image? I'm going to ask the robot:
🤔 Why wouldn't it make sense?
The confusion comes from misunderstanding the "enemy" that Glaze fights against. Let's break it down:
Glaze's Goal is Protective, Not Decorative: Glaze is not an artistic filter or a visible watermark. It's an "active defense" tool. Its sole purpose is to protect a work made by a human so that, if it is stolen and used to train an AI, the AI cannot learn the artist's style.
The "Virus" is for the AI's Eye, Not for Humans: The small alterations that Glaze adds (called "perturbations") are almost invisible to us, but they confuse the AI model. When it tries to analyze the image to learn the style, Glaze's "coating" makes it see a completely different style (for example, it sees abstract art where there is a realistic portrait). This "poisons" its learning process.
Protecting an AI image from... being imitated by another AI? An image created by an AI is, by definition, the product of a model that was trained on the style of human artists. Applying Glaze to it wouldn't "protect" it from anything, since there is no original human style to defend. It would be like trying to protect a photocopy from being used to make more photocopies; the original damage has already been done.
⚠️ Real Limitations: An Important Reminder
It's crucial for you to know that the "protection" offered by tools like Glaze is neither infallible nor eternal. It's a constant arms race.
They are not a permanent solution: The creators of Glaze themselves admit this. It's a tool to buy time while laws and regulations are developed, not a magical, indestructible shield.
They can be "cracked": Recently, an international research team has demonstrated that it's possible to remove the protections of Glaze and Nightshade (a more aggressive sister tool) with a method called LightShed. This system can detect, reverse, and eliminate the perturbations, leaving the image once again "vulnerable" for AI training. This shows that the technological war between protectors and attackers is very active.
So, it's a war. Hmmmm, interesting.
Well, getting off topic, here's the process of what I'm drawing:
Well, that's as far as I've gotten. Photos without AI or anything, with a low-mid range phone (the camera isn't very good).
SPA:
Vamos a empezar esto bien. Honestamente, no sabía qué iba a dibujar. Agarré mi bolsa de creyones y una cartulina blanca. Por allí tenía meses leyendo sobre los ángeles y tipos de ángeles; creo que me estoy enfocando en arte más teológico, si se pudiera decir...
La cuestión aquí la podemos empezar preguntándole a la IA sobre The Glaze Project y Nightshade (
Ahora sé que Glaze Project hace que cuando coloques el arte en el generador de imágenes de IA, no vas a poder generar porque van a salir otras cosas. Es como un virus anti-IA. Ahora mi pregunta es: ¿Yo podría meter el arte ya con IA adentro en la imagen? Voy a preguntársela al robot:
🤔 ¿Por qué no tendría sentido?
La confusión viene de entender mal el "enemigo" contra el que lucha Glaze. Vamos a desglosarlo:
El Objetivo de Glaze es Protector, No Decorativo: Glaze no es un filtro artístico ni una marca de agua visible. Es una herramienta de "defensa activa". Su único propósito es proteger una obra hecha por un humano para que, si es robada y usada para entrenar a una IA, esta no pueda aprender el estilo del artista.
El "Virus" es para el Ojo de la IA, No para el Humano: Las pequeñas alteraciones que añade Glaze (llamadas "perturbaciones") son casi invisibles para nosotros, pero confunden al modelo de IA. Cuando este intenta analizar la imagen para aprender el estilo, el "revestimiento" de Glaze le hace ver un estilo completamente diferente (por ejemplo, ve arte abstracto donde hay un retrato realista). Esto "envenena" su proceso de aprendizaje.
¿Proteger una imagen de IA de... ser imitada por otra IA? Una imagen creada por una IA ya es, por definición, el producto de un modelo que fue entrenado con el estilo de artistas humanos. Aplicarle Glaze no la "protegería" de nada, ya que no hay un estilo humano original que defender. Sería como intentar proteger una fotocopia de que la usen para hacer más fotocopias; el daño original ya está hecho.
⚠️ Limitaciones Reales: Un Recordatorio Importante
Es crucial que sepas que la "protección" que ofrecen herramientas como Glaze no es infalible ni eterna. Es una carrera de armas constante.
No son una solución permanente: Los propios creadores de Glaze lo admiten. Es una herramienta para ganar tiempo mientras se desarrollan leyes y regulaciones, no un escudo mágico e indestructible.
Pueden ser "descifradas": Recientemente, un equipo de investigación internacional ha demostrado que es posible eliminar las protecciones de Glaze y Nightshade (una herramienta hermana más agresiva) con un método llamado LightShed. Este sistema puede detectar, revertir y eliminar las perturbaciones, dejando la imagen de nuevo "vulnerable" para el entrenamiento de IAs. Esto demuestra que la guerra tecnológica entre protectores y atacantes está muy activa.
Entonces, es una guerra. Hmmmm, interesante.
Bueno, saliéndonos del tema, dejo el proceso de lo que estoy dibujando:
Bueno, hasta aquí lo llevo. Fotos sin IA ni nada, con teléfono de gama baja-media (la cámara no es muy buena).
