Pawel Czerwinski | Unsplash
The last few days have been really controversial regarding how xAI's AI, known as Grok, is being handled. If we try to remember a previous situation that was alarming, it was when this social AI got out of control, making offensive and racist comments in response to users.
Once again, an alarming issue has gained traction for many people, especially women around the world. The issue is that this type of intelligence has improved substantially to the point where it can now respond to requests to create all kinds of photographs, but also modify them. This has given thousands of users the ability to modify an image of a woman and sexualize her with revealing clothing, or simply put a bikini on any figure on the internet, ignoring any kind of consent.
Estos últimos días han sido realmente controversiales respecto a cómo se maneja la IA de xAI que conocemos como Grok. Si nos esforzamos en recordar una anterior situación que resultara alarmante fue el momento en que esta IA social se salió de control, haciendo una suerte de comentarios ofensivos-racistas siguiéndole el juego a los usuarios.
Nuevamente ha cobrado repercusión un asunto alarmante para muchas personas, sobre todo mujeres de todas partes del mundo. La cuestión es que este tipo de inteligencia logró mejorar sustancialmente al punto de que ahora puede responder a peticiones sobre crear todo tipo de fotografías, pero también modificarlas. Esto ha hecho que miles de usuario se encuentren con la posibilidad de modificar una imagen de una mujer y sexualizarla con una ligera vestimenta, o simplemente ponerle bikini a cualquier figura en la red, ignorando todo tipo de consentimiento.
Post of SMX on X
From my perspective, there is a clear move that was allowed to go on for too long for a clear reason: AI training (conveniently in Spicy mode). In this situation, X's algorithm will position the most relevant results, which coincidentally will be those who have taken selfies with motives that need no explanation, they just live. This positioning makes it easier for more users to have material with which to satisfy their misdeeds, simply by asking Grok to modify the original photograph based on a prompt. To make matters worse, these images were added to Grok's photo tab for a while, creating a huge gallery, which has now been taken down.
This got worse when users began to appear not only with marked anonymity, but also with clear intentions to go beyond putting those women who continually expressed their anger and discontent at having their photos and bodies manipulated in bikinis. Photographs of minors have appeared, resulting in something that was escalating very quickly.
There were also users who started their own tests, generating photographs with different outfits. I noticed that the number of views had risen dramatically, which means that there is a circle of people who are interested in seeing something like this. In turn, this influx of new users to the post means that sustainable monetization could arise over time if Grok does not remove these types of requests, so we could end up seeing our feed flooded with this type of content.
Desde mi perspectiva hay una clara jugada que se dejó alargar más de la cuenta con un claro motivo; el entrenamiento de la IA (conveniente al modo Spicy). En esta situación el algoritmo de X posicionará los resultados más relevantes, que coincidentemente serán quienes hayan realizado selfies con motivos que no se necesitan explicar, solo viven. Este posicionamiento facilita que más usuarios dispongan de material con el que satisfacer fechorías, simplemente pidiendo a Grok que haga la modificación de la fotografía original con base a un prompt. Para peor, estas imágenes por un tiempo se añadían a la pestaña de fotos de Grok, creando una galería inmensa, que ya ha sido dada de baja.
Esto se puso peor cuando comenzaron no solo a aparecer usuarios con un anonimato del tipo marcado, sino también con claras intenciones de ir más allá de poner en bikini a esas mujeres que continuamente manifestaban su enojo y descontento por manipular sus fotografías y cuerpos. Han aparecido fotografías de menores de edad, lo que resulta en algo que estaba escalando muy rápido.
También aparecieron usuarias que sí iniciaron sus propias pruebas, generando fotografías con distintas vestimentas. Noté que los números de visualizaciones habían subido de forma drástica, lo que significa que hay un círculo de personas que están interesadas en ver algo así. A su vez, esa entrada de nuevos usuarios al post, hace que pueda surgir una monetización sostenible en el tiempo si Grok no elimina este tipo de solicitudes, por lo que podríamos llegar a ver nuestro feed inundado por este tipo de contenido.
Post of Silkaworld on X
Post of Ashlee on X
Some users have strictly requested that Grok not edit the images they have uploaded. I don't know if it will work, but I have seen a case where a user made an editing request and Grok denied it, displaying a message saying that it did not have permission to do so. Prior to this, users were blocking this AI without apparent results.
I won't upload examples of the edits Grok can make, but it's something anyone can notice when browsing X. It's an incredible evolution that this artificial intelligence model has achieved, but it's taken a path that most of us don't approve of, or that violates our presence on the internet, forcing us to decide between staying with the dangers of being exposed to users who don't seem to have any sense, or leaving the site and deleting our accounts indefinitely, as some people are considering.
Han habido usuarias que han pedido estrictamente a Grok que no les edite las imágenes que hayan subido. No sé si funcionará, pero he visto un caso en donde un usuario hizo un pedido de edición y Grok se lo negó arrojando un mensaje de que no tenía permiso de hacerlo. Antes de esto, las usuarias estaban bloqueando esta IA sin resultados aparentes.
No subiré ejemplos de las ediciones que puede lograr Grok, pero es algo que cualquiera puede notar al navegar por X. Es una evolución increíble lo que ha logrado este modelo de inteligencia artificial, pero haciendo un recorrido que la mayoría de gente no aprobamos, o que vulneran nuestra presencia en internet, haciéndonos decidir entre permanecer con los peligros que conlleva estar expuestos a usuarios que no parecen tener uso de razón, o irse del sitio dando de baja la cuenta indefinidamente, como algunas personas están ideando.
- Main image edited in Canva.
- Translation into English with DeepL.