I wasn't even going to write about it today, but I ended up watching a great short video from Vice Channel about a facebook employee who works as a moderator for company content. That is, he spends eight hours a day looking at content that is reported as possibly "dangerous" and needs to decide whether to keep or delete it from the social network. It's not the first time I've talked about something like this here, a few months ago I wrote about why people have the mixed desire to watch Gore videos, but now I'm talking about another level of the problem. I'm talking about a company that hires hundreds of people to moderate content and tells them: -It's possible that you sometimes see some aggressive or offensive content, can you handle that? And the unemployed person will accept, of course. But it wasn't clear that she would see explicit content of all kinds all the time, every day for the rest of her time working at the company.
A facebook moderator spends most of his work time watching and deleting videos of murder, mutilation, rape, pedophilia, suicide, accidents, racial and hate crime videos, and so on. It's not like watching ten music video clips and alerting if anyone has spicy scenes that kids shouldn't see, we're talking about ten videos that have already been warned by some user as explicit and somehow disturbing and then reach the "moderator"'s hand , who will see at least one suicide a day. The anonymous interviewee also comments on the fact that it is playing on his mental screen automatically even during sleep and that it is impossible to avoid reviewing the scenes in his memories.
Is facebook to blame? No. Not exactly. The blame, unfortunately like 95% of the things that happen on this planet, are solely with the humans involved. The people who spread and share these misfortunes as if it were something really interesting and somehow productive. I honestly don't know what mechanism of psychological action makes these people engage in this type of behavior, but what I do know is that if you give a stupid and ridiculously disgusting person the tools, he will use the tools to his advantage. Facebook is nothing more than a disseminator of the thoughts of every human being, and if most are sick and disturbed, most of the content is sick and disturbed. Even we "non-moderators" see this clearly. When I had a facebook profile I got tired of seeing garbage, even filtered only by my network of friends that was nothing much out of my vision of life, but it doesn't take effort for you to be shocked by strong and unnecessary external opinions expressed as absolute and positive truths.
This is where the ethics I would expect from the owner of facebook come into play. Couldn't he at least invest in an advanced artificial intelligence system that could filter 50% of this moderate content? To lessen the harm, at least for your own employees? Well, waiting for the collective human consciousness to expand and for everyone to create sensitivity and stop seeing other people's misfortunes is much more utopian than thinking that Jesus will come back, so being more realistic and lighthearted, all I hope is that nature of "social natural selection" do their job of sorting out niches well (which unfortunately is a solution), and little by little there will be an outburst of this kind of toxic web. It won't take long to create a crypto-based social network where there will be some "Gore Token" and people will be paid for fresh content from the best high definition massacre, but that's okay, it's their niche, just like there are people who pay girls to wear kitten ears and cross-eyed looking like a mentally handicapped woman dressed in an anime. Everyone knows what they want and is entitled to spend their money on it. As long as they don't come looking for our space and pollute the eye of those who don't want to see it, and in the same way, it's no longer necessary to pay humans outside of this reality to visualize misfortunes every day of their job and spoil their mind for the rest of the useful life span of them.
Thômas H N Blum
Eu nem ia escrever sobre isso hoje, mas acabei assistindo um ótimo video curto do Canal da Vice à respeito de um funcionário do facebook que trabalha como moderador de conteúdo da empresa. Ou seja, ele passa oito horas por dia vendo conteúdos que são denunciados como possivelmente "perigosos" e precisa decidir se serão mantidos ou deletados da rede social. Não é a primeira vez que falo de algo do tipo por aqui, há alguns meses eu escrevi sobre por que as pessoas tem o desejo contraditório de assistir videos de Gore, mas agora estou falando de outro nível do problema. Estou falando de uma empresa que contrata centenas de pessoas para moderar conteúdos e diz a elas: -é possível que algumas vezes você veja alguns conteúdos agressivos ou ofensivos, você consegue lidar com isso? E a pessoa desempregada vai aceitar, é claro. Mas não ficava claro que ela veria conteúdos explícitos de todo tipo o tempo todo, todos os dias para o resto de seu tempo trabalhando na empresa.
Um moderador de facebook passa a maior parte do seu tempo de trabalho assistindo e deletando videos de assassinatos, mutilações, estupro, pedofilia, suicídio, acidentes, vídeos de crimes raciais e de ódio, e assim por diante. Não é como assistir dez video clipes de música e alertar caso algum tenha cenas picantes que crianças não deveriam ver, estamos falando de dez videos que já foram alertados por algum usuário como explícito e de alguma forma perturbador para então chegar a mão do "moderador", que verá no mínimo um suicídio por dia. O entrevistado anônimo ainda comenta sobre o fato de que aquilo fica passando em sua tela mental automaticamente até mesmo durante o sono e que é impossível evitar de rever as cenas em suas memórias.
A culpa é do facebook? Não. Não exatamente. A culpa, infelizmente como 95% das coisas que acontecem nesse planeta, é unicamente dos humanos envolvidos. Das pessoas que disseminam e compartilham essas desgraças como se fosse algo realmente interessante e de alguma forma produtivo. Não sei sinceramente qual mecanismo de ação psicológica faz essas pessoas se dedicarem a esse tipo de comportamento, mas o que sei é que, se você dá as ferramentas a uma pessoa estúpida e ridiculamente repugnante, ela irá utilizar as ferramentas a seu favor. O facebook é nada mais que um disseminador do pensamento de todo ser humano, e se a maioria é doente e perturbado, a maioria do conteúdo é doente e perturbada. Mesmo nós "não-moderadores" vemos isso claramente. Quando eu tinha um perfil no facebook eu cansava de ver lixo, mesmo filtrado apenas pela minha rede de amigos que já não era nada muito fora da minha visão de vida, mas não é necessário esforço para você se chocar com opiniões alheias fortes e desnecessárias explicitadas como verdades absolutas e positivas.
Aí é que entra a ética que eu esperaria do dono do facebook. Será mesmo que ele não poderia ao menos investir num sistema de inteligência artificial avançado que conseguisse filtrar 50% desse conteúdo moderado? Diminuir o mal ao menos para seus próprios empregados? Bom, esperar que a consciência humana coletiva se expanda e que todos criem sensibilidade e deixem de ver a desgraça alheia é muito mais utópico do que achar que Jesus vai voltar, então, sendo mais realista e leviano, tudo que eu espero é que a natureza da "seleção natural social" faça bem seu trabalho de separação de nichos (que infelizmente, é uma solução), e pouco a pouco haverá uma debanda desse tipo de rede tóxica. Não tardará a criarem uma rede social baseada em cryptos onde haverá algum "Gore Token" e as pessoas serão pagas por conteúdos inéditos do melhor massacre em alta definição, mas tudo bem, é o nicho deles, assim como tem gente que paga garotas para vestirem orelhas de gatinho e ficarem vesga parecendo uma deficiente mental vestida de anime. Cada um sabe o que quer e tem direito a gastar seu dinheiro com isso. Contanto que não venham procurar nosso espaço e poluir o olho de quem não quer ver, e da mesma forma, não seja mais necessário pagar humanos alheios a essa realidade a visualizar desgraças todos os dias de seu emprego e estragarem sua mente para todo o resto do tempo útil de vida delas.