Os moderadores precisam limpar a sujeira que outros deixam para trás.

O site The Verge publicou, ao longo deste ano, duas reportagens sobre os problemas enfrentados pelo Facebook na moderação dos posts da rede social. 

As reportagens, assinadas por Casey Newton, descrevem um cenário que não é lá muito bonito: os moderadores são funcionários de call center terceirizados, contratados por uma empresa chamada Cognizant, e pressionados a moderar até 400 posts por dia, com uma taxa de acerto de 98%. 

As condições de trabalho são inadequadas e as postagens com frequência envolvem violência gráfica, inclusive contra humanos.

Não existe uma solução fácil para o problema. O Facebook tem mais de dois bilhões de usuários ativos. Mesmo que uma minúscula fração de pessoas utilize a rede de forma imprópria, já seriam milhões de postagens por dia. 

O alcance global da rede faz com que diferenças culturais devam ser levadas em conta. Parte dos posts acontecem dentro do contexto de grupos marginais, que podem utilizar um jargão de difícil interpretação para não iniciados.

Uma análise cuidadosa, no entanto, revela que o verdadeiro problema é de outra natureza. 

A natureza do verdadeiro problema é ignorada pelo Facebook, a Cognizant e a própria matéria da The Verge. Isso não é de se estranhar, da mesma forma que não é de se estranhar que peixes ignorem a existência de água.

CHERNOBIL

chernobil

A natureza do verdadeiro problema da mediação de conteúdo do Facebook pode ser revelada pela comparação com um evento histórico. 

À 1h23 da madrugada do dia 22 para 23 de abril de 1986, o reator 4 da usina nuclear de Chernobil explodiu. 

A explosão foi o resultado de uma série de decisões precipitadas e erradas sobre uma falha de projeto cuja existência não era oficialmente reconhecida. 

O resultado foi a emissão no ar de 400 vezes mais radiação do que a soma das bombas de Hiroshima e Nagasaki, a contaminação radioativa de quase 200 mil km² (mais ou menos o estado do Paraná inteiro), entre os quais se encontra 20% do território da Bielorrússia, a morte de centenas de milhares de pessoas, e, mais recentemente, o lançamento de uma série bem sucedida na HBO. 

Pode parecer um exagero comparar uma das maiores tragédias ambientais da história com uma rede social que é uma plataforma para senhoras fazerem comentários inconvenientes em posts de filhos que estão tentando parecer mais bacanas do que são. 

Esse certamente é o caso se você olhar para a questão desde esse ponto de vista. Mas estou falando, aqui, de todo o resto. 

Tanto a radiação quanto os posts do Facebook que devem ser moderados tem um caráter etéreo e tóxico parecido: eles existem e são reais, mas você não faz questão de vê-los ou tocá-los. 

Nenhum dos dois problemas pode ser resolvido de forma mecanizada. A radiação fritou os circuitos dos robôs enviados para limpar a usina de Chernobil. 

Uma máquina, por outro lado, não entende que o “eu odeio todo mundo" de garota de 15 anos que acabou de sofrer a sua primeira desilusão amorosa não representa uma ameaça. 

A máquina, como a garota, o namoradinho da garota, a nova namoradinha da garota, e o robô com os circuitos fritos no telhado da usina nuclear, é burra.

A solução disponível, portanto, consiste em jogar pessoas no problema. Mais de 300 mil liquidadores foram enviados a Chernobil. 

Alguns deles eram veteranos da guerra do Afeganistão que foram enviados para matar os animais domésticos que permaneceram na região. 

Mais de 30 mil moderadores trabalham nos posts no Facebook. Eles aceitam o trabalho pensando que vão ler piadas inconvenientes. 

Não é o que acontece: uma das reportagens cita o caso de um veterano do Afeganistão, neste caso americano, e não russo, que moderou um vídeo com filhotes de cachorro sendo despedaçados a tiros de escopeta. 

Essas pessoas estão expostas aos riscos intrínsecos a sua atividade. Evidentemente, não existem dados oficiais sobre o assunto (o governo soviético reconheceu a morte de 31 pessoas em decorrência do desastre de Chernobil e as novas autoridades não parecem dispostas a rever contas). 

A suspeita, bem embasada, é que o número de liquidadores que morreram de câncer esteja muito por cima da média da população. Por outro lado, alguns moderadores do Facebook sofrem transtorno de stress pós-traumático em decorrência de sua exposição à vídeos de violência. 

Nos dois casos, a solução de jogar pessoas em cima do problema é administrada com um propósito: limpar a barra de um monstrengo burocrático e impessoal que se alimenta das mentiras contadas por milhões de pessoas, principalmente para si mesmas. 

Finalmente, nos dois casos a implementação da solução não foi bem sucedida. É possível que você considere que não transformar a Europa na Zona Proibida do filme Os Planetas dos Macacos é um sucesso. Mas esse é um parâmetro avaliativo bastante baixo. Equivale a passar um aluno de ano porque ele não assassinou nenhum coleguinha. 

Os problemas do Facebook, por outro lado, estão aí, expostos pra quem quiser ver. 

Existe, no entanto, uma diferença entre Chernobil e a moderação de comentários no Facebook. Ela está na forma pela qual a solução era implementada. 

Quando o reator 4 explodiu, as autoridades soviéticas começaram a agir em conformidade com a sua natureza: de forma mentirosa e truculenta. 

Os moradores de Chernobil foram removidos a força de suas casas por tropas do exército, dias depois da explosão. Mesmo nesse momento, a informação oficial era que havia um pequeno incêndio na usina e que todos voltariam para as suas casas em três dias. 

Muitos acreditavam que havia iniciado uma nova guerra: o exército encheu a cidade de veículos militares. 

Até mesmo os liquidadores que foram enviados à cidade, meses depois, só eram voluntários na sua designação oficial: na prática, foram convocados para o que esperavam que fosse algumas semanas de trabalho e no fim ficaram meses. 

É verdade que a URSS não estava sendo mais truculenta e mentirosa do que o habitual, só mais descaradamente. 

O controle da tecnologia nuclear para fins pacíficos era um elemento importante na propaganda do regime comunista. A explosão do reator 4 deixou claro que tudo era uma farsa. 

Por outro lado, a Cognizant, empresa responsável por administrar a operação terceirizada de moderação do Facebook, também reage aos problemas de seus funcionários com base nas piores características do setor de tecnologia: de forma infantil e condescendente.

O escritório da empresa está cheio de cartazes motivacionais: “até mesmo uma abelha ocupada se detém para cheirar as flores”; “nada no Facebook é problema de outra pessoa”; “o que você faria se não tivesse medo?”; “você importa”. Os próprios funcionários podem deixar as suas mensagens inspiracionais em um mural (“Random Acts of Kindness”). O escritório é aberto, colorido e o seu design arrojado.

Isso tudo seria muito piegas se, no contexto, não fosse sinistro. 

Assim, depois de seis meses assistindo vídeos de mutilação animal, e até mesmo de pessoas brincando com fetos humanos, um dos moderadores contratados pela Cognizant (que já sofria de ansiedade e depressão), procurou o serviço de saúde mental da empresa. 

Como remédio, ele ganhou um balde de Lego para brincar no intervalo do trabalho. 

Na porta de entrada do escritório da Cognizant em Phoenix existem dois cartazes. Um diz “faça algo incrível hoje”; outro, “é proibida a entrada nesse ambiente com qualquer pedaço de papel”. 

É uma precaução de segurança: os funcionários da empresa não podem nem ter papel de bala sobre a sua mesa, para evitar que eles copiem os dados pessoais de algum usuário da rede social.

Um funcionário da Cognizant teve um ataque cardíaco durante o trabalho. A ambulância chegou quinze minutos depois de chamada, e no prédio não existe um desfibrilador. Ele morreu na sua mesa. Meses depois, foi instalado no escritório uma versão gigante do jogo Connect 4. 

Depois de que um funcionário não identificado, mas provavelmente irritado, esfregou fezes nas paredes do banheiro, a instalação ganhou um novo cartaz: “por favor, não passe qualquer substância, natural ou não, na parede”. 

OS IRMÃOS GRIMM

fairytales-brothers-grimm-book

O efeito disso tudo pode ser previsto por quem tem a perspectiva adequada: a perspectiva da sabedoria ancestral dos contos dos irmãos Grimm.

No conto A Donzela sem Mãos, a mocinha é vítima de seu pai. Ele é moleiro. Ele também é irresponsável, covarde e, finalmente, violento: ele amputa as mãos de sua filha com um machado, depois de vendê-la para o diabo por engano. 

Ele faz tudo isso, é claro, com muito pesar e sofrimento. Empobrecido, envelhecido e tomado pela culpa, ele oferece para a sua filha uma vida de riqueza. Ela, no entanto, prefere se tornar uma mendiga e abandona a fazenda dos seus pais.

Já não conto de João e Maria, duas crianças se perdem em uma floresta. Eles se deparam com uma cada construída com doces. 

Nessa casa vive uma bruxa, que é a personagem que nos interessa: ela não só, mora em uma casa feita de bolacha e chocolate e alimenta as crianças com guloseimas. Mas o seu objetivo, na verdade, é devorá-las.

Você pode estar pensando que isso é excessivamente abstrato. Mas, se olhar com cuidado para o que dizem as pessoas diretamente envolvidas com o desastre de Chernobil e os moderadores da Cognizant, vai reconhecer essas histórias na forma pela qual elas descrevem os seus problemas.

O livro Vozes de Tchernóbil, de Svetlana Aleksiévitch, é particularmente revelador nesse sentido. É uma história oral das pessoas comuns envolvidas no desastre. 

Liquidadores enviados para limpar a sujeira, moradores de Chernobil e de cidades das redondezas que foram evacuados, pessoas que não receberam explicações sobre o que estava acontecendo. 

Não é, portanto, um relato exato dos fatos, mas um relato exato da forma que esses fatos foram percebidos.

O que essas pessoas descrevem é a súbita percepção da falsidade e tirania subjacente ao paternalismo de um sistema que até então era percebido como justo. A ênfase do lema bolchevique "conduziremos a humanidade à felicidade" sai do "felicidade" para o "conduziremos". 

Existe uma anedota particularmente reveladora sobre o assunto. Um dos entrevistados diz que não abandonou a cidade porque é ateu: ele não acredita na existência de forças invisíveis onipresentes… como a radiação. 

Isso não apenas revela o caráter metafísico pelo qual a radiação era interpretada. Também revela uma desconfiança absoluta no poder de qualquer autoridade: Deus não existe e o governo que o substituiu está mentindo. 

Seguindo o exemplo da Donzela Sem Mãos, o entrevistado preferia viver sozinho em Chernobil, como um mendigo radioativo, a ter uma vida melhor, pagando o preço de ter que acreditar nos responsáveis pela sua situação.

Da mesma forma, é perceptível que os moderadores do Facebook enxergam a Cognizant como João e Maria enxergam a bruxa: um ser malvado, que distribui mensagens bem intencionadas e baldes de Lego apenas para devorá-los.

CARL JUNG

Jung03

Liquidadores, moderadores, eu e você: Todos nós conhecemos os contos dos irmãos Grimm. Eles são cativantes, e as pessoas se contam essas histórias há séculos precisamente por isso. 

É dessa forma que se pode dizer que eles integram a própria imaginação humana. Os irmãos Grimm souberam reconhecer e lapidar, entre aquelas histórias que as pessoas se contavam, quais expressavam símbolos primordiais. 

São arquétipos: heróis, vilões, sábios, modelos ideais nos quais você acredita, mesmo sem saber.  Eles formam, por sua vez, é o filtro mental através do qual as pessoas interpretam a sua realidade. 

À percepção que as pessoas tinham das autoridades soviéticas pós-Chernobil corresponde o arquétipo do tirano: é uma estrutura hierárquica que perdeu o seu sentido. 

À bruxa da história de João e Maria corresponde o arquétipo da Mãe Devoradora. Também conhecido como arquétipo da tirania amorosa, ele representa as situações em que país devoram os seus filhos para protegê-los. 

Foi Carl Jung que mostrou, pelo menos em termos de análise psicológica, a relação entre os arquétipos e o comportamento das pessoas. No final das contas, é com base na interpretação que as pessoas dão para a realidade que elas agem. 

Assim, o arquétipo da tirania amorosa explica uma miríade de casos de relações tumultuadas entre pais e filhos. Tenho certeza que você conhece algum. 

São aqueles nos quais uma mãe dominante mantém o filho dentro de casa sob o pretexto de  protegê-los de uma vida em que a gaveta de meias e cuecas que não se enche automaticamente e a pessoa vive de comer torrada.

Na verdade, o seu objetivo (inconsciente) é devorá-los: como eles dão sentido à sua vida, ela precisa impedir que eles tenham vida própria.

O resultado do seu agir, no entanto, é um filho perpetuamente imaturo. As únicas habilidades que ele consegue desenvolver são as de disfarçar o cheiro de maconha, esconder o Xvideos trocando a aba do navegador e a de reclamar que a sua vida é injusta quando o Nescau não está na temperatura adequada.

É exatamente o tipo de comportamento indisciplinado visto as operações de moderação da Cognizant que Newton descreve em suas reportagens para o The Verge. 

Os funcionários da Cognizant fumam maconha no trabalho, mantém relações sexuais na sala para funcionárias lactantes, ameaçam os seus colegas de morte quando as suas decisões são revertidas por supervisores. Os mais corajosos esfregam merda na parede do banheiro.

Como uma boa mamãe, a empresa assegura que eles tenham receita médica pra maconha, tira as portas da sala de lactantes e estuda a possibilidade de reduzir as metas de acerto. 

Ela coloca um cartaz no banheiro para explicitar que esfregar merda na parede não é um comportamento adequado. O cartaz começa com “por favor”.

Três anos depois de Chernobil, o muro de Berlim caiu. Mais dois anos e a União Soviética foi dissolvida. 

Para manter a analogia com histórias infantis, a União Soviética era tanto a rã quanto o escorpião da conhecida fábula de Esopo: não podia ignorar a sua natureza, picou as próprias costas e morreu afogada. 

A versão de Grimm para o conto de João e Maria foi publicada em 1812. Eles partiram de uma história que já existia na tradição oral alemã há séculos. 

No final, as crianças enganam a bruxa e jogam ela no forno que estava preparado para assá-las. Não se tem notícia de alguma versão com um final diferente. 

Talvez a Cognizant deva realmente se perguntar o que os seus funcionários fariam se não tivessem medo.

* Vicente Renner gosta dos Irmãos Grimm e de comparações improváveis.