Na série de jogos Warhammer 40.000, uma ficção científica distópica passada em um futuro muito distante, há um grupo de personagens chamados Adeptus Mechanicus. Sobreviventes da humanidade após um apocalipse sem tamanho, os Adeptus encontraram máquinas criadas por seus ancestrais – Relíquias de uma civilização infinitamente mais avançada que a deles – E descobriram por tentativa-e-erro como fazê-las funcionar. Sabendo os passos a realizar para operar e manter tais máquinas, mas sem compreender o contexto ou a razão de ser, ao mesmo tempo em que dependem dessas máquinas para sobreviver, os Adeptus Mechanicus cultuam as máquinas como divindades, tratando procedimentos de operação e manutenção como ritos sagrados. Aplicar óleo nas engrenagens vira “ungir com o óleo sagrado”, códigos de programação viram “cânticos sagrados”, etc.

Decerto quando os designers e escritores da Games Workshop criaram os Adeptus Mechanicus em 1987 ^{(bem, na verdade, copiaram e exageraram ao nível de paródia um conceito criado por Isaac Asimov no livro A Fundação, de 1951)} a ideia parecia algo cartunesco e bobo. Claro que ninguém usaria uma máquina sem saber direito o que ela é, mas aprendendo os rituais que “agradam” o “espírito da máquina”… Certo?

Bem, quase 40 anos depois, todos nós passamos pelas tais “redes sociais”, seja por vontade própria para se divertir, ou por razões de trabalho. E qualquer pessoa que já tentou criar conteúdo para publicar nessas redes sabe como é estar sob os auspícios do tal “algoritmo”. Uma coisa invisível que vive na fiação da internet, da qual seu sucesso ou fracasso depende, mas cujas regras são igualmente invisíveis e indefinidas, descobertas na base da tentativa-e-erro e compartilhados de boca em boca. – Em um post passado eu falei que apesar do termo ter se tornado a palavra favorita dos marqueteiros da tecnologia nesses últimos 2 anos, “Inteligência Artificial” é algo antigo, e de fato, esse algoritmo das redes sociais também é uma IA… O que, na prática, significa que nem os próprios criadores das redes poderiam te dizer exatamente quais são as regras que ele segue, já que eles só dão instruções gerais para o programa, e este as segue com base na própria lógica de aprendizado de máquina.

O resultado disso na vida real, independente das referências de ficção científica, é que as pessoas se adaptaram. Sempre. O ser humano se adapta a qualquer coisa, por mais estúpida que ela seja.

O que nos leva à invenção do que os anglófonos chamam de “Algospeak”, o dialeto do algoritmo, o “algoritmês” – Adaptações no idioma que as pessoas falam, de forma a evitar desagradar o algoritmo. – Por exemplo. Sabe-se empiricamente que o algoritmo desgosta de “palavras ruins”. Palavrões, termos que se referem a coisas como sexo e drogas, etc. E então, o usuário inventa “eufemismos” – Seja a palavra “corn” (literalmente ‘milho’) sendo usada no lugar de “porn” (pornografia), o termo “unalive” (literalmente “desviver”) no lugar de “morrer”, ou, algo que eu vi uma vez enquanto fazia um trabalho aqui para o Post, uma página de um jornal relatando uma notícia sobre drogas, mas escrevendo “c0ca1na” ao invés de “cocaína”.

A questão é que o algoritmo, de novo, é uma inteligência artificial – Capaz de aprender dinamicamente. Ou seja, quando um eufemismo se torna popular o suficiente, ele também entra na lista de “palavras ruins” que reduzem sua exposição a outros usuários. E então outros eufemismos têm de ser inventados.

Enquanto isso, na China…

Claro. Qualquer discussão das formas invisíveis como tecnologia controla nossas vidas tem que passar pela China – A China é uma ditadura. A internet chinesa é completamente separada da internet ocidental. E o governo chinês tem grande preocupação em impedir que assuntos “sensíveis” sejam discutidos na internet deles. Por que eu menciono isso?

Bem, o governo chinês, sendo o governo de uma ditadura tecnologicamente avançada, foi outro a adotar algoritmos artificialmente inteligentes para filtragem dos feeds, no caso deles não só para evitar conteúdo que desagrada os patrocinadores, mas literalmente para impedir conversas sobre certos assuntos cujo governo não quer que sejam discutidos.

O “problema” que os chineses tiveram, no entanto, é que o chinês é um idioma tonal. Há um antigo poema chinês que conta toda uma historinha… Consistindo apenas na sílaba “Shi” sendo dita 92 vezes, com tonalidades diferentes. Isso significa que o “Algoritmês Mandarin” usa de sons homófonos… E o governo acabou trombando em um impasse: É impossível impedir que pessoas usem de todos estes homófonos sem tornar o idioma chinês literalmente incomunicável.

Aqui no ocidente não usamos um idioma tonal, mas pessoas são criativas. Todos os “palavrões” existentes no nosso idioma eram originalmente termos para outras coisas, que foram transformados em eufemismos para alguma coisa tabu, até ficarem manjados demais e serem aposentados. Uma “pica” era um tipo de arma branca (uma lança curta) até virar um membro sexual masculino… Coisa que só aconteceu no Brasil, porque em Portugal é uma injeção, como uma vacina.

O governo chinês teve de frear sua IA de censuras porque ela tornaria o idioma deles inutilizável, mas mesmo isso não sendo o caso com o nosso idioma, o fato é que por mais que as empresas que operam essas redes sociais queiram manter os feeds “limpos” para agradar patrocinadores, mas há um limite ao valor disso – A plataforma também precisa de usuários interessados.

A pergunta é o que acontece primeiro: Ou a empresa responsável pela rede decide que está bloqueando coisas demais e redefine os parâmetros do algoritmo. Ou a corrida de armas entre eufemismos humanos e censura algoritmica resulta numa transformação irreversível do idioma que pessoas falam.

^{O verdadeiro objetivo dessa coluna era só fazer você compartilhar da minha maldição, que é ver alguém usando um eufemismo na rede social e ter um micro-aneurisma toda vez.}

Escrito por Vitor Germano para o Maringá Post Sugestões? Críticas? Perguntas?
Fale comigo no e-mail [email protected]