A escrita e a máquina: do pecado aos esteróides 📚

O problema do excesso de conteúdo. A bostificação galopante. O cérebro maquínico binário. É possível filosofar em aiês?

Olá,

Esta é a primeira edição do especial A escrita e a máquina. As próximas sairão em março e abril. Decidi enfrentar esse tema espinhoso, o escrever acompanhado pelo uso de robôs, as tais Inteligências Artificiais, para pensar a questão junto contigo, com alguma insegurança, certa revolta operária e muita curiosidade.

Aproveito para contar uma grande notícia: já temos data para o lançamento de meu romance novo, Carga viva! Abril. Sairá pela editora Rocco, a mesma casa da Clarice Lispector e da Margaret Atwood. Contarei sobre os bastidores nas próximas edições da newsletter ao longo do ano.

Obrigada pela companhia!

Ana Rüsche

---

FAQ

— Ana, você não está lançando muitos livros esse ano?

Foi a produção represada por conta da pandemia, não teve jeito.

Primeiro, os livros resultantes de minha pesquisa de pós-doutorado estão em pré-venda: o Quimeras do agora: literatura, ecologia e imaginação política do Antropoceno; e o guia de leitura Filamentos: leituras ecológicas comentadas, os dois pela editora Bandeirola.

Em abril, vem ao mundo o Carga viva, o romance que escrevi por alguns anos. Mas virá na hora certa: o livro se passa em 1985, há precisos 40 anos, acompanhando a eleição e morte de Tancredo Neves, costurando com os dias de hoje. E a editora Rocco completa 50 anos. Parece que algumas coisas precisavam se alinhar nos céus.

Estou me sentindo, na versão farsa, no 1956 do João Guimarães Rosa: o ano em que esse grande autor publicou uma enormidade, Corpo de baile e Grande Sertão: Veredas.

Procuro dormir bem, fazer alongamentos e tomar sol para dar conta de tudo. E aproveito para agradecer todas as pessoas que me dão uma força, seja financeira ou palavra gentil. Faz muita diferença você estar comigo do outro lado da tela.

---

A escrita e a máquina

Eu e os robôs: uma história de ficção científica prolifera nossas perguntas

Acompanhei os primeiros testes públicos de produção textual da Open AI, pois sou curiosa e futriquenta. Era antes da pandemia e muita especulação rondava o falecido Twitter. Estudei por anos ficção científica e o tema me chamava atenção. Afinal, “robô” foi uma palavra inventada pela literatura, termo grafado numa peça do tcheco Karel Čapek em 1920 (o original é “robota”, a invenção foi do irmão dele, Josef Čapek); da mesma forma que “robótica” foi palavra criada por Isaac Asimov em 1941.

Quando li um desses testes iniciais no Twitter, lembro bem, era um texto sobre unicórnios, um frio bateu na espinha e cheguei a uma conclusão bem rápida: esse bicho logo vai escrever melhor que eu. Agora o robô iria engolir a literatura? A inversão clássica, a monstruosidade engolir seu criador?

Assombrada por essas perguntas, ainda em 2018, cheguei a escrever um conto distópico, “Protocolos de redação", para o Estadão, propondo uma fictícia redação de jornal tocada por IAs. A pergunta do conto era: qual a ética que controlaria esse tipo de redação?

Agora, uns oito anos depois, tudo parece mais nítido. Não as respostas, me perdoe. Mas as perguntas. Questões crônicas como “quem controla a tecnologia?” ou “para qual caminho essa inovação vai nos levar?”, parecem agora mais urgentes, mais palpáveis.

A ficção científica procura fazer a digestão de temas difíceis sobre o avanço tecnológico. Não faz previsões futurísticas, como bem já colocou a Ursula Le Guin (“a ficção científica não prevê, descreve"; mas sim, acertamos algumas vezes, embora seja pura viagem o resto). Essa espécie de ficção, quando bem feita, procura descrever fenômenos, apontar inquietações, jogar raciocínios imaginários, questionar pontos doloridos e expandir nossa capacidade imaginativa.

Assim, no pós-pandemia, em Chengdu, na China, na WorldCon, a conferência mais importante de ficção científica em 2023, todo mundo queria discutir o uso das IAs na escrita. Por ali já não se discutia se as IAs seriam usadas na literatura e sim o como.

O cálculo era simples: a popularização da ferramenta em alguns anos mudaria completamente a maneira pela qual se escreve. Talvez até afete a forma literária. E aquelas pessoas, com suas paixões e contradições, procuravam pensar nos temas difíceis, na digestão de algo que mudaria nossa relação com o papel, a caneta e o teclado. Desse tempo na China, escutando quieta debates acalorados nas salas apinhadas de gente, anotei coisas no meu caderninho, que trago para cá:

O que será considerado um “texto original”? Será que as IAs não viabilizaram a tradução de textos entre línguas menos traduzidas? Vamos poder gerar a mesma narrativa em diferentes estilos, adaptadas a diferentes leitores num passe de mágica?

Até hoje não sei.

O pecado da escrita robótica

Das perguntas de Chengdu, a única simples de responder é a seguinte: é possível distinguir um texto produzido com o auxílio de uma IA?

Olha, se em 2023, a resposta já era um balançar negativo de cabeça, imagine agora. Afinal, você pode utilizar uma IA em várias etapas da produção textual, do rascunho à edição, da escolha do título à correção ortográfica, e isso ser absolutamente imperceptível no final.

Claro que a maioria das pessoas usa o robô para escrever o próprio texto e, na tecnologia de hoje, ainda a escrita fica, com o perdão do trocadilho, um tanto robótica. Um texto engessado, pouco articulado, com um vocabulário previsto com ideias clichês, um gerador de lero-lero do mundo corporativo. Ou seja, sim, agora, no primeiro semestre de 2025, conseguimos ainda distinguir.

Não posso deixar de mencionar esse maravilhoso caso, uma pérola do início do século, uma acusação postada no Reclame Aqui, que trago na íntegra:

“Comprei um TCC, porque infelizmente precisava, e o tcc que eles entregaram foi INTEIRO escrito por inteligência artificial. Quando recebi e consultei em sites para ver se não havia plágio, apontou isso, mas quando falei com os responsáveis, disseram que os detectores de inteligência artificial não tem precisão para afirmar isso.

Então acabei enviando o trabalho assim mesmo, até porque não tinha outra saída e nem tempo, e recebi a NOTA 0 porque simmmmm foi detectado a IA na escrita.

Agora estou pedindo o reembolso e não querem devolver meu dinheiro.”

— grifos no original. Anônimo. In: Reclame Aqui, Avaré (SP), 25/04/2024.

Imagino que, muito em breve, com melhores textos alimentando a AI, esse problema da escrita robótica se dilua. Talvez já no próximo ano. E outras questões mais duras vão vir à tona.

O adjetivo “robótico” mudará de sentido?

Nota aleatória: você se confunde entre “IA” e “AI”? Nunca sei qual usar, ai, ai ai. Nesse texto, decidi variar. A partir daqui, o texto terá uns palavrões e mais termos em inglês. Perdoe meu francês.

Bostificação com esteróides: o problema do outro lado da página, a leitura

De todos os usos das AIs, o que mais me preocupa é piorar a experiência da leitura. Essa tecnologia permite o aumento exponencial do fenômeno da enshittification, traduzível por esmerdiamento ou bostificação, um neologismo popularizado por Cory Doctorow, criado para explicar o declínio na qualidade do conteúdo de uma plataforma on-line.

Esse escritor canadense explica que os Musks e Zuckerbergs da vida, munidos de energia masculinista cagada, vão sempre escolher o lucro no lugar de melhorar nossa experiência. Ou seja, é melhor manter qualquer coisa rodando infinitamente na timeline para nos manter no looping dos dedinhos nas redes, não importando a qualidade. Afinal, a plataforma nos mantém reféns.

Veja o argumento brilhante de Doctorow, apoiado em outras pessoas: se você decide sair de uma plataforma, você perde relações. Basta me lembrar dos seis meses de dúvida que tive para finalmente decidir sair do Twitter há uns anos e quantas relações significativas perdi ao sair, inclusive a de acompanhar o próprio Cory Doctorow ao vivo. Assim, estar na plataforma é uma espécie de obrigação social, com consequências reais para sociabilidade, é preciso “bater cartão”, estar nas redes termina sendo um fim em si mesmo, não importando o quê nos mantenha por lá.

Nota aleatória: para a maioria dos super ricos, o distanciamento da Internet é hoje um símbolo de status.

Qual minha preocupação? Para manter o algoritmo bem alimentado é necessário gerar uma quantidade absurda de material. Imagem, vídeo, texto. Assim, essa tarefa logo será dominada por AIs. No Instagram, a depender do tema, está muito mais simples usar uma IA, que vai produzir um texto já dentro de um bom parâmetro para o algoritmo, do que uma pessoa cansada e ganhando mal numa jornada estafante.

Esse fenômeno da bostificação logo vai atingir em cheio o mundo do texto. Será mais barato e rápido produzir um monte de texto sem muito sentido e profundidade.

O problema é bem antigo no capitalismo: a quantidade desmesurada da produção de mercadorias, nesse caso, imateriais*, termina sendo irracional. Quem vai ler tudo isso? Quem vai parar para pensar sobre isso? Seremos atingidos por uma espécie de empapuçamento da leitura? O excesso de coisas medianas vai nos afastar do que realmente gostamos?

* Embora tudo isso pareça ser uma mercadoria imaterial, há um gasto real de energia, de metais e de trabalho humano criativo e manual. Envolve produção energética, perfuração, mineração. Como diria o escritor Vic Vieira, tudo volta à lama.

A morte da ambiguidade? É possível filosofar em aiês?

Todo o fenômeno da bostificação do conteúdo e o aumento exponencial do volume de material produzido possui uma outra decorrência bastante sensível, a binarização do pensamento. A própria arquitetura das plataformas tende a alimentar a formação de bolhas, ou seja, de pessoas que se posicionam mais ou menos de forma semelhante. Com a velocidade do julgamento e da torrente de informações, é mais simples escolher rápido. A escolha entre isto ou aquilo. Entre A ou B.

O uso de AIs também potencializa esse julgar binário, não que a máquina seja ruim, mas termina acelerando essa necessidade de categorização veloz. Seria possível trabalhar de forma dialética, confusa ou pouco desordenada? Com certeza. Mas até agora, ao menos para mim, a AI sempre me pune quando meu texto está caótico. Será que essa tendência da ordenação e categorização de tudo se manterá?

De alguma forma, nos convenceram que postar e postar e decidir rápido é uma forma de ativismo — e realmente é! Mas o mundo é muito mais ramificado, cheio de vida, mais sombrio e mais luminoso. Na arquitetura das redes, cortou-se o mais profundo, a raiz coletiva. A raiz que permite as conversas difíceis sobre temas complexos, tocar no âmago das coisas. Procurar balbuciar dores impronunciáveis. Tatear a vergonha, o dissenso saudável. Coisas que precisam de escuta, reflexão e tempo. E como diria a bióloga Rachel Carson: “o tempo é o ingrediente essencial. Mas no mundo moderno, não há tempo." Na velocidade das redes, as respostas precisam ser certeiras. Vai, responde rápido, A ou B? Isto ou aquilo? Nos colocaram dentro de uma arquitetura de plantation, que nos deixa como uma gramínea enfileirada; vista de longe, idênticas em sua pequenez e uniformidade, sem lastro.

Nos faz falta a comunicação subterrânea das profundezas.

O antídoto a tudo isso? Pensar devemos, devemos pensar, como diria o adágio das vozes, que vai da Virginia Woolf a Donna Haraway, passando pela Isabelle Stengers. Além de pensar, é preciso bater papo, escutar realmente as pessoas. Encontrá-las. Não é o caminho de um lado ou do outro. É o caminho de baixo. O caminho cujo final nunca sabemos, inclusive quem seremos ao atravessá-lo. A trilha que traz terror, vergonha, alegria e curiosidade.

É o trazer as coisas emaranhadas no peito. Algo que a literatura faz tão bem.

Como toda arte, isso que não tem nome, ainda sobrevive. A gente pode chamar de “amor”, numa falta melhor de palavra. E essa força insuspeita do caos amoroso acho que permanecerá, furando as redes, as arquiteturas de mão única, os desejos gangsters magnatas masculinistas cagados, cultivando o tédio, furando o asfalto, o nojo, o ódio.

Um robozinho de texto, uma AI, antes de tudo, é uma máquina.

E talvez a tarefa à nossa frente seja recolocar a máquina em direção ao humano.

Na edição de março do especial A escrita e a máquina, vou contar uma história constrangedora, na qual confundo um ser artificial com um ser vivo.

---

Sincrônicas

🤖 “Sensação de poder: Curiosidade, computadores e inteligência artificial”, edição da Segredos em Órbita, da Vanessa Guedes

​​📄 A Revista AzMina, em sua declaração de princípios, organizou parâmetros muito coerentes para quem busca lidar com IAs e produção textual: diretrizes

💩 “Too big to care: Enshittification is a choice”, um dos artigos de Cory Doctorow, sobre o fenômeno da bostificação [em inglês]

🐋 Cetáceos não usam IA: Insônia, limites da linguagem, baleias e como evitar o scroll da perdição, edição da Lápis Lázuli, da Maria Alice Stock

Crônicas

📽️ “O pesadelo de ser esmagado pelo trabalho: sobre Ruptura, monstros e literatura distópica”, da newsletter da Thais Nunes. A edição aborda uma das minhas séries atuais favoritas, Severance (dir. Ben Stiller), que comecei a assistir justamente por conta desse texto.

➗ Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia, de Cathy O’Neil, trad. Rafael Abraham, foi uma leitura que fiz a alguns anos e mostra muito bem como essa arquitetura afeta nossa maneira de pensar.

🌿Li o livro The Overstory, de Richard Powers, em janeiro, por conta de uma disciplina acadêmica sobre plantas e literatura e, uau, que obra! Descobri que será lançado em português logo, na tradução da Carol Bensimon — aqui você pode ler mais sobre o trabalho tradutório.

Anacrônicas

📚 Lançamento de livros sobre crise climática e literatura
O Quimeras do agora e o guia de leitura Filamentos. Já passamos os 65% no financiamento coletivo. Se puder apoiar ou repassar, a editora Bandeirola e eu agradecemos muito! https://www.catarse.me/antropoceno

📚Ferozes melancolias
Sobre a WorldCon na China, meu último livro traz detalhes sobre essa viagem. São ensaios e crônicas de viagem sobre a amizade e a literatura. Editora Rua do Sabão.

📚 Distopias: Casa do Saber+
Meu curso Distopias na literatura: A ficção que imagina o futuro, na Casa do Saber, segue no ar. São seis aulas on-line, com análise de obras como 1984, Admirável mundo novo e O conto da Aia, livros conhecidos por mostrarem, sob a capa da ficção, problemas de seu tempo e seguem populares no imaginário social.

---

🧶 Encontrinho da Anacronista

Venha bater papo! On-line e ao vivo. O próximo vai ser na sexta-feira de Carnaval, às 14h em Brasília. Enforque o trabalho e abra a câmera rapidinho.

O link do Zoom vai ser o mesmo de sempre. Para quem nunca participou, basta se inscrever aqui: https://anarusche.kit.com/encontrinho

---

Para produzir essa edição

Foi um caos! O prazo que me dei foi o que pariu o texto. Por mim, ficava pesquisando para sempre e nunca escreveria nada. O grande problema é que, ao digitar, o assunto muda. Quase como digitar num teclado de lava vulcânica, tudo no calor da impermanência.

Mas contabilizando: pesquisei por 2 meses de forma mais sistemática o tema, embora faça parte de uma investigação muito mais ampla. Meu bloco de notas possui 18 mil palavras de anotações cruas, textos colados e coisas jogadas. Assim, precisei de umas 6 horas para triar e pensar o que entraria nesse especial.

Para redigir, foram mais 4h e não fiz uma revisão muito atenta por conta da onda de calor. Perdoe se passou algo.

De forma irônica, não usei nenhum robozinho para alterar, sugerir ou corrigir o texto. Juro que foi sem querer. Um texto puramente orgânico e nem sei se isso é bom. Da próxima vez, usarei e te conto.

Para quem apoia a Anacronista, vou enviar, conforme prometido, comentários sobre ferramentas de escrita.

Em especial, queria agradecer a todas as pessoas que apoiam esse trabalho 🧡

É fato: não teria fechado esse texto se não fosse vocês!

---

Muito obrigada!

Se gostou da edição, deixe um comentário:

🧡 Como a bostificação afeta tua vida? Você tem histórias rancorosas ou amorosas sobre IA?

🧡 Perguntas binárias: AI ou IA? Maratona a nova temporada de Ruptura ou a de White Lotus?

🧡 Aleatória: com qual fantasia você vai assistir ao Oscar?

---

Apoie esse trabalho

• Venha apoiar a Anacronista! https://apoia.se/anacronista

• Agradeço ainda se puder encaminhar a edição para pessoas legais. Vale postar stories do Instagram, repassar o e-mail ou restacar no app do Substack.

• Aqui vai um link para enviar a crushes pelo WhatsApp

---

Curso: Prática de escrita

Depois do Carnaval, retomo a atividade da Prática de Escrita.

• Manhãs em Brasília, quartas e sextas, das 8h às 9h30, ao vivo e on-line.

• Março e abril, 10 aulas, 15 horas de atividade.

• Início: 12 de março, quarta

Curso voltado à elaboração de textos de qualquer natureza — dissertações, contos, poemas, newsletters, ensaios etc. Não é necessário ter publicado antes ou ter um projeto de escrita. Durante o curso, não vamos ler textos de participantes ou trocar impressões mais profundas a respeito de projetos. A ideia é oferecer uma atmosfera criativa para que cada pessoa desenvolva sua própria escrita.

Para quem procura desenvolver um ritmo para escrever.

Saiba mais e inscreva-se aqui: Sympla.

---

Canais

• Telegram: https://t.me/criatividade

• Instagram: @anarusche

---

https://anarusche.substack.com/p/arquitetura-da-estafa

https://anarusche.substack.com/p/robos