re: IA de verdade // humanos que odeiam a humanidade
depois de ler essa postagem da Diel fiquei bem pensativo e isso me deixou contente; nem sempre estou lendo o blog das pessoas para encontrar algo que queime meus parcos neurônios, mas quando acho é como estar no meio de uma caminhada e descobrir um sebo de livros num cantinho escondido.
depois de muito pensar sobre o texto da Diel, resolvi escrever o meu, que vai explorar, em parte, o que sinto sobre as IAs (focando nas LLM) e como correlaciono isso com o que via das IA na ficção.
com todas as tentativas de humanizarem IA que vejo por aí, é meio recorrente que eu esteja puto com o assunto. uma das mais recentes bostas que tive o desprazer de ler foi uma empresa que "recria o seu filho" através de IA, focada em mulheres que perderam seus filhos precocemente, que sofreram abortos espontâneos ou similares. tipo, vai se foder, sabe? não vou linkar essa abominação por aqui, mas você provavelmente vai achá-la com facilidade no seu buscador favorito.
em outra seara igualmente perturbadora, uma família recriou uma vítima de assassinato para fazer uma declaração no julgamento do acusado que a matou. não sei nem por onde começar a analisar isso especialmente porque, apesar de entender o impacto que a morte e o luto subsequente à perda de um ente querido tem nas pessoas, não consigo deixar de questionar o quão válidas é uma atitude do tipo. sinto que precisaria de um post todo só sobre luto para examinar mais a fundo uma atitude assim, então por enquanto não digo nada.
quanto ao tópico "recriar gente morta por IA" eu poderia citar o episódio be right back de black mirror, que coloco no meu top 5 da série, mas a realidade não é tão interessante quanto a ficção: você pode compartilhar com essas empresas as fotos, vídeos, mensagens e o que for sobre seu ente querido perdido, mas não vai receber de volta uma cópia ultra realista dele, que pensa, fala e age como essa pessoa. e mesmo que fosse, o quão fidedigna à realidade seria essa cópia? quantas coisas você não sabe sobre a pessoa amada e que ficariam de fora? considerando isso, ainda seria a mesma pessoa? ou talvez a pergunta seja: importaria que essa versão não passasse disso? uma versão?
não sei, não me parece que usuários correndo atrás desses "produtos-promessas" estejam prontos para admitir que não querem o retorno do seu ente querido, mas sim da versão dele de que se recordavam e tanto gostavam. a propaganda do app que recria seu filho perdido faz questão de frisar "manda mensagem quando sente saudades de você". a mulher que recriou seu irmão assassinado disse: "eu não sabia como colocar meus sentimentos em palavras."
as pessoas não estão preenchendo um buraco causado pela ausência de quem partiu, mas sim alimentando sua necessidade de ouvir aquilo que tanto desejam, sob o disfarce de serem as palavras de quem amavam. não me surpreenderia se começassem a fazer isso com as pessoas ainda em vida.
uma coisa que Diel disse em seu texto foi o seguinte:
Essa “robô inocente” trope é muito usada para criticar preconceito e até racismo, mas agora eu sinto que o ódio é completamente justificado.
na hora me veio a história de o homem bicentenário.
uma das primeiras histórias de robô que me marcou muito foi o filme, inspirado na novela de mesmo nome de isaac asimov. o filme com robin williams é extremamente emocional, levando para um lado da humanização (literal) do robô andrew, que se esforça para ser um humano em sua completude, inclusive quando deseja ser capaz de morrer.
só de lembrar disso, meu coração se aperta e fica pequenininho no peito, pois como não associar as ações de andrew com o masking autista? somos obrigados a aprender a "fingir" uma humanidade protocolar, enquanto vemos a nossa forma de agir padrão ser excluída e apagada; vestimos a pele do neurotípico pois, sem ela, somos "coisas" e não pessoas.
a metáfora do robô, do alien e até do zumbi é frequentemente apropriada pelos autistas e não sem razão - temos forma humanoide, mas não nos sentimos humanos e o nosso entorno faz questão de jogar na nossa cara que nunca seremos aceitos como humanos, pois para isso deveríamos ser neurotípicos.
enfim, tendo um apego emocional tão grande ao filme, um dia resolvi ler a história original. me surpreendi muito na época, pois se o filme tinha uma mensagem de "o amor é aquilo que te torna humano", podendo ser até meio rasa, no caso do conto era possível sobrepor a experiência de pessoas negra ao robô, já que o mote principal era "para ser uma pessoa você deve ter direitos".
andrew chega na casa de seu senhor como um empregado ao qual não se paga e que não precisa se ter cuidados, exceto o de "manutenção de mercadoria". ele eventualmente cria seus próprios produtos de artesanato e seu mestre vende-os, ficando com uma porção do valor para si e depositando outra numa conta para andrew ainda que, em se tratando da legislação da história, ele como robô não possa ter acesso a esse dinheiro. em dado ponto, andrew passa a se vestir como homem, mas os humanos acham estranho, não querem aceitá-lo. numa conversa com seu novo senhor - o neto do mestre original -, andrew percebe que precisa melhorar seu vocabulário, que talvez isso o tornasse mais aceitável para os humanos.
vou parar de descrever a história por aqui, mas há um momento, antes disso, em que andrew literalmente diz que queria ser alforriado. alguém poderia dizer que todos os outros detalhes que citei - ser um empregado sem direito ou salário; o percentual ganho pelo mestre ainda que o trabalho seja dele, andrew; a rejeição à sua adoção de gestos humanos; sua necessidade de estudar, pois seu vocabulário é limitado aos afazeres domésticos e à servidão aos humanos - são meramente uma "super leitura" que forçaria a sobreposição do robô enquanto pessoa negra, mas com uma dessa é impossível de negar. nessa história, o humano é a pessoa branca e o robô é a pessoa negra escravizada lutando por seus direitos.
que homem maravilhoso era asimov!, eu pensei quando terminei de ler o homem bicentenário. os outros autores de scifi deveriam seguir seu exemplo no aspecto social, não apenas ao reproduzir as três leis robóticas etc. por um tempo fiquei feliz de pensar em asimov dessa forma.
então, me veio, de uma vez só, a informação de que esse homem tão admirável não passava de um reles assediador de mulheres e, ainda por cima, um arrombado racista.
essa realidade chegou até mim de forma totalmente não intencional. eu estava procurando um conto de octavia butler para ler, um tempinho depois de ler kindred e ficar obcecado. achei sons da fala, ainda na versão original, em inglês e escaneada. animado, vi que havia uma introdução de asimov e fui lê-la. qual não foi a minha surpresa ao ver que logo nas primeiras linhas asimov basicamente assediava octavia, se focando na aparência dela e em como gostaria de vê-la (?) não é nenhuma novidade que homens comentem sobre a beleza de uma mulher antes de elogiá-la no trabalho, como se a percepção de ela ser bonita ou não influenciasse em alguma coisa no seu desempenho profissional, mas eu esperava bem mais de um cara que todo mundo dizia ser tão inteligente, sabe?
"além de bonita, ainda escreve bem? uaaaau, assim eu fico impressionado" - frase que pode ter sido dita pelo seu nerd babaca padrão ou por isaac asimov
no final, foi como darwin sendo questionado sobre o desenvolvimento da mulher e respondendo como qualquer outro machista de sua época - com a diferença de que asimov tinha um currículo ainda pior e que eu logo descobriria. pois, não bastasse ser um assediador em série, ele também era um grandessíssimo racista. samuel delany, um dos grandes autores de ficção científica dos eua, escreveu que enquanto passava por asimov para receber dois Nebula Awards em 1968, este lhe disse que só tinham votado no livro dele porque delany era negro.
então, voltando ao homem bicentenário. escrito e lançado em 1976, ganhador de um (haha) nebula awards. um robô tendo a experiência de um homem negro. de repente essa história ganha uma textura estranha, um gosto esquisito que me deixa com vontade de cuspir. porque não é que a história necessariamente vá deixar de ser aquilo que é - uma sequência de situações em que um robô pode receber a leitura de um homem negro ex-escravizado -, mas sim que não consigo entender o que teria feito asimov escrever essa história 8 anos depois de ter chamado samuel delany de macaco e ter dito na sua cara que sua obra só tinha sido premiada como uma resposta performática. 8 anos é bastante tempo pra mudar, de fato, mas... será? essa história é uma tentativa de mudança? uma demonstração de que já não pensa mais como antes? eu acredito que pessoas podem deixar de ter convicções bostas, sim, até porque fui uma delas, mas acho fraco partir do pressuposto de que a ficção pode servir como "resumo" dos ideais de uma autoria.
talvez eu tenha dado uma volta imensa na minha tentativa de responder ao post da diel, mas sinto que o negócio é o seguinte: pra mim as pessoas que criam uma IA com a intenção de emular um ser humano são, de certa forma, como asimov. babacas se apropriando da humanidade alheia, tentando te convencer de que sim, essas duas coisas são a mesma coisa - seu filho morto e essa caixinha de mensagens dizendo "oi, mamãe, senti sua falta"; um robô e um homem negro tentando superar o racismo estrutural para ter sua própria vida.
não me entenda mal, eu escrevo fantasia e ficção científica, entendo o valor de uma metáfora, não quero dizer que toda representação precisa ser de 1 pra 1. quando ursula k. le guin escreveu floresta é o nome do mundo, sua relação com o vietnã foi muito clara, mas nem por isso me fez sentir que ela estava fazendo pouco dos vietnamitas colonizados da vida real - além de, claro, ter ali um claro elemento especulativo com os sonhos que transformam a realidade. na verdade, sua história me fez conseguir mergulhar um pouco mais na perspectiva dessas pessoas, enxergar como o imperialismo estadunidense é um lixo por A + B com uma prosa bela e onírica, admirar a construção dos momentos de sonho na narrativa.
como comentei antes, eu cheguei a pensar o mesmo de o homem bicentenário. mas o lance é que não podemos separar o criador da criação, por mais que tentemos. se eu leio um autor filho da puta, eu leio com essa consciência - não leio necessariamente para procurar os traços da filhadaputice, não, nem de longe. mas também não quer dizer que não paro pra pensar a respeito do que levou o sujeito até aquela obra.
sinto que tudo parte do mesmo princípio, sabe? seja a ficção ou a IA, é interessante sabermos o que leva o criador até o momento da criação. o que se passa na cabeça de alguém que diz "ei, me envie as fotos da sua criança morta, tenho algo de que você vai gostar". alguém que trata pessoas negras de carne e osso como lixo, mas escreve se apropriando do seu sofrimento, da sua história.
vai ver que é isso o que está por trás de todo o meu ódio pela IA que tenta personificar seres humanos, mesmo que seja uma simples "humanização" do palavreado ao dar uma resposta: ela é criada por alguém que, no final, não tá nem aí pra pessoas de verdade, mas quer me fazer chorar por uma sequência eurística calculada para puxar meu saco e me fazer sentir especial. é tão patético e desprezível que, de fato, não há como olhar da mesma forma para a metáfora do robô ou da inteligência artificial ficcional.
agora, quando paro para pensar em o homem bicentenário, me pergunto por que alguém iria querer um robô tão realista, se talvez não seja justamente como uma forma de ocultar a própria vergonha de preferir ter um escravo de metal em casa do que se dispôr a contratar um funcionário e lhe pagar direitos. em androides sonham com ovelhas elétricas de phillip k. dick, o livro que deu origem a blade runner, ter um pet natural é sinônimo de status, pois a maioria dos animais foi extinta e são dificílimas de se encontrar. quando localizados, os animais podem ter preços absurdos. as pessoas passam, então, a comprar animais de mentira, mas que tentam simular a aparência de um animal de verdade, de forma que os vizinhos não percebam ser uma réplica.
então é isso que vejo quando olho pra alguém por aí na internet comentando ocmo o seu "chat é tão legal e incentivador". apenas tenho reafirmada a realidade de que o mesmo mundo que está cagando e andando para seres humanos de verdade, deseja tão ansiosamente transformar em gente um boneco de bytes que fala qualquer merda pra te agradar.
Quer responder essa postagem? Fala que eu te escuto!