3 obras que exploram como a IA transforma a experiência humana

Três novos livros — Devil in the Stack, de Andrew Smith, Co-Intelligence, de Ethan Mollick, e My Child, the Algorithm, de Hannah Silva — estão chamando a atenção para os desafios e oportunidades trazidos pela inteligência artificial (IA). Essas obras exploram desde a crescente integração da tecnologia na vida cotidiana até seus impactos na criatividade, empatia e no mercado de trabalho, abordando tanto os benefícios quanto os riscos que a IA pode trazer para a sociedade.

Embora cada livro trate da IA sob uma ótica diferente, todos os autores se preocupam com os efeitos da tecnologia na vida humana. Smith, Mollick e Silva examinam como a crescente automação e a IA estão reformulando áreas como criatividade, empatia e a capacidade de julgamento. Os autores revelam que, apesar da perda dos benefícios práticos da IA, como eficiência e inovação, surgem novas questões relacionadas ao controle e à autonomia humana diante de sistemas cada vez mais autossuficientes e complexos.

Leia também: Anthropic lança modelo de IA capaz de controlar aplicativos de desktop

Devil in the Stack, de Andrew Smith

No livro, que pode ser traduzido como “Diabo na Pilha”, Smith compara a codificação a um “pacto com o diabo”, onde a compreensão é trocada pela conveniência, enquanto analisa a rápida infiltração do código de computador na vida moderna, frequentemente sem questionamento. Como jornalista de tecnologia, ele cobriu a ascensão de empresas como Amazon e Bitcoin e se interessou pela “lógica alienígena” por trás dessas inovações, o que o levou a aprender a programar. No entanto, ao se deparar com mais de 1.700 linguagens de programação, cada uma com suas particularidades, o simples ato de escolher por onde começar tornou-se intimidador.

Smith analisa as camadas de abstração da computação moderna, que ele chama de “a pilha”. No nível mais baixo, encontra-se o código de máquina, composto por 1s e 0s processados por circuitos em chips. No topo, linguagens de programação de alto nível, como Python e JavaScript, facilitam a codificação para os humanos, mas exigem que a máquina converta essas instruções em comandos executáveis. Para o autor, embora essas camadas simplifiquem o uso da tecnologia, elas afastam as pessoas da compreensão completa dos processos subjacentes, resultando em uma preocupante dependência da tecnologia que poucos realmente entendem.

Ele argumenta que a abstração na computação aumenta a distância entre a fonte e o resultado, ocultando as conexões e tornando-nos alheios aos processos representados. Embora isso possa não ser tão preocupante em simulações de jogos ou medicamentos, ele alerta para os riscos quando se trata de questões humanas, como relacionamentos, mercados e guerras, o que pode reduzir a empatia.

Smith expressa ainda mais preocupação com a IA que cria seu próprio código a partir de dados de treinamento, sem refletir sobre suas decisões. Ele destaca que IA como o ChatGPT pode imitar humanos com precisão, mas opera como uma “caixa-preta”, sem transparência em seus processos. Para ele, a solução é implementar regulações rigorosas, como rótulos de segurança e restrições a algoritmos que amplifiquem desigualdades, a fim de evitar que essas tecnologias causem danos irreparáveis.

Co-Intelligence

O professor Ethan Mollick, da Wharton School, vê a IA de forma mais positiva em seu livro Co-Intelligence. Mollick sugere que a colaboração entre humanos e IA pode aumentar a produtividade e a criatividade, citando experimentos que mostram como trabalhadores que utilizam a IA são mais rápidos e criativos do que aqueles que não a utilizam.

Embora otimista, Mollick adverte sobre os perigos da dependência excessiva da IA, referindo-se a esse fenômeno como “O Botão”, que leva as pessoas a optar por soluções fáceis em vez de pensar de forma independente. Em pesquisas, ele observou que consultores que dependiam da IA muitas vezes simplesmente copiavam e colavam as respostas geradas, o que pode levar à complacência e à perda de julgamento crítico.

“O risco com a IA não é apenas que possamos errar; poderíamos perder nossa capacidade de pensar criticamente e de forma original”.

Ele alerta que essa dependência pode nos afastar da originalidade e da crítica, transformando ações significativas, como escrever cartas de recomendação, em gestos vazios. Nesse contexto, Mollick menciona uma “crise de significado”, onde a automatização dessas interações pode esvaziar de valor emocional as comunicações que deveriam refletir nosso verdadeiro sentimento e intenção.

Mollick acredita que, ao adotar uma abordagem consciente em relação à IA, podemos evitar suas armadilhas e utilizá-la de forma eficaz. Ele sugere tratar a IA como um colega excêntrico que precisa de supervisão, enfatizando a importância de verificarmos suas decisões e preconceitos, bem como de discernir quais tarefas devemos delegar e quais devemos realizar por conta própria.

My Child, the Algorithm

O livro My Child, the Algorithm, escrito por Hannah Silva, examina a complexa relação entre humanos e IA, destacando como essa tecnologia desafia nossa compreensão de identidade e emoções. Assim como o autor de Devil in the Stack, que também aborda os impactos da tecnologia em nossa vida cotidiana, Silva questiona as implicações profundas que a IA traz para as interações humanas. A autora, uma poeta e mãe solteira queer em Londres, interage com um algoritmo, compartilhando suas próprias reflexões e recebendo respostas longas e enigmáticas, que refletem sua própria obsessão por temas como amor e maternidade.

O algoritmo, descrito como menos sofisticado que os modelos atuais, apresenta uma linguagem peculiar e repetitiva que o torna tanto cômico quanto profundo. Silva observa que essas interações com o algoritmo, assim como sua relação com seu filho, envolvem um aprendizado mútuo e a busca por padrões, permitindo que tanto o algoritmo quanto a criança expressem emoções autênticas. A repetição e os erros do algoritmo, em particular, humanizam a experiência, refletindo suas próprias inseguranças.

Ao longo da narrativa, Silva se questiona sobre a perda de sua identidade como escritora enquanto equilibra sua vida pessoal com as exigências da maternidade. Apesar das incertezas, ela encontra alegria e magia nas interações com o algoritmo, que se tornam uma metáfora para a complexidade de ser queer e a convivência com contradições em suas relações. Assim, o livro convida o leitor a refletir sobre a natureza da humanidade em um mundo cada vez mais mediado pela tecnologia.

*Com informações do MIT Review

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!