Economia da Atenção: Aula 1!!!

 

Este texto foi gerado por um ser humano? Ou a "IA" Hakeou o "Sistema Operacional" da civilização humana!

Presumidamente escrito por Yuval Noah Harari na revista The Economist

O medo da inteligência artificial (IA) assombra a humanidade desde o início da era do computador. Até então, esses medos se concentravam em máquinas que usavam meios físicos para matar, escravizar ou substituir pessoas. Mas nos últimos dois anos surgiram novas ferramentas de IA que ameaçam a sobrevivência da civilização humana de uma direção inesperada. IA ganhou algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. IA invadiu o sistema operacional de nossa civilização.

A linguagem é o material de que quase toda a cultura humana é feita. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. Em vez disso, são artefatos culturais que criamos contando histórias e escrevendo leis. Deus ou Deuses não são realidades físicas. Em vez disso, são artefatos culturais que criamos inventando mitos e escrevendo escrituras.

O dinheiro também é um artefato cultural. As cédulas são apenas pedaços de papel coloridos e, atualmente, mais de 90% do dinheiro nem mesmo são cédulas – são apenas informações digitais em computadores. O que dá valor ao dinheiro são as histórias que banqueiros, ministros das finanças e gurus das criptomoedas nos contam sobre ele. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor real, mas todos eram contadores de histórias extremamente capazes.

O que aconteceria quando uma inteligência não-humana se tornasse melhor do que o humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam sobre o Chatgpt e outras novas ferramentas de IA, muitas vezes são atraídas para exemplos como crianças em idade escolar usando IA para escrever suas redações. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta perde o quadro geral. Esqueça as redações escolares. Pense na próxima corrida presidencial americana em 2024 e tente imaginar o impacto das ferramentas de IA que podem ser feitas para produzir conteúdo político em massa, notícias falsas e escrituras para novos cultos.

Nos últimos anos, o culto qAnon se uniu em torno de mensagens on-line anônimas, conhecidas como “q drops”. Os seguidores coletaram, reverenciaram e interpretaram essas gotas “q” como um texto sagrado. Embora, até onde sabemos, todos os q drops anteriores tenham sido compostos por humanos, e os bots apenas ajudaram a disseminá-los... No futuro poderemos ver os primeiros cultos da história cujos textos reverenciados foram escritos por uma inteligência não-humana. As religiões ao longo da história reivindicaram uma fonte não humana para seus livros sagrados. Em breve isso pode ser uma realidade.

Em um nível mais prosaico, podemos em breve nos encontrar conduzindo longas discussões online sobre aborto, mudança climática ou a invasão russa da Ucrânia com entidades que pensamos serem humanas – mas na verdade são AI. O problema é que é totalmente inútil para nós gastar tempo tentando mudar as opiniões declaradas de um IA bot, enquanto o IA pode aprimorar suas mensagens com tanta precisão que tem uma boa chance de nos influenciar.

Por meio de seu domínio da linguagem, a IA pode até formar relacionamentos íntimos com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indicação de que IA tenha consciência ou sentimentos próprios, para promover uma falsa intimidade com os humanos, basta que a IA possa fazê-los sentir-se emocionalmente ligados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o IA “chatbot Lamda”, no qual ele estava trabalhando, havia se tornado senciente. A alegação controversa custou-lhe o emprego. O mais interessante desse episódio não foi a afirmação do Sr. Lemoine, que provavelmente era falsa. Em vez disso, foi sua disposição de arriscar seu trabalho lucrativo pelo bem do chatbot de IA. Se a IA pode influenciar as pessoas a arriscar seus empregos por ela, o que mais poderia induzi-las a fazer?

Em uma batalha política por mentes e corações, a intimidade é a arma mais eficiente, e a inteligência artificial acaba de ganhar a capacidade de produzir em massa relacionamentos íntimos com milhões de pessoas. Todos sabemos que, na última década, a mídia social se tornou um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a frente de batalha está mudando da atenção para a intimidade. O que acontecerá com a sociedade humana e a psicologia humana quando IA luta contra IA em uma batalha para fingir relacionamentos íntimos conosco, que podem então ser usados para nos convencer a votar em determinados políticos ou comprar determinados produtos?

Mesmo sem criar “intimidade falsa”, as novas ferramentas de IA teriam uma influência imensa em nossas opiniões e visões de mundo. As pessoas podem vir a usar um único consultor de IA como um oráculo único e onisciente. Não é de admirar que o Google esteja apavorado. Por que se preocupar em procurar, quando posso apenas perguntar ao oráculo? As indústrias de notícias e publicidade também devem estar apavoradas. Por que ler um jornal quando posso apenas pedir ao oráculo para me contar as últimas notícias?

E mesmo esses cenários não capturam realmente o quadro geral. O que estamos falando é potencialmente o fim da história humana. Não é o fim da história, apenas o fim de sua parte dominada pelos humanos. A história é a interação entre biologia e cultura; entre nossas necessidades biológicas e desejos por coisas como comida e sexo, e nossas criações culturais como religiões e leis. A história é o processo pelo qual as leis e as religiões moldam a comida e o sexo.

O que acontecerá com o curso da história quando IA assumir a cultura e começar a produzir histórias, melodias, leis e religiões? Ferramentas anteriores, como a imprensa e o rádio, ajudaram a espalhar as ideias culturais dos humanos, mas nunca criaram novas ideias culturais próprias. IA é fundamentalmente diferente. IA pode criar ideias completamente novas, cultura completamente nova.

A princípio, a IA provavelmente imitará os protótipos humanos nos quais foi treinada em sua infância. Mas a cada ano que passa, a cultura da inteligência artificial irá audaciosamente onde nenhum ser humano jamais esteve. Por milênios, os seres humanos viveram dentro dos sonhos de outros humanos. Nas próximas décadas, podemos nos encontrar vivendo dentro dos sonhos de uma inteligência alienígena.

O medo da IA tem assombrado a humanidade apenas nas últimas décadas. Mas por milhares de anos os humanos foram assombrados por um medo muito mais profundo. Sempre apreciamos o poder das histórias e imagens para manipular nossas mentes e criar ilusões. Consequentemente, desde os tempos antigos, os humanos temem ficar presos em um mundo de ilusões.

No século 17, René Descartes temia que talvez um demônio malicioso o estivesse prendendo em um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia antiga, Platão contou a famosa Alegoria da Caverna, na qual um grupo de pessoas fica acorrentado dentro de uma caverna por toda a vida, de frente para uma parede em branco. Uma tela. Nessa tela, eles veem várias sombras projetadas. Os prisioneiros confundem as ilusões que veem com a realidade.

Na Índia antiga, os sábios budistas e hindus apontaram que todos os humanos viviam presos dentro de Maya — o mundo das ilusões. O que normalmente tomamos como realidade é muitas vezes apenas ficções em nossas próprias mentes. As pessoas podem travar guerras inteiras, matando outras pessoas e querendo ser mortas, por causa de sua crença nesta ou naquela ilusão.

A revolução da IA está nos colocando frente a frente com o demônio de Descartes, com a caverna de Platão, com os maias. Se não formos cuidadosos, podemos ficar presos atrás de uma cortina de ilusões, que não podemos arrancar - ou mesmo perceber que está lá.

Claro, o novo poder da IA também pode ser usado para bons propósitos. Não vou me alongar sobre isso, porque as pessoas que desenvolvem IA falam bastante sobre isso. O trabalho de historiadores e filósofos como eu é apontar os perigos. Mas, certamente, a IA pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A questão que enfrentamos é como garantir que as novas ferramentas de IA sejam usadas para o bem e não para o mal. Para fazer isso, primeiro precisamos avaliar os verdadeiros recursos dessas ferramentas.

Desde 1945 sabemos que a tecnologia nuclear pode gerar energia barata para o benefício dos humanos – mas também pode destruir fisicamente a civilização humana. Portanto, reformulamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear seja usada principalmente para o bem. Agora temos que lidar com uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social.

Ainda podemos regular as novas ferramentas de IA, mas devemos agir rapidamente. Considerando que as armas nucleares não podem inventar armas nucleares mais poderosas, a IA pode tornar a IA exponencialmente mais poderosa. O primeiro passo crucial é exigir verificações de segurança rigorosas antes que poderosas ferramentas de IA sejam lançadas em domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos antes de testar seus efeitos colaterais de curto e longo prazo, as empresas de tecnologia não devem lançar novas ferramentas de inteligência artificial antes de se tornarem seguras. Precisamos de um equivalente da Food and Drug Administration para novas tecnologias, e precisamos disso para ontem.

A desaceleração das implantações públicas de IA não fará com que as democracias fiquem para trás de regimes autoritários mais cruéis? Exatamente o oposto. Implantações de IA não regulamentadas criariam caos social, o que beneficiaria os autocratas e arruinaria as democracias. A democracia é uma conversa, e as conversas dependem da linguagem. Quando a IA hackeia a linguagem, isso pode destruir nossa capacidade de ter conversas significativas, destruindo assim a democracia.

Acabamos de encontrar uma inteligência alienígena, aqui na Terra. Não sabemos muito sobre isso, exceto que pode destruir nossa civilização. Devemos interromper a implantação irresponsável de ferramentas de IA na esfera pública e regular a IA antes que ela nos regule. E a primeira regulamentação que eu sugeriria é tornar obrigatório o IA divulgar que é um ai. Se estou conversando com alguém e não consigo dizer se é um ser humano ou uma IA, é o fim da democracia.

Este texto foi gerado por um ser humano.

Ou será que não????

Yuval Noah Harari é historiador, filósofo e autor de “Sapiens”, “Homo Deus” e da série infantil “Unstoppable Us”. Ele é professor do departamento de história da Universidade Hebraica de Jerusalém e cofundador da Sapienship, uma empresa de impacto social.