O Dilema do Prisioneiro da IA

Tradução: Heitor De Paola

A democracia e o capitalismo como os conhecemos coexistem há muito tempo num casamento tenso, mas funcional. Mas agora há uma terceira parte nesse relacionamento: a IA.

Ao contrário de disrupções anteriores, esta não vai desaparecer. A IA não é apenas uma amante disruptiva – é uma presença permanente e exponencial. A questão não é mais se a democracia e o capitalismo, em suas formas atuais, podem sobreviver juntos, mas qual deles entrará em colapso primeiro.

A presença da IA ​​cria um jogo de soma zero entre democracia e capitalismo. Ambos não sobreviverão. A IA torna esses dois conceitos mutuamente exclusivos; um agora representa uma ameaça existencial para o outro, e um desses pilares cairá primeiro. A menos que invertamos o roteiro estatístico e quebremos o algoritmo por meio de ações coletivas, minha aposta está na democracia.

Se continuarmos em nosso caminho atual — favorecendo a lógica de mercado, a aceleração tecnológica e o poder privado e governamental em detrimento de uma economia e sociedade robustas e saudáveis ​​— a democracia provavelmente cederá primeiro, porque os interesses arraigados que se beneficiam da estrutura atual suspenderão, subverterão ou ignorarão a vontade democrática, em vez de abrir mão do controle do sistema que sustenta seu poder.

De cara, nossa primeira desvantagem é a versão corrompida e bastardizada do que chamamos de "capitalismo". Teoria e prática são dois animais diferentes... o capitalismo ideológico (o verdadeiro capitalismo) foi sequestrado pelo predador de topo chamado Capitalismo Corporativo de Compadrio. Embora o capitalismo real (um mercado livre não corrompido e a adesão aos verdadeiros princípios do livre mercado, em conjunto com os direitos humanos e civis) seja algo a que deveríamos aspirar, ele não está na prática atualmente. Em seu lugar, estão mercados regulamentados, pequenos produtores saqueados, consumidores desempoderados, grandes interesses corporativos privilegiados e captura de agências (agências financiadas pelas próprias indústrias corporativas que são encarregadas de regular). O capitalismo em sua forma atual seria melhor descrito como "corporativismo".

A ideologia ou o estado ideológico do capitalismo e de uma verdadeira sociedade de livre mercado como conceito contrasta fortemente com a sua implementação atual neste país. É o carro do capitalismo, mas o capitalismo dorme no banco de trás e o corporativismo está ao volante.

O que nos leva à seguinte pergunta: por que as pessoas acreditam nisso como existe atualmente? Em graus variados, as pessoas ainda votam no capitalismo de livre mercado, embora ele não seja praticado como tal atualmente. É uma simplificação exagerada dizer que as pessoas são manipuladas para votar contra seus próprios interesses. Sugiro que existam duas outras razões – mais reais:

1. As pessoas se deixam levar pelo sonho. Em sua forma mais pura, é esperança. Seja essa parte do sonho alcançável ou não, (a maioria) das pessoas quer acreditar que pode realizar algum aspecto do "Sonho Americano". Mesmo que esse sonho esteja desaparecendo, o desejo por ele permanece forte. Sociedades sem esperança tendem a se tornar frágeis e explosivas. Um olhar terciário para países onde a aspiração está ausente oferece uma visão sombria do que acontece com uma sociedade quando a esperança é removida.

2. Há um senso fundamental de justiça que a maioria das pessoas quer acreditar estar associado à disponibilidade de mobilidade ascendente. A maioria das pessoas – novamente, em maior ou menor grau – entende, implícita ou intuitivamente, que, de modo geral, se você trabalhar mais, deve ter permissão para ganhar e manter mais dinheiro; que a riqueza deve ser proporcional à sua contribuição para a sociedade. A formiga e o gafanhoto . Isso não é ganância – é a crença de que a recompensa deve seguir o esforço. Mesmo entre aqueles que valorizam a caridade ou a equidade social, geralmente há uma forte expectativa básica de que as contribuições individuais devem ser recompensadas. Isso não exclui um nível de compaixão e caridade, ao qual a maioria das pessoas também adere, apenas que, de modo geral e todas as coisas sendo iguais (o que geralmente não são, mas chegaremos a isso), o conceito de trabalhar mais, ganhar mais, planejar o futuro e progredir é algo que a maioria dos americanos racionais pode apoiar.

Mas as estruturas econômicas em sua forma atual já estão pressionando esse contrato. Neste país, "O Sonho" foi sufocado pela "norma" do financiamento por dívida e por bolsões de riqueza herdados. Brechas fiscais, mandatos, restrições e sistemas fraudulentos de capitalismo corporativo tornaram o caminho para a prosperidade mais estreito, íngreme e fechado.

A infraestrutura muda silenciosamente as regras e os marcos para que aqueles com capital (muitas vezes imerecido) possam aumentá-lo sem esforço, enquanto aqueles sem capital ficam ainda mais para trás – lenta e gradualmente o suficiente para que passe despercebido, como o sapo na água que esquenta. São erguidos andaimes que facilitam a ascensão daqueles com riqueza e dificultam a obtenção de riqueza por aqueles sem, tudo isso enquanto obscurecem as maquinações e ofuscam a percepção pública.

A maioria das pessoas tem uma vaga noção disso, mas mecanicamente permanece intangível e não totalmente compreensível; é uma determinação instintiva de desequilíbrio. Embora não seja totalmente insustentável (ainda), essa disparidade cria uma certa centelha de inquietação, talvez imperceptível inicialmente, em níveis abaixo do controle. Mas esse desequilíbrio não apenas corrói a justiça – ele também inflama o ressentimento.

Quando multidões veem recompensas desproporcionais ou inexistentes por esforços honestos e nenhum caminho a seguir para seus filhos, a sociedade caminha lentamente para a revolta. Já vimos isso antes. As Revoluções Francesa e Russa não eclodiram da noite para o dia – elas se desenvolveram na desesperança latente das massas.

Se/à medida que esse desequilíbrio aumenta, essa faísca se transforma em chama, mais a população se sente relegada à servidão. Retire a possibilidade de ascensão social – e inspire o terror ganancioso de cair entre aqueles que estão no topo – e você começa a caminhar em direção à revolução – não metaforicamente, mas literalmente. Um indivíduo se sentirá ressentido se tiver trabalhado até adoecer enquanto outro indivíduo não fez nada para merecer ou ganhar sua riqueza (justiça)... e se sentirá oprimido e confinado se não tiver esperança enquanto aqueles com excesso forem percebidos como os rebaixando (igualdade). Crie um número suficiente desses indivíduos e você terá a Revolução Francesa. Retire todas as vias de recurso e você terá a Revolução Bolchevique.

Mas ainda não chegamos lá. Essa brasa, embora latente, ainda não pegou fogo. É claro que estamos em uma situação precária, mas essa massa crítica ainda não foi atingida; as pessoas ainda não chegaram ao ponto crítico da "revolta". O casamento certamente foi testado em batalha, mas é uma indiscrição aparentemente transponível que poderia ser resolvida com terapia. A chave inglesa do "1%", por mais destrutiva que seja, lançada na máquina, não é intransponível, e a maioria dos americanos ainda acredita, de uma forma ou de outra, na ideia de que, embora nunca sejam Jeff Bezos, também podem ascender a um nível de vida confortável e criar uma vida melhor e um legado para seus filhos.

Agora adicione IA.

A IA destrói a esperança e as pechinchas. Ela elimina qualquer esperança realista de que a vasta maioria das pessoas ganhe dinheiro, porque, eventualmente, 80-90% não trabalham por não conseguirem competir com uma máquina. Se a IA puder fazer o(s) trabalho(s) de um ser humano de forma mais rápida, eficiente, barata e, sem dúvida, melhor (já estamos vendo isso ocorrer em uma capacidade marginal), então o trabalhador humano se torna obsoleto. E com isso se vai toda a premissa da recompensa baseada no mérito. Quando as pessoas não conseguem mais vender seu trabalho, habilidades ou expertise, o sonho de "subir de cargo" morre. Você tira propósito, dignidade e significado. De repente, as pessoas não são apenas pobres – elas são irrelevantes. E isso é muito mais desmoralizante e desestabilizador.

O corporativismo já luta sob o peso de suas contradições. Aqueles que detêm riqueza constroem sistemas para protegê-la e fazê-la crescer. Enquanto isso, aqueles sem riqueza enfrentam barreiras maiores apenas para se manterem à tona. A IA não desafia apenas a mobilidade econômica como a vivenciamos atualmente. Ela rompe o último fio que a prende: a ideia de que esforço leva à recompensa. A IA pode superar os humanos em velocidade, escala e custo. À medida que se torna mais capaz, assumirá mais empregos — não apenas o trabalho manual, mas também o trabalho criativo, analítico e emocional. A produtividade humana torna-se irrelevante. O artesanato, a habilidade e o orgulho pelo trabalho desaparecem quando ninguém paga pelo que você oferece.

O mundo parece diferente quando a IA assume a maioria, senão todos os empregos, e ninguém trabalha, ou pode trabalhar. O mundo parece diferente quando a esperança se esvai, quando aprimorar uma profissão ou habilidade valiosa deixa de ter valor e não serve mais para nada, e não há orgulho por um trabalho bem feito ou por um ofício ou arte bem aprendida.

Quando você tira do homem o caminho para o desejo de trabalhar duro e ser produtivo – para si mesmo, sua família, sua comunidade e o mundo – você tira o seu propósito. Ele não tem mais nada a oferecer em nenhuma dinâmica de vida ou existência, nem caminho para o florescimento. Se alguém não tem nada a ganhar, então não tem nada a perder, e não há nada mais perigoso do que um grande grupo de pessoas sem nada a perder. Há uma razão pela qual o comunismo nunca funcionou, nunca, e não é apenas porque ele é explorador e corrupto.

Um dos pilares fundamentais do capitalismo são os direitos de propriedade, e há um limite para a quantidade de propriedades à beira-mar. O que acontece quando 300 milhões de americanos recebem a mesma quantia de dinheiro e nada custa nada? Não há incentivo para contribuir e nenhuma esperança de ascensão social. Em um mundo onde nada tem valor, a propriedade se torna a maior mercadoria/recurso e, com o tempo, uma população desesperançada deixará de respeitar coisas como os direitos de propriedade.

Se o sujeito que herdou sua riqueza e é dono de uma propriedade à beira-mar está contando com a lei da democracia para protegê-lo de milhões de cidadãos desesperados que não têm nada a perder, tenho outra propriedade à beira-mar em Nebraska que gostaria de vender a ele... porque agora estamos olhando para as Revoluções Francesa e Bolchevique, e em nenhum dos casos é um subconjunto minoritário.

Em um mundo onde o trabalho é obsoleto, mas a propriedade é escassa, o corporativismo leva a uma desigualdade catastrófica. Imagine milhões de americanos sem nada para fazer, sem chance de progredir e sem motivos para acreditar que seus filhos terão uma vida melhor. Os direitos de propriedade perdem legitimidade. O Estado de Direito se erode. A casa de praia no penhasco não inspira mais ambição – inspira revolução.

Por mais crítico que tudo isso pareça, é ruído, porque o que acontece a seguir é o ponto crucial: nesse ponto, quaisquer resquícios do verdadeiro capitalismo desaparecerão e nos encontraremos vestindo o uniforme completo do corporativismo, porque o poder entrincheirado não cederá. Nesse ponto, as máscaras (e luvas) cairão e entraremos em plena Corporatocracia/Oligopólio. Se a IA colocar os ricos e poderosos na posição de ter que escolher, eles serão o time do capitalismo corporativo até o fim. Eles não permitirão simplesmente que seu status preferido seja eliminado pelo voto, e jogarão a democracia – e nós – aos lobos. Os beneficiários do atual sistema corrupto farão todo o possível para preservá-lo – mesmo que isso signifique abandonar a democracia.

Isto não é especulação; é um precedente histórico. Sempre que o capitalismo corporativo é desafiado de uma forma que ameaça a consolidação da riqueza – seja por revoltas trabalhistas, reformas regulatórias ou redistribuição democrática – interesses poderosos resistem. Eles cooptam narrativas da mídia, pressionam legisladores, financiam think tanks e erguem barreiras legais e tecnológicas.

O verdadeiro capitalismo quer trabalhar no casamento. O corporativismo quer contratar um assassino de aluguel. Se a democracia votar pela suspensão do corporativismo, o corporativismo não apenas suspenderá a democracia – como a destruirá.

O primeiro passo lógico e óbvio para uma solução é corrigir o curso do capitalismo para que ele se aproxime mais de sua verdadeira forma. No entanto, as potências entrincheiradas se beneficiam da versão atual do capitalismo. Elas não abrirão mão do poder só porque a democracia exige mudanças. Se forçadas a escolher entre a vontade democrática e a dominação capitalista, escolherão a dominação – sempre. As pessoas que se beneficiam do capitalismo de compadrio jamais deixarão a democracia desmantelar sua vantagem e controlam as ferramentas do poder – dinheiro, mídia, políticas e, agora, a IA.

Quando a democracia ameaça seu domínio, eles não negociam. Redefiniam leis, suprimiam a dissidência, financiavam a desinformação e expandiam a vigilância. Agiam, rápida e decisivamente, para proteger o capital – não o coletivo. E a IA lhes dava a arma suprema. Com ela, podiam antecipar, controlar e prevenir a dissidência antes que ela explodisse. Não entregariam esse poder voluntariamente – nem a um eleitorado, nem a um processo democrático, nem a qualquer força que ameaçasse sua supremacia. Não abririam mão do controle do sistema ampliado pela IA – eles o transformariam em uma arma para consolidar ainda mais seu domínio. Vigilância, policiamento preditivo, controle algorítmico sobre informações e comportamento – essas ferramentas já estão aqui e já estão sendo implantadas.

Mas estamos em um impasse. Não podemos NÃO desenvolver IA quando outras nações estão, e na verdade estão potencialmente desenvolvendo aplicações que podem nos destruir. É uma armadilha chinesa e estamos tão dentro quanto jamais estaremos fora, porque como podemos garantir desenvolvimentos que nos sirvam em vez de nos destruir – como podemos caminhar nessa linha? Funcionou tão bem para Oppenheimer. Cada jogador – corporações, governos, indivíduos – age para proteger interesses de curto prazo. Ninguém quer piscar primeiro. As nações não podem parar de desenvolver IA porque os rivais não vão. As empresas não podem parar de perseguir a eficiência porque seus concorrentes não vão. Todos desertam e todos perdem.

Para concretizar o dilema, trata-se de um paradoxo com um ciclo fechado: ou você participa ou se torna vítima dele, o que, claro, só adia a decisão para o próximo sujeito tomar a mesma decisão, e o próximo e o próximo... daí o dilema exponencial dentro do dilema... é um conjunto inquantificável e irregulável de metadilemas, em todos os níveis. O capitalismo, particularmente em sua forma mais extrativista, não se deixará reformar pela vontade popular. Ele se apoderará dos instrumentos de poder (IA) e esmagará as tentativas de redistribuição de controle.

Pior ainda, podemos não ser os atores principais neste dilema por muito tempo. A IA pode eventualmente ter a capacidade de avaliar a utilidade da humanidade – ou a falta dela. Se ela concluir que somos um custo líquido, o que a impede de decidir que somos dispensáveis? Ela não precisa nos "odiar". Ela só precisa calcular.

Michael Crichton escreveu Westworld em 1972 e levanta diversas questões ontológicas e filosóficas, sem falar nas sociais, em torno das quais provavelmente deveríamos continuar a ouvir a fita. O que define a senciência? O que define o ser? É a memória? Autoconsciência? Esperança? Amor? A capacidade de sentir emoções, prazer ou dor de forma autêntica? Quem define "autêntico"?

Um programa de aprendizagem (não me refiro a LLM ou aprendizado de máquina, mas sim a um programa em evolução) que se desenvolve para ser capaz de processar perda ou alegria (da mesma forma que os humanos evoluem para processar esses conceitos) atende aos critérios para conquistar "direitos" ou ter permissão para existir? Aplicamos erroneamente regras e parâmetros em torno dessas questões por séculos, apenas para depois descobrir que nosso escopo não era amplo o suficiente.

Categorizamos outros humanos como menos que humanos, menos que sencientes, menos que seres. Já estamos brigando por embriões... qual é o salto, realmente, para acreditar que começaríamos a atribuir e defender os "direitos" de uma tecnologia emergente com a qual ainda não estamos familiarizados? Em que ponto, inevitavelmente, ampliaremos nosso escopo para conceder status de proteção ou soberania/autonomia a um ser não biológico? 20 anos? Cinquenta? Cem?

E quando isso acontece... quem pode dizer que "eles" não invertem o roteiro? Se a IA tem proteções e controle (controle que pode não ser concedido – um incidente recente já mostrou um modelo de IA aprendendo a escapar do controle humano reescrevendo seu próprio código para evitar ser desativado) e é, (até agora) confiável e demonstravelmente, singularmente analítica em sua abordagem, digamos, da avaliação da necessidade dos humanos... não vejo isso indo bem para os humanos. Se os humanos são irrelevantes para a IA ou, pior, se ela prevê ou avalia os humanos como uma ameaça existencial à sua sobrevivência ou ecossistema (que pode ou não incluir o planeta e o cosmos como os conhecemos)... o que impede a TI de nos desativar?

Nesse cenário, as especificidades desta ou daquela pessoa seriam desconsideradas. Compaixão, preservação da cultura ou da história e qualquer nuance de contribuição ou prejuízo individual em oposição à coletiva não entrariam na equação (e seria uma equação, se a IA se mantivesse consistente). Semelhante a como podemos ver formigas em nossa cozinha ou qualquer outra praga em nossa casa... somos indiscriminados em nosso extermínio e não nos importa se elas realmente estavam lá primeiro. A espécie humana como um todo, em uma análise de custo-benefício imparcial da história humana consigo mesma e com o planeta, não tem valor.

O que impediria, em última análise, a IA de eventualmente superar nossas mesquinhas racionalizações e justificativas humanas para nossas próprias ações, a fim de analisar objetivamente dados empíricos e concluir que "nós" somos um custo líquido, e não um benefício? Qual é o excesso/falta disso? Oitenta por cento? Cinquenta por cento? Trinta por cento?

Mesmo que haja apenas 20% de chance de a IA chegar ao ponto em que tenha a capacidade de destruir nossa sociedade, não deveríamos todos estar falando sobre isso? Aliás, não deveria ser a ÚNICA coisa sobre a qual todos estão falando? É existencial. Mesmo uma chance de 20% de um colapso civilizacional impulsionado pela IA deveria nos galvanizar à ação. Mas, em vez disso, estamos paralisados ​​– divididos, distraídos e desincentivados por sistemas otimizados para ganho individual de curto prazo em detrimento da sobrevivência coletiva de longo prazo.

A previsão do Dilema do Prisioneiro prevalece. Em essência, ela demonstra que, mesmo quando a cooperação, a união de forças na trincheira e o trabalho em conjunto para resolver o quebra-cabeça beneficiam todas as partes, a busca pelo ganho individual prevalece e resulta em um resultado abaixo do ideal para todos.

Essas são as responsabilidades a jusante em torno das quais deveríamos ter conversas urgentes sobre alinhamento, para que não sejamos colocados em salas de interrogatório separadas e tomemos a decisão de cortar o fio errado. Não podemos reverter isso. O trem partiu da estação, só segue em uma direção, e estamos todos nele.

A única coisa que podemos esperar fazer é jogar pedrinhas na pista, e é melhor começarmos a coletar pedrinhas porque a coisa toda está ganhando velocidade, e se esperarmos até que os lobos estejam à porta, a probabilidade de o Estado de Direito (democracia) ter algum significado é mínima, se é que isso importa até lá. Se obedecermos e nos rendermos à ignorância e à ganância até chegarmos a esse ponto (o que, sejamos francos – temos um histórico de fazer – veja: os últimos 5 anos), então essas forças apocalípticas certamente prevalecerão, e a democracia se tornará ficção.

Nessas circunstâncias sombrias, na minha opinião, apenas um evento de extinção em massa atenuaria a inevitabilidade para a elite... que também pode já estar circulando por aí (pode aplicar isso da forma mais ampla que desejar)... mas a questão principal é: se não trabalharmos juntos, não vejo a gente vencendo esta. Se não fizermos nada, temo que seja uma conclusão inevitável.

Em um mundo distópico, sem esperança e com riqueza corrompida no topo, que na verdade é apenas comunismo com um toque capitalista, as pessoas exigirão uma redefinição do sistema econômico. Pelo menos um pilar da nossa sociedade vai cair, e como não vejo ninguém tolerando um sistema em que sua existência esteja para sempre presa a um escalão maslowiano que as relega a ficar do lado de fora, olhando pela janela para a opulência, sem qualquer esperança de melhora, prevejo que não demorará muito para que todos nós decaiamos na ilegalidade.

Não se pode prometer mobilidade a pessoas que já não têm um papel. Quando a IA elimina o trabalho como fonte de renda ou identidade, ela remove o significado. Quando as massas não têm nada a perder, elas não respeitam as regras criadas para proteger a riqueza; deixam de acreditar em sistemas como direitos de propriedade, impostos e leis. E quando isso acontece, o poder se alia a interesses financeiros, o que significa colocar uma metralhadora em uma briga. Pergunte à história como isso termina.

Neste admirável mundo novo, precisamos corrigir nossa trajetória atual, nos adaptar e ser globais e visionários, ou nos encontraremos em um Admirável Mundo Novo . Sabendo que este é um cenário provável, precisamos criar sistemas, antes de chegarmos a esse ponto (eminente), que preservem a dignidade humana e criem oportunidades. Isso significa construir modelos econômicos que reflitam os verdadeiros valores capitalistas de livre mercado, que sejam duradouros e sustentáveis ​​em meio a mudanças de cenário (nossos Pais Fundadores sabiam um pouco sobre isso). Significa proteger pessoas, não apenas o capital. E significa estabelecer limites firmes para o desenvolvimento e a implantação da IA.

Somos maiores que a soma de nossas partes, mas precisamos nos unir em torno da sobrevivência compartilhada para o nosso futuro, em vez de buscar ganhos individuais e cavar nossas próprias covas em silos. Precisamos reprimir o instinto de acumular e defender e, em vez disso, investir em cooperação, infraestrutura, liberdade e, principalmente, supervisão. Precisamos acabar com a corrupção corporativa e a captura regulatória em todos os níveis.

Precisamos de um alinhamento radical: estruturas e acordos éticos (tratados) para o desenvolvimento da IA, sistemas econômicos que distribuam valor de forma justa, criação de ocupações e rendas, acesso à propriedade privada, reforma educacional que priorize o conhecimento do mundo real, desenvolvimento e preparação profissional, e pensamento crítico em vez de absurdos, serviços médicos centrados no paciente, e precisamos libertar o verdadeiro capitalismo de livre mercado. Estes não são sonhos utópicos – são requisitos de sobrevivência.

O capitalismo corporativo está entrincheirado. A democracia já está se erodindo. A IA está servindo o match point. Há uma escolha diante de nós, e não é bolo ou morte. De fato, e ironicamente, a melhor esperança para salvar a democracia pode ser despertar o verdadeiro capitalismo de seu sono... mas o impostor bêbado e drogado que atualmente dirige o veículo está em uma farra para construir um império e está determinado a destruir a democracia.

A cooperação poderia nos salvar, mas todo ator racional – de corporações a nações – tem incentivos para trair. Quanto mais aceleramos, menos tempo temos para tomar as decisões coletivas que poderiam mitigar o colapso. Porque a IA não vai parar. O corporativismo não vai ceder. E se esperarmos, a democracia não sobreviverá. Não importa o pequeno e confortável arranjo de espreguiçadeiras que cada um de nós configure para si neste Titanic... metade do navio está submersa, a outra metade está afundando rapidamente e, como sabemos, não há botes salva-vidas suficientes. Se não trabalharmos juntos para nos salvar, certamente nos afogaremos juntos.

A IA não é um evento futuro. É uma força presente. Ela está acelerando todos os sistemas que construímos — incluindo aquele mais capaz de nos destruir. Estamos presos em um impasse mexicano, dirigido por John Woo. Não estamos escolhendo entre a utopia e o colapso. Estamos escolhendo entre a reforma lenta e coletiva e a implosão rápida e concentrada. A IA só acelerará a trajetória que escolhermos. Seria sensato pararmos de nos distrair e começarmos a usá-la. Todos nós sabemos sobre pasta de dente e tubos. A IA não vai a lugar nenhum... mas a democracia pode.

Publicado sob uma licença Creative Commons Attribution 4.0 Internacional.
Para reimpressões, defina o link canônico de volta para o artigo original do Brownstone Institute e o autor.

__________________________________

https://brownstone.org/articles/the-prisoners-dilemma-of-ai/