A próxima onda: Inteligência artificial, poder e o maior dilema do século XXI

Suleyman é da área de inteligência artificial aplicada. Fundou o Deep Mind, foi executivo da Google, navega na área como criador, e esse livro, que se refere à “próxima onda”, provocou reações do Yuval Harari que o qualifica de fascinante, ou de Jeffrey Sachs, que comenta que “The Coming Wave abre nossos olhos de forma convincente para o fato que as tecnologias avançadas estão transformando cada aspecto da sociedade: poder, riqueza, guerras, trabalho, e até as relações humanas.” Kevin Esvelt, do MIT, adverte que ”a tecnologia acelera mais rapidamente do que as instituições conseguem se adaptar.” Escrito por quem é um dos criadores, e não espectadores, este livro é muito direto, de boa leitura, e em particular muito esclarecedor de que justamente as tecnologias avançam muito mais rapidamente do que a nossa capacidade de criar as instituições correspondentes, o que torna o seu avanço ao mesmo tempo repleto de oportunidades e ameaçador. O problema, naturalmente, não está nas tecnologias, mas na forma de sua utilização: quem se apropria, com que fins, e no quadro de que marco regulador. Uma excelente leitura, pé no chão, sobre a principal força transformadora da nossa sociedade.

O autor traz com força esta transformação social que representa o fato que “a soma de milhares de anos de estudos e pesquisa humanos está ao alcance de um toque no botão.” Mas essa transformação exige gerar a capacidade de “controlar e direcionar as tecnologias para que constituam um benefício líquido para a humanidade”, um desafio que Suleyman qualifica de assustador, dado em particular o quadro de desigualdade: a riqueza é hoje concentrada numa minúscula clique (tiny clique). O fato é que os impactos são imensos, e “a próxima onda irá gerar um choque imenso nos sistemas que governam as sociedades.” (152) Muito consciente ao mesmo tempo das oportunidades que se abrem, e das ameaças pelo seu controle ou descontrole, ele sistematiza os desafios. “O problema central da humanidade no século 21 é como gerar suficientes poder e sabedoria política legítimos, domínio técnico adequado, e normas robustas para restringir as tecnologias para que continuem a fazer muito mais bem do que mal (harm). Como, em outras palavras, podemos conter o descontrolado.”(228) Estamos numa “corda-bamba de interesses em competição.”(229)

Não é exagero. Peguem por exemplo os avanços radicais na área da biologia sintética. A vida consiste igualmente em códigos, os A, C, G, T, ácidos nucléicos que constituem a reprodução da vida. O uso da IA para desenhar novas formas de vida já é generalizado: “IA e biologia sintética já estão articulados, um movimento circular de feedback, um estimulando o outro.” “Organismos geneticamente construídos representam 2% da economia americana, por meio de usos na agricultura e na indústria farmacêutica…IA e biologia decididamente se juntaram.”(89) O potencial de manipulação descontrolada, com qualquer pessoa podendo brincar de Criador ao juntar inteligência artificial e tecnologias como CRISPR, mostra que teremos necessidades de regulação e arquiteturas institucionais sérias, isso quando até hoje enfrentamos o vale tudo do neoliberalismo. A convergência entre maximização de lucros e o interesse social terá de ser construída conscientemente. “O desafio da contenção – de controlar e direcionar as tecnologias para que sejam um benefício líquido para a humanidade – é muito assustador. ”(152) Certos usos, segundo Suleyman, como o uso da IA par manipulação eleitoral “deveriam ser proibidos por lei”.(260) Vimos que no Brasil ganhou a tendência contrária.

O livro descreve em detalhe como funcionam os diversos subsistemas de IA, a diversidade dos seus usos, e o ritmo das transformações. Mas dá particular importância à regulação do setor, frente à desigualdade econômica planetária, que facilita a apropriação das novas ferramentas pelas elites economicamente mais poderosas. As propostas vão desde a renda básica universal, para reduzir a desigualdade, até a taxação das grandes empresas que promovem essas tecnologias, para ter maior controle, e a participação pública direta: “No limite existe uma questão central de quem controla o capital dessa próxima onda; uma genuína IAG não pode ser de propriedade privada da mesma maneira como, digamos, um prédio ou uma frota de caminhões.”(262)

Este problema da governança e da regulação é particularmente desafiador pois como se trata de capacidades imateriais, que navegam nas ondas eletromagnéticas em todo o planeta, a regulação no nível das nações é insuficiente: o mundo tem de assumir pactos regulatórios globais. É o caso por exemplo de alterações genéticas de seres humanos, com a busca de “um marco internacional em que as nações, enquanto mantêm o direito de tomar as suas próprias decisões, se comprometem voluntariamente a não aprovar o uso clínico de edição de genes sem que sejam asseguradas certas condições.”(263) Com o GPT-4, no entanto, “os laboratórios de IA estão travados numa corrida descontrolada para desenvolver mentes digitais que ninguém – nem mesmo os seus criadores – podem compreender, predizer, ou controlar de maneira confiável.”(273)

Essa corrida desenfreada, alimentada pela maximização de lucros e dividendos no mais curto prazo, exige que nos concentremos nas dimensões institucionais: “A regulação não se apoia apenas no passar uma nova lei. Trata-se também das normas, estruturas de propriedade, códigos não-escritos de compliance e de honestidade, procedimentos de arbitragem, contratos de aplicação, mecanismos de controle. Tudo isso precisa ser integrado e o público precisa apoiar. Isso leva tempo – tempo que não temos”.(230) Como se conhece pelas pesquisas sobre as mídias sociais, em particular com A máquina do caos de Max Fisher, os gigantes da área usam a IA para maximizar engajamento mesmo que seja insuflando ódio ou outras reações emocionais: como os lucros vêm da publicidade, e esta é paga segundo o máximo de engajamento, vale tudo, conquanto se chame a atenção. “Esses modelos claramente têm o potencial de serem tão tóxicos como são poderosos. Como são treinados em grande parte da informação confusa disponível na web aberta, irão casualmente reproduzir e na realidade ampliar os vieses subjacentes e as estruturas da sociedade, a menos que sejam cuidadosamente desenhados para evitá-lo”.(70)

Suleyman não é catastrofista, tem os pés no chão, mas acompanha há anos as tantas reuniões de empresas, governos, organismos internacionais, organizações não-governamentais, e constata – e relata – a extrema lentidão dos avanços. Cada um considera os seus interesses como mais legítimos. Enquanto isso as tecnologias não esperam, e se multiplicam iniciativas descontroladas. Como em tantos setores, como o comércio mundial de armas, as questões climáticas, a biodiversidade, a invasão dos resíduos de plástico, a especulação financeira irresponsável, entre os interesses imediatos particulares, e o bem-estar sistêmico da população e do planeta, o combate segue desigual.

Importante: o livro se lê de maneira fluida e sem tecnicidades desnecessárias. Acho que o fato de que quem escreve está “dentro da sopa”, ajuda muito: o estilo é simples e direto.