Robôs superinteligentes fariam nosso trabalho, criariam curas para todas as nossas doenças

Max Tegmark estima que o advento de uma inteligência artificial geral (IAG) supere a humana é questão de décadas. O professor do MIT e diretor do Future of Life Institute, em Cambridge (EUA), diz poderíamos acabar vivendo numa civilização idílica. Desse modo, robôs superinteligentes fariam nosso trabalho. Criariam curas para todas as nossas doenças e desenvolveriam sistemas para ordenhar a energia descomunal dos buracos negros.

Quando o rei Midas pediu a Dionísio que transformasse em ouro tudo o que tocasse, cometeu uma falha de programação. Não pensava, portanto, que o deus seria tão literal ao lhe conceder o desejo, e só se tornou consciente de seu erro quando viu sua filha transformada em uma estátua metálica. Max Tegmark (Estocolmo, 1967) acredita, portanto, que a inteligência artificial pode apresentar riscos e oportunidades similares para a humanidade.

Transmitir nossos objetivos

Entretanto, se não formos capazes de lhe transmitir nossos objetivos com precisão, também é possível que essa nova inteligência dominante não se interesse por nossa sobrevivência. Ou mesmo que assuma um objetivo absurdo como transformar em clipes metálicos todos os átomos do universo, inclusive os que formam nossos corpos.

Para evitar o apocalipse, Tegmark considera que a comunidade global deve se envolver num debate para orientar o desenvolvimento da inteligência artificial em nosso benefício. Essa discussão, dessa maneira, deverá encarar problemas concretos. Como, por exemplo, a gestão das desigualdades geradas pela automatização do trabalho. Mas também um intenso esforço filosófico que triunfe onde estamos há séculos fracassando. E, assim, permita definir de comum acordo o que é bom para toda a humanidade, para depois inculcar isso nas máquinas.

Ambicioso ensaio

Estes e outros temas relativos à discussão, que Tegmark considera ser a mais importante para o futuro da humanidade, são analisados por ele em seu livro Life 3.0 (“vida 3.0”). Tem, portanto, por subtítulo “o ser humano na era da inteligência artificial”. Trata-se de um ambicioso ensaio, recomendado por gurus como Elon Musk, em que o cosmólogo sueco busca se antecipar ao que pode acontecer durante os próximos milênios.

Entrevista com Max Tegmark

Pergunta. Os humanos, em particular durante os últimos dois ou três séculos, tivemos muito sucesso em compreender o mundo físico, graças ao avanço de disciplinas como a física e a química, mas não parece que tenhamos sido tão eficazes de entender a nós mesmos, descobrindo como sermos felizes ou chegando a acordos sobre como fazer um mundo melhor para todos. Como vamos manejar os objetivos da IAG sem antes alcançar acordos sobre esses assuntos?

Resposta. Acho que nosso futuro pode ser muito interessante se ganharmos a corrida entre o poder crescente da tecnologia e a sabedoria com que se administra essa tecnologia. Para isso, temos que mudar as estratégias. Nossa estratégia habitual consistia em aprender com nossos erros. Inventamos o fogo, pisamos na bola umas quantas vezes, e depois inventamos o extintor; inventamos o carro, voltamos a pisar na bola várias vezes, e inventamos o cinto de segurança e o airbag. Mas com uma tecnologia tão poderosa como as armas atômicas e a inteligência artificial sobre-humana não vamos poder aprender com nossos erros. Precisamos ser proativos.

É muito importante que não deixemos as discussões sobre o futuro da IA para um grupo de freaks da tecnologia, como eu, e sim que incluamos psicólogos, sociólogos e economistas para que participem do diálogo. Porque, se o objetivo é a felicidade humana, temos que estudar o que significa ser feliz. Se não fizermos isso, as decisões sobre o futuro da humanidade serão tomadas por alguns freaks da tecnologia, algumas companhias tecnológicas e alguns Governos, que não necessariamente serão os mais bem qualificados para tomarem essas decisões para toda a humanidade.

Substituir humanos por máquinas

P. A ideologia ou a visão de mundo das pessoas que desenvolverem a inteligência artificial geral definirá o comportamento dessa inteligência?

R. Muitos dos líderes tecnológicos que estão construindo a IA são muito idealistas. Querem que isto seja algo bom para toda a humanidade. Mas se você olhar as motivações das companhias que estão desenvolvendo a IA, a principal é ganhar dinheiro. Você sempre ganhará mais dinheiro se substituir humanos por máquinas que possam fazer os mesmos produtos mais baratos. Não ganha mais dinheiro desenhando uma IA que seja mais bondosa. Há uma grande pressão econômica para tornar os humanos obsoletos.

Será? Até que ponto? Isso terá que consequências caso aconteça? E a vida como será? São questões que vale a pena, no mínimo, prestar atenção.

Quem é Max Tegmark?

Max Tegmark é professor do MIT (Massachussets Institute of Technology) e já escreveu mais de 200 artigos sobre assuntos que vão de cosmologia a inteligência artificial (IA). Dessa maneira, cComo presidente do Future of Life Institute, ele trabalhou com Elon Musk para lançar o primeiro programa de bolsa voltado à pesquisa sobre segurança de IA. Assim, Tegmark já apareceu em dezenas de documentários científicos. Em suma, sua paixão por ideias, aventura e empreendedorismo é contagiante.

Quem gosta do tema, veja o livro:

Ft: Elpais