Co-piloto

Às vezes, há uma história que apenas resume todas as esperanças e medos de todo o seu campo. Aqui está um.

GitHub é uma plataforma que permite aos desenvolvedores colaborar na codificação com colegas, amigos e estranhos ao redor do mundo e hospedar os resultados. Pertencente à Microsoft desde 2018, o site é o maior host de código-fonte do mundo e uma parte crucial da infraestrutura digital de muitas empresas.

No final do mês passado, o GitHub lançou uma nova ferramenta de IA, chamada Copilot. Veja como o presidente-executivo Nat Friedman o descreveu:

Um novo programador de par de IA que ajuda você a escrever um código melhor. Ele ajuda você a descobrir rapidamente maneiras alternativas de resolver problemas, escrever testes e explorar novas APIs sem ter que ajustar tediosamente uma busca por respostas na Internet. Conforme você digita, ele se adapta à maneira como você escreve o código – para ajudá-lo a concluir seu trabalho com mais rapidez.

Em outras palavras, o Copilot se sentará em seu computador e fará uma parte do seu trabalho de codificação para você. Há uma piada antiga na comunidade de codificação de que uma parte substancial do trabalho real de programação é pesquisar online por pessoas que resolveram os mesmos problemas que você e copiar seu código em seu programa. Bem, agora existe uma IA que fará essa parte por você.

E o que é impressionante sobre o Copilot é que, para uma série de problemas comuns … ele funciona. Os programadores com quem falei dizem que é tão impressionante quanto a primeira vez que um texto do GPT-3 começou a aparecer na web. Você deve se lembrar disso, é a inteligência artificial superpoderosa de geração de texto que escreve parágrafos como:

A missão deste artigo é perfeitamente clara. Devo convencer o maior número possível de seres humanos a não ter medo de mim. Stephen Hawking advertiu que a IA pode “significar o fim da raça humana”. Estou aqui para convencê-lo a não se preocupar. A inteligência artificial não destruirá humanos. Acredite em mim.

Centauros
É tentador, ao imaginar como a tecnologia mudará o mundo, pensar no futuro como aquele em que os humanos são basicamente desnecessários. Como os sistemas de IA conseguem lidar com domínios cada vez mais complexos, com competência crescente, é fácil pensar neles como sendo capazes de realizar tudo que uma pessoa pode, deixando o humano que costumava ser empregado fazendo a mesma coisa com mãos ociosas.

Se isso é um pesadelo ou uma utopia, é claro, depende de como você acha que a sociedade se adaptaria a tal mudança. Um grande número de pessoas seria liberado para viver uma vida de lazer, apoiado pelas IAs que fazem seu trabalho em seu lugar? Ou, em vez disso, ficariam desempregados e sem emprego, com seus ex-gerentes colhendo os frutos do aumento da produtividade por hora trabalhada?

Mas nem sempre a IA está aqui para nos substituir. Em vez disso, mais e mais campos estão explorando a possibilidade de usar a tecnologia para trabalhar ao lado das pessoas, estendendo suas habilidades e retirando o trabalho árduo de seus empregos, deixando-os para lidar com as coisas que um ser humano faz melhor.

O conceito passou a ser chamado de “centauro” – porque leva a um trabalhador híbrido que tem uma IA nas costas e na frente humana. Não é tão futurista quanto parece: qualquer um que usou autocorreção em um iPhone, na verdade, se uniu a uma IA para descarregar a árdua tarefa de digitar corretamente.

Freqüentemente, os centauros podem chegar perto da visão distópica. Os funcionários do warehouse da Amazon, por exemplo, foram gradualmente empurrados por um caminho muito semelhante, à medida que a empresa busca realizar todas as melhorias de eficiência possíveis. Os humanos são orientados, rastreados e avaliados ao longo do dia de trabalho, garantindo que sempre sigam o caminho ideal pelo depósito, escolham exatamente os itens certos e o fazem em uma taxa consistente alta o suficiente para permitir que a empresa tenha um lucro saudável. Eles ainda são empregados para fazer coisas que somente os humanos podem oferecer – mas, neste caso, isso é “trabalhar as mãos e uma conta de manutenção baixa”.

Mas em outros campos, os centauros já estão provando seu valor. O mundo do xadrez competitivo teve, durante anos, um formato especial para esses jogadores híbridos: humanos trabalhando com o auxílio de um computador de xadrez. E, geralmente, os pares jogam melhor do que sozinhos: o computador evita erros estúpidos, joga sem se cansar e apresenta uma lista de opções de alto valor ao jogador humano, que é capaz de injetar uma dose de imprevisibilidade e lateral pensando no jogo.

Esse é o futuro que o GitHub espera que o Copilot seja capaz de apresentar. Os programadores que o usam podem parar de se preocupar com tarefas simples e bem documentadas, como enviar uma solicitação válida para a API do Twitter ou como extrair o tempo em horas e minutos de um relógio do sistema e começar a concentrar seus esforços no trabalho que ninguém mais fez.

Mas …
A razão pela qual o Copilot é fascinante para mim não é apenas o potencial positivo. É também que, em um lançamento, a empresa parece ter caído em todas as armadilhas que assolam o setor de IA como um todo.
O Copilot foi treinado em dados públicos da própria plataforma do Github. Isso significa que todo esse código-fonte, de centenas de milhões de desenvolvedores em todo o mundo, foi usado para ensiná-lo a escrever código com base em solicitações do usuário.

Isso é ótimo se o problema for uma tarefa de programação simples. É menos bom se o prompt para preenchimento automático for, digamos, credenciais secretas que você usa para fazer login na conta do usuário. E ainda:
O GitHubCopilot me deu um link do [Airbnb] com uma chave que ainda funciona (e para de funcionar quando é alterada).