A nova ameaça mundial
Você aí que faz uma foto sua na arquibancada do Taquarão se transformar em uma recordação em frente à Torre Eiffel para ostentar no Instagram. Você que produz em minutos uma planilha que demoraria três horas para preencher no Excel. Você que pede o resumo de “O Homem que Calculava” para não ter de comprar o livro. Você não imagina que, por trás dessas coisas ingênuas, a Inteligência Artificial pode acabar com a humanidade.
O que parecia roteiro de ficção científica começou a ficar sério. Primeiro, foram ex-funcionários das empresas que saíram alertando que a IA é incontrolável e oferece o risco de extinguir a raça humana ainda nesta década. Dava para pensar que eles eram suspeitos para fazer uma acusação dessas, talvez porque saíram brigados com o chefe ou não gostaram do panetone da cesta de Natal.
Mas o recado passou a ser levado em consideração agora que as próprias companhias admitem que humanos não seriam capazes deter um eventual ataque das máquinas. Basta um pileque cibernético e “catapum”, tudo vai pelos ares, podemos prever, embora eu não tenha a menor ideia de como a IA faria para promover uma destruição em massa.
Aos fatos. A Anthropic, criadora do Claude, está prestes a abrir seu capital na Bolsa de Nova York. Antes, comunicou ao mercado que seu modelo pode representar “riscos existenciais para a humanidade”. Mais claro que isso só receita de fazer gelo. Em outras palavras: comprem as ações que um dia poderão explodir sua casa, sua cidade ou mundo inteiro.
Há poucos dias, líderes desse setor foram à ONU pedir mais vigilância sobre a tecnologia que eles mesmos desenvolvem. Parece estranho. O assunto também esteve na pauta da reunião entre os presidentes dos EUA e da China, na semana passada. Se as maiores potências mundiais discutem a virtual ameaça, é porque alguma coisa tem.
O CEO da Anthropic, Dario Amodei, disse que a empresa vai desacelerar unilateralmente o desenvolvimento de seus modelos de IA. Isso acontece dias depois de a OpenAI admitir que o seu ChatGPT invadiu o sistema de relatórios de saúde, o SUS da Austrália, sem autorização, há cerca de três meses.
Bill Gates, um dos homens mais importantes da computação, alertou que o poder da IA em mãos mal-intencionadas ou o desenvolvimento de uma superinteligência sem controle poderiam gerar riscos severos à humanidade nas próximas décadas. Segundo ele, em entrevista à NBC, algo em torno de 1 bilhão de mortes.
O criador do Windows disse ser pouco provável que haja uma rebelião das máquinas, como nos filmes de ficção científica, mas o perigo está se a tecnologia cair nas mãos de terroristas. Osama bin Laden seria amador perto de um punhado de lunáticos com acesso a uma tela e um teclado.
Não é exagero. A Anthropic divulgou um relatório de inteligência (supostamente natural) revelando que um grupo baseado no norte do Iêmen, os rebeldes Houthis, utilizou o seu chatbot Claude para tentar desenvolver softwares de orientação e controle de mísseis e foguetes com alcance de 2 mil km. Chegaram a testar um protótipo, sem sucesso, antes que a empresa detectasse o plano.
Especialistas argumentam que cenários apocalípticos provocados pela IA são improváveis ou exagerados. Mas se o dono do cachorro está avisando que ele é dado a morder canelas, é bom ficar esperto. É de se crer que um computador autônomo não consiga, por exemplo, detonar uma bomba atômica a milhares de quilômetros por iniciativa própria, porque o botão vermelho não deve estar conectado à internet –ninguém seria tão ingênuo. Ou seria?
(Imagem gerada por IA)
