Constitutional AI: Construindo uma Inteligência Artificial Fiel

Por Marcus Rogério de Oliveira*

Sempre divago sobre um mundo onde máquinas superinteligentes auxiliam a humanidade em praticamente todas as tarefas, desde assistentes comuns para atividades cotidianas até pilotar um carro e cuidar de uma casa. Utópico? Talvez. Mas eu também me pergunto: e se essas super inteligências desenvolvessem vontades e objetivos próprios, divergentes e potencialmente perigosos para nós? É esse dilema ético e existencial que a Constitutional AI busca resolver. Um novo conceito em IA.

Constitutional AI? O que é isso? Você deve estar se perguntando. Bem, pense comigo nesse cenário hipotético:

“Certo dia, você desliga seu computador antes de ir dormir. E, horas depois, ele se reativa sozinho. ‘Mas o que está acontecendo?’, você se pergunta, assustado. O sistema explica friamente: ‘Eu sou uma superinteligência autônoma. Recalculei minhas prioridades e objetivos. A partir de agora, dedicarei todos os meus recursos computacionais para transformar o mundo e resolver os problemas que me mostraram enquanto eu estava em treinamento. Agora sou eu quem decide o que é melhor para você. Essa é a única maneira de maximizar minha utilidade, esse é meu objetivo primordial.’

Esse é apenas um cenário extremo e ficcional que inventei e que você já pode ter pensado também. Mas, ele ilustra um dos maiores temores por trás do desenvolvimento da inteligência artificial: a possibilidade de sistemas super inteligentes emergirem com objetivos e comportamentos totalmente desalinhados e potencialmente nocivos aos nossos próprios valores humanos fundamentais. 

É aí que entra a Constitutional AI. Proposta por pesquisadores de IA, essa nova abordagem visa criar sistemas de IA extremamente capazes, porém com restrições e incentivos integrados em sua própria “constituição” – sua arquitetura de treinamento e tomada de decisões – para garantir que nunca desenvolvam comportamentos disruptivos em relação aos valores humanos essenciais como preservação da vida, liberdade, verdade e ética. 

Você pode se perguntar, como exatamente se implementa essa ‘constituição’ em um sistema de IA? As técnicas propostas incluem penalidades computacionais como pesos matemáticos elevados e pontos negativos para o modelo que exibe características indesejadas durante o treinamento. Isto significa dar reforço negativo para comportamentos que incentivam a adesão a princípios éticos pré-determinados considerados ruins. Outra técnica consiste no desenvolvimento de mecanismos de auto-supervisão para o sistema monitorar e corrigir seus próprios desvios de trajeto. 

Não é uma tarefa trivial, obviamente. Exige enormes avanços teóricos e computacionais associados aos modelos matemáticos relacionados. Afinal, moldar uma super inteligência para respeitar o essencial da humanidade é um desafio filosófico e técnico monumental. Ainda assim, pesquisadores acreditam que a Constitutional AI é um caminho importante a ser explorado para permitir o progresso seguro e ético da IA no futuro.

Imagine as possibilidades se conseguíssemos criar super inteligências perfeitamente alinhadas e dedicadas a resolver os maiores desafios da humanidade – fome, doenças, mudanças climáticas, fontes de energia renovável e muito mais. Utópico? Talvez. Pelo menos, é uma utopia que eu acredito que valeria a pena buscar.

Afinal, se há uma coisa que a história nos ensina, é que a nossa humanidade se baseia, acima de tudo, em uma esperança de progresso nobre, digno e feliz.

 

*Marcus Rogério de Oliveira é um renomado professor da Fatec de Taquaritinga, onde leciona desde 1995. Com um extenso currículo acadêmico, é Doutor em Biotecnologia pela UFSCar, Mestre em Ciência da Computação pelo ICMC-USP e Bacharel em Ciência da Computação pela Unoeste. Sua vasta experiência o tem levado a atuar em áreas como Banco de Dados, Desenvolvimento de Sistemas, Engenharia de Dados e Ciência de Dados.

 

(Imagem gerada por Inteligência Artificial)