As pessoas costumam sentir quando entram em terreno desconhecido e o seu conhecimento se esgota. A inteligência artificial não tem esse instinto: aprende com dados selecionados e pode ficar indefesa quando o mundo é diferente do que viu no treino. O projeto europeu E-pi ensinou os algoritmos a reconhecer a sua própria ignorância e testou-o onde um erro pode custar mais, nos carros autónomos. No final, ficas a saber como lidas tu com a incerteza.
A inteligência artificial chega hoje a quase todo o lado. Move a economia e está a transformar as nossas casas, escolas e locais de trabalho. No entanto, tem um ponto fraco de que se fala menos do que dos seus sucessos. Um modelo aprende com um conjunto específico de dados e depois tem de funcionar num mundo que nem sempre se parece com o que viu durante o treino. É exatamente aí que começam os problemas.
O projeto E-pi, financiado pela UE e coordenado pela Oxford Brookes University, no Reino Unido, debruçou-se sobre este problema. Durante cinco anos, a sua equipa trabalhou na chamada inteligência artificial epistémica, ou seja, uma IA que lida melhor com a incerteza e consegue fazer previsões mesmo em situações diferentes dos dados de treino.
A palavra epistémico vem de epistemologia, o ramo da filosofia que estuda o conhecimento. Daí vem uma capacidade que é completamente natural para um ser humano: notar que aquilo que sabemos não chega numa determinada situação. É um dos elementos básicos da inteligência humana.
Uma máquina não o consegue fazer sozinha. Para a IA, reconhecer a sua própria ignorância tem de assentar em quadros teóricos e matemáticos. Por outras palavras, a sensação de já não ter certezas tem de ser escrita, literalmente, no desenho do algoritmo.
O coordenador do projeto, Fabio Cuzzolin, salienta que os algoritmos clássicos de aprendizagem automática se concentram em explicar um conjunto de treino relativamente pequeno, e não todos os dados que podem surgir na realidade. A consequência é fácil de prever. «Os modelos tradicionais de IA têm dificuldade em fazer previsões robustas quando as distribuições de probabilidade que geram os dados diferem das do momento do treino», explica o investigador.
Em termos simples, um modelo que só conhece bem uma fatia do mundo pode perder-se quando encontra algo fora dessa fatia. O consórcio E-pi concluiu que a teoria da incerteza de segunda ordem é a base mais promissora para uma solução. As apresentações do projeto foram recebidas com entusiasmo em conferências da especialidade, e Cuzzolin foi convidado a participar em várias propostas relacionadas do Horizonte Europa. O trabalho da equipa destina-se a ajudar a construir um ecossistema internacional de IA epistémica.
Qual é o melhor lugar para testar uma IA que deve lidar com o imprevisível? Os investigadores escolheram os veículos autónomos. Na estrada, uma situação pode de repente sair de qualquer padrão, seja pelo comportamento dos peões, por condições meteorológicas extremas ou por um traçado de estrada invulgar. Os erros dos sistemas atuais podem ser caros e, no pior dos casos, resultar em ferimentos mortais.
A equipa usou o conjunto de dados ROAD, dedicado ao reconhecimento de eventos rodoviários por veículos autónomos. Serviu tanto para treinar o modelo como para testar os novos detetores de objetos epistémicos. O ROAD continua a ser alargado e contém vídeos da Europa, da América do Norte, do Dubai e de Abu Dhabi, o que o tornou um recurso verdadeiramente global.
Carros sem condutor mais seguros são apenas um objetivo. Outros domínios também podem beneficiar da mesma lógica:
A fusão nuclear é um exemplo particularmente exigente. «Estamos a trabalhar no desenvolvimento de modelos de operadores neuronais conscientes da incerteza para prever como o plasma de fusão fluirá dentro de um tokamak e que zonas dos reatores serão mais afetadas por ele», diz Cuzzolin. Estes modelos destinam-se a prever o fluxo do plasma no interior de um tokamak, isto é, de um reator, e a indicar quais das suas zonas ficarão mais expostas. Também aqui a ideia é a mesma: um modelo não deve limitar-se a dar um resultado, mas também explicar com honestidade o grau de certeza que tem.
Outra direção diz respeito à IA generativa. «Os atuais grandes modelos de linguagem (LLM) de ponta são conhecidos por gerarem afirmações falsas», admite Cuzzolin. Na sua opinião, a saída pode passar por modelos construídos sobre um novo paradigma: «Os LLM epistémicos podem atenuar significativamente o excesso de confiança desses modelos.»
Os planos incluem ainda soluções relacionadas com a teoria da mente e sistemas que evoluem através da aprendizagem contínua. O denominador comum mantém-se: a inteligência artificial não deve apenas responder, mas também saber quando a sua resposta assenta em bases frágeis.
O projeto E-pi, cujo custo total foi de cerca de 3 milhões de euros, contribuiu para o desenvolvimento de veículos autónomos e robôs mais seguros e de uma inteligência artificial generativa que não alucina. Criou também uma rede dinâmica de especialistas em aprendizagem automática. Os seus autores defendem que a IA epistémica tem potencial para mudar o mundo e o nosso quotidiano. E tudo começa com uma capacidade muito humana: admitir que não sabes alguma coisa.
5 perguntas · um minuto
English
Čeština
Deutsch
Español
Français
Magyar
Italiano
Polski
Português
Русский
Slovenčina
Türkçe
Українська
العربية
中文