Nos últimos meses, empresas de diversos setores abraçaram a inteligência artificial (IA), mas agora enfrentam um desafio crucial: corrigir as chamadas alucinações. Agora, uma startup que um brasileiro ajudou a criar acredita ter a solução.
“Durante o desenvolvimento de um sistema de IA, ele funciona perfeitamente em ambiente de teste. Mas, ao entrar em produção, surgem novos cenários, e a IA pode não estar preparada para isso e começa a perder desempenho”, explica o brasileiro André Quintanilha, ex-executivo da Accenture e cofundador e Chief Growth Officer da startup Palqee, em entrevista ao InfoMoney. “Se não houver uma solução de monitoramento, pode ser tarde demais para reagir”.
Alucinações ocorrem quando os sistemas de IA geram informações incorretas ou irreais, podendo levar a decisões erradas e riscos operacionais significativos. De olho nesse problema, a Palqee criou uma solução que promete identificar episódios e mitigar os problemas causados por eles.
Chamada de Prisma, ela avalia fatores como tom de entrada, clareza e mudanças no ambiente afetam os resultados, antecipando possíveis riscos e ajudando a elevar a confiança das IAs que dominaram o ambiente corporativo.
O produto nasceu em um contexto no qual empresas como Uber e Amazon enfrentam processos judiciais porque suas IAs não funcionaram conforme o esperado, levando companhias a buscarem identificar desvios antes que eles escalem.
Uma delas foi a KPMG. A empresa desenvolveu uma IA de uso interno que responde perguntas sobre documentos anexados. No entanto, respostas para perguntas como "Qual é o valor desta fatura?" e "Quanto custa esta fatura?" geravam respostas discrepantes, mesmo sendo tecnicamente corretas.
“Descobrimos que o sistema apresentava uma taxa de alucinação de 14%, e que a clareza das perguntas influencia em 6% as chances de alucinação”, conta Sabrina Palme, CEO e cofundadora da Palqee, ao InfoMoney. “Em questões legais, por exemplo, essa influência subiu para 40%”.
A KPMG utilizou essas informações para ajustar o sistema, reduzir a taxa de erro e orientar seus funcionários sobre como interagir com a ferramenta de forma mais eficiente.
Leia também: Traive aposta em “réplicas digitais” de especialistas para expandir além do agro
A ferramenta é projetada para ser usada em qualquer setor ou modelo de IA, desde sistemas baseados em aprendizado de máquina tradicional até os mais avançados modelos generativos. Segundo a startup, essa flexibilidade é fundamental para empresas que operam em mercados dinâmicos e regulados, como finanças, saúde e aviação.
“Como garantir que essas tecnologias realmente funcionem conforme o esperado?”, questiona Sabrina. “Parece que perdemos um pouco o controle após a implementação da IA no mercado, então o gerenciamento de riscos se tornou uma preocupação fundamental, especialmente em mercados regulados, onde é crucial garantir que os sistemas de IA sejam precisos, relevantes, não tendenciosos e livres de erros”.
A Palqee fez uma captação pré-seed há alguns anos e diz já ter alcançado o breakeven antes do lançamento da nova solução. A startup planeja uma nova rodada de financiamento no início de 2025.
SIte da InfoMoney