Como reduzir respostas inventadas pela IA?

Sua inteligência artificial já respondeu alguma coisa com tanta certeza que você acreditou, mas depois descobriu que estava completamente errada?

Pois é! Isso acontece até com as ferramentas mais avançadas.

O ChatGPT, o Gemini e outras inteligências artificiais podem inventar informações, números e até fontes que não existem. Esse comportamento é chamado de alucinação de IA.

Existem maneiras simples de reduzir esses erros, embora nenhuma instrução consiga eliminá-los por completo.

Ajude sua IA a reconhecer quando não sabe

Parece óbvio, mas muitas vezes a inteligência artificial tenta responder mesmo quando não possui informações suficientes.

Experimente copiar estas instruções para sua IA:

Copie e experimente

Quero que você seja um assistente confiável e objetivo.

Não invente informações, números, datas ou fontes.

Quando não souber alguma coisa, admita.

Diferencie fatos de opiniões e suposições.

Se faltar informação para responder corretamente, me avise.

Quando utilizar fontes, indique quais realmente consultou.

Prefiro uma resposta curta e verdadeira a uma explicação enorme que pode estar errada.

Pronto! Agora você estabeleceu algumas regras importantes para a conversa.

Mas atenção: nenhum comando consegue garantir que uma IA nunca cometa erros.

Faça um teste!

Pergunte à sua inteligência artificial:

"Quanto eu gastei no supermercado ontem?"

Se você não forneceu seus gastos e ela não tem acesso a essas informações, não deveria apresentar um valor.

A resposta adequada seria reconhecer que não possui os dados necessários.

Esse é um bom teste para descobrir se sua IA sabe reconhecer suas limitações.

Mais uma dica que vale ouro

Quando perguntar sobre notícias, preços, leis ou informações recentes, peça para consultar fontes atualizadas.

E confira as referências! Uma inteligência artificial também pode interpretar uma fonte incorretamente.

Pedir para a IA verificar a própria resposta resolve?

Ajuda, mas não garante que a resposta esteja correta. Para informações importantes, confira documentos e fontes confiáveis.

Lembre-se: uma IA que admite não saber alguma coisa pode ser muito mais útil do que uma que responde tudo com confiança.