O que são alucinações de IA, porque é que acontecem e como as pode detetar?

Com que frequência verifica a informação gerada pela IA? Para muitos de nós, a resposta é provavelmente "não muitas vezes". A IA tornou-se rapidamente algo em que confiamos por defeito. Como é treinada com grandes quantidades de dados, muitas pessoas assumem que as suas respostas são sempre exactas.

Mas este pressuposto nem sempre é verdadeiro.

Embora a IA seja útil para a aprendizagem, pode produzir informações inexactas, enganosas ou mesmo fabricadas. E estes erros são muitas vezes tão convincentes que podemos não os detetar à primeira vista. À medida que a IA se integra cada vez mais na vida quotidiana, compreender as suas limitações é tão importante como compreender os seus benefícios.

Continue a ler para compreender as alucinações provocadas pela IA, porque acontecem, como detectá-las e como reduzir o seu impacto.

O que são alucinações de IA?

As alucinações de IA ocorrem quando um sistema de inteligência artificial gera informações falsas ou enganosas, mas apresenta-as com confiança. Não se trata de simples gralhas ou pequenos erros de cálculo, mas sim de factos, números ou afirmações que não têm qualquer base na realidade.

Por exemplo, a IA pode descrever um acontecimento histórico que nunca aconteceu de facto. Pode também acrescentar datas, estatísticas e fontes falsas para tornar a resposta mais convincente. É por isso que estudantes e mesmo profissionais podem por vezes ser induzidos em erro se não verificarem a informação.

Porque é que o termo "alucinação" é usado?

Porquê utilizar o termo "alucinação" em vez de dizer simplesmente que a IA cometeu um erro?

Isto porque cometer um pequeno erro é uma coisa, mas gerar informação totalmente fabricada é outra. O termo "alucinação" é utilizado para realçar essa diferença. Refere-se a casos em que a IA produz informação que parece real mas não se baseia em dados reais.

Tal como uma alucinação pode fazer com que uma pessoa se aperceba de algo que na realidade não existe, a IA pode gerar respostas que parecem exactas mas estão incorrectas. A principal diferença é que a IA não está consciente deste erro; está simplesmente a gerar padrões com base nos seus dados de treino.

Como é que são as alucinações da IA?

As alucinações da IA podem aparecer como citações inventadas, inexactidões factuais, informações falsas sobre pessoas, estatísticas inventadas ou mesmo código inexistente em resultados de programação. Estas são algumas das formas mais comuns em que as alucinações de IA podem aparecer.

No entanto, os exemplos acima referidos são apenas algumas das formas mais comuns em que as alucinações provocadas pela IA podem aparecer. As alucinações de IA também podem ocorrer em muitas outras áreas, dependendo do tipo de pergunta que está a ser feita. A tabela seguinte explica os tipos de alucinações mais comuns, bem como os seus significados e exemplos.

As alucinações da IA e os resultados defeituosos são a mesma coisa?

Não, as alucinações da IA e os resultados incorrectos não são a mesma coisa. Embora ambos envolvam informações incorrectas, a natureza dos erros é diferente.

Os resultados com falhas aparecem normalmente como erros gramaticais, ortográficos ou de formatação. As alucinações de IA, por outro lado, ocorrem quando o sistema gera informações totalmente inventadas, mas mesmo assim apresenta-as como corretas.

Eis um exemplo para compreender melhor a diferença.

Se olharmos atentamente para estes três exemplos, as diferenças tornam-se claras. A versão com falhas ainda se refere ao mesmo estudo, mas contém erros de formatação e de citação. Entretanto, a versão alucinada introduz um estudo completamente diferente e inexistente, mas continua a parecer academicamente válida.

Porque é que ocorrem as alucinações da IA?

As alucinações da IA não são falhas aleatórias. São um resultado natural da forma como os modelos linguísticos são concebidos e treinados. Uma vez que os sistemas de IA geram respostas com base em padrões e não na verdade verificada, certas condições podem aumentar a probabilidade de resultados incorrectos.

Vamos analisar mais pormenorizadamente estas razões fundamentais:

1. Os modelos de IA são construídos com base na previsibilidade e não em factos

Todos os modelos de IA são treinados em grandes conjuntos de dados. Consequentemente, aprende padrões, relações e estruturas linguísticas a partir da informação a que foi exposto. Quando um utilizador faz uma pergunta, o modelo gera uma resposta com base nestes padrões, em vez de verificar se a informação é factualmente correta.

Uma boa maneira de compreender isto é imaginar um aluno do 2º ano a quem é pedido que escreva sobre um acontecimento histórico que não conhece. Em vez de admitir a incerteza, o aluno tenta preencher as lacunas com as informações de que se lembra. O ensaio resultante pode ser bem escrito e confiante, mas alguns dos factos, datas ou acontecimentos podem ser completamente inexactos.

Os modelos de IA comportam-se de forma semelhante. Quando não dispõem de informação fiável, podem gerar detalhes que se enquadrem no padrão da conversa, mesmo que esses detalhes sejam incorrectos. É por este motivo que as respostas geradas pela IA devem ser sempre verificadas, especialmente em contextos educativos e de investigação.

2. Os modelos podem aprender com informações inexactas ou desactualizadas

Os sistemas de IA aprendem com enormes colecções de conteúdos em linha, incluindo sítios Web, artigos, fóruns, livros e outras informações publicamente disponíveis. Como resultado, o modelo pode, por vezes, absorver informações incorrectas, factos desactualizados ou pontos de vista contraditórios.

Quando lhe é feita uma pergunta, a IA pode alucinar factos sem se aperceber de que estão errados, porque não tem uma compreensão integrada do que é verdadeiro ou falso. Por exemplo, uma IA pode fornecer uma estatística desactualizada ou atribuir erradamente uma citação que foi originalmente publicada num sítio Web não fiável.

3. A plataforma de IA pode perder o rasto das instruções

A IA nem sempre se lembra com exatidão das instruções anteriores em conversas longas. À medida que a conversa se prolonga, pode concentrar-se mais nas mensagens recentes do que nas antigas. Por este motivo, pode começar a alterar o tom, o formato ou até cometer erros nas respostas.

Por exemplo, se um utilizador definir diretrizes rigorosas no início de uma longa conversa, o modelo pode afastar-se gradualmente das mesmas. Isto pode criar uma situação em que a resposta pode parecer confiante, mas já não está totalmente alinhada com as instruções originais.

4. Por vezes, os avisos podem ser confusos

Por vezes, as alucinações ocorrem não devido à IA em si, mas devido a indicações pouco claras.

Os sistemas de IA dependem muito da clareza e da estrutura dos dados introduzidos pelo utilizador. Quando uma mensagem é demasiado ampla ou pouco clara, o modelo tem de fazer suposições para gerar uma resposta. Estas suposições podem facilmente levar a alucinações.

Por exemplo, perguntar "Fale-me sobre essa teoria" sem contexto obriga o modelo a adivinhar qual a teoria que está a ser referenciada. A ferramenta de IA pode explicar a teoria errada, mas continuará a responder com confiança.

Do mesmo modo, a combinação de várias perguntas não relacionadas numa única pergunta pode confundir o modelo. Pode misturar informações de diferentes tópicos, o que reduz a exatidão. As perguntas claras e específicas reduzem significativamente este risco.

Como se pode detetar alucinações de IA?

Quer esteja a utilizar a IA para aprendizagem, investigação ou conhecimento geral, detetar alucinações é uma competência essencial. Ajuda-o a separar informação fiável de conteúdo fabricado. Seguem-se formas práticas de as identificar.

1. Procurar fontes em falta

Um dos maiores sinais de conteúdo alucinado é o facto de frequentemente carecer de citações ou fornecer referências vagas. As informações fiáveis são geralmente acompanhadas de referências claras e rastreáveis. Se a IA fornecer afirmações sem quaisquer fontes, deve ser tratada com cautela.

2. Verificar se as fontes podem ser verificadas

Mesmo que a IA apoie as suas afirmações com fontes, deve verificá-las de forma independente. As alucinações também podem aparecer como citações falsas, inexactas ou mal atribuídas. Em alguns casos, a fonte pode parecer legítima, mas pode não existir de facto. Uma pesquisa rápida pode ajudar a confirmar se a fonte é real e se apoia a afirmação que está a ser feita.

3. Atenção às respostas confiantes mas erradas

Os modelos de IA são concebidos para gerar a continuação mais provável do texto, mesmo quando não têm informações suficientes sobre um tópico. Consequentemente, a resposta pode parecer autorizada, apesar de conter erros factuais.

Se uma resposta parecer invulgarmente certa, reserve um momento para verificar a informação. Lembre-se que a confiança pode fazer com que uma resposta pareça credível, mas não garante a exatidão.

4. Compare com seus livros didáticos ou fontes confiáveis

Quando receber uma resposta da IA, compare-a com fontes fidedignas, como livros didácticos, revistas académicas, sítios Web oficiais ou recursos educativos de renome. Esta é uma das formas mais eficazes de identificar alucinações e garantir a exatidão.

5. Detetar detalhes que não correspondem ao que você já sabe

Tente aplicar os seus próprios conhecimentos prévios ao avaliar as respostas de IA. Se determinados pormenores parecerem inconsistentes com o que já sabe das aulas, dos manuais escolares ou de fontes fiáveis, podem necessitar de uma verificação adicional.

6. Pedir à IA para explicar a sua resposta

Nunca tome a primeira resposta de uma IA como a verdade final. Em vez disso, peça-lhe para explicar ou desenvolver mais a sua resposta. Se a explicação for inconsistente ou não for apoiada por provas reais, pode indicar alucinação. Nalguns casos, a IA pode até contradizer as suas próprias afirmações anteriores.

7. Use um detetor de alucinação de IA confiável

Também pode utilizar um detetor de alucinações de IA fiável para identificar informações potencialmente imprecisas ou fabricadas. Estas ferramentas analisam o conteúdo gerado pela IA e destacam as afirmações que podem exigir uma verificação adicional.

Melhores práticas para reduzir as alucinações da IA

A IA é uma ferramenta poderosa, mas não é perfeita. Uma vez que a IA gera respostas com base em padrões, as alucinações não podem ser completamente eliminadas. No entanto, várias estratégias práticas podem reduzir significativamente as hipóteses de receber informações incorrectas.

1. Dar instruções claras e específicas

Evite utilizar avisos demasiado abrangentes. Instruções pouco claras obrigam a IA a fazer suposições, o que aumenta o risco de alucinações. Defina claramente o que pretende, inclua o contexto relevante e especifique o formato ou o objetivo da resposta, se necessário. Quanto mais preciso for o seu pedido, mais exacta e relevante será a resposta.

Por exemplo, em vez de perguntar "Explique a fotossíntese", pode perguntar "Explique a fotossíntese em termos simples para alunos do ensino secundário e inclua um breve exemplo".

2. Pedir fontes ou referências

Peça à IA que forneça fontes ou citações para as afirmações que faz. Por exemplo, pode pedir diretamente: "Dê-me uma fonte para esta afirmação que fez". Quando receber as fontes, analise-as sempre de forma independente. Verifique se elas existem de facto e se apoiam verdadeiramente as informações fornecidas.

Se não for possível encontrar uma fonte ou se esta não corresponder à alegação, trate a resposta com cautela e peça novamente esclarecimentos à IA. Depois de receber uma citação da IA, considere a possibilidade de a verificar com uma ferramenta máquina de citações para verificar se a formatação está correta e se corresponde a uma publicação real.

3. Divida a sua pergunta em partes mais pequenas

Como já foi referido, a janela de contexto de uma IA é limitada, o que significa que pode ter dificuldades com pedidos muito grandes ou complexos. Quando são reunidas demasiadas ideias numa única pergunta, o modelo pode perder pormenores ou misturar informações não relacionadas.

Para melhorar a precisão, divida a sua pergunta em partes mais pequenas e específicas. Isto permite que a IA processe cada ideia de forma mais clara e reduz a possibilidade de confusão ou alucinações. Por exemplo, ao pedir-lhe para explicar um tópico de tese, pode dividi-lo em secções como resumo, objectivos e metodologia.

4. Verificar duas vezes as respostas importantes

A IA não compreende inerentemente a verdade ou a exatidão da mesma forma que os humanos. Por este motivo, reveja sempre qualquer informação importante que receba da IA. Isto é especialmente crucial quando se utiliza a IA para fins educativos ou quando se pesquisam tópicos académicos. Nesse caso, nunca se deve confiar cegamente nas respostas geradas pela IA.

Benefícios dos detectores de alucinações com IA para os educadores

Os detectores de alucinações de IA podem ser uma ferramenta de apoio valiosa para os educadores, à medida que a IA se torna uma parte importante dos ambientes modernos de ensino e aprendizagem. Pode ajudar em:

• Identificar informação incorrecta gerada por IA: Ajudam os educadores a detetar rapidamente afirmações falsas, enganosas ou fabricadas nos trabalhos dos alunos assistidos por IA. Isto garante que o conteúdo académico permanece exato e fiável.

• Poupar tempo na verificação do trabalho dos alunos: Em vez de verificar manualmente todos os pormenores, os educadores podem utilizar estas ferramentas para assinalar informações potencialmente inadequadas para revisão, de modo a simplificar o processo de avaliação.

• Apoiar avaliações justas e fiáveis: Ao destacar conteúdos incorrectos gerados por IA, uma ferramenta Detetor de IA facilita a manutenção da equidade e da consistência na classificação.

• Ajudar a ensinar a utilização responsável da IA: Quando os alunos sabem que os seus trabalhos serão verificados quanto a incorrecções geradas pela IA, tornam-se mais cuidadosos na forma como utilizam as ferramentas de IA. Isto incentiva-os a utilizar a IA de forma responsável e não como um atalho para completar os trabalhos de casa.

Considerações finais

Embora a IA possa melhorar significativamente a produtividade e a aprendizagem, nunca deve substituir o pensamento crítico. A principal conclusão é simples: A IA é uma ferramenta de apoio, não uma autoridade. Quando os utilizadores aprendem a questionar, avaliar e aperfeiçoar o conteúdo gerado pela IA, podem beneficiar dos seus pontos fortes e evitar os seus pontos fracos.

Esta abordagem equilibrada garante que a IA continua a ser útil, segura e academicamente responsável.

FAQs

1. O ChatGPT tem alucinações?

Sim, o ChatGPT pode ter alucinações porque é um modelo de linguagem baseado em probabilidades e não um motor de busca de factos. Gera respostas prevendo a sequência de palavras mais provável com base em padrões e não verificando as informações numa base de dados de factos.

2. As alucinações de IA também podem acontecer em perguntas simples?

Sim, as alucinações da IA podem ocorrer mesmo em perguntas simples se o modelo não tiver exemplos de treino precisos ou fiáveis. Nesses casos, pode ainda assim gerar uma resposta segura com base na previsão de padrões.

3. Que sujeitos são mais afectados pelas alucinações de IA?

Os domínios que exigem precisão, como a medicina, o direito, a história e a investigação científica, são mais susceptíveis de enfrentar riscos de alucinação. Isto deve-se ao facto de estas disciplinas dependerem muito de dados exactos e de fontes verificadas, onde mesmo pequenos erros podem levar a conclusões enganadoras.