A confiança é algo curioso. Na infância, eu não acreditava ser bom o suficiente na escola ou nos esportes. No entanto, eu era ótimo em trivia de cultura pop.

Ao me tornar o Designer Grumpy, minha autoestima cresceu. Descobri meu talento para design, desenvolvimento e escrita, e o reconhecimento dos outros me fez sentir capaz. Mas ainda me sinto intimidado por pessoas muito confiantes.

Hoje, posso sentir essa mesma insegurança ao usar um aplicativo de inteligência artificial (IA). A confiança com que a IA responde é algo que nós, mortais, só podemos sonhar.

Respostas confiantes nem sempre são precisas

Um modelo de IA bem afinado pode dizer qualquer coisa com convicção. Isso é problemático, pois algumas pessoas acreditam nas respostas sem questioná-las. Ao pedir conselhos de codificação à IA, ela gera código e explicações rapidamente, mas nem sempre são confiáveis.

A verificação das saídas da IA pode não funcionar de primeira, gerando problemas novos. O tom confiante das respostas pode dar uma falsa sensação de segurança.

O impacto já é sentido. Futuras gerações, acostumadas com essa tecnologia, podem não desenvolver pensamento crítico.

A IA pode diminuir o tom?

Empresas de IA precisam demonstrar competência em suas respostas. Um tom confiante ajuda a estabelecer confiança com os usuários. No entanto, a solução pode estar em citar referências melhor, alertar sobre riscos e fazer perguntas adicionais para fornecer respostas mais precisas.

AI deveria seguir os mesmos padrões que humanos, promovendo um diálogo mais crítico e confiável.

A IA não precisa ser tão presunçosa

Respostas da IA vêm com confiança robusta, o que preocupa considerando a adoção rápida dessas ferramentas. Usuários que seguem conselhos da IA cegamente podem se decepcionar.

A confiança é essencial para o crescimento das IA. Talvez a solução seja trocar um pouco de conveniência por um processo mais confiável, aprendendo com os humanos.