Por que uma pessoa sem especialização não consegue verificar o que uma IA acabou de dizer?
Oportunidade
Os modelos respondem com o mesmo tom confiante, estejam certos ou inventando. Para qualquer coisa que importe, seja médica, jurídica ou financeira, não existe uma forma simples e confiável para uma pessoa comum verificar uma afirmação em uma fonte real sem já ser especialista.
Por que importa
Verificação em que você pode confiar, e não um modelo maior, é o que torna a IA segura para ser usada.
Como avalio a oportunidade
A Pontuação de Oportunidade é minha própria leitura, não uma medição: o quanto dói, com que frequência aparece e o quanto pouco existe para resolvê-lo hoje. Quanto maior, mais vale a pena construir, na minha opinião.
O quanto de dor causa quando aparece.
Com que frequência as pessoas realmente se deparam com isso.
O quanto pouco de boas ferramentas existe para isso hoje.
Mais problemas que merecem ser resolvidos
Por que todo aplicativo de IA me esquece no momento em que fecho a aba?
AIPor que aprender uma nova área ainda depende de saber o que perguntar?
AIPor que testamos modelos em benchmarks mas os lançamos em produção no achismo?
AIPor que agentes de IA não têm memória dos próprios erros?
AIPor que não consigo auditar em que um modelo foi realmente treinado?
AIPor que os dados de treinamento não carregam nenhum registro legível por máquina sobre se alguém consentiu?