Pourquoi un non-expert ne peut-il pas vérifier ce qu'une IA vient de lui dire ?

Opportunité

Les modèles répondent avec le même ton assuré qu'ils aient raison ou qu'ils inventent. Pour tout ce qui compte, médical, juridique ou financier, il n'existe aucun moyen simple et fiable pour un non-expert de vérifier une affirmation auprès d'une source réelle sans être déjà spécialiste.

Pourquoi c'est important

Une vérification digne de confiance, et non un modèle plus grand, voilà ce qui rend l'IA sûre à utiliser.

Comment j'évalue l'opportunité

Le Score d'Opportunité est mon évaluation personnelle, pas une mesure : l'intensité de la douleur, sa fréquence et le peu de solutions qui existent aujourd'hui. Plus il est élevé, plus je pense que le problème vaut la peine d'être résolu.

Gravité8/10

L'intensité de la douleur qu'il provoque lorsqu'il se manifeste.

Fréquence8/10

La fréquence à laquelle les gens y sont réellement confrontés.

Espace libre7/10

Le peu de bons outils qui existent pour y remédier aujourd'hui.

D'autres problèmes qui méritent d'être résolus

Pourquoi chaque application IA m'oublie-t-elle dès que je ferme l'onglet ?

Pourquoi apprendre un nouveau domaine est-il encore conditionné par le fait de savoir quoi demander ?

Pourquoi teste-t-on les modèles sur des benchmarks mais les déploie-t-on à l'instinct ?

Pourquoi les agents IA n'ont-ils aucun souvenir de leurs propres erreurs ?

Pourquoi ne puis-je pas vérifier sur quoi un modèle a réellement été entraîné ?

Pourquoi les données d'entraînement ne comportent-elles aucun enregistrement lisible par machine indiquant si quelqu'un a consenti ?

← Tous les problèmes qui méritent d'être résolus À propos d'Anurag →