ทำไมคนที่ไม่ใช่ผู้เชี่ยวชาญถึงไม่สามารถตรวจสอบสิ่งที่ AI บอกพวกเขาได้
โอกาส
โมเดลตอบด้วยน้ำเสียงมั่นใจเหมือนกันไม่ว่าจะถูกหรือแต่งขึ้นมา สำหรับเรื่องที่สำคัญ ไม่ว่าจะเป็นการแพทย์ กฎหมาย หรือการเงิน ไม่มีวิธีง่ายๆ ที่น่าเชื่อถือสำหรับคนทั่วไปในการตรวจสอบข้อกล่าวอ้างกับแหล่งที่มาจริงโดยไม่ต้องเป็นผู้เชี่ยวชาญอยู่แล้ว
ทำไมถึงสำคัญ
การยืนยันที่เชื่อถือได้ ไม่ใช่โมเดลที่ใหญ่กว่า คือสิ่งที่ทำให้ AI ปลอดภัยพอจะไว้วางใจได้
วิธีที่ผมให้คะแนนโอกาส
คะแนนโอกาสเป็นมุมมองส่วนตัวของผม ไม่ใช่การวัดผล โดยดูว่ามันเจ็บปวดแค่ไหน บ่อยแค่ไหนที่มันกัดกิน และมีทางแก้อยู่น้อยเพียงใดในปัจจุบัน คะแนนสูงกว่าหมายความว่าผมคิดว่าคุ้มค่าแก่การสร้างมากกว่า
ความเจ็บปวดที่มันก่อขึ้นเมื่อปรากฏตัว
ความถี่ที่คนจริงๆ เจอมัน
ความขาดแคลนของเครื่องมือที่ดีสำหรับมันในปัจจุบัน
ปัญหาอื่นที่น่าแก้ไข
ทำไมแอป AI ทุกตัวถึงลืมฉันทันทีที่ฉันปิดแท็บ
AIทำไมการเรียนรู้สาขาใหม่ยังต้องผ่านด่านของการรู้ว่าจะถามอะไร
AIทำไมเราถึงทดสอบโมเดลด้วย benchmark แต่ส่งมันออกไปบนความรู้สึก?
AIทำไม AI agent ถึงไม่มีความทรงจำเกี่ยวกับความผิดพลาดของตัวเอง?
AIทำไมฉันถึงตรวจสอบไม่ได้ว่าโมเดลถูกเทรนด้วยข้อมูลอะไรกันแน่?
AIทำไมเพื่อนบ้านบน inference cluster ของฉันถึงสามารถสร้างคำถามที่ฉันถามโมเดลขึ้นมาใหม่ได้?