Skip to content
AI

ทำไมฉันถึงตรวจสอบไม่ได้ว่าโมเดลถูกเทรนด้วยข้อมูลอะไรกันแน่?

79

โอกาส

โมเดลดูดซับอินเทอร์เน็ตทั้งหมด แล้วก็ตอบโดยไม่มีทางติดตามว่าการอ้างหรือพฤติกรรมนั้นมาจากไหน สำหรับสิ่งที่อยู่ภายใต้การกำกับดูแล หรือข้อพิพาทเรื่องลิขสิทธิ์และความลำเอียง ชุดข้อมูลการเทรนก็คือกล่องดำ ไม่มีวิธีปฏิบัติใดที่จะถามโมเดลว่ามันเรียนรู้มาจากอะไรแล้วได้คำตอบที่ซื่อสัตย์

ทำไมถึงสำคัญ

คุณไม่สามารถกำกับดูแลหรือไว้วางใจระบบที่ inputs ของมันมองไม่เห็นได้อย่างเต็มที่

วิธีที่ผมให้คะแนนโอกาส

คะแนนโอกาสเป็นมุมมองส่วนตัวของผม ไม่ใช่การวัดผล โดยดูว่ามันเจ็บปวดแค่ไหน บ่อยแค่ไหนที่มันกัดกิน และมีทางแก้อยู่น้อยเพียงใดในปัจจุบัน คะแนนสูงกว่าหมายความว่าผมคิดว่าคุ้มค่าแก่การสร้างมากกว่า

ความรุนแรง7/10

ความเจ็บปวดที่มันก่อขึ้นเมื่อปรากฏตัว

ความถี่6/10

ความถี่ที่คนจริงๆ เจอมัน

ช่องว่าง8/10

ความขาดแคลนของเครื่องมือที่ดีสำหรับมันในปัจจุบัน

ปัญหาอื่นที่น่าแก้ไข