Tại sao điểm số bảng xếp hạng mô hình sụp đổ khi tập kiểm tra chưa từng xuất hiện trong quá trình huấn luyện?

Cơ hội

Các benchmark tĩnh như MMLU có tỷ lệ ô nhiễm lên đến 45%, và các phiên bản diễn giải lại hoặc dịch của các câu hỏi kiểm tra vẫn vượt qua quá trình khử ô nhiễm khớp chính xác trong khi vẫn thổi phồng điểm số được công bố. Một mô hình có thể dẫn đầu bảng xếp hạng trên một nhiệm vụ bị ô nhiễm và thất bại với cùng nhiệm vụ đó khi được diễn đạt lại một cách sạch sẽ. Các benchmark động làm mới nhiệm vụ định kỳ tồn tại nhưng thiếu tiêu chí thiết kế được chuẩn hóa, vì vậy kết quả không thể so sánh giữa chúng hoặc được xác minh là đại diện cho kỹ năng mà chúng tuyên bố đo lường. Mọi tuyên bố về năng lực và an toàn được công bố trên bảng xếp hạng đều dựa trên các con số mà không có bên độc lập nào có thể xác nhận là sạch.

Tại sao quan trọng

Đánh giá đáng tin cậy là điều kiện tiên quyết cho mọi quyết định an toàn và triển khai tiếp theo, và các con số mà những quyết định đó dựa vào hiện không đáng tin cậy.

Cách tôi đánh giá cơ hội

Điểm Cơ Hội là đánh giá riêng của tôi, không phải một phép đo chính xác: mức độ gây khó chịu, tần suất xuất hiện và sự khan hiếm của giải pháp hiện có. Điểm càng cao, tôi càng cho rằng vấn đề đó càng đáng để xây dựng.

Mức độ nghiêm trọng8/10

Mức độ phiền toái nó gây ra khi xuất hiện.

Tần suất8/10

Tần suất mọi người thực sự gặp phải nó.

Khoảng trắng8/10

Có rất ít công cụ tốt để xử lý nó hiện nay.

Thêm các vấn đề đáng giải quyết

Tại sao mọi ứng dụng AI đều quên tôi ngay khi tôi đóng tab?

Tại sao việc học một lĩnh vực mới vẫn bị chặn bởi việc phải biết hỏi gì?

Tại sao người không chuyên không thể xác minh điều một AI vừa nói với họ?

Tại sao chúng ta kiểm tra mô hình trên các bảng xếp hạng nhưng lại triển khai chúng dựa trên cảm tính?

Tại sao các AI agent không có trí nhớ về lỗi lầm của chính mình?

Tại sao tôi không thể kiểm tra dữ liệu mà một mô hình thực sự được huấn luyện trên đó?

← Tất cả các vấn đề đáng giải quyết Về Anurag →