AI đang mở rộng nhanh đến mức nào?
Động lực lớn nhất thúc đẩy tiến bộ AI là quy mô thô, lượng tính toán dùng để huấn luyện mỗi mô hình mới. Vẽ trên thang log, mức tăng trưởng này đáng kinh ngạc và không ngừng. Khám phá các mô hình đánh dấu đường cong, và xem biên giới đang di chuyển nhanh đến mức nào.
Compute không phải là toàn bộ câu chuyện (thuật toán và dữ liệu cũng quan trọng) nhưng nó vẫn là yếu tố dự báo đáng tin cậy nhất cho các năng lực mới. Khi đầu vào của một hệ thống tăng gấp trăm triệu lần chỉ trong hơn một thập kỷ, và không ai hiểu rõ trăm lần tiếp theo sẽ mở ra điều gì, thì “chúng ta sẽ lo an toàn dần dần” trở thành một canh bạc lớn.
Xu hướng này cũng định hình lại cuộc đua: các mô hình hiệu quả như DeepSeek-V3 của Trung Quốc đạt hiệu suất gần biên giới với một phần nhỏ compute được báo cáo, nhắc nhở rằng năng lực đang trở nên rẻ hơn, không chỉ lớn hơn.
Các con số compute huấn luyện là ước tính, chủ yếu từ Epoch AI cơ sở dữ liệu các mô hình đáng chú ý, được biểu diễn bằng phép tính dấu phẩy động (FLOP). Các phòng thí nghiệm hiếm khi tiết lộ con số chính xác, vì vậy các giá trị biên giới gần đây chỉ mang tính gần đúng và được trình bày để minh họa. Phát hiện vẫn giữ nguyên là xu hướng, không phải bất kỳ điểm đơn lẻ nào.
Thời gian nhân đôi được hiển thị được tính từ các mô hình được vẽ, vậy nó phản ánh mẫu được chọn lọc này thay vì toàn bộ lĩnh vực.