Năm 2016, các dự đoán chuyên gia điển hình đặt AI ngang người cách đây hàng thập kỷ. Đến giữa những năm 2020, các cuộc khảo sát lớn và lãnh đạo lab đã kéo những mốc thời gian đó về trước, đôi khi vào quãng đời làm việc của người đang đọc. Dòng thời gian vẫn chưa chắc chắn. Hướng của các điều chỉnh thì chắc chắn.
Các cuộc khảo sát dự đoán thực sự cho thấy điều gì
Dữ liệu có hệ thống nhất về mốc thời gian của AGI đến từ AI Impacts, tổ chức đã khảo sát các nhà nghiên cứu AI trong nhiều năm về thời điểm họ kỳ vọng thấy "trí tuệ máy tính ở mức con người" (tương đương AGI). Kết quả rất đáng chú ý.
Năm 2016, các nhà nghiên cứu được khảo sát đặt xác suất trung vị của HLMI vào khoảng 50% vào năm 2061. Đến năm 2022, trước khi GPT-4 được phát hành công khai, con số trung vị đó đã dịch chuyển sớm hơn đáng kể. Những nhà nghiên cứu đưa ra dự đoán này chính là những người đang xây dựng các hệ thống họ đang dự đoán, chứ không phải những kẻ báo động hay người làm truyền thông.
Mô hình trong dữ liệu không có ngày mục tiêu được đồng thuận, mà là một cửa sổ hội tụ với ít đồng thuận về năm chính xác. Mô hình là mỗi cuộc khảo sát mới (được hiệu chỉnh theo các phát triển năng lực thực tế) cho ra thời gian ngắn hơn lần trước.
Bốn năm. Từ văn bản còn lủng củng đến hiệu suất nằm trong top mười phần trăm chuyên gia con người trên các thước đo năng lực nghề nghiệp chuẩn hóa. Đây là bằng chứng thực nghiệm mà mọi dự đoán về timeline phải đối chiếu.
Những gì những người đang xây dựng AI đang nói
Các tuyên bố công khai của lãnh đạo phòng thí nghiệm AI biên giới không giống với giả định làm việc nội bộ của họ. Tuy nhiên chúng vẫn đáng chú ý, bởi các tuyên bố công khai của những người ở vị trí này thường thận trọng, bị ràng buộc bởi quan hệ nhà đầu tư, giám sát quy định và chuẩn mực nghề nghiệp là thận trọng với các tuyên bố phi thường.
"Chúng tôi hiện tự tin biết cách xây dựng AGI theo cách chúng tôi từng hiểu."
Sam Altman, CEO của OpenAI · Tháng 1 năm 2025
"Tôi nghĩ chúng ta có thể chỉ cách vài năm (có lẽ thậm chí sớm hơn) so với AI vượt trội trí tuệ con người trên mọi mặt."
Dario Amodei, CEO của Anthropic · Tiểu luận "Machines of Loving Grace" · Tháng 10/2024
Đây là những thông điệp công khai có cân nhắc của những người đang đưa ra quyết định phân bổ vốn dựa trên các dự báo nội bộ gần như chắc chắn ngắn hơn những gì họ công bố, chứ không phải là lời của những người coi AGI là viễn cảnh xa vời.
Khi một công ty chi hàng chục tỷ đô la cho hạ tầng AI dựa trên giả định nội bộ rằng AI mang tính chuyển đổi sắp xảy ra, mốc thời gian đó là có thật về mặt vận hành, bất kể đội PR nói gì về sự không chắc chắn.
Tại sao ngày tháng ít quan trọng hơn sự phân bố
Phản ứng tự nhiên trước các cuộc thảo luận mốc thời gian AGI là tập trung vào một ngày cụ thể: liệu có phải là 2027? 2030? 2040? Cách tiếp cận này dễ hiểu nhưng gây hiểu lầm. Câu hỏi quan trọng đối với quản trị không phải là "chính xác khi nào?" mà là "xác suất AGI xuất hiện trong khung thời gian lập kế hoạch của các thể chế hiện tại là bao nhiêu?"
Hãy xem xét việc xây dựng quản trị ASI đầy đủ thực sự đòi hỏi những gì:
- Các cuộc đàm phán hiệp ước quốc tế thường mất vài năm từ khi bắt đầu đến khi ký kết
- Việc phê chuẩn và thực thi các thỏa thuận quốc tế mất thêm nhiều năm
- Cơ sở hạ tầng kỹ thuật cho việc xác minh và giám sát phải được thiết kế, tài trợ và triển khai
- Luật pháp quốc gia ở các nước phát triển AI lớn phải được thông qua
- Các khuôn khổ quản trị compute đòi hỏi cơ chế tuân thủ ngành được xây dựng theo thời gian
Ngay cả với ý chí chính trị phi thường, một khung quản trị ASI quốc tế có ý nghĩa được xây dựng từ con số không cũng cần tối thiểu năm đến mười năm. Nếu xác suất AGI xuất hiện trong vòng một thập kỷ là không nhỏ (và bằng chứng cho thấy điều đó), thì quản trị bắt đầu sau khi AGI trở nên "rõ ràng sắp xảy ra" sẽ không kịp hoàn thành.
Đây đã là một vấn đề hiện tại. Cửa sổ quản trị không phải là vô hạn cũng không tĩnh. Nó đang thu hẹp.
Sự bất đối xứng khiến quyết định này dễ dàng
Có sự bất đối xứng trong hai loại sai lầm có thể xảy ra ở đây. Nếu chúng ta xây dựng các khuôn khổ quản trị ASI vững chắc và AGI hóa ra còn xa hơn dự kiến, chi phí là một số nỗ lực lãng phí, một số ma sát quy định cho phát triển AI, và một tập hợp các thể chế quốc tế sẵn sàng khi thời điểm đến. Nếu chúng ta chờ chắc chắn về mốc thời gian trước khi xây dựng quản trị, và AGI đến trước khi quản trị được đặt vào vị trí, chi phí có thể là không thể khắc phục.
Sự bất cân xứng này cũng từng thúc đẩy quản trị hạt nhân trước khi vũ khí lan rộng, bảo vệ ozone trước khi tầng ozone sụp đổ, và chuẩn bị đại dịch trước khi đợt bùng phát kế tiếp xảy ra. Trong mỗi trường hợp, các thể chế xây dựng trong điều kiện bất định đều chứng minh giá trị khi kịch bản dự báo trở thành hiện thực.
"Nhân loại có thành tích kém trong việc xây dựng các thể chế sau sự kiện mà đòi hỏi dự đoán để xây dựng trước sự kiện."
Yoshua Bengio, Turing Award Winner & Nobel Laureate · 2024
Lý lẽ hành động ngay bây giờ không phụ thuộc vào việc tin vào các mốc thời gian AGI hung hăng nhất. Nó chỉ phụ thuộc vào việc coi trọng toàn bộ phạm vi ước tính đáng tin cậy (bao gồm cả những ước tính ngắn hơn) và ứng phó với sự không chắc chắn đó bằng hành động quản trị phù hợp.
Điều gì đến sau AGI
AGI là ngưỡng quan ngại, không phải điểm kết thúc. Một hệ thống ở mức hiệu suất nhận thức ngang con người trên mọi lĩnh vực có khả năng cải thiện thiết kế của chính nó, tự nâng cấp đệ quy theo những cách có thể nén thời gian từ AGI đến siêu trí tuệ nhân tạo thành tháng, không phải thập kỷ.
Đây là kịch bản đã thúc đẩy những cảnh báo nghiêm túc nhất từ các nhà nghiên cứu gần gũi nhất với công nghệ. Không phải AGI bản thân nó, mà là động lực có thể xảy ra sau AGI, bao gồm khả năng chuyển từ một hệ thống có thể kiểm soát sang một hệ thống không thể kiểm soát nhanh hơn khả năng phản ứng của các thể chế con người.
Hàm ý cho quản trị là trực tiếp: các khuôn khổ phải có sẵn trước khi ngưỡng AGI bị vượt qua, chứ không phải sau đó. Thời điểm đàm phán là bây giờ, khi mọi bên vẫn đang hướng tới ngưỡng đó và chưa ai vượt qua. Ba đề xuất chính sách của Nakada Foundation được thiết kế chính xác cho cửa sổ này.
Sự phản đối mạnh mẽ nhất
Lập luận phản đối hợp lý nhất là các dự báo mốc thời gian đã từng sai, nên quản trị dựa trên chúng là hoảng loạn. Điều đó đúng với các dự đoán điểm. Sự kiện có thể mang theo là hướng của các lần sửa đổi và sự bất cân xứng của việc chậm trễ: thể chế cần nhiều năm; năng lực có thể nhảy vọt trong vài quý. Xây dựng khung khi ngưỡng vẫn còn ở phía trước.