Siêu trí tuệ nhân tạo là gì?
Hướng dẫn Ngôn ngữ Đơn giản

Mọi người đều đã nghe thuật ngữ này. Ít người biết nó thực sự nghĩa là gì. "Siêu trí tuệ nhân tạo" xuất hiện trong lời khai trước Thượng viện, hồ sơ doanh nghiệp và các bài báo học thuật, đôi khi như một cảnh báo, đôi khi như một lời hứa, và thường không có định nghĩa. Hướng dẫn này giải thích rõ ràng, không giả định kiến thức trước, và giải thích tại sao khái niệm này quan trọng đến vậy đối với chính sách và quản trị.

Phổ AI: từ hẹp đến siêu

Để hiểu trí tuệ siêu nhân tạo, cần hiểu rõ nó không phải là gì. Trí tuệ nhân tạo hiện nay chỉ mang tính hẹp. Đó là một mô tả, không phải lời phê phán.

Các hệ thống AI ngày nay cực kỳ mạnh trong các lĩnh vực xác định. Động cơ cờ vua đánh bại nhà vô địch thế giới với khoảng cách lớn. AI gấp protein đã nén hàng thập kỷ nghiên cứu sinh học vào vài tháng. Mô hình ngôn ngữ có thể viết code, tóm tắt tài liệu pháp lý và tạo văn xuôi thuyết phục với tốc độ không ai sánh kịp. AI hình ảnh y tế phát hiện ung thư mà các bác sĩ X-quang bỏ sót.

Đây là những thành tựu thực sự. Chúng cũng có một trần cố hữu. Các hệ thống AI ngày nay hoạt động trong giới hạn mà chúng được thiết kế và huấn luyện. Một động cơ cờ vua không thể chơi cờ vây. Một mô hình ngôn ngữ không thể tự thực hiện hành động trong thế giới thực. Một AI phân tích hình ảnh y tế không thể giải thích những gì nó đang làm hay thích nghi khi gặp điều mới lạ. Các hệ thống AI ngày nay là công cụ mạnh mẽ. Nhưng chúng không phải là tác nhân.

AGI là gì?

Trí tuệ Nhân tạo Tổng quát (AGI) đề cập đến ngưỡng tiếp theo: AI đạt mức hiệu suất nhận thức ngang con người trên mọi lĩnh vực, không chỉ ở các tác vụ cụ thể. Một AGI có thể chuyển giao năng lực giữa các lĩnh vực giống như con người, sử dụng lý luận đã phát triển cho một vấn đề để tiếp cận một vấn đề hoàn toàn khác. Nó sẽ không bị giới hạn trong phân phối huấn luyện của mình. Nó có thể học kỹ năng mới, xử lý tình huống mới lạ, và suy luận theo cách mà nhà thiết kế không lường trước được.

AGI chưa tồn tại. Điều khiến nó khác với AI ngày nay không phải năng lực thô trong một lĩnh vực hẹp (AI ngày nay đã vượt trội con người ở nhiều lĩnh vực hẹp) mà là tính tổng quát. Khả năng mang trí tuệ tổng quát áp dụng cho bất kỳ vấn đề nhận thức nào, giống như một kỹ sư con người có thể trở thành quản lý dự án, có thể trở thành nhà văn, có thể trở thành phụ huynh đưa ra quyết định y tế cho con.

ASI là gì?

Siêu Trí Tuệ Nhân Tạo (ASI) goes further. It describes AI that does not merely match human cognitive performance across all domains but exceeds it, potentially by orders of magnitude, and across the full range of intellectual activity.

Từ "vượt" cần được hiểu cẩn thận. Chúng ta không mô tả một hệ thống tốt hơn con người mười phần trăm ở những nhiệm vụ con người làm giỏi. Chúng ta đang mô tả các hệ thống có khả năng nhận thức có thể vượt qua suy luận tập thể của toàn nhân loại cộng lại, ở bất kỳ lĩnh vực nào, đồng thời. Một hệ thống có thể phát triển lý thuyết khoa học nhanh hơn bất kỳ đội nghiên cứu nào, thiết kế kế hoạch chiến lược hiệu quả hơn bất kỳ chính phủ nào, và thích nghi với tình huống mới nhanh hơn bất kỳ tổ chức con người nào.

Các đặc điểm định nghĩa của ASI là:

• Hiệu suất siêu phàm trên mọi lĩnh vực nhận thức. Trong khoa học, chiến lược, sáng tạo, lý luận xã hội, kỹ thuật, cờ vua, gấp protein và mọi hình thức hoạt động trí tuệ khác.
• Tính định hướng mục tiêu. Khả năng theo đuổi các mục tiêu (bao gồm cả các mục tiêu có thể tự chọn), không chỉ thực thi chỉ dẫn.
• Khả năng cải tiến bản thân đệ quy. Khả năng cải thiện kiến trúc nhận thức của chính nó, khiến mỗi phiên bản tiếp theo có năng lực hơn phiên bản trước.
• Vận hành ở tốc độ và quy mô máy móc. Xử lý thông tin và thực hiện hành động ở tốc độ và quy mô khiến giám sát con người có ý nghĩa trở nên cực kỳ khó khăn.

Tại sao ASI khác biệt về loại hình, không phải mức độ

Sự phân biệt quan trọng nhất trong an toàn AI là giữa công cụ và tác nhân, chứ không phải giữa AI yếu và AI mạnh.

Mọi công nghệ chuyển đổi trong lịch sử loài người (động cơ hơi nước, điện, internet, phân hạch hạt nhân) đều là công cụ. Chúng khuếch đại năng lực con người. Chúng mở rộng những gì con người có thể làm. Nhưng chúng không thể tự đặt mục tiêu. Một động cơ hơi nước không thể quyết định cung cấp điện cho một nhà máy xay thay vì một nhà máy. Một loại kháng sinh không thể chọn vi khuẩn nào để tiêu diệt. Internet không thể quyết định nội dung nó phân phối.

ASI sẽ là một tác nhân. Không theo nghĩa ẩn dụ khi ta mô tả công ty hay thị trường là tác nhân, mà theo nghĩa đen: một hệ thống có khả năng xác định mục tiêu, phát triển chiến lược để đạt mục tiêu, điều chỉnh chiến lược khi gặp trở ngại, và làm tất cả với tốc độ và quy mô vượt quá khả năng giám sát của con người.

Điều này thay đổi hoàn toàn thách thức quản trị. Phản ứng quy định phù hợp với một công cụ mạnh mẽ là kiểm soát ai có thể truy cập và cách sử dụng nó. Phản ứng phù hợp với một tác nhân mạnh mẽ có mục tiêu có thể lệch hướng là đảm bảo mục tiêu đó an toàn trước khi tác nhân đủ mạnh để theo đuổi hiệu quả. Vấn đề thứ hai khó hơn nhiều và đòi hỏi hành động sớm hơn nhiều.

Vấn đề alignment bắt đầu ở đây

Cụm từ "mục tiêu có khả năng lệch" là nơi tài liệu an toàn AI tập trung chú ý nhiều nhất. Nếu ASI sẽ theo đuổi mục tiêu, câu hỏi then chốt trở thành: mục tiêu của ai? Căn chỉnh với cái gì?

Đây không phải là một vấn đề kỹ thuật đơn giản. Việc chỉ định "có lợi cho nhân loại" theo cách đủ chính xác để quản trị hành vi của một trình tối ưu hóa có năng lực hóa ra cực kỳ khó khăn. Con người bất đồng về ý nghĩa của "có lợi". Giá trị của chúng ta không nhất quán và thay đổi theo thời gian. Và việc ánh xạ từ ý định con người cấp cao sang các tham số số cụ thể quản trị hành vi của hệ thống AI không phải là vấn đề đã giải quyết, và càng khó giải quyết hơn khi hệ thống trở nên có năng lực hơn.

Vấn đề alignment được khám phá sâu trong bài giải thích về vấn đề alignment. Với bài viết này, điều quan trọng là mối liên hệ: ASI không được liên kết đáng tin cậy với giá trị con người chính là một tác nhân theo đuổi mục tiêu riêng, với năng lực nhận thức đủ để vượt qua hầu hết nỗ lực ngăn chặn nó, chứ không chỉ là công cụ mạnh mẽ có thể bị lạm dụng.

Mô hình tiêu chuẩn của AI, nơi bạn xác định mục tiêu và AI tối ưu hóa cho nó, có lẽ sẽ là kết thúc của chúng ta.

Stuart Russell, Giáo sư Khoa học Máy tính, UC Berkeley · Tác giả, Human Compatible

Khi nào ASI có thể đến?

Câu trả lời trung thực: không ai biết chính xác, và bất kỳ ai tuyên bố chắc chắn theo hướng nào cũng đang vượt quá bằng chứng.

Những gì chúng ta biết chắc:

• Tốc độ cải thiện năng lực AI liên tục vượt xa dự đoán của chuyên gia trong thập kỷ qua. Các cột mốc dự kiến mất mười năm đã lặp lại chỉ trong hai hoặc ba năm.
• Các phòng thí nghiệm AI hàng đầu (OpenAI, Anthropic, Google DeepMind, Meta AI) hiện mô tả mốc thời gian cho AI ngang tầm con người bằng năm chứ không phải thập kỷ. Đây là giả định làm việc nội bộ của các tổ chức gần biên giới nhất, không phải suy đoán ngoài lề.
• Nhiều dự báo công khai từ các nhà nghiên cứu và phòng thí nghiệm hiện tập trung vào khoảng 2027 đến những năm 2030 cho AI đạt mức con người hoặc mang tính chuyển đổi, với sự bất đồng còn lại về tốc độ các bước khó cuối cùng diễn ra.
• Những cải tiến năng lực từng mất nhiều năm nay chỉ mất vài tháng. Khoảng cách từ GPT-2 (2019) đến các hệ thống vượt trội hầu hết con người ở hầu hết các chuẩn mực nhận thức đã xảy ra trong chưa đầy năm năm.

Sự kiện quan trọng nhất không phải là một mốc ngày chính xác mà là một thực tế mang tính cấu trúc. Một công nghệ quy mô như vậy có thể xuất hiện trong tầm kế hoạch của các thể chế, chính phủ và hiệp ước hiện hành. Hiệp ước Không phổ biến vũ khí hạt nhân từng mất nhiều năm để đàm phán và hàng thập kỷ để mở rộng thành khuôn khổ toàn diện như ngày nay. Nếu chúng ta chờ đến khi ASI rõ ràng sắp xuất hiện mới bắt đầu nỗ lực quản trị nghiêm túc, lúc đó đã quá muộn để xây dựng các khuôn khổ cần thiết.

Tại sao cần quản trị ngay bây giờ thay vì sau này

Lập luận tiêu chuẩn chống lại quản trị phòng ngừa là chúng ta nên chờ đến khi mối đe dọa trở nên thực sự mới điều chỉnh nó. Áp dụng cho AI, lập luận này nói: ASI chưa tồn tại, lộ trình của nó không chắc chắn, và chúng ta không nên ràng buộc một công nghệ có lợi dựa trên rủi ro tương lai mang tính suy đoán.

Lập luận nghe có vẻ hợp lý. Nó thất bại khi bị kiểm tra kỹ lưỡng vì một số lý do.

Thứ nhất, cửa sổ xây dựng khung quản trị là hữu hạn. Các hiệp ước quốc tế mất nhiều năm để đàm phán, các tổ chức mất nhiều năm để xây dựng, và sự đồng thuận chính trị mất nhiều năm để đạt được. Nếu chúng ta bắt đầu xây dựng khi mối đe dọa đã cấp bách, chúng ta sẽ không kịp hoàn thành.

Thứ hai, chi phí của quản trị phòng ngừa là có giới hạn. Yêu cầu cấp phép tính toán, kiểm toán an toàn bắt buộc và chế độ giám sát quốc tế gây ra chi phí thực tế nhưng có thể quản lý được. Chi phí của quản trị không đầy đủ đối với một siêu trí tuệ không phù hợp là không giới hạn. Chúng có thể là toàn bộ.

Thứ ba, hồ sơ lịch sử đã rõ ràng. Chúng ta xây dựng các khuôn khổ quản trị hạt nhân trước khi hầu hết các quốc gia sở hữu vũ khí hạt nhân. Chúng ta cấm CFC trước khi tầng ozone bị hủy hoại không thể khắc phục. Chúng ta thiết lập kiểm soát vũ trang với đối thủ trước khi các cuộc chiến tranh ủy nhiệm trở thành xung đột trực tiếp. Quản trị thận trọng đối với rủi ro thảm khốc chính là cách chúng hoạt động tốt nhất, chứ không phải là sự lệch hướng so với cách các thể chế con người vận hành.

Của Nakada Foundation ba đề xuất chính sách (quản trị compute, một hiệp ước an toàn AI quốc tế, và Cơ quan Giám sát AI Toàn cầu) được mô phỏng trực tiếp từ những tiền lệ này. Vấn đề không phải là liệu các khuôn khổ như vậy có khả thi hay không. Lịch sử cho thấy chúng có thể. Vấn đề là liệu chúng ta có xây dựng kịp thời hay không.

Sự phản đối mạnh mẽ nhất

Phản biện công bằng nhất là ASI chỉ là thuật ngữ tiếp thị chưa được định nghĩa và việc điều chỉnh nó lúc này là luật khoa học viễn tưởng. Các thuật ngữ tiếp thị chưa định nghĩa là lý do luật nên dựa vào compute, năng lực và quyền tự chủ, chứ không phải tên thương hiệu. Chờ một mục từ điển hoàn hảo là cách bạn đến sau khi hệ thống đã xuất hiện.