Trong vật lý, singularity là điểm mà một đại lượng tăng vọt và các phương trình bạn đang dùng ngừng đưa ra câu trả lời hợp lý. Trung tâm hố đen là ví dụ điển hình. Mượn từ này cho công nghệ, ta có singularity công nghệ: giả thuyết về một điểm mà trí tuệ máy móc thúc đẩy sự thay đổi nhanh chóng và sâu sắc đến mức khả năng dự đoán hay thậm chí hiểu được những gì xảy ra tiếp theo của chúng ta bị phá vỡ.

Đây là một tuyên bố về một chân trời, vượt qua đó nhịp độ tiến bộ do trí tuệ thúc đẩy vượt quá sự hiểu biết của con người, chứ không phải tuyên bố rằng một thiết bị cụ thể sẽ xuất hiện.

Nguồn gốc của ý tưởng

Nguồn gốc của thuật ngữ đáng được biết, vì nó thường bị dùng lỏng lẻo. Nhà toán học John von Neumann được trích dẫn vào những năm 1950 khi suy đoán tiến bộ công nghệ đang tiến gần đến một điểm kỳ dị thiết yếu trong lịch sử. Năm 1965 I.J. Good mô tả sự bùng nổ trí tuệ, cơ chế mà hầu hết các phiên bản của singularity đều dựa vào. Tác giả khoa học viễn tưởng và nhà toán học Vernor Vinge đã đặt tên và sức mạnh cho ý tưởng hiện đại trong một bài luận năm 1993, lập luận rằng việc tạo ra trí tuệ vượt trội con người sẽ phá vỡ cấu trúc của lịch sử có thể dự đoán. Nhà phát minh Ray Kurzweil sau đó phổ biến nó cho công chúng rộng rãi, đặt singularity vào khoảng năm 2045 và lồng ghép một câu chuyện rộng hơn về các xu hướng công nghệ theo hàm mũ.

Đó là những tuyên bố khác nhau mang cùng một từ, một phần lý do tại sao singularity thu hút cả sự sùng bái lẫn sự lắc đầu.

Động cơ bên dưới

Bỏ qua các chi tiết, cơ chế cốt lõi rất đơn giản. Nếu bạn có thể xây dựng một cỗ máy giỏi hơn con người trong việc chế tạo máy móc, bao gồm cả việc cải thiện trí tuệ của chính nó, thì sự cải thiện sẽ tự nuôi dưỡng. Mỗi hệ thống thông minh hơn lại giỏi hơn trong việc tạo ra hệ thống tiếp theo, và tốc độ tiến bộ tăng lên thay vì giữ nguyên. Chạy vòng lặp đó và năng lực có thể tăng từ mức con người lên xa hơn rất nhiều trong thời gian rất ngắn.

Vụ nổ trí tuệ là nội dung thực sự đằng sau hầu hết các cách sử dụng nghiêm túc về điểm kỳ dị. Dự đoán về tính không thể dự đoán xuất phát từ đó: một khi các hệ thống tự cải thiện ở tốc độ máy móc, quỹ đạo sẽ vượt ra ngoài phạm vi mà dự báo của con người có thể hoạt động. Chúng tôi xử lý cơ chế đó đầy đủ trong bài giải thích riêng, và đó là nơi nội dung thực sự nằm.

Những lời phê bình

  • Tự cải thiện có thể gặp giới hạn cứng. Trí tuệ có thể vấp phải lợi nhuận giảm dần, nút thắt dữ liệu hoặc ràng buộc vật lý làm phẳng đường cong thành một sự leo dốc ổn định thay vì một vụ nổ.
  • Khái niệm này còn mơ hồ. Những người ủng hộ khác nhau hiểu theo những nghĩa khác nhau, và các phiên bản theo phong cách Kurzweil thường đi kèm với việc ấn định ngày tháng tự tin cùng giọng điệu gần như huyền bí, dễ gây hoài nghi.
  • Các xu hướng hàm mũ uốn cong. Những đường cong trông bùng nổ thường hóa ra chỉ là phần đầu của hình chữ S san phẳng.

Những điều này đều hợp lý, và không cái nào đòi hỏi phải coi singularity là sai mà chỉ là chưa chắc chắn. Sai lầm nằm ở chỗ coi sự nghi ngờ về một sự kiện kịch tính có tên gọi như thể nó đã xóa tan rủi ro nền tảng.

Tại sao nhãn mác ít quan trọng hơn cơ chế

Bạn có thể bác bỏ hoàn toàn từ "singularity", với mùi tiên tri và những mốc ngày chính xác của nó, và vẫn còn lại phần quan trọng với chính sách. Câu hỏi nghiêm túc là liệu trí tuệ máy móc có thể cải thiện nhanh đến mức quá trình chuyển sang các hệ thống vượt xa chúng ta diễn ra nhanh hơn khả năng giám sát hay quản trị của chúng ta hay không, chứ không phải liệu có khoảnh khắc huyền bí nào vào năm 2045 hay không. Đó là một tuyên bố về mốc thời gian và tốc độ cất cánh, và nó không cần khung cảnh lớn để gây báo động.

Bỏ từ đó nếu bạn thích. Vấn đề mà nó chỉ ra, một sự chuyển đổi quá nhanh để kiểm soát, không cần từ đó để trở thành hiện thực.

The Foundation's concern is that specific, deflated version. If the run-up to vastly superhuman AI could be rapid, then the only reliable time to build governance and keep control is before it starts, while humans are still the ones deciding. The áp lực cạnh tranh để đạt ngưỡng đó trước chỉ làm ngắn đường băng. Dù bạn gọi phía bên kia là điểm kỳ dị, phản ứng vẫn giống nhau, và đó là kế hoạch của chúng tôi.

Sự kỳ dị không bao giờ được xảy ra

Lập trường của Quỹ là cấm đoán, không phải dự đoán. Siêu trí tuệ không thể bị con người kiểm soát. Chân trời mà từ này chỉ ra là một sự cất cánh vượt qua điểm mà chúng ta vẫn còn quyết định. Đó là cùng một ngưỡng vượt qua như xây dựng siêu trí tuệ. Sự kỳ dị không bao giờ được xảy ra.