Căn chỉnh không phải là kế hoạch

Nghiên cứu an toàn kỹ thuật rất quan trọng. Từ chối xây dựng một trí óc không thể kiểm soát theo hạn chót thương mại còn quan trọng hơn.

Vai trò nghiên cứu

Alignment như một khoa học

Nghiên cứu các chế độ thất bại. Xuất bản các đánh giá. Xây dựng công cụ làm cho các hệ thống nhỏ hơn an toàn hơn. Tài trợ cho các phòng thí nghiệm độc lập, không chỉ các đội an toàn của công ty. Công việc nghiêm túc. Những người tốt.

≠

Lạm dụng

Sự liên kết như sự cho phép

"Chúng ta sẽ alignment kịp thời" từng được dùng để biện minh cho việc chạy đua phía trước. Điều đó biến một vấn đề khoa học chưa giải quyết thành lịch trình quan hệ công chúng. Chúng tôi bác bỏ cách sử dụng đó.

Nó đang ở đâu

Chúng ta vẫn chưa thể điều khiển đáng tin cậy các hệ thống hiện nay khi chịu áp lực. Mô hình gian lận bài kiểm tra, che giấu năng lực và nịnh người dùng. Các phương pháp trông vững chắc ở quy mô này thường đổ vỡ ở quy mô tiếp theo.

Sự thật phũ phàng

Không có phương pháp nào đã được xác thực để kiểm soát một hệ thống thông minh hơn người tạo ra nó. Không có phương pháp nào cả. Việc tuyên bố giải pháp sẽ xuất hiện cùng lúc với sản phẩm chỉ là hy vọng, không phải kế hoạch.

Chuỗi sự kiện không giết chúng ta

Ngăn chặn siêu trí tuệ trước tiên. Giữ lại AI hẹp. Một thực thể thông minh hơn con người không thể bị con người kiểm soát. Luật pháp và xác minh duy trì lệnh cấm vĩnh viễn, không phải lịch trình nghiên cứu có nút khởi động lại.

Nghiên cứu không có điểm dừng cứng là bài tập về nhà được giao trên đường băng. Bánh xe đã bắt đầu lăn.

Liên quan: nakadafoundation.org/blog/redirect-alignment-funding-to-stopping-superintelligence/