Một hiệp ước an toàn AI quốc tế mang tính ràng buộc sẽ không tự nhiên được trao cho chúng ta. Nó phải được tranh luận, tổ chức và chi trả. Sự độc lập của chúng tôi hoàn toàn phụ thuộc vào những người như bạn.
Quyên góp trực tuyến chưa hoạt động. Các bộ xử lý thanh toán yêu cầu một tổ chức phi lợi nhuận đã được chứng nhận, và việc đăng ký của foundation vẫn đang hoàn tất. Trong thời gian chờ đợi, đăng ký quan tâm và chúng tôi sẽ thông báo cho bạn ngay khi việc quyên góp mở cửa.
Tình trạng tổ chức. Hiệp hội từ thiện chưa thành lập pháp nhân, Hoa Kỳ. Đang tìm tài trợ tài chính dưới một tổ chức 501(c)(3). Chưa có EIN. Các khoản tặng chưa được khấu trừ thuế cho đến khi chúng tôi nằm dưới nhà tài trợ đủ điều kiện hoặc có thư xác định riêng.
Hầu hết tiền trong an toàn AI vẫn chảy vào các phòng thí nghiệm và nghiên cứu kỹ thuật coi siêu trí tuệ là không thể tránh khỏi. Gần như không có tiền nào tài trợ cho công việc chính trị nhằm đảm bảo siêu trí tuệ không bao giờ được chế tạo. Chúng tôi làm công việc đó, và chỉ công việc đó: một hiệp ước quốc tế ràng buộc, áp lực công chúng, và chiến dịch chú ý khiến hiệp ước trở nên khả thi. Chúng tôi không nhận tiền từ các phòng thí nghiệm AI hay nhà đầu tư của họ.
An toàn kỹ thuật AI đã chiếm lĩnh nguồn tiền và những người tài brightest của lĩnh vực, và với tất cả nỗ lực đó chưa ai chứng minh được cách kiểm soát đáng tin cậy một hệ thống thông minh hơn nhiều so với con người xây dựng nó. Giả sử việc kiểm soát một thực thể thông minh hơn chúng ta là có thể giải quyết được, thì chắc chắn nó sẽ không được giải quyết kịp thời. Sự bảo vệ duy nhất còn lại là lựa chọn không xây dựng những hệ thống như vậy cho đến khi chúng có thể được làm an toàn. Lựa chọn đó mang tính chính trị, và đang bị thiếu hụt nghiêm trọng nguồn lực.
Một khoản tặng ở đây chi trả cho mảnh ghép còn thiếu. Không phải một bài báo nữa về cách kiểm soát một trí óc thông minh hơn người tạo ra nó. Nhân viên, người tổ chức, các phản hồi X thực sự gặp gỡ khẩu hiệu chạy đua đúng nơi chúng đáp xuống, nội dung mà các nhà lập pháp và nhà sáng tạo nhìn thấy, và nỗ lực dài hơi chuyển hướng từ thiện hướng tới phòng ngừa. Từng đồng một, đó là nơi đồng tiền tiếp theo giảm rủi ro tuyệt chủng nhiều nhất.
Những gì khoản tặng của bạn chi trả được liệt kê chi tiết bên dưới. Chúng tôi cam kết công bố các khoản tặng lớn vượt ngưỡng minh bạch mà chúng tôi sẽ công bố công khai.
Không thể quyên góp ngay bây giờ? Hãy dành thời gian của bạn thay vào đó.
Bạn muốn quyên góp quy mô lớn khi việc khấu trừ thuế đã sẵn sàng? Đăng ký quan tâm cho các khoản tặng lớn và từ tổ chức.
Cho đến khi thanh toán an toàn được bật, không thẻ nào bị trừ tiền và không có thông tin thanh toán nào được thu thập trên trang này.
Nếu bạn muốn một khoản quyên góp mang lại nhiều lợi ích nhất có thể, lý luận sẽ đi theo một đường thẳng. Đây là nó, không giấu giếm gì.
Ý nghĩa của một khoản tặng nằm ở tác động của nó, và tác động của một đô la không giống nhau ở mọi nơi. Vì vậy câu hỏi trung thực không phải khoản tiền đó có tốt hay không, mà là liệu đây có phải là tốt nhất sử dụng khả dụng của đồng đô la tiếp theo. Hãy coi câu hỏi đó nghiêm túc và mọi thứ khác sẽ theo sau từ đó.
Các nguyên nhân có tác động lớn nhất là những nguyên nhân chạm đến tất cả mọi người, và tất cả những ai đến sau. Một mối đe dọa đối với toàn bộ tương lai nhân loại vượt trội hơn bất kỳ vấn đề hữu hạn nào, bởi vì những gì nó đặt cược không phải là một thế hệ mà là mọi thế hệ có thể theo sau.
Trong số các công nghệ có thể diệt vong nhân loại, trí tuệ siêu nhân tạo nằm ở vị trí cao nhất. Theo các ước tính có cấu trúc tốt nhất hiện có, nó mang theo xác suất khoảng gấp trăm lần rủi ro tuyệt chủng của chiến tranh hạt nhân, và nó là cái duy nhất tự cải thiện và hành động chống lại mọi biện pháp đối phó mà chúng ta đưa ra.
Nghiên cứu an toàn kỹ thuật đã chiếm lĩnh tiền bạc và những bộ óc xuất sắc nhất của lĩnh vực, và vẫn chưa ai kiểm soát được một hệ thống thông minh hơn chúng ta nhiều. Công việc thiếu kinh phí là loại kia: thỏa thuận quốc tế có ràng buộc và được xác minh nhằm ngăn siêu trí tuệ được xây dựng cho đến khi nó có thể được làm an toàn. Chúng tôi tập trung hẹp vào đúng một việc đó, không phải vào nghiên cứu đã tồn tại.
Điều có tác động lớn nhất bạn có thể tài trợ là ngăn chặn siêu trí tuệ, và phần bị bỏ qua nhất trong đó là cuộc chiến chính trị để biến nó thành luật. Đó chính là nơi khoản quyên góp của bạn đến, và lý do mỗi đô la ở đây là một trong những khoản quyên góp có tác động cao nhất bạn có thể thực hiện.
Tài trợ sứ mệnh →Mỗi đồng đô la đều dành cho chi phí hành chính, kỹ thuật và nhân sự của các chương trình bên dưới. Chúng tôi thà cho bạn xem các khoản mục chi tiết hơn là yêu cầu bạn tin vào một tuyên bố sứ mệnh. Chúng tôi sẽ đo lường tiến độ bằng dữ liệu và công bố các con số.
Chúng tôi cần tài trợ càng sớm càng tốt cho một người làm truyền thông mạng xã hội toàn thời gian có nhiệm vụ tìm và trả lời các bài đăng trên X về “cuộc chạy đua ASI”, “Singularité”, “thắng cuộc chạy đua AI”, “ASI”, và “trí tuệ siêu nhân tạo”. Công việc này hiện chưa được thực hiện. Các khẩu hiệu chạy đua xuất hiện mỗi giờ mà không có phản biện cẩn thận trong luồng.
Tại sao là X. Đây là nền tảng mạng xã hội số một dành cho những người có ảnh hưởng nhất thế giới: nhà lập pháp, nhà báo, lãnh đạo phòng thí nghiệm và các tài khoản họ theo dõi. Mạng xã hội hiện là nguồn tin tức chính cho nhiều nhà lập pháp trong số đó. Một câu trả lời được đặt đúng chỗ có thể tiếp cận hàng triệu lượt tiếp cận. Đó là nhận thức mà chúng ta không thể mua bằng một bản báo cáo trắng khác.
Tiền của bạn trả cho một Tổ chức X tài khoản (đã xác minh, đáng tin cậy, có thể đăng với số lượng lớn), tiền lương của người viết và trả lời mỗi ngày, cùng với việc đào tạo để họ thấm nhuần sứ mệnh và hướng dẫn nội dung của chúng tôi. Mục tiêu đơn giản: không có bài đăng đua tranh nào có tầm nhìn cao bị bỏ qua, và nguồn cấp dữ liệu của chúng tôi đăng tải lập luận ủng hộ việc ngăn chặn mà không ngừng nghỉ.
Đầu ra có thể đo lường: impressions và reach trên các reply cũng như bài đăng gốc (số liệu phân tích công khai khi tài khoản hoạt động).
Viết ngắn và dài, hình ảnh, đồ họa thông tin và video: tác phẩm gốc về siêu trí tuệ được làm sao cho người không chuyên có thể theo dõi trong một lần ngồi. Làm một lần, sau đó đẩy lên mọi nền tảng có thể tiếp cận. Cùng với vị trí trả phí nơi dư luận thực sự hình thành.
Đây không phải là một bản báo cáo kỹ thuật dành riêng cho những người đã ở trong ngành. Đây là công trình sáng tạo tiếp cận người đọc ở nơi họ đang đứng: những bài giải thích, tiểu luận, hình ảnh và cách kể chuyện gần với phim ảnh, giúp ai không có nền tảng kỹ thuật cũng nắm được mức độ nghiêm trọng.
Tài trợ các bản tin chuyên biệt mà các nhà lập pháp và nhân viên của họ đã mở. Tài trợ podcast mà những người đó nghe trên đường đi làm. Tài trợ người sáng tạo nội dung với khán giả thực sự. Mọi người hình thành quan điểm từ những người sáng tạo nội dung. Hãy nhìn xem ai đang đăng về ASI như một rủi ro tồn vong ngày nay: gần như chẳng ai có tầm ảnh hưởng. Đó giống như sống qua Chiến tranh Lạnh mà gần như không ai có micro nói về việc ngăn chặn chiến tranh hạt nhân. Lấp đầy khoảng lặng ấy là cách rẻ tiền để khiến mối đe dọa trở nên dễ hiểu trước khi một cuộc bỏ phiếu hiệp ước được lên lịch, chứ không phải vì hư danh.
Tiền của bạn chi trả cho những người tạo ra tác phẩm gốc, tài trợ cho người sáng tạo và bản tin, tài trợ podcast, tài khoản mạng xã hội đã xác minh, và các công cụ phân phối để giờ giấc dành cho lập luận thay vì hàng đợi đăng bài.
Đầu ra có thể đo lường: views and watch time on original pieces, plus placement reach where we sponsor distribution.
Chúng tôi đã bắt đầu tìm những người có thể làm công việc này. Một bài học đến nhanh chóng: một video mất hàng tháng để hoàn thành. Đó là quá chậm. Cuộc đua vẫn tiếp diễn trong khi một bộ phim nằm trong hàng chờ.
Một video không nên mất hàng tháng.
Tiền ở đây dùng để thuê thêm những người đó làm việc cùng lúc.
Đầu ra có thể đo lường: thời gian từ bắt đầu đến xuất bản trên các bài viết gốc.
Đang được xem xét, chưa được tài trợ
Rất nhiều lời nói, và rất nhiều hoạt động từ thiện, vẫn dành cho alignment: nghiên cứu kỹ thuật nhằm khiến siêu trí tuệ tương lai hoạt động tốt. Hãy gọi đúng tên "giải quyết alignment" nghĩa là gì. Đó là kiểm soát đáng tin cậy thứ gì đó thông minh hơn chúng ta rất nhiều. Ý nghĩa nằm trong tên: siêu trí tuệ. Đánh cược cả loài người vào việc kiểm soát một trí óc thông minh hơn mọi con người từng xây dựng nó là một kế hoạch ngu ngốc, và theo bằng chứng hiện có, là điều không thể.
Việc sử dụng tiền tài trợ đầy tham vọng là nhân viên được trả lương có công việc là gặp gỡ những người cấp tài trợ và cố vấn, lập luận để chuyển hướng nguồn vốn an toàn khan hiếm sang hiệp ước, xác minh và áp lực công chúng, và thực hiện công việc đó trong những phòng nơi tiền đã được cam kết. Không phải một bài báo nữa trong đống đó.
An toàn hệ thống hẹp mà thực sự có thể kiểm soát vẫn xứng đáng được tài trợ. Nghiên cứu giả định chúng ta sẽ xây dựng một loài kế thừa rồi trói buộc nó thì không. Các lãnh đạo effective altruism từng chuyển hướng từ thiện sang màn chống sốt rét bằng cách lập luận tương tự. Nếu chúng ta đi theo lộ trình ấy với siêu trí tuệ, chúng ta sẽ nói rõ trước khi xin thêm tiền.
Nhận thông báo ngay khi các khoản quyên góp trực tuyến an toàn bắt đầu hoạt động. Bạn cũng sẽ nhận được các bản tóm tắt định kỳ về việc tiền được sử dụng như thế nào.