Một thỏa thuận an toàn AI quốc tế sẽ không tự xuất hiện. Nó được xây dựng từng chính sách, từng phiếu bầu, từng cuộc trò chuyện. Chọn vai trò của bạn bên dưới để làm việc bạn có thể làm ngay hôm nay, không phải một ngày nào đó.
Những người sáng lập, điều hành và vận hành có uy tín mà giới học giả và nhà vận động không có được. Lựa chọn của bạn (xây dựng gì, từ chối gì, hợp tác với ai) là tín hiệu công khai làm thay đổi thị trường và hành vi của các đối thủ cùng ngành.
Biến lập trường của công ty thành hợp đồng, được hội đồng quản trị phê duyệt và có thể kiểm chứng, thay vì ngôn ngữ mang tính khát vọng trong bài đăng blog. Cam kết không bao giờ xây dựng hệ thống ASI. Một cam kết mà người ta có thể buộc bạn phải giữ mới là cam kết đáng kể.
Từ chối các quan hệ đối tác, liên doanh và hợp đồng với các phòng thí nghiệm AI tiên phong đang chạy đua hướng tới ASI. Giải thích công khai lý do của bạn. Một lãnh đạo doanh nghiệp rời bỏ một thương vụ và nói lý do sẽ gửi một thông điệp mà không lượng PR nào có thể tạo ra.
AI có ích có thể tồn tại mà không cần xây dựng những hệ thống không ai kiểm soát được. Nếu công ty của bạn làm việc với AI, hãy cam kết hướng nó vào các ứng dụng có mục đích rõ ràng, có giới hạn. Hãy chứng minh bằng ví dụ sinh lời rằng an toàn và hữu ích không xung đột.
Bạn có quyền tiếp cận các hội nghị, ấn phẩm và mạng lưới đồng nghiệp mà hầu hết các nhà vận động khác không có. Hãy nói thẳng về mức độ rủi ro từ những diễn đàn đó. Uy tín từ bên trong ngành là thứ không thể thuê mướn hay tạo dựng từ bên ngoài.
Thiết lập chính sách rõ ràng, bằng văn bản về những năng lực AI mà tổ chức của bạn sẽ và sẽ không phát triển hoặc mua sắm. Làm cho chúng có tính ràng buộc đối với nhà cung cấp và đối tác. Chuẩn hóa kỳ vọng rằng các công ty nghiêm túc đều có tiêu chuẩn an toàn.
Nakada Foundation đang xây dựng lập luận công khai cho một hiệp ước an toàn AI quốc tế. Chúng tôi không phải phòng lab nghiên cứu. Chúng tôi là chiến dịch từ thiện cần nguồn lực để tiếp cận mọi người. The trang quyên góp nêu rõ chính xác những chi phí mà tiền của bạn chi trả.
Dù bạn triển khai vốn vì lợi nhuận tài chính hay ý định từ thiện, bạn đang nắm một trong những đòn bẩy trực tiếp nhất hiện có. Rút vốn khỏi cuộc chạy đua và tài trợ cho phe kháng cự đều nằm trong tầm tay bạn, và cả hai đều quan trọng.
Rút vốn khỏi các phòng thí nghiệm đang theo đuổi ASI một cách rõ ràng. Vốn bị rút đi nghĩa là không mua compute, không thuê kỹ sư, không rút ngắn mốc thời gian. Đây là can thiệp trực tiếp nhất mà nhà đầu tư có thể thực hiện, và nó sẵn có ngay hôm nay.
Yêu cầu cam kết an toàn có thể kiểm chứng, tuân thủ quản trị compute và kiểm toán độc lập bên thứ ba như điều kiện không thể thương lượng trong mọi khoản đầu tư hoặc tài trợ AI. Nếu họ không đồng ý, điều đó nói lên điều quan trọng về ưu tiên của họ.
Tại các công ty nơi bạn nắm giữ cổ phần hoặc ghế hội đồng, đưa an toàn AI vào chương trình nghị sự. Đẩy mạnh các cam kết ràng buộc, quyền kiểm toán và tuân thủ các tiêu chuẩn quản trị máy tính quốc tế mới nổi. Hội đồng quản trị và LP phản hồi với các bên liên quan lớn. Hãy sử dụng trọng lượng đó.
Lĩnh vực nghiên cứu an toàn AI nhận được hàng tỷ đô từ chính các phòng thí nghiệm mà nó nghiên cứu, một cấu trúc khuyến khích bị thỏa hiệp. Các tổ chức vận động và chính sách độc lập làm việc cho luật enforceable nhận được gần như không gì. Một khoản tài trợ lớn duy nhất có thể thay đổi cán cân của lĩnh vực.
Điều tra báo chí về thực tiễn của các phòng thí nghiệm AI, nghiên cứu chính sách về khuôn khổ hiệp ước, và công việc văn hóa khiến rủi ro trở nên sống động và không thể phủ nhận, không có cái nào trong số này hấp dẫn về mặt thương mại để sản xuất. Vốn từ thiện là nguồn duy nhất cho công việc quan trọng nhưng không sinh lời.
Bạn có quyền tiếp cận với các nhà tài trợ, hội đồng quỹ, nhà đầu tư tổ chức và các nhà hoạch định chính sách mà các nhà vận động không thể tiếp cận qua cách tiếp cận lạnh. Hãy triệu tập họ. Giới thiệu nguyên nhân này. Một giờ tiếp cận của bạn đáng giá một năm nỗ lực của một tổ chức thiếu kinh phí.
Các nhà nghiên cứu, kỹ sư và nhân viên kỹ thuật tại các phòng thí nghiệm AI và công ty công nghệ có thông tin, quyền truy cập và đòn bẩy mà không một nhà vận động bên ngoài nào có được. Lịch sử cho thấy người lao động đã thay đổi những thể chế từng tưởng như không thể lay chuyển.
Nêu quan ngại qua mọi cơ chế chính thức hiện có: đội an toàn, ombudsperson, hội đồng đạo đức, tiếp cận hội đồng quản trị. Đặt mọi trao đổi thành văn bản. Tạo dấu vết giấy tờ trước khi cần, chứ không phải sau.
Bạn không cô đơn. Các nhà nghiên cứu và kỹ sư lo ngại về hướng phát triển AI tiên tiến tồn tại ở mọi phòng lab lớn. Hãy tìm nhau. Hành động tập thể của nhân viên kỹ thuật đã từng thay đổi hành vi doanh nghiệp tại các công ty AI, và có thể làm lại được.
Những người tiết lộ thông tin về sự phát triển không an toàn đã làm vậy với chi phí cá nhân đáng kể. Hãy công khai và chuyên nghiệp ủng hộ họ. Những tiết lộ của họ tạo ra lập luận công chúng mà không nhà vận động bên ngoài nào có thể tự mình làm được, vì chỉ người trong cuộc mới biết điều gì thực sự đang xảy ra.
Ở nhiều khu vực pháp lý, bảo vệ người tố giác tồn tại cho nhân viên tiết lộ thông tin về các hoạt động gây rủi ro cho an toàn công cộng. Hiểu quyền của bạn. Tham khảo luật sư chuyên về lĩnh vực này. Biết các lựa chọn của bạn trong khi bạn còn thời gian chuẩn bị.
Bạn có kỹ năng đang được săn đón mạnh mẽ. Bạn có thể tìm việc khác, có lẽ là tốt hơn. Các nhà nghiên cứu và kỹ sư đang xây dựng các hệ thống AI tiên phong có ảnh hưởng với nhà tuyển dụng nhiều hơn hầu hết lực lượng lao động trong lịch sử. Hầu hết chưa sử dụng ảnh hưởng đó. Câu hỏi là bạn có làm hay không.
Nếu bạn làm việc tại một phòng lab AI tiên phong và có lý do để tin rằng quá trình phát triển đang diễn ra không an toàn (các cam kết không được giữ, rủi ro bị coi nhẹ, mốc thời gian ngắn hơn so với công bố công khai), thì câu hỏi bạn sẽ làm gì không còn mang tính giả định. Hãy nghĩ về nó ngay bây giờ.
Không tổ chức tư nhân nào, dù được tài trợ tốt đến đâu, có thể ràng buộc các quốc gia có chủ quyền tuân thủ giới hạn phát triển AI. Chỉ có các chính phủ đàm phán với chính phủ mới làm được điều đó. Các chính trị gia, công chức, nhà ngoại giao và cơ quan quản lý là những người sẽ soạn thảo luật, hoặc thất bại trong việc đó.
Yêu cầu phê duyệt của chính phủ đối với các lần huấn luyện AI vượt ngưỡng compute đã định, hiện được đề xuất ở mức 10²⁶ phép tính dấu phẩy động. Điều này khả thi về mặt kỹ thuật, có thể kiểm chứng độc lập và có tiền lệ. Một số lượng nhỏ nhà sản xuất chip kiểm soát phần cứng cần thiết để huấn luyện các mô hình tiên phong. Cấp phép tại điểm nghẽn đó.
Yêu cầu chính thức chính phủ bạn trình đề xuất tại Liên Hợp Quốc hoặc cơ quan đa phương liên quan để bắt đầu đàm phán một hiệp ước an toàn AI mang tính ràng buộc. Nghị định thư Montreal chuyển từ đồng thuận khoa học sang phê chuẩn trong chưa đầy hai năm. Tham vọng ở quy mô này đã có tiền lệ, không phải ngây thơ.
Rủi ro tồn vong do AI chưa phải chủ đề thường xuyên của các phiên điều trần quốc hội hay quốc hội. Đưa nó vào nghị trình. Mời các nhà nghiên cứu và cựu nhân viên lab AI sẵn sàng nói thẳng. Tạo hồ sơ lập pháp mà hành động tương lai cần đến, và mà lịch sử sẽ tham khảo để hiểu liệu chúng ta đã hành động kịp thời hay chưa.
Đẩy mạnh nguồn lực đầy đủ cho các cơ quan giám sát AI, kiểm toán viên an toàn độc lập và chế độ thanh tra quốc tế mà một hiệp ước hiệu quả sẽ cần. Cơ quan Năng lượng Nguyên tử Quốc tế được thành lập trong vòng ba năm sau NPT. Phiên bản AI của nó hoàn toàn có thể đạt được trong cùng khung thời gian nếu có ý chí chính trị.
Rủi ro tồn vong do AI là vấn đề của cả nền văn minh, không phải của phe tả hay phe hữu. Xây dựng liên minh vượt ranh giới đảng phái trong nước. Vươn tới các đối tác ở các thủ đô khác. Hiệp ước sẽ cần sự tham gia của tất cả các quốc gia phát triển AI lớn để có hiệu lực, những cuộc trò chuyện đó cần bắt đầu ngay bây giờ, ở cấp chính trị.
Các công ty AI chi nguồn lực khổng lồ cho vận động hành lang và tiếp cận. Các khung chính sách họ ủng hộ được thiết kế để bảo toàn quyền tự do hành động thương mại, chứ không phải để bảo vệ công chúng. Hãy đòi bằng chứng độc lập. Hãy hoài nghi các tiêu chuẩn an toàn do chính những thực thể cần bị ràng buộc soạn thảo.
Nghệ sĩ, nhà báo, nhà làm phim, nhạc sĩ, nhà văn, người nổi tiếng và những người sáng tạo có nền tảng, các bạn là những người khiến mối đe dọa trừu tượng trở nên thực tế và cấp bách. Dư luận là thứ mà chính trị gia phản hồi. Các bạn tạo ra dư luận.
Số liệu thống kê và báo cáo chính sách không lay chuyển được con người. Câu chuyện mới làm được. Hãy tạo tác phẩm (bằng bất kỳ phương tiện nào của bạn) khiến khán giả cảm nhận được điều đang bị đe dọa: việc sai lầm này sẽ nghĩa lý gì đối với chính họ, với những người họ yêu quý, với mọi thế hệ sau.
Phỏng vấn các nhà nghiên cứu AI, cựu nhân viên phòng thí nghiệm sẵn sàng nói thẳng và những người vận động chính sách đang làm việc về các vấn đề này. Tầm với của bạn có thể mang thông điệp của họ đến quy mô mà các bài báo học thuật và thông cáo báo chí không thể tự đạt được. Một cuộc phỏng vấn có thể làm được nhiều hơn trăm bản tóm tắt chính sách.
Nếu bạn có nền tảng (độc giả, người theo dõi, khán giả), hãy sử dụng nó để nói thẳng đây là vấn đề quan trọng nhất trong đời bạn. Không làm mềm để dễ nuốt, không né tránh vì lý do thương mại. Nói thẳng. Khán giả tôn trọng sự thẳng thắn từ những người có điều gì đó để mất khi nói thẳng.
Từ chối các quan hệ đối tác, chứng thực và nội dung tài trợ mang lại lợi ích cho các phòng thí nghiệm AI tiên phong mà không có cam kết an toàn ràng buộc. Nếu một phòng thí nghiệm đưa ra thỏa thuận, việc từ chối công khai sẽ gửi thông điệp họ không thể mua được. Họ cần khán giả và uy tín của bạn. Hãy sử dụng đòn bẩy ấy một cách rõ ràng.
Khoa học viễn tưởng đã định hình ý thức công chúng về công nghệ nhiều hơn bất kỳ bài báo chính sách nào trong lịch sử. Phong trào khí hậu xây dựng lập luận văn hóa qua nghệ thuật trước khi xây dựng qua luật. Nếu bạn tạo ra thứ gì đó (viết, đạo diễn, soạn nhạc, minh họa), hãy làm tác phẩm khiến người ta đối diện với những gì chúng ta đang xây dựng.
Nakada Foundation đang xây dựng chiến dịch truyền thông để thay đổi dư luận về an toàn AI quốc tế. Chúng tôi muốn hợp tác với những người sáng tạo hiểu nền tảng của họ như một hình thức quyền lực chính trị. Liên hệ.
Người trẻ đã xây dựng mọi phong trào xã hội lớn của thế kỷ hai mươi. Phong trào này cũng cần bạn, không phải như người đứng ngoài mà là những người tổ chức và ra quyết định mà các giá trị và mạng lưới đang được hình thành ngay lúc này.
Bắt đầu hoặc tham gia tổ chức sinh viên về an toàn AI. Thúc đẩy trường đại học hỗ trợ nghiên cứu quản trị ASI mang tính ràng buộc, mời diễn giả nói về rủi ro siêu trí tuệ, và đưa việc phòng ngừa vào chương trình giảng dạy. Tẩy chay cá nhân và biểu tượng từ quỹ tài trợ là kênh phụ tùy chọn. Công việc có quy mô là áp lực chính trị có tổ chức đòi hỏi một hiệp ước. Các phong trào sinh viên đã từng thay đổi các trường đại học. Họ có thể làm lại điều đó hướng tới luật pháp, không phải tẩy chay thương hiệu.
Luật pháp, chính sách, ngoại giao, báo chí và chính phủ là những lĩnh vực sẽ quyết định liệu một hiệp ước có được đàm phán và thực thi hay không. Phong trào an toàn AI rất cần những người trong các nghề này hiểu rõ các rủi ro kỹ thuật. Sự nghiệp của bạn là một trong những lựa chọn quan trọng nhất bạn từng đưa ra. Hãy làm cho nó có ý nghĩa.
Các phòng thí nghiệm AI tiên phong tuyển dụng mạnh mẽ từ các trường đại học hàng đầu. Từ chối lời mời (và giải thích công khai lý do) mang trọng lượng lớn hơn bất kỳ cam kết tự nguyện nào mà phòng thí nghiệm đưa ra về an toàn. Quyết định đi nơi khác của bạn là một hình thức phát ngôn chính trị mà họ không thể phản bác.
Bạn cùng lớp là thế hệ sẽ đưa ra các quyết định quan trọng về chính sách AI trong mười đến hai mươi năm tới. Những cuộc trò chuyện bạn có bây giờ định hình trực giác họ mang theo sau này. Đừng chờ đến khi vấn đề này trở thành của người khác rồi mới tham gia.
Người trẻ bị đại diện thiếu hệ thống trong các tiếp xúc chính trị, và các quan chức đắc cử biết rõ điều đó. Hãy viết, gọi điện và xuất hiện. Hãy nói với đại diện của bạn rằng an toàn AI quốc tế là vấn đề định nghĩa thế hệ của bạn, và hỏi họ ủng hộ luật nào.
Hiệp ước Không phổ biến vũ khí hạt nhân, Công ước Vũ khí hóa học, Nghị định thư Montreal: mỗi hiệp ước đều có bài học cho một hiệp ước an toàn AI có thể trông như thế nào và cách xác minh nó. Hãy nghiên cứu lịch sử. Trở thành một trong những người đủ tư cách thiết kế hiệp ước tiếp theo.
Chính trị gia phản ứng với cử tri đặt câu hỏi rõ ràng và xuất hiện. Những người nêu vấn đề an toàn AI với đại diện của họ, tại các phiên điều trần và trong các cuộc trò chuyện thường ngày là lực lượng cử tri khiến mọi hành động khác trên trang này trở nên khả thi. Chúng tôi không ủng hộ hay phản đối ứng cử viên hay đảng phái nào.
Hỏi các quan chức được bầu của bạn họ đứng ở đâu về luật cấp phép compute và đàm phán hiệp ước an toàn AI quốc tế. Nếu họ chưa biết vấn đề, hãy thông báo cho họ. Những câu hỏi rõ ràng, lặp lại từ cử tri là cách một hồ sơ bị bỏ qua trở thành hồ sơ thực sự, và gần như chưa ai hỏi.
Cuộc gọi điện, email và các cuộc thăm viếng trực tiếp của cử tri tác động đến các quan chức dân cử theo cách mà kiến nghị trực tuyến không làm được. Hãy cụ thể: yêu cầu họ ủng hộ luật cấp phép compute và đàm phán hiệp ước quốc tế chính thức. Hãy viết ngay hôm nay, đừng chờ đến khi cảm thấy cấp bách hơn, vì khi đó có thể đã muộn.
Hãy đến tận nơi. Hỏi các quan chức được bầu của bạn xem họ có ủng hộ một hiệp ước an toàn AI quốc tế hay không. Câu hỏi đó chính là hành động giáo dục chính trị, cho cả quan chức lẫn mọi người trong phòng nghe được câu hỏi và câu trả lời.
Đa số chính trị được xây dựng qua mạng xã hội, không phải quảng cáo. Hãy nói chuyện với gia đình, đồng nghiệp, hàng xóm của bạn. Những cuộc trò chuyện bạn có năm nay định hình những gì chính trị gia cảm thấy an toàn khi nói năm sau, và những luật họ cảm thấy có thể thông qua năm sau nữa.
Nếu bạn thấy điều này có ý nghĩa, việc có giá trị nhất bạn có thể làm ngay lúc này là mở rộng lực lượng ủng hộ cho mục đích này. Gửi nội dung này cho một người chưa từng cân nhắc những câu hỏi này. Đó là cách các phong trào lan tỏa: từng cuộc trò chuyện một.
Chúng tôi gửi bản tóm tắt khi có diễn biến trong chính sách AI quốc tế cần bạn chú ý, và khi có hành động cụ thể bạn có thể thực hiện.