Đây là phần tiếp theo của Phần 1, Tại sao Có Quá Ít Tiền trong An toàn AI?, điều chẩn đoán tại sao lĩnh vực này hoạt động với quá ít. Ở đây câu hỏi là làm thế nào để đạt được một tỷ đô la mỗi năm.
Start with where things actually stand. Phần 1 đã cộng tất cả các khoản tài trợ từ thiện, mọi chương trình an toàn của chính phủ và mọi đô la mà các phòng thí nghiệm tiên phong chi cho đội an toàn của riêng họ, và đi đến tổng khoảng 190 triệu đô la mỗi năm. Đặt bên cạnh đó, thế giới chi hơn 250 tỷ đô la mỗi năm để làm AI mạnh hơn, và con số này tiếp tục tăng. Với mỗi nghìn đô la chi để làm các hệ thống này mạnh mẽ hơn, chưa đến một đô la được chi để làm chúng an toàn.
Một tỷ đô la mỗi năm sẽ bắt đầu thay đổi phép tính đó, và đó là một khoản tiền nhỏ hơn vẻ ngoài. Nó ít hơn hai ngày những gì ngành công nghiệp đã chi cho năng lực. Nó khoảng một phần mười phần trăm những gì Hoa Kỳ chi cho quốc phòng. Nó là một phần mười những gì từ thiện khí hậu di chuyển mỗi năm, và từ thiện khí hậu không được coi là được tài trợ hào phóng. Dù một tỷ đô la là gì, nó không phải là một khoản tiền lớn cho một vấn đề mà những người xây dựng công nghệ đã so sánh, bằng văn bản và dưới chính tên của họ, với đại dịch và chiến tranh hạt nhân.
Vậy nên lý do lĩnh vực này bị thiếu hụt không phải vì một tỷ đô la khó kiếm. Thế giới đã chi nhiều lần số tiền đó chỉ cách đó vài bước, ở phía bên kia của cùng những tòa nhà văn phòng. Tiền thì có. Thứ còn thiếu là quyết định chuyển một phần trong số đó.
Tiền đã có sẵn. Thế giới chi số tiền này để làm AI mạnh hơn cứ khoảng mỗi ngày rưỡi. Điều còn thiếu chỉ là quyết tâm chuyển một phần nhỏ sang hướng ngược lại.
Một tỷ là mức sàn
Tại sao là một tỷ, chứ không phải ba trăm triệu? Vì dưới ngưỡng đó, lĩnh vực chỉ có thể đủ khả năng làm một việc tại một thời điểm. Ở mức 190 triệu, các con số buộc phải phân loại tàn nhẫn. Nghiên cứu kỹ thuật và đánh giá mô hình hấp thụ khoảng hai phần ba tổng số. Vận động chính sách (công việc khiến chính phủ và công ty hành động theo những gì nghiên cứu tìm ra) nhận được khoảng năm phần trăm, khoảng 10 triệu đô la mỗi năm, ít hơn một công ty công nghệ lớn chi cho vận động hành lang một thủ đô quốc gia. Một tỷ đô la sẽ chấm dứt sự phân loại đó. Nó sẽ cho phép an toàn trả lương cạnh tranh cho nhân tài mà các phòng lab hiện đang hấp thụ, đa dạng hóa một lĩnh vực đang dựa vào một quỹ chi phối duy nhất, và tài trợ công việc chính trị thay đổi kết quả thay vì chỉ ghi nhận chúng.
Và một tỷ đô la mỗi năm là khiêm tốn so với mọi so sánh lịch sử phù hợp. Dự án Bộ gen Người tốn khoảng 3 tỷ đô la và được ghi nhớ như một trong những khoản đầu tư công tốt nhất Hoa Kỳ từng thực hiện. Đo lường theo rủi ro mà chính những người tạo ra nó xếp ngang hàng với chiến tranh hạt nhân, một tỷ đô la mỗi năm không phải là con số hào phóng. Việc chúng ta đang tranh luận liệu nó có đủ khả năng chi trả hay không mới là phần lạ.
Chi phí diệt trừ bệnh đậu mùa khoảng 300 triệu đô la trong suốt chiến dịch mười ba năm, chưa đến một phần ba chi tiêu của một năm cho mục tiêu được bàn ở đây. Từ năm 1980, khoản chi một lần đó đã tiết kiệm cho thế giới hơn một tỷ đô la mỗi năm, và riêng Hoa Kỳ đã thu hồi phần chi phí ban đầu của mình cứ sau khoảng hai mươi sáu ngày.
Giảm thiểu rủi ro quy mô văn minh gần như lúc nào cũng là một trong những việc rẻ nhất chúng ta từng làm, nếu đo lường theo những gì nó mang lại.
Số tiền tỷ đó thực sự đến từ đâu
Không có gì trong số này đòi hỏi phát minh mới hay hành động hào phóng phi thường. Nó chỉ cần bốn nguồn thông thường được bật cùng lúc. Bất kỳ hai nguồn nào trong số đó, nếu làm nghiêm túc, đều đủ để đạt mục tiêu.
| Nguồn | Có thể xảy ra mỗi năm |
|---|---|
| Từ thiện đa dạng hóaHiện nay chỉ một quỹ tài trợ đã cung cấp hơn một nửa tổng số tiền an toàn từ thiện. Ngược lại, hoạt động từ thiện khí hậu di chuyển hơn 10 tỷ đô la mỗi năm qua nhiều nhà tài trợ. Một quỹ tài trợ 20 tỷ đô la sinh ra một tỷ đô la mỗi năm chỉ từ lãi; để đạt một phần mười tổng số tiền của khí hậu có lẽ cần năm đến mười nhà tài trợ nghiêm túc. | $300M |
| Ngân sách an toàn của chính phủCác viện an toàn quốc gia đã tồn tại ở UK, US và nhiều nơi khác. US chi khoảng 47 tỷ đô la mỗi năm cho Viện Y tế Quốc gia; chỉ cần dành một phần trăm cho nỗ lực an toàn AI là gần nửa tỷ đô la. | $300M |
| Một khoản thuế ngành đối với computeCác công ty dược tài trợ khoảng ba phần tư chi phí xét duyệt thuốc của FDA thông qua phí người dùng; ngành công nghiệp hạt nhân tài trợ gần như toàn bộ cho cơ quan quản lý của mình. Bốn phần mười của một phần trăm trên compute và hạ tầng mà AI tiên phong đã mua (vượt 250 tỷ USD mỗi năm) tự nó đã nâng toàn bộ lên một tỷ. | $300M+ |
| Vốn từ thiện được chuyển hướngCác quỹ donor-advised đã nắm giữ hơn 200 tỷ USD đã cam kết cho từ thiện nhưng chưa giải ngân. Các quỹ tài trợ đại học và cơ sở hạ tầng effective-giving đang phát triển bổ sung thêm. Yêu cầu ở đây là phân bổ lại, không phải tài sản mới. | $100M |
| Tổng | ~$1B+ |
Hàng thứ ba là hàng quan trọng nhất, vì đây là nguồn duy nhất không dựa vào thiện chí của bất kỳ ai. Tài trợ từ thiện có thể bốc hơi khi nhà tài trợ thay đổi ý định, như lĩnh vực đã học được khi nhà tài trợ chi phối cắt giảm tài trợ an toàn kỹ thuật hơn một nửa chỉ trong hai năm. Ngân sách chính phủ thay đổi theo mỗi kỳ bầu cử. Một khoản thuế theo luật áp lên ngành công nghiệp hưởng lợi từ việc tạo ra rủi ro sẽ bền vững, tương xứng và hoàn toàn có tiền lệ. Đây chính là cách chúng ta chi trả cho các cơ quan giám sát y tế, hàng không và điện hạt nhân. Gắn một phần nhỏ tài trợ an toàn với lượng tính toán tạo ra mối nguy là sự mở rộng tự nhiên của lập luận cho quản trị compute.
Tiền di chuyển nhanh một khi rủi ro trở nên rõ ràng
Lịch sử không mơ hồ về điều này. Khi một mối nguy trở nên rõ ràng với công chúng và chính phủ của họ, tiền xuất hiện với tốc độ khiến dòng chảy hiện tại lộ rõ là một sự lựa chọn, không phải ràng buộc. Các chất hóa học đang ăn mòn tầng ozone đã bị loại bỏ dần dưới Nghị định thư Montreal, mà quỹ của ông sau đó đã chuyển hàng tỷ đô la để làm cho sự chuyển đổi có thể thực hiện ở các nước nghèo hơn. Khi COVID đến, thế giới đã đứng lên phát triển vắc-xin được đo lường bằng hàng chục tỷ đô la trong vòng vài tháng. Đậu mùa, ozone, bại liệt: trong mỗi trường hợp, ràng buộc chưa bao giờ là tiền. Đó là sự công nhận.
An toàn AI chưa có khoảnh khắc được công nhận, và lý do nằm ở cấu trúc chứ không phải tài chính. Thiệt hại mà nó cảnh báo chưa từng xảy ra. Không có bệnh nhân, không có thị trấn ngập lụt, không có gia đình đau thương để gắn một khuôn mặt vào đó, và nếu công việc thành công thì sẽ không bao giờ có. Một rủi ro không có nhóm lợi ích thì không ai gây áp lực lên những người chi tiền. Một bảng tính tốt hơn sẽ không giải quyết được vấn đề.
Đây là vấn đề huy động
Điều đó có nghĩa là con đường đến một tỷ đô la không phải, ở cốt lõi, là kế hoạch gây quỹ. Đó là kế hoạch làm cho rủi ro đủ rõ ràng, và việc coi trọng nó đủ uy tín, để tiền chảy theo cách nó vẫn luôn chảy. Công việc đó chạy dọc ba hướng.
Làm cho nó hiển thị. Mối đe dọa mà người ta có thể hình dung là mối đe dọa người ta sẽ tài trợ: báo chí, phim ảnh, dữ liệu và tranh luận công khai biến một xác suất trừu tượng thành thứ mà một nhà lập pháp hay nhà tài trợ có thể cảm nhận, cùng nền tảng văn hóa đã có trước khi có tiền nghiêm túc cho khí hậu và kiểm soát vũ khí hạt nhân.
Làm cho nó trở nên uy tín. Khi các nhà Nobel, cựu nguyên thủ quốc gia và nhân vật công chúng uy tín coi một vấn đề là nghiêm trọng, cả chuẩn mực lẫn nguồn lực đều chuyển động theo. Đồng thuận khoa học về rủi ro AI đã tồn tại. Điều còn thiếu là sự cho phép xã hội để những người có vị thế và nguồn lực hành động công khai.
Làm cho nó bắt buộc. Việc quyên góp tự nguyện, dù được đẩy mạnh, có thể đưa lĩnh vực đạt ba đến bốn trăm triệu đô la mỗi năm. Khoảng cách đến một tỷ đô la đầy đủ (và quan trọng hơn, sự tồn tại vượt qua thay đổi ý định của bất kỳ nhà tài trợ nào) đến từ luật pháp: một khoản thuế, một khoản mục ngân sách, một nghĩa vụ hiệp ước. Đó là lý do Quỹ hướng công việc của mình đến các quy tắc ràng buộc and not only at persuasion. Generosity is welcome, but it is not something you can build on.
Vậy hãy gạt bỏ ý tưởng rằng một tỷ đô la mỗi năm là phiên bản tham vọng của việc coi trọng vấn đề này. Đó là phiên bản tối thiểu. Nó ít hơn hai ngày những gì chúng ta đã chi để làm vấn đề khó khăn hơn, và một phần nhỏ so với chi phí một lần để xóa sổ một căn bệnh đã giết người trong ba nghìn năm. Số tiền không đáng sợ. Thứ thực sự thiếu hụt là quyết định coi một rủi ro cỡ này như thể chúng ta tin vào chính những cảnh báo của mình.
Quyết định đó được đưa ra qua áp lực công chúng, qua những gì chính phủ nghe được từ người dân mà họ phải trả lời, và qua việc liệu đủ số người trong chúng ta có coi đây là ưu tiên mà khoa học nói rằng nó là như vậy hay không. Lập luận cho các quy tắc sẽ khiến dòng tiền bền vững được trình bày trong kế hoạch của chúng tôi, và cách nhanh nhất để thêm trọng lượng của bạn vào đó chỉ mất năm phút trên hành động trang.
Nhưng hãy so sánh con số đó với những gì thế giới đang chi để xây dựng công nghệ, hoặc với những gì nhân loại từng chi cho các mối nguy mà họ quyết định coi trọng, và một tỷ đô la không còn trông tham vọng nữa. Nó bắt đầu trông giống như điều ít nhất chúng ta có thể làm, và hoàn toàn nằm trong tầm với.