Tiền bạc là bản đồ của các ưu tiên. Khả năng nhận vốn. An toàn nhận phần còn lại.
Đầu tư hàng năm toàn cầu để làm AI mạnh mẽ hơn (quy mô ngành, ước tính giữa thập niên 2020)
Dòng chảy hàng năm vào an toàn kỹ thuật, đánh giá, chính sách và vận động chính sách kết hợp
Hơn 1.000×
Chưa đến một phần mười của một phần trăm số tiền xây dựng công nghệ này được dùng để đảm bảo nó không hủy diệt chúng ta. Bên trong khoản an toàn, vận động tạo ra ý chí chính trị chỉ chiếm một phần mỏng.
Phân bổ thô: nghiên cứu kỹ thuật chiếm tỷ lệ lớn nhất; đánh giá xếp sau; quản trị và chính sách nhỏ hơn; xây dựng lĩnh vực và vận động nhỏ nhất. Công việc tạo ra các hiệp ước bị thiếu hụt nguồn lực so với tầm quan trọng của vấn đề.
Đánh giá độc lập bên ngoài tường phòng thí nghiệm. Thiết kế hiệp ước và năng lực ngoại giao. Vận động công chúng tạo điều kiện cho luật cứng. Công cụ quản trị compute. Các đội ngũ nội bộ phòng thí nghiệm không thể tự soạn thảo quy tắc quốc tế.
Giá trị trung bình được tổng hợp từ các nguồn công khai (tổng quan tài trợ an toàn AI, 80,000 Hours, phân tích tài trợ của Open Philanthropy, Inside Philanthropy). Tổng số công bố thay đổi tùy theo định nghĩa. Chi tiết: nakadafoundation.org/blog/why-is-there-so-little-ai-safety-funding/
Thu hẹp khoảng cách nơi nó tác động đến chính sách.
nakadafoundation.org/donate/