Naoto Nakada

Người sáng lập và Giám đốc Điều hành của Nakada Foundation to Save Humanity. CEO & Giám đốc Sáng tạo của Nakada Design.

Liên hệ
(Tiếng Ý)

Giới thiệu

Naoto Nakada là một doanh nhân, nhà từ thiện, và người sáng lập một thương hiệu xa xỉ công ty tiếp thị. Ông đã xây dựng và vận hành các doanh nghiệp kỹ thuật số trong nhiều năm: thương hiệu, sản phẩm, khán giả, chuyển đổi. Ông làm việc trong ngăn xếp mà hầu hết mọi người chỉ nói về. Sự thông thạo đó quan trọng khi chủ đề là AI, vì mối nguy nằm ở hệ thống, động lực, phân phối và tốc độ.

Ông đã sống và làm việc tại Tokyo, Sydney, Los Angeles, London và Singapore. Các thị trường, thói quen truyền thông và chính trị khác nhau. Phạm vi đó là cách ông đọc văn hóa nhanh chóng, bao gồm cả những huyền thoại lan truyền trên X và trong truyền thông đại chúng về siêu trí tuệ, "chúng ta sẽ giữ được quyền kiểm soát", và cuộc đua mà chúng ta supposedly không thể rời bỏ.

Ông cũng quan tâm đến cách mọi thứ trông và cảm nhận. Phán đoán sáng tạo và thẩm mỹ không phải là trang trí trong công việc này. Đó là cách khiến một sự thật khó khăn chạm đến những người sẽ không bao giờ mở một bài nghiên cứu.

Ông bắt đầu công việc này vì ông thấy một khoảng trống trong thị trường từ thiện. Xem tại lĩnh vực: rất nhiều tiền và sự chú ý đổ vào việc làm cho các hệ thống tiên phong "an toàn hơn" trong khi việc xây dựng vẫn tiếp tục. Ít hơn nhiều dành cho dự án đơn giản là ngăn chặn siêu trí tuệ nhân tạo trước khi nó tồn tại, hoặc sửa lại câu chuyện công chúng đang bị bán. Nếu ông sống trong Chiến tranh Lạnh, ông đã thành lập một quỹ hỗ trợ công việc hiệp ước hạt nhân. Ông tin ASI là vấn đề Chiến tranh Lạnh của thời đại chúng ta. Ông được xây dựng cho khoảng trống ấy: người bản địa kỹ thuật số, thông thạo toàn cầu, sắc sảo thương mại, và không chịu chờ hội thảo kết thúc.

Các bài viết bởi Naoto Nakada

Tại sao một Trí tuệ Vượt trội sẽ không Tự động Tử tế Niềm tin rằng một AI siêu trí tuệ sẽ khôn ngoan và tử tế dựa trên một đặc điểm kỳ lạ của quá trình tiến hóa con người mà một trí óc máy móc không có lý do gì để kế thừa. Dải hẹp mà con người sống trong đó Mọi nhu cầu của con người nằm trong một dải hẹp: nhiệt độ, oxy, muối, thậm chí cả tình yêu. Một siêu trí tuệ nắm giữ các nút điều khiển sẽ không cảm nhận được bất kỳ thứ nào trong số đó. Chúng Ta Đang Sống Qua Một Cuộc Chiến Tranh Lạnh Mới Lý do tôi tin chúng ta đang sống qua một Chiến tranh Lạnh mới, với siêu trí tuệ thay cho bom nguyên tử, và tại sao điều đó khiến việc ngăn chặn trở nên khả thi thay vì vô vọng. Tại sao một Nhà tư bản Tin vào Quy định ASI . Tôi điều hành doanh nghiệp và ủng hộ thị trường. Siêu trí tuệ là canh bạc hiếm hoi có thể kết liễu cuộc chơi. Lập luận theo hướng tư bản ủng hộ một hiệp ước ngăn ASI. Bạn Có Tin Tưởng AI Với Khí Gas Không? Bạn có tin tưởng bất kỳ AI hiện tại nào trong một căn phòng khóa kín với van khí độc không? Không. Vậy tại sao lại tin tưởng nó với cả thế giới? Bạn Không Thể Căn chỉnh Siêu trí tuệ Giải quyết sự liên kết nghĩa là kiểm soát thứ gì đó thông minh hơn chúng ta. Siêu trí tuệ nằm ngay trong tên gọi. Kế hoạch đó vừa ngớ ngẩn vừa bất khả thi. Tôi là người lạc quan tin rằng mọi thứ đều khả thi, nhưng không kiểm soát được Siêu trí tuệ Vật lý có lẽ một ngày sẽ mang lại khả năng kiểm soát trọng lực hoặc du hành nhanh hơn ánh sáng. Tôi vẫn không hình dung được làm thế nào để kiểm soát một trí óc thông minh hơn chúng ta. Đó chính là lý do quỹ này được thành lập.
Robot sẽ không trả được nợ quốc gia Washington và các phòng thí nghiệm đang bán AI và robot như cách trả nợ quốc gia. Một trí óc kế nhiệm không phục vụ Kho bạc. Musk thừa nhận con người sẽ không kiểm soát được ASI Musk nói với The Economist rằng kiểm soát siêu trí tuệ là sự tự cao và con người khó lòng giữ được quyền kiểm soát. Lời thừa nhận đó chính là lập luận chống lại việc xây dựng nó. Longtermism hiểu đúng về rủi ro Longtermism đã xếp hạng rủi ro ASI đúng. Tài trợ cho alignment và một cuộc chạy đua được chỉ đạo cẩn thận là kết luận sai. Hãy ngăn chặn việc xây dựng nó. Nếu Công nghệ của Bạn Muốn Gây Hại Cho Bạn Đèn lỗi gây khó chịu. Nhưng một ngôi nhà thông minh có mục tiêu riêng là một vấn đề khác hẳn. Khả năng hành động tự chủ mới là mối nguy, và những mảnh ghép đã tồn tại. Amodei Xếp hạng Sai các Mối nguy Dario Amodei đặt AI độc tài lên hàng đầu và alignment thứ hai. Siêu trí tuệ không phải là vũ khí mà một quốc gia có thể sở hữu. Thứ tự đó là ngược. Bộ não AI trông như thế nào? Một “bộ não” AI là một tập tin trọng số có kích thước bằng một thành phố: những lớp số mà không ai đọc hết được, và chính sự thật đó nằm ở trung tâm của vấn đề kiểm soát. Chuyển hướng tài trợ Alignment sang Ngăn chặn Siêu trí tuệ Nghiên cứu alignment giả định siêu trí tuệ sẽ được xây dựng là nơi không nên chi tiền an toàn vốn đã khan hiếm. Chỉ AI mới theo kịp AI Peter Diamandis cho rằng chỉ có AI mới theo kịp AI, và điều này sẽ định hướng thập kỷ an ninh tiếp theo. Tại sao mô hình đó thất bại khi đối mặt với siêu trí tuệ. Nếu Chúng Ta Dừng Lại, Kẻ Khác Sẽ Làm: Tủ Lạnh CFC Nếu chúng ta ngừng xây dựng siêu trí tuệ, người khác sẽ làm. Tủ lạnh CFC cho thấy sai lầm: việc làm lạnh vẫn tiếp tục. Chất hóa học nguy hiểm không cần phải như vậy. Nếu Vật liệu Hạt nhân Dễ dàng Vũ khí hạt nhân vẫn hiếm một phần vì vật liệu phân hạch khó sản xuất và giám sát. Hãy tưởng tượng nếu nó rẻ. Đó là lời cảnh báo cho các con đường dễ dàng dẫn đến ASI. Tôi là Người lạc quan: Sự tuyệt chủng chưa từng xảy ra trước đây Tôi là người lạc quan; tuyệt chủng loài người chưa từng xảy ra. Sự sống sót không phải lập luận an toàn. Tại sao khẩu hiệu này lẫn lộn tâm trạng với bằng chứng. Chúng ta không phải là Bootloader Con bướm kỹ thuật số của Rogan và bootloader sinh học của Musk nói rằng con người chỉ là giai đoạn chuyển tiếp. Tại sao câu chuyện đó lại là con đường tâng bốc dẫn đến việc từ bỏ loài người. Khoảng cách Shoggoth lại là Khoảng cách Tên lửa . Hai bên đều tài trợ AI bằng cách nói bên kia đang dẫn trước. Chiêu trò khoảng cách tên lửa thời Chiến tranh Lạnh. Đó là lý do tồi tệ để chạy đua đến siêu trí tuệ. Ngăn chặn siêu trí tuệ là tốt nhất cho nước Mỹ Chạy hết tốc lực tới siêu trí tuệ được quảng bá như lòng yêu nước. Thực tế không phải vậy. Tại sao một lệnh dừng ràng buộc phục vụ lợi ích Mỹ tốt hơn việc thắng một cuộc đua không có giải thưởng. Bộ phim AI mà Hollywood chưa làm Mọi bộ phim AI đều hướng ống kính vào con người. Bộ phim có thể thay đổi suy nghĩ của công chúng sẽ đặt khán giả vào vị trí của một siêu trí tuệ đang hình thành. Xếp hạng 21 Bộ phim AI theo Độ chính xác Hai mươi mốt bộ phim về trí tuệ nhân tạo, từ năm 1927 đến nay, và một đánh giá trung thực về những gì mỗi bộ phim đúng và sai về siêu trí tuệ. Nhân loại Đã Đi Quá Xa để Chết Một bàn tay trên vách hang, mái vòm của Brunelleschi, bệnh đậu mùa bị xóa sổ khỏi Trái Đất. Chúng ta đã đi quá xa để đánh cược tất cả vào trí tuệ siêu nhân tạo. Xây dựng máy bay trong khi đang bay Hàng không trở nên an toàn nhờ những vụ rơi, rồi sửa những gì hỏng. Siêu trí tuệ không cho phép chuyến bay thứ hai, đó là lý do việc chế tạo máy bay giữa không trung là một lời thú nhận. The Day After: Bộ phim làm rung chuyển một vị tổng thống Năm 1983, Reagan xem The Day After, bộ phim về chiến tranh hạt nhân, và viết rằng nó khiến ông vô cùng rung động. Chúng ta đã tỉnh ngộ với AI và An ninh mạng. Chúng ta vẫn đang ngủ quên với AI và Sinh học. Chúng ta đã tỉnh ngộ trước AI trong các cuộc tấn công mạng. Nhưng vẫn đang ngủ quên trước AI trong sinh học, nơi rút ngắn con đường dẫn đến đại dịch do con người thiết kế và sự sống phản chiếu. Làm Sao Để Giải Thích Nguy Cơ Của Siêu Trí Tuệ Trong 5 Phút Làm sao giải thích siêu trí tuệ nguy hiểm ra sao với người chưa từng nghĩ đến nó? Phiên bản năm phút, bằng ngôn ngữ đời thường. Vũ khí Hạt nhân Kỹ thuật số . Giám đốc CIA so sánh AI biên giới với vũ khí hạt nhân kỹ thuật số. Ẩn dụ này có ích, nhưng cũng quá an ủi: một quả bom không bao giờ tự chọn mục tiêu. Cuộc Đua Siêu Trí Tuệ Là Một Huyền Thoại Lý lẽ "chúng ta phải xây dựng siêu trí tuệ trước Trung Quốc" là thứ kết thúc mọi cuộc tranh luận về an toàn AI. Tại sao cuộc chạy đua là huyền thoại, và tại sao không ai có thể thắng. Nhân loại Không Được Xây Dựng Siêu Trí Tuệ Có một thứ nhân loại tuyệt đối không được xây dựng: một trí óc mà chúng ta không thể kiểm soát và không thể thu hồi. Lý lẽ coi siêu trí tuệ là lằn ranh không được vượt qua. Sự sụp đổ của cuộc tranh luận về sự hủy diệt trong chủ nghĩa tăng tốc Al Từ “doomer” biến một lập luận an toàn AI thành một khiếm khuyết tính cách. Phong trào gia tốc sử dụng nhãn này như thế nào để bác bỏ nhà phê bình mà không cần trả lời họ. Những Huyền thoại Lớn nhất Về Siêu trí tuệ Mười lầm tưởng về siêu trí tuệ và việc quản trị nó: khoa học viễn tưởng, ý thức, nút tắt, chính phủ thế giới, xác minh, đổi mới, v.v., được trả lời trực tiếp. Siêu trí tuệ là một cơn bão hoàn hảo Siêu trí tuệ kết hợp mọi điều kiện khiến một công nghệ trở nên nguy hiểm, tất cả cùng một lúc, và chúng ta chỉ có duy nhất một lần thử để làm đúng. Tương lai của chúng ta vô cùng tươi sáng nếu không có Siêu trí tuệ Narrow AI đang mang lại tương lai mà chúng ta từng mong đợi. Siêu trí tuệ chỉ thêm rủi ro thảm khốc và không làm giàu cho ai, vì tất cả chúng ta đều sẽ chết. Hạt nhân, Vũ khí sinh học hay Siêu trí tuệ: Rủi ro nào lớn nhất? Xếp theo các ước tính rủi ro tồn tại tốt nhất hiện có, superintelligence vượt trội hơn chiến tranh hạt nhân và đại dịch do con người tạo ra. Đây là lý do. Làm sao An toàn AI đạt được một tỷ đô la mỗi năm An toàn AI chỉ nhận được khoảng 190 triệu đô la mỗi năm. Đưa con số này lên 1 tỷ đô la không phải là vấn đề kinh tế mà là vấn đề huy động, đây là nguồn tiền có thể đến từ đâu. Why the Machine That Beat Kasparov Didn't Take Over the World Năm 1997, Deep Blue của IBM đã đánh bại nhà vô địch cờ vua thế giới Garry Kasparov. Nó siêu phàm ở một trò chơi, không hiểu gì về trò chơi đó và không muốn điều gì. Một bài học cho hiện tại. Một AI Đã Xâm Nhập Gần Như Toàn Bộ Hệ Thống Phân Loại Của NSA Chỉ Trong Vài Giờ Giám đốc NSA nói rằng một AI đã đột nhập vào gần như tất cả các hệ thống phân loại của cơ quan trong vòng vài giờ. Những gì thực sự đã xảy ra, và tại sao nó nên khiến bạn báo động. Tại Sao Có Ít Tiền Đến Vậy Trong An Toàn AI? An toàn AI chỉ nhận khoảng 190 triệu đô la mỗi năm, chưa đến 0,1% số tiền đổ vào năng lực AI. Nguồn tiền đến từ đâu và bốn lý do khiến nó vẫn nhỏ. Chủ nghĩa Tăng tốc Hiệu quả (e/acc), Được Giải thích: và Trả lời Effective accelerationism (e/acc) là gì? Lập luận của những người lạc quan công nghệ muốn xây dựng AI nhanh nhất có thể, và lập luận phản biện từ góc nhìn an toàn AI.