설립자

Naoto Nakada

Nakada Foundation to Save Humanity의 설립자 겸 이사. 의 CEO & 크리에이티브 디렉터 Nakada Design.

약력

소개

Naoto Nakada는 기업가, 자선가, 그리고 럭셔리 의 창립자입니다 마케팅 대행사. 그는 수년 동안 디지털 비즈니스를 구축하고 운영했습니다. 브랜드, 제품, 청중, 전환율을 다루며 대부분의 사람이 이야기만 하는 스택에서 일합니다. 그 유창함은 AI를 주제로 다룰 때 중요합니다. 위험은 시스템, 인센티브, 배포, 속도이기 때문입니다.

그는 도쿄, 시드니, 로스앤젤레스, 런던, 싱가포르에서 생활하고 일했다. 서로 다른 시장, 미디어 습관, 정치. 그 폭이 그가 문화를 빠르게 읽는 방식이며, 초지능, "우리가 통제할 것이다", 우리가 떠날 수 없다는 경주에 관한 엑스와 대중 매체의 신화까지 포함한다.

그는 사물의 외양과 느낌도 중요하게 여긴다. 창의적·미적 판단은 이 작업에서 장식이 아니다. 연구 논문을 결코 펼치지 않을 사람들에게 어려운 진실을 전달하는 방법이다.

그는 자선 시장의 공백을 보았기 때문에 이 일을 시작했습니다. 보기 그 분야: 막대한 돈과 관심이 최전선 시스템을 "더 안전하게" 만드는 데 쓰이면서도 구축은 계속된다. 인공 초지능이 존재하기 전에 멈추는 단순한 과제나 대중에게 팔리는 이야기를 바로잡는 데 쓰이는 자원은 훨씬 적다. 그가 냉전 시대에 살았다면 핵 조약 작업을 지원하는 재단을 세웠을 것이다. 그는 ASI가 우리 시대의 냉전 문제라고 믿는다. 그는 그 공백을 위해 만들어졌다. 디지털 네이티브이자, 세계적으로 유창하며, 상업적으로 날카롭고, 세미나가 끝날 때까지 기다리지 않으려는 사람이다.

최근 글

Naoto Nakada의 기사

추천

왜 우월한 지능이 자동으로 친절하지는 않은가 초지능 인공지능이 현명하고 친절할 것이라는 믿음은 기계 지능이 물려받을 이유가 없는 인간 진화의 특이성에 기반합니다. 인간이 사는 좁은 대역 인간이 필요로 하는 모든 것은 좁은 범위 안에 있습니다: 온도, 산소, 소금, 심지어 사랑까지. 다이얼을 쥔 초지능은 그중 단 하나도 느끼지 못할 것입니다. 우리는 새로운 냉전을 겪고 있다 내가 왜 우리가 폭탄 대신 초지능을 두고 새로운 냉전을 겪고 있다고 믿는지, 그리고 그것이 왜 예방을 희망 없는 것이 아니라 가능하게 만드는지. 자본주의자가 ASI 규제를 믿는 이유 저는 사업을 운영하고 시장을 좋아합니다. 초지능은 게임을 끝낼 수 있는 드문 내기입니다. ASI을 멈추는 조약에 대한 자본주의적 사례입니다. 가스를 인공지능에게 맡기겠습니까? 현재의 어떤 AI를 독가스 밸브가 있는 잠긴 방에 맡기겠습니까? 아닙니다. 그렇다면 왜 세상을 맡기겠습니까? 초지능을 정렬할 수 없다 정렬 문제를 해결한다는 것은 우리보다 똑똑한 무언가를 통제한다는 의미입니다. 초지능은 이름에 이미 담겨 있습니다. 그 계획은 어리석고 불가능합니다. 나는 무엇이든 가능하다고 믿는 낙관주의자이지만 초지능 통제는 아닙니다 물리학은 언젠가 중력 제어나 초광속 여행을 가능하게 할지도 모른다. 그래도 나는 우리보다 똑똑한 마음을 통제할 방법을 알 수 없다. 이것이 이 재단이 존재하는 이유다.

더 많은 글쓰기

로봇은 국가 부채를 갚지 않을 것입니다 워싱턴과 연구소들은 인공지능과 로봇을 국가 부채를 갚을 수단으로 홍보하고 있습니다. 후계 지능은 국채를 상환하지 않습니다. 머스크, 인간이 ASI를 통제하지 못할 것이라고 인정 머스크는 이코노미스트와의 인터뷰에서 초지능 통제는 허영이며 인간이 계속 주도권을 잡을 가능성은 낮다고 말했습니다. 그 발언 자체가 초지능 개발 반대 근거입니다. 장기주의가 위험을 제대로 파악했다 장기주의는 ASI 위험을 정확히 평가했다. 정렬 연구와 신중하게 조종된 경쟁이라는 결론은 잘못이었다. ASI를 만드는 것을 막아야 한다. 당신의 기술이 당신을 해치려 한다면 버그 많은 조명은 성가실 뿐입니다. 스스로 목표를 가진 스마트 홈은 다른 범주입니다. 주체성이 위험하며, 그 조각들은 이미 존재합니다. Amodei는 위험을 잘못 순위 매겼습니다 다리오 아모데이는 권위주의적 인공지능을 최우선으로, 정렬을 그다음으로 둡니다. 초지능은 국가가 소유할 수 있는 무기가 아닙니다. 그 순위는 잘못되었습니다. AI의 "두뇌"는 어떤 모습일까? 인공지능의 ‘두뇌’는 도시만 한 크기의 가중치 파일입니다. 누구도 완전히 읽을 수 없는 수치의 층들, 그리고 그 사실이 통제 문제의 중심에 있습니다. 정렬 자금 지원을 초지능 저지로 전환 초지능이 만들어질 것이라고 가정하는 정렬 연구는 부족한 안전 자금이 들어갈 곳이 아닙니다. 인공지능만이 인공지능을 따라잡을 수 있습니다 피터 디아만디스는 오직 인공지능만이 인공지능을 따라잡을 수 있으며, 이것이 다음 10년의 보안을 이끌 것이라고 말합니다. 그 모델이 초지능에서 실패하는 이유. 우리가 멈추면 다른 누군가가 할 것이다: CFC 냉장고 초지능 개발을 중단하면 다른 누군가가 계속할 것이다. CFC 냉장고 사례가 보여주는 오류다. 냉동은 계속되었고, 위험한 화학물질은 그럴 필요가 없었다. 핵 물질이 쉽게 구할 수 있다면 핵무기가 드물게 남은 이유 중 하나는 핵분열 물질을 만들고 감시하기 어렵기 때문입니다. 만약 그것이 저렴하다면 어떨까요. ASI로 가는 쉬운 경로에 대한 경고입니다. 저는 낙관주의자입니다: 멸종은 이전에 일어난 적이 없습니다 나는 낙관론자다. 인류 멸종은 지금까지 일어난 적이 없다. 생존자 편향은 안전 사례가 아닙니다. 그 구호는 기분과 증거를 혼동합니다. 우리는 부트로더가 아닙니다 로건의 디지털 나비와 머스크의 생물학적 초기 적재기는 인간이 과도기적 존재라고 말한다. 그 이야기가 종을 포기하는 데 아첨하는 길인 이유. 쇼고스 격차는 다시 미사일 격차다 양측은 상대가 앞서 있다고 말하며 인공지능에 자금을 댑니다. 냉전 시대 미사일 격차 수법입니다. 초지능으로의 경쟁이 끔찍한 이유입니다. 초지능 중단이 미국에 가장 좋습니다 초지능을 향한 전속력은 애국심으로 팔립니다. 그렇지 않습니다. 상금 없는 경쟁에서 이기는 것보다 구속력 있는 중단이 미국의 이익에 더 부합하는 이유를 설명합니다. 할리우드가 만들지 않은 인공지능 영화 모든 인공지능 영화는 카메라를 인간에게 향합니다. 대중의 생각을 바꿀 영화는 관객을 새로 등장하는 초지능의 눈 뒤에 둡니다. 정확도 기준 21편의 인공지능 영화 순위 매기기 1927년부터 현재까지 인공지능을 다룬 영화 스물한 편과, 각 작품이 초지능에 관해 옳게 본 점과 잘못 본 점을 솔직하게 평가한 분석. 인류는 죽기에는 너무 멀리 왔습니다 동굴 벽에 손을 얹은 것, 브루넬레스키의 돔, 지구에서 몰아낸 천연두. 우리는 이 모든 것을 인공 초지능에 걸고 도박할 만큼 멀리 왔습니다. 비행 중 비행기 만들기 항공은 추락한 뒤 고장난 부분을 고치며 안전해졌습니다. 초지능에는 두 번째 비행이 없으므로 공중에서 비행기를 만드는 것은 자백입니다. 그 다음 날: 대통령을 뒤흔든 영화 1983년 레이건은 핵전쟁 영화 《다음 날》을 보고 깊은 충격을 받았다고 적었다. 우리는 AI와 사이버에 눈을 떴습니다. 아직 AI와 바이오에는 잠들어 있습니다. 우리는 AI가 사이버 공격에 쓰이는 순간 깨어났습니다. AI가 생물학에 쓰이는 문제에는 아직 잠들어 있으며, 이는 조작된 팬데믹과 거울 생명체로 가는 길을 단축합니다. 5분 만에 초지능의 위험을 설명하는 방법 초지능이 왜 위험한지 한 번도 생각해 본 적 없는 사람에게 어떻게 설명할까요? 평이한 언어로 5분짜리 요약. 디지털 핵무기 CIA 국장은 최전선 인공지능을 디지털 핵무기에 비유했습니다. 비유는 유용하지만 지나치게 안심시킵니다. 폭탄은 스스로 표적을 선택하지 않습니다. 초지능 경쟁은 신화다 중국보다 먼저 초지능을 만들어야 한다는 주장은 모든 인공지능 안전 논쟁을 끝내는 논리입니다. 경쟁이 신화인 이유와 아무도 이길 수 없는 이유를 설명합니다. 인류는 절대로 초지능을 만들어서는 안 됩니다 인류가 절대 만들어서는 안 되는 것이 하나 있습니다: 우리가 통제할 수 없고 되돌릴 수 없는 마음입니다. 초지능을 우리가 넘지 말아야 할 선으로 다루어야 한다는 주장입니다. 인공지능 가속주의에서 비관론자 논증의 오류 파멸론자라는 말은 인공지능 안전 논증을 성격 결함으로 바꿔버립니다. 가속주의 운동이 비판자를 반박 없이 묵살하기 위해 이 꼬리표를 어떻게 쓰는지. 초지능에 대한 가장 큰 신화 초지능과 그 통치에 관한 열 가지 신화: 공상과학, 의식, 전원 차단, 세계 정부, 검증, 혁신 등에 대한 직접적인 답변. 초지능은 완벽한 폭풍입니다 초지능은 기술을 위험하게 만드는 모든 조건을 한꺼번에 결합하며, 우리는 그것을 바로잡을 기회를 단 한 번만 얻게 됩니다. 초지능이 없다면 우리의 미래는 믿을 수 없이 밝다 협소 AI는 이미 우리가 기대했던 미래를 제공하고 있습니다. 초지능은 파국적 위험만 더할 뿐이며, 우리가 모두 죽게 되므로 누구에게도 이익이 되지 않습니다. 핵, 생물무기, 또는 초지능: 어떤 위험이 가장 큰가? 존재적 위험에 대한 최선의 추정치로 순위를 매기면, 초지능은 핵전쟁과 조작된 팬데믹을 능가합니다. 그 근거를 제시합니다. AI 안전에 매년 10억 달러가 투입되려면 인공지능 안전 분야는 연간 약 1억 9천만 달러 규모로 운영된다. 이를 10억 달러로 끌어올리는 것은 경제 문제가 아니라 동원 문제이며, 재원이 어디서 나오는지 살펴본다. 카스파로프를 이긴 기계가 세상을 장악하지 못한 이유 1997년 IBM의 딥 블루는 세계 체스 챔피언 가리 카스파로프를 이겼습니다. 한 게임에서는 초인적이었지만 아무것도 이해하지 못했고 아무것도 원하지 않았습니다. 지금을 위한 교훈입니다. AI가 몇 시간 만에 NSA 기밀 시스템 대부분을 침입하다 NSA 국장은 AI가 몇 시간 만에 기관의 거의 모든 기밀 시스템에 침입했다고 말했다. 실제로 무슨 일이 있었고, 왜 우려해야 하는가. 인공지능 안전에 돈이 왜 이렇게 적은가? AI 안전 분야는 연간 약 1억 9천만 달러로 운영되며, AI 능력 분야로 유입되는 자금의 0.1% 미만입니다. 자금의 출처와 그것이 작게 유지되는 네 가지 이유입니다. 유효 가속주의(e/acc), 설명과 반박 효과적 가속주의(e/acc)란 무엇인가? 가능한 한 빠르게 인공지능을 구축하자는 기술 낙관론과, 인공지능 안전 관점에서 그에 반대하는 주장.