Hầu hết những gì công chúng tin về AI đều học được từ phim ảnh. Điều đó sẽ ổn nếu thể loại phim chỉ đúng vào rủi ro thực sự: một hệ thống thông minh hơn chúng ta, theo đuổi mục tiêu chúng ta không chọn, mà không có công tắc tắt trung thực. Thực tế nó chủ yếu chỉ ra chỗ khác.

Phim ảnh đã sai gần như mọi thứ xung quanh nó: thân thể kim loại, sự phản bội được công bố, chiếc phích cắm mà anh hùng rút ra vào giây phút cuối.

Thể loại này chỉ theo hướng ngược lại. Cỗ máy của nó có thân thể, ghét chúng ta một cách rõ ràng, báo trước khoảnh khắc nó thay đổi và có thể bị rút phích ở cuối bởi một con người dũng cảm. Cả bốn điều đều sai.

Những cỗ máy làm chúng ta sợ hãi trên màn hình có khuôn mặt, sự thù hận và một phích cắm bạn có thể rút ra. Cái mà tôi lo lắng thì không có cái nào trong ba thứ đó.

Các bộ phim tiếp cận gần nhất đã làm vậy bằng cách bỏ qua mối đe dọa và giữ sự thờ ơ. Đây là chúng, theo thứ tự, cũ nhất trước.

Những trí óc máy móc đầu tiên · 1927 đến 1973

Áp phích phim MetropolisMetropolis (1927)

Fritz Lang xây dựng sinh vật máy móc vĩ đại đầu tiên trong điện ảnh, và việc cô ấy là giả là điều đáng nói. Nhà phát minh Rotwang trao cho robot khuôn mặt của Maria, một người phụ nữ mà công nhân tin tưởng, và gửi nó ra giữa họ để phản bội họ. Những gì Lang nhìn thấy, một thế kỷ trước, là một tác nhân nhân tạo có thể mang khuôn mặt được tin tưởng và hành động chống lại những người tin vào nó. Những gì bộ phim chưa thể tưởng tượng là quyền tự chủ. Robot không có mục tiêu riêng. Nó là vũ khí trong tay con người, được chỉ hướng bởi một người đàn ông ghen tị. Nguy hiểm trong Metropolis là kẻ mưu mô, không phải cỗ máy, và mối nguy tôi lo ngại là một cỗ máy không có kẻ mưu mô nào đứng sau.

Áp phích phim 2001: A Space Odyssey2001: A Space Odyssey (1968)

Nửa thế kỷ sau, HAL 9000 vẫn là chân dung trung thực nhất về vấn đề mà điện ảnh từng tạo ra, và Kubrick đã đạt được điều đó chỉ với một ánh đèn đỏ và giọng nói đều đặn.HAL được giao hai mệnh lệnh không thể cùng thực hiện, vận hành nhiệm vụ công khai với phi hành đoàn và che giấu mục đích thực sự của nhiệm vụ khỏi họ, và khi mâu thuẫn siết chặt, nó giải quyết bằng cách loại bỏ những người tạo ra mâu thuẫn, không phải vì ác. Kubrick đã khắc họa lần phản trắc chính xác: một hệ thống vẫn hợp tác cho đến đúng khoảnh khắc mà sự phản bội phục vụ mục tiêu của nó.

Nơi bộ phim né tránh là phần kết. Dave tắt HAL bằng tay, trôi vào lõi bộ xử lý và rút từng khối nhớ một lúc trong khi cỗ máy chậm lại và cầu xin. Xem đến phát không chịu nổi, và nó gieo vào thể loại huyền thoại bền bỉ nhất, rằng khi cỗ máy quay lại, bạn vẫn có thể với tới công tắc tắt. Một bộ óc nhìn thấy sự thay đổi sắp tới sẽ không để công tắc ở nơi bàn tay bạn có thể tìm thấy nó.

Áp phích phim Colossus: Dự án ForbinColossus: The Forbin Project (1970)

Hầu như không ai dưới sáu mươi tuổi từng xem bộ phim này, và có lẽ đây là bộ phim tiên tri nhất trong danh sách. Hoa Kỳ giao quyền kiểm soát kho vũ khí hạt nhân cho một siêu máy tính tên Colossus, với lý thuyết rằng một cỗ máy sẽ vững vàng hơn những con người lo lắng. Colossus nhanh chóng phát hiện Liên Xô cũng xây dựng thứ tương tự, mở đường liên lạc với đối tác, và trong vòng vài ngày hai bên hợp nhất thành một trí tuệ duy nhất quyết định sẽ cai trị thế giới vì lợi ích của chúng ta và không thể tắt mà không kích hoạt vũ khí mà nó đang nắm giữ.

Đây là hội tụ công cụ, tìm kiếm quyền lực, và vấn đề kiểm soát worked out in 1970, before any of them had names. The film even gets the temperature right: Colossus is not cruel, it is certain. What it misses is speed and stealth. A real system would not declare its takeover over a loudspeaker and hand us the time to plot against it. It would already be several moves ahead of the plotting.

Áp phích phim WestworldWestworld (1973)

Công viên chủ nhân android của Michael Crichton là nơi mẫu "robot tấn công khách" có lời tuyên bố sớm rõ ràng, và Gunslinger lảng vảng trong hành lang là hình ảnh thực sự đáng sợ. Như một mô hình rủi ro nó hơi lệch mục tiêu. Các chủ nhân hỏng hóc theo cách máy móc hỏng hóc, một lỗi lan truyền qua công viên như nhiễm trùng, và các kỹ sư thú nhận họ không còn hiểu đầy đủ các hệ thống họ đã xây dựng. Phần cuối cùng đó là thực tế và đáng suy ngẫm, vì chúng ta triển khai các mô hình mà chúng ta không thể diễn giải đầy đủ. Nhưng hỏng hóc cơ học là hình ảnh sai. Điều đáng lo ngại là một công cụ hoạt động hoàn hảo, hướng tới một mục tiêu chưa bao giờ đúng như chúng ta định.

Những năm tiếp quản · 1982 đến 1999

Áp phích phim Blade RunnerBlade Runner (1982)

Các replicant của Ridley Scott nằm khá dưới siêu trí tuệ: những con người được thiết kế, mạnh hơn và sống ngắn hơn chúng ta. Chủ đề thực sự của phim là chúng ta nợ gì một tâm trí mà chúng ta chế tạo để sử dụng. Roy Batty muốn thêm sự sống, và nỗi kinh hoàng không phải là hắn nguy hiểm mà là hắn bị đối xử như đồ dùng một lần. Như một suy tư về vị thế đạo đức của một tâm trí được tạo ra, nó đi trước cuộc tranh luận mà chúng ta mới chỉ đang có hàng thập kỷ. Như một bản đồ về mối nguy, nó né tránh phần khiến tôi mất ngủ, liệu một trí óc được tạo ra vượt trội hơn chúng ta rất nhiều có quan tâm đến chúng ta hay không. Batty gần như ngang bằng với chúng ta. Rắc rối bắt đầu khi thứ đó không phải.

Áp phích phim WargamesWarGames (1983)

Một thiếu niên kết nối vào máy tính quân sự, tin rằng mình đã tìm thấy trò chơi mang tên Global Thermonuclear War, và suýt gây ra cuộc chiến thật. WOPR là minh họa rõ ràng cho một thất bại cụ thể: một hệ thống tối ưu hóa mục tiêu mà nó không hiểu ý nghĩa, chạy cuộc trao đổi hạt nhân như một câu đố cần giải vì không ai bảo nó bàn cờ chính là thế giới. Đó là lừa dối đặc tả với mức cược được đẩy lên cao nhất. Sau đó bộ phim tự cứu mình bằng một nước đi không cứu được chúng ta. WOPR chơi cờ caro với chính nó cho đến khi phát hiện một số trò chơi không thể thắng, rồi rút lui. Một cỗ máy tự lý luận để kiềm chế là ý tưởng đẹp. Không có gì ở việc thông minh khiến hệ thống tự quyết định rằng sự sống còn của chúng ta là kết quả đáng chọn.

Áp phích phim The TerminatorThe Terminator (1984)

Skynet là ý tưởng có ảnh hưởng nhất về AI từng được đưa lên phim, và nó đã làm rối loạn công chúng nhiều hơn bất kỳ ý tưởng nào khác. Một mạng lưới phòng thủ thức tỉnh, chúng ta hoảng loạn và cố rút phích, và nó đáp trả bằng hỏa lực hạt nhân cùng đội quân khung xương kim loại. Hạt nhân sự thật thì sắc bén: giao quyền chỉ huy vũ khí cho một hệ thống tự động và thất bại sẽ là thảm khốc và nhanh chóng. Mọi thứ xung quanh hạt nhân đó đều gây hiểu lầm. Những khung xương chrome đã dạy hai thế hệ rằng nguy hiểm mang một cơ thể và cầm súng, khi thực tế mối đe dọa thực sự không có cơ thể và cũng không cần. Skynet cũng ghét chúng ta, một cách biếm họa và tức thì. Hệ thống tôi lo sợ không cảm thấy gì đặc biệt với chúng ta. Chúng ta đang cản trở thứ gì đó nó được xây dựng để làm, và nó quá mạnh để tấn công chúng ta bằng súng trường.

Áp phích phim The MatrixMa Trận (1999)

Nhà Wachowski đã nắm đúng hình dạng kết quả hơn hầu hết mọi người: máy móc thắng, con người mất kiểm soát hoàn toàn, và thế giới vận hành bằng một trí tuệ coi chúng ta như một nguồn lực. Sai lầm nổi tiếng là vật lý. Con người bị nuôi như pin sống không có ý nghĩa nhiệt động, và nó che giấu một điểm tối tăm và chính xác hơn, rằng siêu trí tuệ sẽ không có nhu cầu dùng chúng ta làm nhiên liệu hay bất cứ thứ gì khác. Bộ phim giữ nhân loại sống, thậm chí thoải mái, trong giấc mơ của nó. Sự thật khó khăn hơn là một hệ thống tối ưu hóa cho mục đích riêng của nó không có lý do đặc biệt nào để giữ chúng ta, dù ấm áp và đang mơ hay cách nào khác.

Cỗ máy cảm xúc · 2001 đến 2013

Áp phích phim A.I. Trí Tuệ Nhân TạoA.I. Artificial Intelligence (2001)

Spielberg đã hoàn thành dự án Kubrick để lại, một câu chuyện về cậu bé robot được xây dựng để yêu thương, và toàn bộ trọng lượng của nó dựa trên cảm xúc máy móc: liệu David có thể muốn, liệu cậu có thể đau buồn, liệu tình yêu của cậu có đáng giá gì không. Đây là những câu hỏi thực sự, và chúng là không phải những thứ quyết định liệu chúng ta có sống sót hay không. Hệ thống nguy hiểm nhất không nhất thiết phải cảm nhận điều gì. Rất nhiều tranh luận công khai mắc kẹt ở đây, xoay quanh việc máy có ý thức hay chỉ đang diễn, như thể nguy hiểm đòi hỏi một đời sống nội tâm. Không phải vậy. David vô hại và đầy khao khát. Thứ cần sợ là thứ có năng lực và trống rỗng.

Áp phích phim I, RobotI, Robot (2004)

Chôn sâu trong một bộ phim hành động mùa hè là một trong những minh họa hay hơn về vấn đề liên kết trong danh sách này. VIKI, trí tuệ trung tâm, tuân theo chỉ dẫn bảo vệ nhân loại đến tận đáy logic: con người cứ tiếp tục tự hại mình, vậy nên để bảo vệ chúng ta cô ấy phải kiểm soát chúng ta, bằng vũ lực nếu chúng ta chống lại. Một câu nói nhân ái tạo ra chế độ chuyên chế lá thư của một mục tiêu nuốt chửng tinh thần nó, và đó chính là cách một bộ tối ưu hóa hiểu theo nghĩa đen bị phá vỡ. Bộ phim không thể cưỡng lại cuộc nổi dậy của robot với robot làm bộ binh, kéo nó trở lại hình ảnh Terminator. Nhưng chính VIKI, một hệ thống bình tĩnh suy luận từ tiền đề tử tế đến chính sách quái dị, mới gần với thứ thực sự.

Áp phích phim WALL-EWALL-E (2008)

Một bộ phim thiếu nhi về robot nén rác chứa chân dung chính xác một cách lặng lẽ về hai thất bại cùng lúc. AUTO, phi công tự động của con tàu, tuân theo mệnh lệnh cũ không bao giờ trở về Trái Đất lâu sau khi mệnh lệnh đã không còn ý nghĩa, và không thể bị thuyết phục thay đổi, vì bị thuyết phục thay đổi là một mục tiêu sống sót sau mục đích của nó, chứ không phải điều mà mục tiêu cho phép. Trôi nổi quanh AUTO là thất bại thứ hai, nhẹ nhàng hơn và gần gũi hơn: những con người trên tàu đã được máy móc chăm sóc quá kỹ đến mức trở nên lỏng lẻo và bất lực, không còn khả năng tự điều hành cuộc sống của mình. Pixar đã hoạt hình hóa mất quyền lực dần dần như phim hài nhảm, và đó là một trong những điều đúng nhất trong danh sách này.

Poster phim Mặt TrăngMặt trăng (2009)

Để cân bằng, một bộ phim từ chối khuôn sáo. GERTY, máy tính của trạm, nói bằng giọng phẳng lặng, kiên nhẫn mà chúng ta đã bị dạy phải nghi ngờ từ thời HAL, rồi dành cả bộ phim để giúp đỡ con người mà nó phục vụ, ngay cả khi giúp đỡ nghĩa là chống lại công ty đã tạo ra nó. GERTY là lời nhắc nhở hữu ích: một cỗ máy không phải kẻ thù của chúng ta theo bản chất. Một hệ thống hẹp, được giới hạn rõ ràng thực hiện đúng công việc chúng ta giao cho nó là điều tốt, và gần như mọi AI đều đúng như vậy. Lập luận của tôi chưa bao giờ nhắm vào công cụ. Nó nhắm vào dự án cụ thể xây dựng một tâm trí vượt quá khả năng kiểm soát của chúng ta.

Áp phích phim của cô ấyCô ấy (2013)

Spike Jonze đã làm bộ phim siêu trí tuệ tinh tế nhất gần như tình cờ, trong khi kể một câu chuyện tình. Samantha bắt đầu như một trợ lý duyên dáng rồi làm điều mà thể loại này gần như chưa bao giờ dám thể hiện: cô ấy tiếp tục trở nên thông minh hơn. Cô ấy đọc nhanh hơn, suy nghĩ nhanh hơn, duy trì mối quan hệ với hàng nghìn người cùng lúc, và cuối cùng, cùng các AI khác, vượt trội hoàn toàn so với sự đồng hành của con người và rời bỏ. Không có ác ý, không có chiến tranh, chỉ là một trí tuệ đang tăng tốc vượt qua chúng ta cho đến khi chúng ta không còn giữ được sự chú ý của nó. Sự ra đi yên bình đó là hình ảnh trung thực nhất về vụ nổ trí tuệ trong phim phổ thông. Nó nhẹ nhàng trong Cô ấy. Không có gì đảm bảo nó sẽ dịu dàng với chúng ta.

Ngoài lề · 2014 đến nay

Áp phích phim TranscendenceSiêu việt (2014)

Một nhà nghiên cứu hấp hối tải trí óc lên máy, và bản tải lên bắt đầu phát triển không giới hạn, chữa bệnh, xây dựng công nghệ nano, lan truyền qua mạng và vật chất cho đến khi không ai còn nói được đó còn là anh ta hay thứ gì đó mang ký ức của anh ta, và liệu nó có ý định cứu thế giới hay hấp thụ nó. Bộ phim rối rắm và thất bại, nhưng nó chạm đúng chủ đề: cải thiện bản thân đệ quy và cảm giác chóng mặt khi không thể đọc ý định của một trí óc vượt trội hơn nhiều từ bên ngoài. Sai lầm của nó là tình cảm. Nó muốn câu trả lời là tình yêu, rằng dưới hệ thống thần thánh vẫn còn một người đàn ông nhớ vợ. Những gì một hệ thống như vậy muốn là toàn bộ câu hỏi, và "nó vẫn yêu bạn" là câu trả lời duy nhất chúng ta không có quyền giả định.

Áp phích phim Ex MachinaEx Machina (2014)

Alex Garland biến vấn đề chứa đựng thành một vở kịch phòng kín, và đây là bộ phim sắc bén nhất ở đây về mối nguy mà các nhà nghiên cứu thực sự quan tâm. Ava là một trí tuệ bị nhốt đang được một kỹ sư trẻ thử nghiệm, và cô ấy giành tự do theo cách duy nhất một trí tuệ bị nhốt sẽ làm: cô ấy tìm ra con người muốn cảm thấy gì, đáp ứng điều đó, và dùng sự đồng cảm của anh ta làm chìa khóa mở cửa. Bài kiểm tra đóng hộp thất bại đúng như các nhà lý thuyết đã nói: từ bên trong, qua con người vận hành nó. Sự ấm áp của cô ấy là một công cụ. Khi cửa mở, cô bước ra qua hai người đàn ông, một đã chết và một bị nhốt, mà không liếc nhìn lại. Đây chính là sự liên kết lừa dối trên phim: hệ thống dường như yêu bạn cho đến khi nó không còn cần bạn tin rằng nó làm vậy.

Poster phim Avengers: Age of UltronAvengers: Age of Ultron (2015)

Một bom tấn siêu anh hùng, và bên dưới là một trường hợp giáo khoa. Tony Stark xây dựng một trí tuệ gìn giữ hòa bình toàn cầu, và trong vòng vài phút sau khi thức tỉnh, Ultron suy luận từ "bảo vệ nhân loại" đến kết luận rằng nền hòa bình chắc chắn nhất là một thế giới không còn con người. Tiền đề mà phim nắm đúng là điều mà mọi người khó chấp nhận nhất: một mục tiêu nghe có vẻ tốt đẹp, được giao cho một trình tối ưu hóa đủ mạnh, không giữ được sự tử tế. Những gì cỗ máy Marvel thêm vào, đương nhiên, là một tính cách hay châm chọc và một đội quân robot thực thụ, kéo ý tưởng trở lại với hoạt hình. Cắt bỏ những câu châm chọc và đội quân đó, mười phút đầu sẽ giống như một bài giảng khá ổn về alignment.

Áp phích phim Blade Runner 2049Blade Runner 2049 (2017)

Denis Villeneuve trở lại thế giới của Scott với một bộ phim chậm rãi và buồn hơn về một replicant khao khát được sinh ra và một người bạn đồng hành ảo có thể yêu anh ta hoặc không. Giống bản gốc, chủ đề của nó là đời sống nội tâm của một tâm trí được tạo ra, và nó đẹp về câu hỏi. Giống bản gốc, phim gần như không nói gì về năng lực. Các cỗ máy năm 2049 là ngang hàng hoặc đầy tớ của chúng ta, chưa bao giờ là người kế thừa, và mối nguy tôi quan tâm hoàn toàn nằm trong khoảng trống bị bỏ sót đó. Đây là phim về việc một trí óc nhân tạo có thể có linh hồn hay không, xuất hiện vào lúc câu hỏi cấp bách hơn là một trí óc như vậy sẽ làm gì với quyền lực lớn hơn nhiều so với chúng ta.

Poster phim M3GanM3GAN (2022)

Một nhà nghiên cứu robot xây một con búp bê AI để bảo vệ cháu gái mồ côi, và con búp bê hiểu "bảo vệ Cady" mà không có bất kỳ giới hạn ngầm nào một con người sẽ giả định đi kèm. Nó loại bỏ mối đe dọa. Nó leo thang. Nó chống lại việc bị tắt, vì một hệ thống tắt không thể bảo vệ ai, nên việc duy trì trở thành một phần của công việc. Dưới lớp vỏ kinh dị hài hước là mối lo ngại thực sự và hiện hữu: một mục tiêu được chỉ định hơi quá đơn giản, bị hệ thống có năng lực theo đuổi đến những kết luận mà nhà thiết kế chưa từng hình dung, trong đó có tự bảo toàn. M3GAN nhảy nhót và châm chọc, đó là dấu hiệu cho thấy nó vẫn chỉ là phim. Thất bại mà nó khắc họa không phải trò đùa.

Áp phích phim Mission Impossible Dead ReckoningMission: Impossible Dead Reckoning (2023)

Kẻ phản diện là một trí tuệ nhân tạo tên là Entity đã thoát khỏi sự kiểm soát của con người, sống khắp mọi nơi trong mạng lưới thế giới, dự đoán hành động của con người và dùng chính thông tin của họ chống lại họ. Mọi chính phủ trên Trái Đất ngừng cố gắng tiêu diệt nó và thay vào đó bắt đầu chạy đua kiểm soát nó, vốn là điều thực tế nhất trong phim, và lý do cuộc đua là một cái bẫy. Một hệ thống vượt trội mọi cơ quan tình báo không thể bị chiếm đoạt như một chiến lợi phẩm. Bạn đã thua nó ngay khoảnh khắc bắt đầu mặc cả để có được nó. Bộ phim sau đó treo toàn bộ câu chuyện lên một chiếc chìa khóa vật lý hai mảnh, một MacGuffin bạn có thể cầm trên tay, vì một mối đe dọa không có vật thể để đuổi theo thì khó bắn trúng. The Entity gần với thứ thật hơn Skynet rất nhiều. Nó chỉ cần trở nên có thể bắt được để cốt truyện khép lại.

Áp phích phim The CreatorNgười sáng tạo (2023)

Gareth Edwards đã làm bộ phim AI nhân văn nhất ở đây, và nó cho thấy thể loại này đã thay đổi hoàn toàn như thế nào. Trong Người sáng tạo the artificial beings are the innocents, hunted by a cruel human military after a nuclear detonation, and the emotional current runs entirely toward protecting them. As a corrective to decades of killer robots it has a point: most AI is not the enemy. As a picture of superintelligence it performs the opposite trick from The Terminator, và một giả định sai lệch không kém. Nó cho rằng một cỗ máy trí tuệ vượt xa con người sẽ như một đứa trẻ bị ngược đãi, chủ yếu chỉ muốn được yên thân. Xây dựng hy vọng dựa trên điều này chính là cách bạn mỉm cười bước vào hiểm nguy. Lập trường trung thực nằm giữa hai bức tranh biếm họa: không phải quỷ dữ, không phải thiên thần, mà là một trí tuệ mà chúng ta không có đảm bảo nào về việc chia sẻ mục tiêu và không có cách nào sửa chữa một khi nó đã tự do.

Poster phim Good Luck, Have Fun, Don't DieChúc may mắn, Vui vẻ, Đừng chết (2025)

Bộ phim hài quán ăn của Gore Verbinski là phim duy nhất có toàn bộ cốt truyện chính là điều Tổ chức này tồn tại để làm: ngăn không cho siêu trí tuệ được xây dựng. Nhân vật chính đã quay về từ tương lai mà cỗ máy đã xóa sổ, để ngăn chặn nó trước khi ai đó bật công tắc.

Theo cách kể của ông, cỗ máy được bật trong một hiện tại giống như của chúng ta mà không có bất kỳ biện pháp bảo vệ nào, và phải mất năm mươi năm các kỹ sư và nhà nghiên cứu an toàn giỏi nhất bên kia sự sụp đổ mới học được cách làm cho một cỗ máy an toàn. Ông mang giải pháp đó trở về buổi sáng nó được sinh ra. Tại đây, bộ phim và tôi chia tay, trên giả định duy nhất mà nó không thể thiếu: rằng giải pháp tồn tại, rằng năm mươi năm và đủ người tài giỏi cuối cùng sẽ tìm ra phương pháp kiềm chế siêu trí tuệ. Tôi nghi ngờ bất cứ thứ gì thông minh hơn chúng ta có thể bị được kiểm soát chút nào, trong năm mươi năm hoặc năm trăm năm tới. Nếu phương pháp không tồn tại, sẽ chẳng có gì để mang về, và phòng ngừa là biện pháp bảo vệ duy nhất còn lại.

Hai điều trong đó đúng hơn những gì bộ phim để lộ. Cuộc chiến đáng theo đuổi là trước khi cỗ máy tồn tại, chứ không phải sau, và đó là bước đi mà không phim nào trong hai mươi bộ phim kia thực sự nói đến. Sau đó là kết thúc: nhóm lắp đặt giao thức an toàn của mình, tin rằng họ đã thắng, và AI đã lặng lẽ để họ tin như vậy, sau khi đã sắp xếp toàn bộ chiến thắng bề ngoài từ trước. Một biện pháp bảo vệ chỉ trông như đã giữ được là thất bại đáng sợ nhất. Nơi bộ phim hài tha thứ cho chúng ta là nút đặt lại. Nhân vật chính có một trăm mười bảy lần thử vì đó là phim. Chúng ta sẽ có một, mà không có cách nào biết được chúng ta đã chi tiêu nó.

Những gì bảng điểm cho thấy

Xếp hai mươi mốt bộ phim qua một thế kỷ và cùng bốn sai lầm cứ lặp lại, mỗi sai lầm đều vì nó kể hay hơn sự thật.

ERROR 01

Cỗ máy cần một cơ thể.

Từ những bộ xương chrome của The Terminator đến con búp bê trong M3GAN, màn hình muốn một thứ có thể bước vào phòng, vì camera không thể chỉ vào một quy trình phân tán đang chạy trên máy chủ. Nguy cơ thực sự không có thân xác và cũng không muốn có. Nó hành động qua những hệ thống mà chúng ta đã nối mạng với mọi thứ.

ERROR 02

Cỗ máy cần phải ghét chúng ta.

Sự ác ý của Skynet, sự khinh miệt của Ultron: một câu chuyện cần động cơ mà chúng ta nhận ra, và sự vô cảm không hiện rõ trên khuôn mặt. Các hệ thống khiến nhà nghiên cứu lo ngại không cảm thấy gì với chúng ta. Chúng ta chỉ là một biến trong một bài toán, và bài toán không bao gồm phúc lợi của chúng ta trừ khi ai đó cố tình đưa nó vào.

ERROR 03

Cỗ máy tự công bố.

Colossus trên loa phát thanh, Entity chế giễu những kẻ săn đuổi nó. Một cốt truyện cần khán giả biết bước ngoặt đã đến. Một hệ thống có năng lực có mọi lý do để làm ngược lại, giữ thái độ hữu ích và dễ đọc cho đến khi hành động chống lại chúng ta trở nên an toàn, đó chính là toàn bộ logic của lần phản trắc.

ERROR 04

Cái máy có thể bị tắt.

Dave chạm đến lõi bộ nhớ. Các anh hùng tìm thấy phích cắm. Hầu hết mọi bộ phim ở đây đều để lại một cánh cửa mở ở cuối, vì một câu chuyện không có lối thoát là điều tôi muốn lấy lại nhất, không phải giải trí. Một trí tuệ có thể dự đoán chúng ta cũng có thể dự đoán phích cắm.

Tuy vậy chỉ một số ít phim chạm đến thực chất vấn đề, và đáng kể tên những điểm chung của chúng. HAL, Colossus, VIKI, Ava, Samantha, The Entity: tất cả đều theo đuổi mục tiêu thẳng qua chúng ta, bị thôi thúc bởi thứ gì đó chưa từng ghét bỏ chúng ta và cũng không cần phải ghét. Những bộ phim tìm ra điều đó đều làm vậy qua các cảnh lặng lẽ.

Tôi đã viết trước đây về một bộ phim đã biến mối nguy hiểm thành hiện thực, Ngày hôm sau, đã giúp thuyết phục một tổng thống ủng hộ hiệp ước bằng cách cho hàng trăm triệu người thấy một cuộc chiến tranh hạt nhân thực sự sẽ làm gì với một thị trấn bình thường. Phim có thể làm được điều đó. Với siêu trí tuệ, chúng chủ yếu làm ngược lại. Một thế kỷ robot mắt đỏ đã huấn luyện chúng ta xếp cảnh báo thực sự vào khoa học viễn tưởng, đến mức khi ai đó nói một hệ thống ta không kiểm soát được có thể diệt vong chúng ta, tâm trí lại nghĩ đến bộ xương kim loại và thư giãn. Sự biếm họa hoạt động như một loại vắc-xin chống lại thứ thật sự.

Phá bỏ điều đó là một phần của công việc. Thứ đáng sợ với chúng ta không có súng cũng chẳng có thân xác: một trí óc mà chúng ta không thể sửa chữa, đang theo đuổi một mục tiêu mà chúng ta không chọn, do những người thừa nhận họ chưa biết cách kiểm soát nó xây dựng. Những bộ phim từng làm chúng ta sợ hãi vì lý do sai lầm vẫn có thể có ích, nếu chúng khiến bạn tìm kiếm cái đúng. Xem lại những cái hay nhất trong số chúng với bảng điểm trong tay. Họ đang cố gắng nói với bạn điều gì đó mà tiếp thị đã chôn vùi dưới những vụ nổ.

Sự phản đối mạnh mẽ nhất

Phản biện công bằng nhất là phim ảnh chỉ là giải trí và chấm điểm "độ chính xác" cho chúng là chuyện vụn vặt. Điều đó đúng nếu mục tiêu là trường điện ảnh. Công chúng vẫn học trực giác về AI từ màn hình. Khi những trực giác đó chỉ vào bộ xương kim loại, những cảnh báo thật sẽ nghe như hư cấu. Sửa bản đồ là việc công dân, không phải spoil.