Nhân loại Đã Đi Quá Xa để Chết

Khoảng 36.000 năm trước, trong một hang động trên vách vực sông ở miền nam nước Pháp ngày nay, một người đặt bàn tay phẳng lên đá vôi lạnh và thổi bột màu qua đó. Tảng đá giữ lại hình bóng bàn tay. Nó vẫn còn đó, trong bóng tối Chauvet.

Tôi muốn đếm những gì họ đang đặt cược.

Chúng ta không biết gì về người đó. Không biết tên, không biết có ai từng yêu thương họ hay không. Chúng ta chỉ biết họ đã lạnh, và đã dành một phần cuộc đời ngắn ngủi để làm ra một thứ không nuôi sống họ, trong bóng tối, để nó vẫn còn đó khi ai đó đến. Họ muốn được nhìn thấy. Phải mất ba mươi sáu nghìn năm chúng ta mới xuất hiện.

Loài của họ không phải là một canh bạc an toàn. Mọi con người đang sống đều mang ít đa dạng di truyền hơn so với tinh tinh ở vài khu rừng lân cận, dấu vết của tổ tiên từng ít đến mức có thể nhét vừa một thị trấn nhỏ. Chúng ta là một loài vượn hiếm có đôi bàn tay khéo.

Mười nghìn thế hệ đầu tiên

Lửa, rồi ngôn ngữ. Sau đó là phát hiện rằng một hạt giống được gieo xuống đất có chủ đích sẽ trở thành thức ăn. Khoảng mười hai nghìn năm trước, con người ngừng theo đàn thú và bắt đầu chờ đợi mùa màng, nghĩa là ở yên một chỗ, nghĩa là thành phố.

Ở Uruk, khoảng 3200 TCN, ai đó đã ấn một cây sậy cắt vào đất sét ướt để ghi lại số lượng lúa mạch. Đó là mục đích ban đầu của chữ viết: một ngôi đền cần đếm thóc. Trong khoảng một nghìn năm sau, người ta dùng cùng những dấu vết đó để viết một bài thơ về một vị vua không thể chấp nhận việc người bạn đã chết. Thành phố sụp đổ. Ngôn ngữ biến mất. Bài thơ vẫn còn đọc được.

Khoảng năm 300 TCN tại Alexandria, Euclid chứng minh không có số nguyên tố lớn nhất. Chứng minh vẫn đúng. Nó sẽ đúng mãi mãi, trên bất kỳ hành tinh nào, trong bất kỳ thế kỷ nào. Không gì khác mà thành phố đó tạo ra tồn tại nguyên vẹn: thư viện đã mất, bến cảng bị bồi, ngôn ngữ họ tranh luận đã để lại cho chuyên gia. Chứng minh đi qua mà không bị đụng đến, vì nó được làm từ lý luận, và lý luận không mục nát.

Công việc đã chuyển dịch. Vào thế kỷ thứ chín tại Baghdad, al-Khwarizmi viết cuốn sách đã cho chúng ta từ "đại số", và khoảng năm 1020 Ibn al-Haytham hoàn thành nghiên cứu về quang học dựa trên một nguyên tắc phải tranh đấu mới có được: nếu muốn biết một tuyên bố về thế giới có đúng hay không, hãy đi kiểm chứng nó.

Thời Phục hưng, và lỗ hổng trên mái

Từ năm 1347 đến 1351, dịch hạch đã giết chết khoảng một phần ba dân số châu Âu. Không phải một phần ba quân đội. Một phần ba mọi người. Các làng mạc trở nên im lặng và mãi im lặng, những người sống sót chôn cất gia đình bằng chính đôi tay mình.

Và rồi những người sống sót đi tìm quá khứ. Năm 1417, một thư ký giáo hoàng tên Poggio Bracciolini, thất nghiệp trong thời kỳ ly giáo, đã cưỡi ngựa đến một tu viện Đức và tìm thấy bản sao cuối cùng của một bài thơ La Mã đã nằm trong bóng tối suốt một nghìn năm. Đó chính là Phục Hưng bên dưới những bức tranh: những người vừa chứng kiến nửa thế giới chết đi, quyết định cứu những gì suýt bị mất và sau đó bổ sung thêm.

Florence đi xa hơn. Nhà thờ chính tòa của nó được bắt đầu xây dựng năm 1296 với kế hoạch đòi hỏi một mái vòm rộng hơn bất kỳ thứ gì được xây dựng từ thời La Mã, và không ai còn sống biết cách xây dựng nó. Vì vậy họ xây nhà thờ và để lại lỗ hổng. Trong nhiều thập kỷ có một khoảng trống trên mái, rộng bằng một khu phố, hở ra với thời tiết, bởi vì một thành phố đã đặt cược rằng một người chưa sinh ra sẽ tìm ra cách đóng nó lại.

Filippo Brunelleschi thắng thầu năm 1418. Ông phát minh ra hệ thống tời trước khi nâng được viên đá. Ông xếp hơn bốn triệu viên gạch theo hình xoắn xương cá tự đỡ chính nó khi mọc lên, không cần khung gỗ bên dưới, và năm 1436 ông lấp kín lỗ hổng. Ngày nay bạn vẫn có thể leo lên đó.

Florence để lại một lỗ thủng trên mái và tin tưởng tương lai sẽ lấp nó. Nhà thờ trống vắng. Nếu Brunelleschi thất bại, Florence sẽ mất một tòa nhà. Không ai đứng bên dưới.

Tôi yêu câu chuyện đó và muốn cẩn thận với nó, vì nó gần với câu chuyện ngành công nghiệp AI tự kể về mình. Để phần khó mở, tin rằng ai đó xuất sắc sẽ kịp đến. Khác biệt nằm ở thứ nằm dưới lỗ hổng. Một mái vòm thất bại khiến thành phố mất nhà thờ. Chúng ta đang đề xuất để lỗ hổng mở trên đầu mọi người.

Phần còn lại đến rất nhanh. Máy in Gutenberg những năm 1450 khiến một ý tưởng có thể chạy nhanh hơn cả người nghĩ ra nó. Chỉ trong một năm, 1543, Copernicus đẩy Trái Đất ra khỏi trung tâm vũ trụ còn Vesalius mở cơ thể người ra và vẽ đúng những gì thực sự ở bên trong, cả hai đều bác bỏ các thẩm quyền đã không ai dám nghi ngờ suốt mười bốn thế kỷ.

Thế kỷ chúng ta ngừng chôn cất con cái mình

Năm 1800, gần bốn trong mười trẻ em chết trước sinh nhật thứ năm. Không chỉ ở các nước nghèo. Mà ở khắp nơi. Đó là ý nghĩa của việc sinh con, trong mọi xã hội, suốt toàn bộ lịch sử loài người cho đến khoảng sáu thế hệ trước. Ngày nay tỷ lệ này dưới một trên hai mươi lăm.

Phải đến năm 1796 vắc-xin của Jenner mới ra đời. Phải đến sáng ngày 16 tháng 10 năm 1846, khi một nha sĩ Boston gây mê cho bệnh nhân và phẫu thuật không còn là tra tấn trên người còn tỉnh táo bị những gã lực lưỡng giữ chặt. Phải đến Semmelweis, người năm 1847 phát hiện ra các bác sĩ đang mang cái chết từ phòng mổ sang phòng sinh qua đôi bàn tay không rửa, rồi ông chết trong trại tâm thần trong khi giới y khoa vẫn từ chối lắng nghe.

Và phải đến khi bệnh đậu mùa chấm dứt, một căn bệnh từng xuất hiện trên khuôn mặt một pharaoh, đã giết chết có lẽ ba trăm triệu người chỉ trong thế kỷ hai mươi. Người cuối cùng mắc bệnh tự nhiên là một đầu bếp bệnh viện ở Somalia tên Ali Maow Maalin, vào tháng 10 năm 1977. Ông sống sót. Ông dành phần đời còn lại để tiêm chủng cho trẻ em Somalia chống lại bệnh bại liệt, và qua đời vì sốt rét năm 2013 trong khi đang làm điều đó.

Những lần chúng ta suýt kết thúc nó dù sao

Chúng ta đã đủ thông minh để tự hủy diệt mình vào năm 1945, và kể từ đó chúng ta đã sống chung với điều đó.

Vào ngày 27 tháng 10 năm 1962, một tàu ngầm Liên Xô gần Cuba mất liên lạc vô tuyến, bị trúng mìn sâu của Mỹ, và thuyền trưởng kết luận chiến tranh đã bắt đầu. Ngư lôi trên tàu mang đầu đạn hạt nhân, và việc bắn nó cần ba sĩ quan đồng ý. Vasili Arkhipov nói không trong khi thân tàu rung chuyển xung quanh ông. Hai mươi mốt năm sau, Stanislav Petrov nhìn màn hình Liên Xô báo cáo năm tên lửa Mỹ đang lao tới và nói với cấp trên rằng đó là trục trặc. Đó là ánh nắng chiếu lên những đám mây cao.

Hai lần, ít nhất, toàn bộ câu chuyện nhân loại đã rơi vào tay một người đàn ông mệt mỏi ngồi trên ghế, chọn không chuyển tiếp thông điệp lên trên. Chúng ta biết tên cả hai người ấy nhiều thập kỷ sau.

Chúng tôi cũng đã chọn, tuy nhiên. Năm 1972, thế giới đã cấm vũ khí sinh học. Năm 1987, mọi quốc gia trên Trái Đất đã ký Nghị định thư Montreal, hiệp ước đầu tiên trong lịch sử Liên Hợp Quốc đạt được phê chuẩn phổ quát, và tầng ozone đang phục hồi đúng lịch trình. Nhân loại đã nhìn thẳng vào một khả năng mà nó hoàn toàn có thể xây dựng và nói không, cùng nhau, bằng văn bản, với các thanh tra viên. Các trường hợp sống trên của chúng tatrang tiền lệ.

Một trăm mười bảy tỷ

Cục Tham chiếu Dân số ước tính số người từng được sinh ra khoảng 117 tỷ. Mỗi người trong số họ đều ở thượng nguồn của bạn.

Người phụ nữ chôn cất bốn đứa con và dậy vào sáng hôm sau. Vị tu sĩ sao chép một ngôn ngữ mà ông chỉ hiểu một nửa, vì lựa chọn thay thế là để nó biến mất. Những người thợ nề của Brunelleschi, cách mặt đất trăm feet mà không có gì bên dưới. Người đầu bếp ở Somalia với một cây kim và một hộp lạnh, đi bộ đến ngôi làng kế tiếp. Họ chuyển giao nó về phía trước, chủ yếu không biết họ đang chuyển giao nó về phía nào. Nó đã đến với chúng ta. Nó đang trong tay chúng ta ngay bây giờ.

Và một số ít công ty đã quyết định việc đúng đắn cần làm với nó là đua nhau hướng tới một trí óc vượt trội hơn mọi con người ở mọi việc, theo lịch trình do các vòng gọi vốn đặt ra. Tháng 5 năm 2023 lãnh đạo của họ đã ký tên vào một câu duy nhất đặt sự tuyệt chủng do AI ngang hàng với đại dịch và chiến tranh hạt nhân như một ưu tiên toàn cầu. Họ viết về chính sản phẩm của mình, công bố nó, và không chậm lại.

Không có điều nào trong số đó được yêu cầu ở chúng ta. Đọc mối đe dọa and you will not find an asteroid on a fixed trajectory. Artificial superintelligence is a thing a small number of well-funded people are choosing to build, in a race none of them can describe the finish line of. It can be prohibited the way we prohibited the other things we could have built and did not. Our kế hoạch yêu cầu: một lệnh cấm quốc tế có tính ràng buộc và được xác minh, duy trì cho đến khi ai đó chứng minh được thứ đó có thể kiểm soát. Không phải tạm dừng sáu tháng có ngày hết hạn. Đó là một lằn ranh.

Tôi muốn tương lai, và muốn sớm hơn những gì chúng ta sắp nhận được. Narrow AI đã cung cấp những phần tốt, những phương thuốc chữa bệnh và năng lượng sạch, mà không ai bàn giao chìa khóa.

Chúng ta không được nợ phần còn lại của câu chuyện. Không ai hứa điều đó, và 117 tỷ người trước chúng ta cũng không nhận được. Họ nhận được một phần và truyền lại, đó là tất cả những gì bất kỳ ai trong chúng ta nhận được. Điều không thể tha thứ là trở thành thế hệ nắm giữ toàn bộ di sản, nhìn rõ những gì đang đến, viết nó ra, ký tên vào và vẫn làm.

Chúng ta đã vượt qua nút thắt. Chúng ta đã sống sót qua đại dịch, rồi tái thiết thư viện. Chúng ta đặt bàn tay lên bức tường trong bóng tối để ai đó tìm thấy, và ai đó đã tìm thấy. Chúng ta đã đi quá xa để chết vì một buổi ra mắt sản phẩm.

Nói không với cái này. Sau đó hãy xây dựng phần còn lại, đang chờ đợi, và chưa bao giờ cần một vị thần.