“Giờ con chưa nói cho cha biết cái nền văn minh thất lạc đó rốt cuộc là gì, và cha cũng không biết con đã thay đổi như thế nào.”

Phương Đại Cường lần hiếm hoi hiện rõ vẻ sầu lo trên vầng trán.

“Con trai, từ trước đến nay, cha chưa từng vì tuổi tác hay kinh nghiệm mà phủ nhận những ý tưởng của con. Nhưng con nhất định phải suy nghĩ thật kỹ, liệu mức độ nguy hiểm của siêu trí tuệ nhân tạo có thực sự nằm trong khả năng đối phó của nhân loại hiện tại hay không.”

Phương Dự an ủi cha: “Yên tâm đi, cha, dù cho ASI ra đời, cũng sẽ không hủy diệt loài người đâu. Đương nhiên, con nói là ASI do con tạo ra này, trong cái "nền văn minh thất lạc" kia, có một phương pháp có thể kiểm soát hoàn toàn tính an toàn của ASI.”

Phương Đại Cường lắc đầu: “Không, ý cha không chỉ là nguy hiểm diệt vong đâu. Ngay cả khi con có cách đảm bảo tuyệt đối tính an toàn của ASI, nhưng liệu con có thể kiểm soát được sự sụp đổ của xã hội do tác động của AI gây ra không? Đó mới thực sự là điều cha lo lắng. Cấu trúc xã hội loài người hiện nay là kết quả của hàng ngàn năm không ngừng tiến hóa, để hình thành một cấu trúc tương đối vững chắc. Mỗi lần tiến bộ và bước nhảy vọt về công nghệ trong lịch sử nhân loại đều gây ra sự xáo trộn lớn lao cho cấu trúc xã hội.

Hơn hai trăm năm trước, khi James Watt phát minh ra động cơ hơi nước, khởi đầu Cách mạng Công nghiệp lần thứ nhất, toàn bộ quá trình kéo dài cả một thế kỷ. Và trong ba mươi năm tiếp theo đó, hơn 80% chính quyền trên thế giới đã trải qua biến động. Hơn một trăm năm trước, Cách mạng Công nghiệp lần thứ hai, điện lực bắt đầu thâm nhập rộng rãi vào sản xuất công nghiệp, mấy chục năm sau đã mở màn cho Chiến tranh Thế giới thứ hai suýt chút nữa hủy diệt nền văn minh nhân loại.

Và đến thời đại Internet gần đây, được mệnh danh là Cách mạng Công nghiệp lần thứ ba, cấu trúc xã hội thế giới đã một lần nữa trở nên đầy rẫy hiểm nguy. Con có thể thấy đó, tốc độ phổ biến công nghệ càng lúc càng nhanh, sự xáo trộn gây ra cũng ngày càng lớn. Đó là bởi vì, Cách mạng Công nghiệp lần thứ nhất ít nhất có cả trăm năm để xã hội thích nghi với cấu trúc mới, lần thứ hai cũng có bốn mươi, năm mươi năm, còn đến lần thứ ba này, xét theo hiện tại, dường như chưa đầy hai mươi năm. Trong tình hình như vậy, AI đã ra đời.

AI đe dọa cấu trúc xã hội vượt xa bất kỳ cuộc cách mạng khoa học kỹ thuật nào khác. Nó là công cụ đầu tiên mà nhân loại tạo ra có khả năng đạt tới, thậm chí vượt qua năng lực của con người, thực sự có thể thay thế hoàn toàn con người, chứ không phải chỉ là công cụ hỗ trợ cho công việc của họ. Chỉ riêng với năng lực của mô hình Quả Quýt lớn hiện tại cũng đã đủ sức thay thế tới 70% tầng lớp trung lưu, chỉ là hiện tại nó chưa thực sự phổ cập và thâm nhập vào mọi ngành nghề mà thôi. Nhưng ASI, cha nghĩ con cũng biết, sau khi ra đời, có lẽ chỉ trong vài năm là có thể thay thế 90% công việc của nhân loại. Con nghĩ xã hội loài người hiện tại đã thực sự sẵn sàng cho điều này chưa?

Dân số lao động toàn thế giới hiện tại vượt quá 4,5 tỷ người, đến lúc đó, số người có khả năng thất nghiệp sẽ vượt qua 4 tỷ. Lúc đó thì phải làm sao? Dùng ASI để giết sạch họ sao? Con đã cân nhắc những vấn đề này chưa? Con trai, đây không phải là một trách nhiệm bình thường đâu, cha không muốn con phải sống cả đời trong hối hận.”

Phương Dự chưa bao giờ thấy Phương Đại Cường khi nói chuyện với cậu lại có vẻ mặt và thái độ nghiêm túc đến thế này. Từ nhỏ đến lớn, thực ra Phương Đại Cường chưa từng đánh cậu mấy lần. Lần 'tàn nhẫn' nhất là hồi tiểu học, cậu cùng Vương Minh Hiên trốn học đi Thủy Nguyệt Khê bắt cá lúa mì. Dù là lần đó, vẻ mặt Phương Đại Cường cũng không nghiêm trọng như lúc này.

Trước đây Phương Dự cùng Musk cũng đã tiến hành đối thoại tương tự, nhưng Musk và Phương Đại Cường lại có những điểm chú ý khác nhau. Musk không quan tâm liệu người bình thường có thất nghiệp hay không, liệu cấu trúc xã hội loài người có sụp đổ hay không. Hắn chỉ chú ý đến việc ASI có phát triển ý thức tự chủ, và liệu nó có triệt để tiêu diệt nhân loại vì sự tiến hóa của chính mình hay không. Mà Phương Đại Cường lại quan tâm liệu cấu trúc xã hội loài người có thể tiếp tục tồn tại trong một sự thay đổi lớn chưa từng có như thế, và liệu nó có gây ra "bi kịch của số đông" hay không. Thực chất, đây là hai phạm trù vấn đề khác nhau.

Thấy Phương Đại Cường nghiêm túc, Phương Dự cũng theo đó trở nên nghiêm chỉnh, thu lại nụ cười, thẳng lưng.

“Cha, con hiểu ý cha nói. Về cách giảm thiểu tác động của AI đến cấu trúc xã hội loài người, thậm chí biến AI thành giải pháp giúp thế giới nhân loại tốt đẹp hơn, con quả thật đã suy nghĩ về các phương án giải quyết, đồng thời cũng dùng công cụ từ cái "nền văn minh thất lạc" kia để kiểm chứng tính hiệu quả của những phương án này. Nhưng con vẫn cần làm rõ với cha một điều, ngay cả khi con không có những phương án này, con cũng sẽ không quá mức tự trách hay cho rằng tác động của AI đến cấu trúc xã hội loài người hoàn toàn là trách nhiệm của con.”

Câu trả lời của Phương Dự một lần nữa nằm ngoài dự đoán của Phương Đại Cường.

“Như cha đã nói, AI ra đời sẽ gây tác động cực lớn đến cấu trúc xã hội toàn nhân loại. Nếu có thể dừng lại, đương nhiên dừng lại là lựa chọn an toàn nhất. Nhưng dưới sự thúc đẩy của lợi nhuận và cạnh tranh, tốc độ phổ cập và nghiên cứu phát minh công nghệ mới sẽ không dừng lại vì nỗi lo sợ của nhân loại, mà ngược lại, sẽ ngày càng nhanh hơn. So với cách mạng kỹ thuật, AI thực chất giống vũ khí hạt nhân hơn. Bảy mươi năm trước, bốn năm sau khi Mĩ Quốc chế tạo quả bom nguyên tử đầu tiên, Bố Liên cũng đã phát triển được vũ khí hạt nhân tương tự. Ánh Quốc bảy năm sau, Cao Lư mười lăm năm sau cũng lần lượt sở hữu lực lượng vũ khí hạt nhân của riêng mình. Ngay cả Đại Chu, trong hoàn cảnh khó khăn như vậy lúc bấy giờ, cũng chỉ trong vỏn vẹn hơn mười năm đã thành công kích nổ quả bom nguyên tử đầu tiên. Trong cuộc chạy đua vũ trang "nếu không có sẽ chết" này, chắc chắn sẽ không có ai chấp nhận bị tụt lại phía sau. Điều mỗi bên có thể làm là sở hữu nhiều vũ khí hơn và vũ khí mạnh mẽ hơn đối thủ. Hơn nữa lần này, đối tượng tham gia cạnh tranh không chỉ là các quốc gia, mà còn bao gồm rất nhiều doanh nghiệp. Chỉ đến khi một bên nào đó giành được ưu thế áp đảo hoàn toàn, cuộc chạy đua vũ trang này mới có thể dừng lại. Cũng chỉ có sau khi đánh bại tất cả đối thủ cạnh tranh, thì việc thảo luận cách giải quyết tác động của AI đến cấu trúc xã hội loài người mới thực sự có ý nghĩa. Con không phải đang trốn tránh trách nhiệm, nhưng dùng tốc độ nghiên cứu AI của Cổ Cẩu và các công ty khác để suy luận, ngay cả khi không có Khoa Kỹ Trái Bưởi, có lẽ chỉ trong chưa đầy năm năm nữa, các mô hình AI có tiềm năng AGI cũng sẽ xuất hiện thôi. AI xuất hiện vào thời điểm đó lại không có những biện pháp an toàn như mô hình Quả Quýt lớn, và mối đe dọa đối với xã hội loài người sẽ càng lớn hơn. Hơn nữa, cha nghĩ liệu xã hội loài người lúc đó đã chuẩn bị kỹ càng chưa? Không, cũng sẽ không đâu, nhìn vào sự phát triển tình hình quốc tế trong tương lai, biết đâu sự chuẩn bị còn tệ hơn bây giờ. Con là con người, sẽ gánh vác trách nhiệm mà một con người nên gánh vác, nhưng nếu không phải trách nhiệm của con, con cũng sẽ không gượng ép chấp nhận.”

Nghe đến đó, Phương Đại Cường không khỏi lộ ra vẻ kinh ngạc. Ông hoàn toàn không nghĩ tới, cậu nhóc lóc chóc chạy theo sau mình mấy năm trước, giờ đây lại có cái nhìn sâu sắc đến thế về mọi việc. Không phải là ông không hiểu Phương Dự, mà là phản ứng tự nhiên của một bậc phụ huynh khi đối mặt với đứa con mình hiếm khi thể hiện sự "trưởng thành" như vậy trước đây. Ông không kinh ngạc trước phân tích và phán đoán của Phương Dự về AI, mà là kinh ngạc trước nhận thức của Phương Dự về "trách nhiệm". Dũng cảm gánh vác trách nhiệm chưa hẳn là trưởng thành thực sự. Có thể phân biệt đâu là trách nhiệm mình nên gánh, đâu không phải, đó mới thực sự là trưởng thành.

Con trai mình đúng là đã lớn thật rồi.

Phương Dự không hề để ý, tiếp tục nói: “Đương nhiên, hiện thực không có từ "nếu như". Nếu con đã mở ra kỷ nguyên AI, con quả thật có trách nhiệm đưa ra một bộ phương án khả thi để thế giới này trở nên tốt đẹp hơn. Cha vừa hỏi con tại sao lại muốn xung đột với Bối Lai Đức, thực ra, đây chính là câu trả lời cho câu hỏi đó của cha. Để giảm thiểu tối đa tác động của AI đến cấu trúc xã hội loài người, nhất định phải giải quyết Bối Lai Đức trước! Đây là điều kiện tiên quyết cho toàn bộ phương án!”

Phương Đại Cường sửng sốt một chút, phải giải quyết Bối Lai Đức trước ư? Đây là đạo lý gì vậy?

Phương Đại Cường bất giác châm điếu thuốc: “Tại sao lại nói như vậy?”

So với AI, thứ mà ông mới tiếp xúc vài tháng gần đây như một sự vật mới mẻ, thì Bối Lai Đức ông lại đã giao thiệp từ sáu năm trước rồi. Khi ấy Bối Lai Đức còn chưa khổng lồ như bây giờ, đang tham lam thôn tính tài sản ở Phố Wall (Hoa Nhĩ Nhai) nhờ cuộc khủng hoảng tài chính, đồng thời lại đang lộng hành trên thị trường Đại Chu. Lúc ấy Vạn Phương đang tìm cách niêm yết cổ phiếu H, thì các nhà đầu tư tổ chức như Bối Lai Đức là đối tượng nhất định phải tiếp xúc. Mặc dù ông không có thiện cảm với Bối Lai Đức, nhưng cũng không đến mức ác cảm, nên ông không hiểu tại sao Phương Dự lại nhắm vào Bối Lai Đức như vậy.

“Bối Lai Đức hiện đang quản lý năm nghìn tỷ Bước Nguyên tài sản, đồng thời con số này vẫn đang tiếp tục gia tăng.”

Phương Dự dừng lại một chút để sắp xếp mạch suy nghĩ, rồi tiếp tục nói:

“Con dùng mô hình Quả Quýt lớn để mô phỏng, dự tính trong vòng năm năm tới, quy mô tài sản họ quản lý sẽ vượt quá 10.000 tỷ Bước Nguyên. Nếu Khoa Kỹ Trái Bưởi không xuất hiện, trong tương lai, nhiều khả năng Cổ Cẩu hoặc FB sẽ dẫn đầu quá trình phát triển AI, dù không phải họ, thì cũng sẽ là những công ty có mối liên hệ rất sâu sắc với họ. Và những tập đoàn tài chính do Bối Lai Đức đứng đầu chính là bên bền bỉ cung cấp "quân lương" cho họ. Hiện tại, Bối Lai Đức thông qua ETF và các loại quỹ đầu tư khác, nắm giữ hơn 6% cổ phần của Cổ Cẩu, và hơn 5% cổ phần của FB, trở thành một trong những cổ đông lớn nhất của hai công ty này. Các tổ chức đầu tư sử dụng hệ thống Aladdin của Bối Lai Đức và áp dụng chiến lược đi theo, thì số cổ phần họ nắm giữ còn lớn hơn nhiều so với Bối Lai Đức. Bối Lai Đức là ngọn gió đầu của rất nhiều tổ chức. Hiện tại, tập đoàn Tài Chính Cừu Đức ở Mĩ Quốc đã như chim sợ cành cong. Lúc này chỉ cần giải quyết được Bối Lai Đức, thì mức độ đe dọa của Tập đoàn Tài chính Cừu Đức đối với các ngành nghề ở Mĩ Quốc sẽ giảm đi đáng kể. Nhiều người sẽ không còn lo lắng bị họ trả thù mà công khai bày tỏ ý kiến chống lại họ, từ đó tạo thành một dư luận xã hội ngày càng bất lợi cho họ. Lúc này, họ tất nhiên sẽ hoảng loạn rút khỏi Mĩ Quốc. Các công ty như Cổ Cẩu và FB sẽ ngay lập tức mất đi nguồn lực, không thể tiếp tục tiến hành các nghiên cứu tương tự.”

Phương Đại Cường ngắt lời Phương Dự: “Con nói những điều này vẫn chưa thực sự giải thích được tại sao việc giải quyết Bối Lai Đức lại có thể giúp cấu trúc xã hội loài người tránh khỏi tác động của AI. Cứ cho là Cổ Cẩu và FB có sụp đổ theo Bối Lai Đức, nhưng cánh cửa trí tuệ nhân tạo đã mở, sau khi ASI xuất hiện, vẫn sẽ dẫn đến sự sụp đổ cấu trúc xã hội loài người. Khác biệt chỉ là loại hậu quả này do con gây ra, hay do họ gây ra mà thôi.”

Phương Dự lắc đầu: “Không phải như vậy đâu, cha. Kế hoạch sau này của con, ít nhất cần thỏa mãn ba điều kiện tiên quyết: Điểm thứ nhất, trong ngắn và trung hạn, không thể xuất hiện ASI ngang tầm với ASI của Khoa Kỹ Trái Bưởi. Xét theo hiện tại, điểm này đã được thực hiện. Ngay cả khi một "thần đồng" cực kỳ thiên tài thông qua một cấu trúc mạng lưới mới xuất hiện, mô hình Quả Quýt lớn cũng có thể nhanh chóng điều chỉnh, và tích hợp nó vào mạng lưới của mình. Về điểm này, con không quá lo lắng. Mà nếu giải quyết Bối Lai Đức, để họ trong thời gian ngắn không thể tiếp tục cung cấp "quân lương" cho các doanh nghiệp này, thì sẽ càng đảm bảo hơn.

Điểm thứ hai, một môi trường kinh doanh trong nước và quốc tế tương đối ổn định. Chỉ có môi trường kinh doanh trong nước và quốc tế ổn định mới có thể giúp ASI của Khoa Kỹ Trái Bưởi nhanh chóng chiếm lĩnh thị trường toàn cầu, mà không bị các can thiệp hành chính khó lường. Trong các phương án tiếp theo của con, tốc độ ASI của Khoa Kỹ Trái Bưởi chiếm lĩnh thị trường thế giới càng nhanh, thì cấu trúc xã hội càng ít bị tác động, và cuộc sống của phần lớn người dân cũng càng ít bị ảnh hưởng. Khả năng vận động hành lang của Bối Lai Đức là trở ngại rất lớn cho điểm này.

Điểm thứ ba, sự giàu có, một lượng lớn của cải vật chất. Của cải vật chất sẽ không tự nhiên sinh ra, cũng càng không tự nhiên biến mất. Sau khi các tập đoàn tài chính do Bối Lai Đức đứng đầu sụp đổ, tài sản mà họ quản lý mới có thể cung cấp đủ thanh khoản cho thị trường, giúp Khoa Kỹ Trái Bưởi thu được khối tài sản đủ để hoàn thành các phương án tiếp theo.”

Nói đến đây, Phương Dự cười nhẹ: “Đương nhiên, ngoài ba điểm này ra, cha biết đó, bản thân con rất không ưa bộ ESG mà Bối Lai Đức đang làm. Trước đó, qua các tài liệu con thu thập được từ Bối Lai Đức, cũng đã thực sự chứng minh rằng việc họ mở rộng thứ này không hề có ý tốt. Mấy ngày trước, Vạn Phương vừa sa thải Tào Vi, người phụ trách xây dựng ESG, thẳng thắn mà nói, đó chính là do con dàn xếp.”

Không sai, Vạn Phương mấy tháng trước cũng đang làm ESG. Không còn cách nào khác, hiện tại, trong chiến lược tự động lựa chọn cổ phiếu của một số tổ chức đầu tư, báo cáo ESG và điểm DEI đều là một trong những yếu tố trọng số được cài đặt sẵn. Nếu không làm, các nhà đầu tư tổ chức sẽ ít khi chọn cổ phiếu của con. Không có nhà đầu tư tổ chức, giá cổ phiếu sẽ không có được sự hỗ trợ hiệu quả. Dưới phản ứng dây chuyền này, các doanh nghiệp đã niêm yết chỉ có thể thực hiện việc xây dựng ESG. Vì thế, hai tháng trước, Vạn Phương còn cố tình "đào" một vị quản lý cấp cao chuyên trách ESG từ Siemens về làm phó tổng giám đốc tại Vạn Phương, chuyên môn xây dựng hệ thống ESG cho công ty. Phương Dự mấy ngày trước biết chuyện này thì ngớ người ra, bản thân mình còn đang công kích Bối Lai Đức dữ dội. Kết quả vừa quay lưng đi, hóa ra đã bị "trộm nhà" rồi ư? Tuy nhiên cũng không thể trách Phương Đại Cường, thực tế hiện nay hầu hết các công ty lớn đều đang triển khai hoặc chuẩn bị triển khai ESG. Mà trong sự kiện văn phòng Tân Cảng của Bối Lai Đức trước đó, các tài liệu rò rỉ, dù có chứa nhiều "hắc liệu" liên quan đến ESG, nhưng dưới khả năng quan hệ công chúng mạnh mẽ của Bối Lai Đức, những "hắc liệu" này đã không đủ để công chúng dấy lên cảnh giác. Dù sao thì họ cũng chưa từng thua thiệt lần nào. Nhưng với sự tuyên truyền dư luận hiện tại, việc bị cắt đứt chỉ là vấn đề thời gian. Phương Dự cũng là một lần tình cờ rảnh rỗi, đọc báo cáo nhà đầu tư quý của Vạn Phương, từ đó thấy được nội dung về báo cáo ESG và điểm DEI, mới biết mình đã bị "trộm nhà". Có thể nhẫn nại, nhưng không thể nhẫn nhục. Thế là, Phương Dự cũng không tìm Phương Đại Cường, liền trực tiếp dùng chút thủ đoạn để "đưa" Tào Vi, người phụ trách xây dựng ESG này, rời đi. Dù sao Vạn Phương hiện tại thành tích rất tốt, căn bản không cần mấy cái điểm ESG "cóc ghẻ" đó, trên thị trường thứ cấp vẫn không thiếu các nhà đầu tư.

Phương Đại Cường nhẹ gật đầu, cuối cùng cũng hiểu rõ tại sao Phương Dự lại nhắm vào Bối Lai Đức như vậy.

“Những điều này cha hiểu rồi. Vậy phương án tiếp theo con vừa nói là gì?”

Bản chuyển ngữ này là thành quả của truyen.free, xin hãy tôn trọng công sức biên tập.