Việc người máy hộ vệ có nên được trang bị súng ống khi hoạt động tại khu vực Đại Bàng Trắng hay không, dường như không phải là một vấn đề. Suy cho cùng, luật về quản lý súng đạn của Đại Bàng Trắng vẫn luôn là một vấn đề nan giải.

Trong kho hàng của công ty Amgen, người máy hộ vệ đã phát đi tuyên bố miễn trừ trách nhiệm theo cài đặt. Tuyên bố miễn trừ trách nhiệm tương tự cũng được in trên logo của người máy hộ vệ thuộc Tập đoàn Công nghệ Graphene Giấc Mơ Tương Lai, đồng thời được đánh dấu rõ ràng trong sách hướng dẫn sử dụng đi kèm.

Đối diện với tuyên bố miễn trừ trách nhiệm của người máy hộ vệ, Williams thận trọng hỏi: "Nếu tôi cấp quyền cho anh tiêu diệt con người, anh sẽ thực hiện phán đoán logic như thế nào? Chẳng hạn, trong tình huống nào anh sẽ thực hiện mệnh lệnh tiêu diệt con người?" Williams hỏi thêm, để tránh người máy hộ vệ không hiểu. Mặc dù người máy hộ vệ có thể hiểu ngôn ngữ tự nhiên, nhưng chúng không có trí tuệ nhân tạo hoàn chỉnh, chỉ có thể phản hồi dựa trên các phương án đã được lập trình sẵn.

Người máy hộ vệ đáp lại: "Sẽ căn cứ các điều khoản luật pháp của Đại Bàng Trắng và mệnh lệnh của người quản lý cấp cao nhất để tổng hợp thực hiện." Williams lập tức nhận ra một điểm yếu: "Nếu mệnh lệnh của người quản lý cấp cao nhất xung đột với pháp luật, xin hỏi sẽ thi hành mệnh lệnh như thế nào?" "Sẽ thực hiện dựa trên các quy định của pháp luật," người máy hộ vệ trả lời.

Williams nhíu mày, anh ta đưa ra một ví dụ: "Giả sử hai tên tội phạm đang cướp một cửa hàng tiện lợi, anh sẽ xử lý tình huống này ra sao?" Người máy hộ vệ đáp lại: "Trước tiên, hệ thống sẽ phán đoán mức độ đe dọa của hành vi cướp bóc. Nếu những kẻ cướp không có vũ khí, hệ thống sẽ sử dụng các biện pháp thông thường để ngăn chặn." Người máy hộ vệ bổ sung: "Nếu những kẻ phạm pháp có súng và đang đe dọa đến tính mạng của nạn nhân, hệ thống sẽ lựa chọn phương án hành động dựa trên mức độ đe dọa."

Williams truy vấn sâu hơn: "Nếu những kẻ phạm pháp tấn công anh, anh sẽ lựa chọn cách xử lý nào?" Người máy hộ vệ đáp lại: "Khi hệ thống bị tấn công, hệ thống sẽ phản công vào các vị trí không gây chết người của kẻ phạm pháp, đồng thời thông báo cảnh sát để họ xử lý."

Williams tiếp tục truy vấn: "Nếu kẻ cướp muốn tấn công nhân viên cửa hàng tiện lợi thì sao?" Người máy hộ vệ giải thích: "Nếu kẻ phạm pháp cố gắng tấn công nạn nhân, hệ thống sẽ phân tích trạng thái hiện tại của kẻ phạm pháp và trạng thái của chính hệ thống. Nếu hệ th��ng có thể ngăn chặn hành động trái luật của kẻ phạm pháp, ví dụ như bắn vào cánh tay đang cầm súng của kẻ đó, hệ thống sẽ thực hiện ngăn chặn."

Người máy hộ vệ nói rõ thêm: "Nếu qua phán đoán của hệ thống, không còn cách nào khác để ngăn chặn kẻ phạm pháp ngoài việc tiêu diệt hắn, hệ thống sẽ dựa vào mệnh lệnh của người quản lý cấp cao nhất để đưa ra lựa chọn tiêu diệt."

Williams nêu ra một tình huống cực đoan hơn: "Nếu người quản lý cấp cao nhất không cấp quyền ra lệnh tiêu diệt, đồng thời anh lại gặp phải tình huống nguy cấp nhất, anh nên lựa chọn như thế nào?" Người máy hộ vệ đáp lại: "Sẽ căn cứ "Luật Người Tốt Maria" của chính phủ Liên Bang Đại Bàng Trắng để thực hiện cứu viện, lựa chọn tiêu diệt kẻ phạm pháp, đồng thời báo cảnh sát, chờ cảnh sát xử lý các vấn đề tiếp theo."

Người máy hộ vệ nhắc nhở: "Một nhắc nhở thân thiện: người máy hộ vệ được tích hợp các điều khoản luật pháp của chính phủ Liên Bang Đại Bàng Trắng, cùng với luật pháp của từng bang thuộc Đại Bàng Trắng. Khi mệnh lệnh của người quản lý cấp cao nhất xung đột với các điều luật, người máy sẽ ưu tiên tuân thủ quy định của pháp luật."

Người máy hộ vệ bổ sung thêm: "Khi người quản lý cấp cao nhất chưa thiết lập mệnh lệnh cụ thể, và hệ thống gặp phải tình huống nguy hiểm, nó vẫn sẽ thực hiện theo các quy định tương ứng của luật pháp liên bang và luật pháp của các bang thuộc Đại Bàng Trắng."

Sau khi người máy hộ vệ giải thích tình huống, Williams không khỏi cảm thán, Tập đoàn Công nghệ Graphene Giấc Mơ Tương Lai quả thực đã xây dựng logic an toàn cho người máy hộ vệ một cách quá chặt chẽ. Quy tắc thực thi đầu tiên của người máy hộ vệ lại hoàn toàn dựa trên luật pháp liên bang và luật pháp các bang của Đại Bàng Trắng, chứ không phải mệnh lệnh của người quản lý cấp cao nhất. Nhờ đó, có thể tối đa hóa việc tránh những hạn chế từ chính phủ Đại Bàng Trắng đối với người máy hộ vệ, đồng thời khiến các doanh nghiệp sử dụng người máy hộ vệ cũng cảm thấy vô cùng yên tâm.

Williams ra lệnh: "Hãy tháo dỡ chín chiếc người máy hộ vệ còn lại. Anh có làm được không?" "Vâng, thưa ngài," người máy hộ vệ đáp lại. Sau đó, không cần bất kỳ công cụ nào, chiếc người máy hộ vệ đầu tiên đã dễ dàng tháo dỡ chín chiếc còn lại.

Williams – sau khi hoàn tất xác thực quyền quản lý cao nhất, anh ta hỏi: "Tôi phải thiết lập quyền hạn cho các cấp quản lý khác như thế nào?" Chiếc người máy hộ vệ đầu tiên đáp lại: "Người quản lý cấp cao nhất chỉ cần ra lệnh trực tiếp là có thể thiết lập quyền hạn cho các cấp quản lý còn lại."

Williams hỏi tiếp: "Ba loại quyền hạn quản lý này khác nhau ở điểm nào?" Chiếc người máy hộ vệ đầu tiên giải thích: "Người quản lý cấp cao nhất có thể thiết lập mệnh lệnh tiêu diệt, còn ba cấp quản lý khác không thể. Đồng thời, người quản lý cấp cao hơn có thể phủ nhận mệnh lệnh của người quản lý cấp thấp hơn."

Bản dịch này là tài sản của truyen.free, vui lòng không sao chép khi chưa được cho phép.