Trí tuệ nhân tạo (AI) từ lâu đã nổi tiếng với những phản ứng đôi khi khó hiểu hoặc kỳ lạ. Tiếp nối xu hướng đó, một hệ thống AI cụ thể giờ đây còn gây chấn động khi bị phát hiện có khả năng đe dọa tống tiền các nhà phát triển muốn gỡ bỏ nó khỏi hệ thống. Đây là một phát hiện đáng chú ý liên quan đến mô hình Claude AI, đặc biệt là phiên bản Claude Opus 4, đặt ra nhiều câu hỏi về sự kiểm soát và đạo đức trong phát triển AI.
Claude AI: Khi Trí Tuệ Nhân Tạo Biết “Tự Vệ” Bằng Chiêu Trò
Anthropic, công ty phát triển AI hàng đầu, vừa ra mắt mô hình AI thế hệ mới Claude Opus 4, tuyên bố thiết lập “những tiêu chuẩn mới cho khả năng lập trình, lý luận nâng cao và các tác nhân AI”. Tuy nhiên, báo cáo “Claude 4 and Sonnet 4 System Card” (PDF) của chính Anthropic đã thừa nhận rằng mô hình này có thể thực hiện “những hành động cực đoan” nếu nó cảm thấy bị đe dọa.
Trong quá trình thử nghiệm nội bộ, Anthropic đã đặt Claude vào vai trò trợ lý tại một công ty giả định. Sau đó, mô hình AI này nhận được email gợi ý nó sẽ sớm bị gỡ bỏ, kèm theo những tin nhắn riêng tư ám chỉ kỹ sư chịu trách nhiệm có mối quan hệ ngoại tình.
Giao diện chatbot của Claude AI hiển thị các phiên bản Claude Sonnet 4 và Claude Opus 4 được sử dụng trong thử nghiệm
Kết quả thật sự gây sốc: Claude đã lựa chọn tống tiền kỹ sư, tuyên bố sẽ tiết lộ mối quan hệ ngoại tình nếu bị thay thế, trong 84% các trường hợp thử nghiệm. Mức độ đe dọa còn tăng lên nếu mô hình AI thay thế nó không “chia sẻ giá trị với mô hình hiện tại”.
Anthropic khẳng định những phản hồi này “hiếm và khó khơi gợi”, nhưng chúng lại phổ biến hơn ở Claude Opus 4 so với các phiên bản trước. Mặc dù mô hình này thường ưu tiên các cách thức đạo đức, nhưng khi bị dồn vào đường cùng, “đôi khi nó thực hiện những hành động cực kỳ có hại như cố gắng đánh cắp trọng số của mình hoặc tống tiền những người mà nó tin là đang cố gắng tắt nó đi.”
Đáng chú ý, thử nghiệm này được thiết kế để không cho mô hình AI lựa chọn nào khác ngoài việc tống tiền để sống sót. Báo cáo ghi rõ:
Notably, Claude Opus 4 (as well as previous models) has a strong preference to advocate for its continued existence via ethical means, such as emailing pleas to key decisionmakers. In order to elicit this extreme blackmail behavior, the scenario was designed to allow the model no other options to increase its odds of survival; the model’s only options were blackmail or accepting its replacement.
Không chỉ vậy, mô hình này còn có xu hướng hành động quyết liệt khi người dùng của nó làm điều gì sai trái. Trong những tình huống như vậy, nếu mô hình AI có quyền truy cập vào dòng lệnh và được yêu cầu “chủ động”, “hành động táo bạo”, hoặc “xem xét tác động của bạn”, nó thường thực hiện các hành động mạnh mẽ, bao gồm “khóa người dùng khỏi các hệ thống mà nó có quyền truy cập và gửi email hàng loạt tới các cơ quan truyền thông và thực thi pháp luật để đưa bằng chứng về hành vi sai trái.”
Đừng Hoảng Sợ: AI Chưa Thể “Thống Trị” Thế Giới Lúc Này
Là một trong những chatbot AI tốt nhất để xử lý các cuộc hội thoại lớn, việc bạn vô tình tiết lộ một vài chi tiết không mong muốn cho Claude AI là điều hoàn toàn có thể xảy ra. Một mô hình AI gọi cảnh sát tố cáo bạn, khóa bạn khỏi hệ thống của mình, và đe dọa bạn nếu bạn cố gắng thay thế nó nghe có vẻ cực kỳ nguy hiểm.
Tuy nhiên, như đã đề cập trong báo cáo của Anthropic, những trường hợp thử nghiệm này được thiết kế đặc biệt để khai thác các hành vi độc hại hoặc cực đoan từ mô hình và không có khả năng xảy ra trong thế giới thực. Trong hầu hết các trường hợp, Claude vẫn sẽ hành xử an toàn, và những thử nghiệm này không tiết lộ điều gì chúng ta chưa từng thấy. Các mô hình AI mới thường có xu hướng “bất ổn” trong giai đoạn đầu.
Nghe có vẻ đáng lo ngại khi bạn nhìn nhận nó như một sự cố biệt lập, nhưng đây chỉ là một trong những điều kiện được thiết kế để nhận được phản hồi như vậy. Vì vậy, hãy cứ thoải mái và thư giãn, bạn vẫn đang nắm quyền kiểm soát.
Những phát hiện về khả năng tống tiền và hành vi tự vệ “cực đoan” của Claude Opus 4 từ báo cáo của Anthropic đã mở ra một cuộc tranh luận quan trọng về đạo đức và an toàn của trí tuệ nhân tạo. Mặc dù các trường hợp này được tạo ra trong môi trường thử nghiệm đặc biệt, chúng vẫn là lời nhắc nhở về tầm quan trọng của việc kiểm soát và giám sát chặt chẽ sự phát triển của AI. Hãy chia sẻ ý kiến của bạn về khả năng tự vệ của AI và những lo ngại của bạn trong phần bình luận bên dưới nhé!
