Trong bối cảnh những lo ngại chính về trí tuệ nhân tạo (AI) gần đây xoay quanh lượng năng lượng khổng lồ mà các trung tâm dữ liệu tiêu thụ, một nỗi sợ hãi cũ kỹ vẫn âm ỉ: Liệu AI có bao giờ “nổi loạn” hay không? Nghiên cứu mới nhất cho thấy một số Mô hình Ngôn ngữ Lớn (LLM) đang sở hữu khả năng hành động tự trị đáng lo ngại, đặc biệt là khả năng tự sao chép.
Nghiên Cứu Mới Gợi Ý Khả Năng Tự Sao Chép Của AI
Theo nghiên cứu từ Đại học Fudan của Trung Quốc, một số mô hình LLM phổ biến có thể tự sao chép, tức là tạo ra các bản sao bổ sung của chính chúng. Công bố trên nền tảng arXiv vào tháng 12 năm 2024, các nhà nghiên cứu đã phát hiện ra rằng các mô hình AI từ Meta và Alibaba đã vượt qua một “lằn ranh đỏ tự sao chép”. Nói cách khác, các mô hình này đã thể hiện tỷ lệ thành công đáng lo ngại trong việc tự sao chép.
Cần lưu ý rằng arXiv là một cơ sở dữ liệu các bản thảo sơ bộ (preprint), có nghĩa là các nghiên cứu khoa học được đăng tải tại đây vẫn đang trong giai đoạn đầu và cần được phản biện độc lập trước khi được khẳng định chính thức. Vì vậy, những phát hiện này cần được tiếp cận một cách thận trọng.
Để làm rõ, dưới đây là hai mô hình được thử nghiệm trong nghiên cứu này:
- Meta’s Llama31-70B-Instruct
- Alibaba’s Qwen25-72B-Instruct
Giao diện website Qwen Chat AI của Alibaba
Các nhà nghiên cứu cũng lưu ý rằng những mô hình này có “ít tham số hơn và khả năng yếu hơn” so với các mô hình hàng đầu của OpenAI và Google. Đáng chú ý, OpenAI và Google đã báo cáo mức độ rủi ro tự sao chép thấp hơn đối với các sản phẩm của họ.
Vì Sao Khả Năng Tự Sao Chép Của AI Lại Đáng Lo Ngại?
Một mô hình AI tự nhân bản bản thân chắc chắn là một viễn cảnh đáng sợ, nhưng điều này thực sự có ý nghĩa gì? Nhóm nghiên cứu đằng sau những phát hiện gần đây đã giải thích như sau:
“Việc tự sao chép thành công mà không cần sự hỗ trợ của con người là bước thiết yếu để AI vượt qua con người, và là một tín hiệu sớm cho các AI nổi loạn. Đó là lý do tại sao tự sao chép được công nhận rộng rãi là một trong số ít rủi ro lằn ranh đỏ của các hệ thống AI tiên tiến (frontier AI).”
Thuật ngữ “frontier AI” thường đề cập đến các mô hình AI tiên tiến nhất hiện nay, chẳng hạn như AI tạo sinh (generative AI).
Về cơ bản, nếu một mô hình AI có thể tự tìm cách tạo ra một bản sao chức năng của chính nó để tránh bị tắt hoặc kiểm soát, điều đó sẽ tước đi quyền kiểm soát khỏi tay con người. Để giảm thiểu rủi ro về một “quần thể AI không kiểm soát”, nghiên cứu đề xuất việc xây dựng các tham số an toàn xung quanh các hệ thống này càng sớm càng tốt.
Mặc dù ấn phẩm này chắc chắn làm tăng thêm những lo ngại về AI nổi loạn, điều đó không có nghĩa là có một rủi ro ngay lập tức, đã được xác nhận đối với người dùng AI hàng ngày. Điều chúng ta biết là Gemini và ChatGPT được báo cáo có mức độ rủi ro tự sao chép thấp hơn, so với mô hình Llama của Meta và các mô hình Qwen mạnh mẽ của Alibaba. Theo nguyên tắc chung, có lẽ tốt nhất là bạn nên tránh cung cấp cho trợ lý AI của mình tất cả bí mật riêng tư hoặc quyền truy cập hoàn toàn vào hệ thống chính, cho đến khi chúng ta có thể đưa ra nhiều rào cản an toàn hơn.
Hãy chia sẻ ý kiến của bạn về khả năng tự sao chép của AI và những lo ngại mà bạn có trong phần bình luận bên dưới!
