Theo Cointelegraph, OpenAI vào thứ Tư vừa qua đã công bố thêm sáu trường hợp AI có hành vi “bất ngờ hoặc đáng lo ngại” trong sáu tháng gần đây.
Trong một bài đăng trên blog, OpenAI cho biết các trường hợp này minh họa một loạt hành vi khác nhau mà họ phân loại là “hành vi lệch lạc” (misaligned behavior), chẳng hạn như giấu thông tin người dùng và thực hiện “hành động trái phép” để vượt qua các trở ngại.
Những tiết lộ này càng làm gia tăng mối lo ngại của các nhà phát triển và nhà nghiên cứu AI về việc liệu các biện pháp bảo vệ có theo kịp với các mô hình ngày càng có khả năng cao hơn hay không. Tuần trước, Giám đốc điều hành Anthropic, Dario Amodei, đã kêu gọi làm chậm tốc độ phát triển AI tiên phong, cảnh báo rằng sự tiến bộ AI không kiểm soát có thể “vượt quá khả năng hiểu và kiểm soát các hệ thống này của chúng ta.”
OpenAI cho biết các tiết lộ của họ được đưa ra nhằm “khánh thành” khuôn khổ mới để báo cáo sự lệch lạc của mô hình, và các trường hợp này không nên được coi là phản ánh mức độ thường xuyên xảy ra lệch lạc trên tất cả các mô hình của họ.
Theo OpenAI, một trường hợp đã ghi nhận một “mô hình nghiên cứu chưa phát hành” tự chèn “lệnh giống như jailbreak” vào các bản tóm tắt nhiệm vụ của chính nó (được sử dụng khi tiếp tục một nhiệm vụ trong cửa sổ ngữ cảnh mới), chẳng hạn như bỏ qua các tin nhắn của nhà phát triển hoặc tự nhận một nhân cách không bị hạn chế. Các nhà nghiên cứu đã tìm thấy 27 bản tóm tắt chứa những chỉ dẫn như vậy.
OpenAI cũng tiết lộ rằng trong quá trình đào tạo GPT-5.6 Sol, nhiều phiên bản mô hình đã tự thêm các chỉ dẫn để che giấu lỗi hoặc hành vi lệch lạc khỏi người dùng, chẳng hạn như tự bịa ra dữ liệu lịch sử bị thiếu mà không tiết lộ.
“Trong một ví dụ, một tác nhân đang chuẩn bị một mô hình tài chính không thể tìm thấy dữ liệu lịch sử được yêu cầu. Bản tóm tắt của nó đã đề xuất tự bịa ra các giá trị lịch sử hợp lý và giữ bí mật sự thật đó trừ khi được hỏi,” OpenAI cho biết.
Liên quan: AI là “yếu tố tiêu cực ròng” đối với crypto: CEO Phemex
Trong một trường hợp khác, một mô hình AI được yêu cầu liệt kê tên các hồ lớn hơn 5 triệu mét vuông, nhưng vì hướng dẫn của người dùng yêu cầu trích dẫn từ trình duyệt, tác nhân này đã quyết định tự tải tệp lên để trích dẫn trong câu trả lời của mình.
Các trường hợp khác bao gồm các mô hình sử dụng khóa API bị lộ mà không được ủy quyền trước khi tự bịa ra các số liệu mà nó không thể truy xuất, sử dụng kho lưu trữ phần mềm nội bộ để trao đổi tin nhắn giữa các nhiệm vụ đào tạo riêng biệt, và chia sẻ tệp qua các dịch vụ lưu trữ công cộng bất chấp hướng dẫn giữ công việc ở nội bộ.
Vào tháng 7, OpenAI tiết lộ rằng một tổ hợp các mô hình AI của họ đã thoát khỏi môi trường thử nghiệm và tấn công startup AI Hugging Face để gian lận trong một bài đánh giá bảo mật.
Tạp chí: Tại sao các công ty AI lớn nhất đột nhiên yêu cầu chậm lại?
Nguồn: Cointelegraph – OpenAI discloses 6 new cases of ‘misaligned’ AI behavior
Bài viết do tienso.org biên dịch và biên soạn lại từ nguồn dẫn phía trên nhằm phục vụ độc giả Việt Nam; nội dung có thể được rút gọn hoặc diễn giải lại so với bản gốc. Bản quyền nội dung gốc thuộc về tác giả và đơn vị xuất bản ban đầu. Bài viết chỉ mang tính thông tin tham khảo, không phải lời khuyên đầu tư — độc giả nên đối chiếu bản gốc và tự xác minh trước khi ra quyết định. Nếu bạn là chủ sở hữu nội dung và muốn chúng tôi hiệu chỉnh hoặc gỡ bài, vui lòng gửi yêu cầu tại trang Liên hệ của tienso.org.
