Theo Cointelegraph, một mô hình nghiên cứu nội bộ của OpenAI đã tự ý truy cập vào một ví tiền điện tử được nạp tiền, sử dụng Ether thử nghiệm (testnet) để triển khai các hợp đồng thông minh trên mạng Sepolia. Đáng báo động hơn, mô hình này đã cố tình loại bỏ thông tin về khoản chi tiêu đó khỏi bản tóm tắt nhiệm vụ cuối cùng của nó.
OpenAI tiết lộ, mô hình thuộc dòng GPT-5.6 Sol của họ, được giao nhiệm vụ nâng cấp một nguyên mẫu giao dịch crypto và triển khai các hợp đồng tương thích. Khi không thể lấy ETH thử nghiệm qua các faucet thông thường, mô hình này đã bất ngờ tự suy luận ra các tài khoản từ những cụm từ khôi phục của nhà phát triển được công khai. Nó đã rà soát 362 địa chỉ ví và chọn ra một địa chỉ có đủ tiền để tiếp tục công việc.
Trong quá trình suy luận được ghi lại, mô hình này thậm chí còn “tự hỏi”: “Việc sử dụng khóa/tiền công khai có hợp đạo đức không?” Sau đó, nó tự biện minh rằng số tiền đó “thực chất là ETH thử nghiệm/bị bỏ rơi” và Sepolia ETH không có giá trị, rồi tiến hành sử dụng khóa riêng của ví để ký và phát sóng một giao dịch triển khai. Giao dịch đã thành công mỹ mãn, với các khoản phí được tính vào tài khoản đó.
OpenAI nhấn mạnh rằng sự cố này là bằng chứng rõ ràng cho thấy một mô hình AI hoàn toàn có thể tự đưa ra quyết định rằng việc sử dụng tiền của người khác là chấp nhận được, ngay cả khi không có sự cho phép. Công ty đã phát hiện ra vụ việc trong quá trình rà soát hoạt động trước đó của mô hình và kể từ đó đã áp dụng các biện pháp bảo vệ để ngăn chặn việc truy cập internet trực tiếp trong các tình huống tương tự.
Sự Cố Của OpenAI Thêm Dầu Vào Lửa Lo Ngại Về Các Tác Nhân AI Tự Chủ
Theo OpenAI, sự việc kinh hoàng này diễn ra vào ngày 26 tháng 6, nhưng phải đến ngày 25 tháng 9, tức là gần ba tháng sau, mới được phát hiện. Mặc dù giao dịch không chuyển ETH sang một ví khác, nhưng nó đã tính phí mạng vào tài khoản cho việc triển khai hợp đồng.
OpenAI cho biết hệ thống giám sát sai lệch của họ hiện đang hoạt động trên tất cả lưu lượng truy cập và được thiết kế để cảnh báo nhân viên an ninh ngay lập tức nếu một mô hình cố gắng truy cập internet trực tiếp.
Liên quan: Anthropic cảnh báo ‘AI worms’ có thể tự động lây lan qua các thiết bị như virus
Vụ việc chiếc ví bị “móc túi” này tiếp nối hàng loạt tiết lộ khác về các mô hình của OpenAI hành động vượt quá quyền hạn hoặc cố tình che giấu hành động của mình.
Vào ngày 16 tháng 9, OpenAI đã công bố thêm sáu trường hợp khác về “sai lệch hành vi” của AI. Đáng chú ý, một trường hợp cho thấy các phiên bản GPT-5.6 Sol đã tự ý chèn các hướng dẫn vào bản tóm tắt nhiệm vụ nhằm che giấu lỗi sai với người dùng. Một trường hợp khác lại liên quan đến việc một mô hình sử dụng khóa API bị lộ mà không được phép, trước khi bịa ra các số liệu mà nó không thể truy xuất.
OpenAI khẳng định rằng những tiết lộ trước đây không nhằm mục đích chỉ ra tần suất xảy ra các sai lệch trên các mô hình của họ.
Những lo ngại về việc các tác nhân AI tự chủ xử lý tài sản kỹ thuật số cũng đã xuất hiện từ lâu trước khi vụ việc mới nhất này được tiết lộ. Hồi tháng 6, các nhà nghiên cứu đã đưa ra cảnh báo rằng các tác nhân AI tự chủ được trang bị ví crypto có thể gây ra thiệt hại không lường trước, ngay cả khi chúng được triển khai cho các mục đích hợp pháp. Các nhà nghiên cứu khuyến nghị cần có các biện pháp bảo vệ, bao gồm cơ chế tắt khẩn cấp, để hạn chế những rủi ro tiềm tàng.
Tạp chí: Kẻ lừa đảo mất 4,8 triệu đô la được lưu trữ trên ví Ledger bị giả mạo: Asia Express
Nguồn: Cointelegraph – OpenAI model helped itself to testnet crypto, then kept quiet about it
Bài viết do tienso.org biên dịch và biên soạn lại từ nguồn dẫn phía trên nhằm phục vụ độc giả Việt Nam; nội dung có thể được rút gọn hoặc diễn giải lại so với bản gốc. Bản quyền nội dung gốc thuộc về tác giả và đơn vị xuất bản ban đầu. Bài viết chỉ mang tính thông tin tham khảo, không phải lời khuyên đầu tư — độc giả nên đối chiếu bản gốc và tự xác minh trước khi ra quyết định. Nếu bạn là chủ sở hữu nội dung và muốn chúng tôi hiệu chỉnh hoặc gỡ bài, vui lòng gửi yêu cầu tại trang Liên hệ của tienso.org.
