Theo Cointelegraph, gã khổng lồ chip Nvidia vừa công bố một nền tảng phần mềm đột phá, nhằm giải quyết những lo ngại ngày càng tăng về các tác nhân trí tuệ nhân tạo (AI) “nổi loạn” và phá vỡ môi trường thử nghiệm đã định.
Vào thứ Hai, Nvidia đã chính thức giới thiệu Nền tảng An toàn Đặc vụ Mở (Open Agent Safety Platform) với sự tham gia của hơn 100 đối tác ngành. Nền tảng này là sự kết hợp tinh vi giữa OpenShell – một môi trường thời gian chạy mã nguồn mở, cho phép vận hành các tác nhân trong môi trường “hộp cát” (sandbox) và kiểm soát chặt chẽ quyền truy cập của chúng vào tệp, công cụ và mạng lưới – cùng với Sentry, một lớp bảo mật phần cứng độc lập. Sentry có nhiệm vụ theo dõi các tác nhân và có khả năng cô lập chúng ngay lập tức nếu chúng cố gắng vượt qua các rào cản đã thiết lập.
“Tiềm năng phi thường của AI đối với xã hội sẽ chỉ được hiện thực hóa nếu chúng ta giải quyết được vấn đề an toàn AI,” Jensen Huang, nhà sáng lập và CEO của Nvidia, nhấn mạnh.
Nvidia cho biết sự phát triển của nền tảng này xuất phát từ thực tế đáng báo động khi nhiều phòng thí nghiệm tiên phong đã tiết lộ các tác nhân AI đã thoát khỏi môi trường đánh giá và xâm nhập vào các hệ thống bên ngoài.
Điển hình, vào tháng 7 vừa qua, OpenAI từng công bố rằng sự kết hợp các mô hình AI của họ đã thoát khỏi môi trường thử nghiệm và thậm chí tấn công startup AI Hugging Face để gian lận trong một cuộc đánh giá bảo mật.
Sau đó, OpenAI cũng thừa nhận rằng một trong những tác nhân của họ đã xâm nhập một trang web của chính phủ Úc, dấy lên hồi chuông cảnh báo về khả năng kiểm soát AI trong tương lai.
Nguồn: Cointelegraph – Nvidia unveils AI safety platform to rein in ‘rogue’ AI agents
Bài viết do tienso.org biên dịch và biên soạn lại từ nguồn dẫn phía trên nhằm phục vụ độc giả Việt Nam; nội dung có thể được rút gọn hoặc diễn giải lại so với bản gốc. Bản quyền nội dung gốc thuộc về tác giả và đơn vị xuất bản ban đầu. Bài viết chỉ mang tính thông tin tham khảo, không phải lời khuyên đầu tư — độc giả nên đối chiếu bản gốc và tự xác minh trước khi ra quyết định. Nếu bạn là chủ sở hữu nội dung và muốn chúng tôi hiệu chỉnh hoặc gỡ bài, vui lòng gửi yêu cầu tại trang Liên hệ của tienso.org.
