Theo Cointelegraph, Anthropic đã chính thức chọn Accenture làm đối tác đánh giá độc lập đầu tiên, nhằm hỗ trợ nỗ lực “hãm phanh” tốc độ phát triển Trí tuệ Nhân tạo (AI) theo đề xuất gây chấn động của CEO Dario Amodei vào tuần trước.
Vào ngày 12 tháng 9, Amodei đã công bố một đề xuất gồm ba bước, kêu gọi làm chậm đà phát triển AI để có đủ thời gian thiết lập các biện pháp bảo vệ. Động thái này diễn ra trong bối cảnh những cảnh báo về khả năng gây ra thảm họa khôn lường nếu AI tiếp tục phát triển nhanh chóng và không được kiểm soát.
Đề xuất của Amodei đã nhận được phản hồi tích cực từ CEO OpenAI Sam Altman và CEO SpaceX Elon Musk. Tuy nhiên, CEO Nvidia Jensen Huang lại không đồng tình, cho rằng việc điều tiết như vậy là không cần thiết.
Mặc dù vậy, trong đề xuất của mình, Amodei nhấn mạnh rằng “AI đã và đang tiến bộ nhanh chóng một cách đáng kinh ngạc, chủ yếu nhờ khả năng ngày càng tăng của AI trong việc tự xây dựng thế hệ AI tiếp theo. Động lực này được gọi là tự cải tiến đệ quy,” và “nếu không được kiểm soát, nó có thể vượt qua khả năng hiểu và kiểm soát các hệ thống này của chúng ta.”
Xem thêm: CEO Anthropic kêu gọi giảm tốc độ phát triển AI để đảm bảo an toàn
Bước đầu tiên trong đề xuất của Amodei là việc có các đơn vị đánh giá độc lập với quyền truy cập tương tự như nhân viên nội bộ, một cam kết mà Anthropic đã tự nguyện thực hiện, theo lời Amodei.
Anthropic đã thông báo vào thứ Sáu về việc thực hiện cam kết này bằng cách hợp tác với Accenture và bộ phận AI của họ, Faculty. Hai bên sẽ cùng “đánh giá và kiểm tra bảo mật (red-teaming) các mô hình, thực hiện đánh giá độ tương thích và kiểm tra các biện pháp bảo vệ mô hình.”
Công ty cho biết chi tiết về cách thức triển khai vẫn đang được hoàn thiện, bởi vì việc đánh giá độc lập (embedded evaluation) là một lĩnh vực hoàn toàn mới.
Theo thông báo, Anthropic và Accenture dự kiến sẽ đầu tư ít nhất 1 tỷ USD vào dự án này trong vòng 5 năm tới.
Anthropic trực tiếp tài trợ giữa tình thế cấp bách
Anthropic lưu ý rằng hiện tại chưa có hệ thống tài trợ độc lập nào cho việc đánh giá, do đó, nguồn vốn dài hạn nên đến từ các quỹ chung hoặc chính phủ. Tuy nhiên, nhận thấy tính cấp bách của công việc, Anthropic sẽ trực tiếp tài trợ cho hoạt động của Accenture.
Mối quan hệ đối tác này không độc quyền, và Anthropic dự kiến sẽ công bố thêm các đối tác đánh giá khác trong những tuần tới.
Theo thông báo của công ty vào thứ Sáu, Faculty của Accenture là một đội ngũ chuyên gia trong việc kiểm tra và đánh giá các mô hình cho những phòng thí nghiệm AI hàng đầu thế giới, cũng như xây dựng các hệ thống AI phức tạp được thiết kế an toàn và đạo đức ngay từ đầu.
Julie Sweet, Chủ tịch và CEO của Accenture, chia sẻ: “Đánh giá độc lập là một lĩnh vực mới nổi, và chúng tôi mong muốn hợp tác với Anthropic để đẩy nhanh quá trình phát triển các đơn vị đánh giá độc lập, điều mà chúng tôi coi là một phần quan trọng trong bối cảnh an toàn AI trong tương lai.”
Tạp chí: Tại sao các công ty AI lớn nhất đột nhiên yêu cầu giảm tốc độ?
Nguồn: Cointelegraph – Anthropic tabs Accenture as embedded evaluator to help with AI slowdown proposal
Bài viết do tienso.org biên dịch và biên soạn lại từ nguồn dẫn phía trên nhằm phục vụ độc giả Việt Nam; nội dung có thể được rút gọn hoặc diễn giải lại so với bản gốc. Bản quyền nội dung gốc thuộc về tác giả và đơn vị xuất bản ban đầu. Bài viết chỉ mang tính thông tin tham khảo, không phải lời khuyên đầu tư — độc giả nên đối chiếu bản gốc và tự xác minh trước khi ra quyết định. Nếu bạn là chủ sở hữu nội dung và muốn chúng tôi hiệu chỉnh hoặc gỡ bài, vui lòng gửi yêu cầu tại trang Liên hệ của tienso.org.
