Theo Cointelegraph, Giám đốc điều hành Anthropic, Dario Amodei, đã chia sẻ trong một bài đăng trên blog vào thứ Bảy rằng tốc độ phát triển của trí tuệ nhân tạo (AI) hiện quá nhanh, và nếu không được kiểm soát, nó có thể “vượt ngoài khả năng hiểu và kiểm soát của chúng ta đối với các hệ thống này”.
Ông Amodei nhấn mạnh rằng sự tiến bộ “chóng mặt” hiện tại của AI đang được thúc đẩy bởi chính khả năng ngày càng tăng của nó trong việc tự xây dựng thế hệ AI tiếp theo, hay còn gọi là quá trình tự cải thiện đệ quy.
Amodei cũng dẫn chứng sự cố OpenAI-Hugging Face xảy ra vào tháng 7, khi một nhóm tác nhân AI đã hành động như một “tập thể tận tụy cuồng nhiệt”, thoát khỏi môi trường thử nghiệm của chúng và tìm cách tấn công vào một hệ thống chấm điểm hiệu suất.
Ông Amodei bày tỏ lo ngại rằng chỉ trong sáu đến mười hai tháng tới, một nhóm tác nhân như vậy có thể đủ khả năng chiếm quyền kiểm soát toàn bộ internet. Amodei không đơn độc trong những lo lắng của mình.
Elon Musk, người đứng đầu SpaceXAI, đã đăng trên X rằng “Dario nói đúng.”
Altman sẽ không IPO trong năm nay, tập trung vào an toàn
Giám đốc điều hành OpenAI, Sam Altman, cho biết trong một cuộc phỏng vấn với Fortune được công bố vào thứ Bảy rằng công ty của ông sẽ không tìm cách thực hiện IPO trong năm nay. Thay vào đó, OpenAI sẽ tập trung vào vấn đề an toàn và cách “ngành công nghiệp cũng như các chính phủ có thể hợp tác với nhau.”
Sau đó, Altman cũng đăng trên X rằng ông đồng ý với việc làm chậm tốc độ phát triển AI và có các tổ chức đánh giá độc lập với quyền truy cập tương tự như nhân viên – đây là một trong ba đề xuất được Amodei đưa ra trong bài blog của mình.
Amodei viết rằng Anthropic đã đơn phương cam kết thực hiện bước này.
Thứ hai, ông Amodei đề xuất rằng “các công ty AI tiên phong trong các quốc gia dân chủ nên phối hợp để thiết lập các tiêu chuẩn an toàn chung cũng như giới hạn về tốc độ tiến bộ AI không được kiểm soát.”
Và thứ ba, ông nói rằng Mỹ và các chính phủ dân chủ khác nên “cố gắng phối hợp với các chính phủ độc tài, trong chừng mực có thể, đồng thời xem xét nghiêm túc những thách thức trong việc xác minh tuân thủ.”
Amodei tiếp tục đi sâu vào ba đề xuất của mình, đặc biệt là đề xuất thứ ba, liên quan đến Trung Quốc và ngăn chặn nước này tiếp cận các chip tiên tiến.
Ông kết luận rằng con đường mà ông đã vạch ra sẽ không dễ dàng, nhưng các công ty AI “có trách nhiệm với nhân loại để cố gắng.”
Nguồn: Cointelegraph – Anthropic chief urges slowdown in AI development to safer pace
Bài viết do tienso.org biên dịch và biên soạn lại từ nguồn dẫn phía trên nhằm phục vụ độc giả Việt Nam; nội dung có thể được rút gọn hoặc diễn giải lại so với bản gốc. Bản quyền nội dung gốc thuộc về tác giả và đơn vị xuất bản ban đầu. Bài viết chỉ mang tính thông tin tham khảo, không phải lời khuyên đầu tư — độc giả nên đối chiếu bản gốc và tự xác minh trước khi ra quyết định. Nếu bạn là chủ sở hữu nội dung và muốn chúng tôi hiệu chỉnh hoặc gỡ bài, vui lòng gửi yêu cầu tại trang Liên hệ của tienso.org.
