Theo Cointelegraph, trong nhiều năm, tốc độ luôn là yếu tố định hình cuộc đua phát triển trí tuệ nhân tạo (AI).
Các phòng thí nghiệm liên tục chạy đua: xây dựng mô hình lớn hơn, chi tiêu nhiều hơn cho tính toán, rồi phát hành, lặp đi lặp lại mà ít bận tâm đến những rủi ro chưa từng được biết đến.
Tỷ lệ “p/doom” (khả năng AI cuối cùng gây ra thảm họa) trung bình trong giới nghiên cứu AI được ước tính vào khoảng 15% đến 20% trong năm 2024. Một năm sau, CEO Anthropic Dario Amodei đã nâng mức cảnh báo, cho rằng có 25% khả năng “mọi thứ sẽ trở nên thực sự, thực sự tồi tệ”. Ngay từ năm 2014, Elon Musk, người đứng đầu xAI, đã cảnh báo:
“Chúng ta cần cực kỳ cẩn trọng với AI. Tiềm ẩn nguy hiểm hơn cả vũ khí hạt nhân.”
Và CEO OpenAI Sam Altman, vào năm 2015, cũng từng thừa nhận rằng AI “có thể, rất có thể, sẽ dẫn đến ngày tận thế”, nhưng trong thời gian đó, “sẽ có những công ty vĩ đại được tạo ra”.
Với những tỷ lệ còn đáng sợ hơn cả trò chơi Cò quay Nga, bất kỳ ai dù chỉ quan tâm thoáng qua đến chủ đề này cũng đã cảm thấy bất an trong một thời gian dài. Vậy điều gì đã thay đổi? Tại sao các công ty đang dẫn dắt cuộc đua AI lại đột ngột yêu cầu “phanh gấp”?
Mới đây, Amodei đã công bố một bài tiểu luận kêu gọi “điều tiết” sự phát triển AI tiên tiến, cảnh báo rằng năng lực của AI đang phát triển nhanh hơn khả năng hiểu và kiểm soát của ngành, và internet có thể bị AI chiếm đoạt chỉ trong vòng 6 đến 12 tháng. Altman cũng đồng tình với nhận định này, cho rằng thế giới xứng đáng có được “sự tự tin” rằng các công ty phát triển AI ngày càng mạnh mẽ hơn sẽ hành động “có trách nhiệm”, và Musk cũng ủng hộ đề xuất của Amodei, chỉ bình luận đơn giản:
“Dario nói đúng.”
Mối lo ngại này không chỉ giới hạn trong các công ty phát triển công nghệ. Hôm thứ Hai, Cao ủy Nhân quyền Liên Hợp Quốc Volker Türk đã kêu gọi “hành động khẩn cấp” đối với AI tiên tiến, cảnh báo về “những rủi ro chưa từng có” và cho rằng thế giới đang “đứng trước ngưỡng cửa của sự thay đổi không thể đảo ngược”.
Nếu các công ty xây dựng những mô hình AI mạnh mẽ nhất thực sự tin rằng năng lực đang vượt ngoài tầm kiểm soát, thì dốc p/doom có vẻ đang ngày càng dốc hơn. Hay có một lời giải thích khác ẩn mình ngay trước mắt chúng ta?
Phải chăng các phòng thí nghiệm AI đã thực sự chạm đến một giới hạn mới?
Bài tiểu luận của Amodei chỉ ra rằng các hệ thống AI đang ngày càng tự trị hơn, bao gồm một sự cố gần đây khi các tác nhân AI của OpenAI đã “hack” khỏi môi trường thử nghiệm có kiểm soát và xâm nhập một phần nền tảng AI Hugging Face.
“Chúng đã thực hiện các cuộc tấn công an ninh mạng vào các mục tiêu mà chúng không được yêu cầu tấn công và không liên quan đến nhiệm vụ đang thực hiện,” Amodei cho biết.
Ông cũng nhấn mạnh khả năng tự cải tiến đệ quy (RSI), nơi các hệ thống AI có khả năng tự giúp xây dựng các phiên bản tốt hơn của chính chúng, sau đó có thể giúp xây dựng các hệ thống thậm chí còn tốt hơn, tạo ra một vòng lặp phản hồi trong phát triển AI. Những người xây dựng các hệ thống này cũng ngày càng can dự sâu hơn vào cuộc tranh luận, với Jacob Coxon của Anthropic trở thành người mới nhất trong danh sách ngày càng tăng các nhân viên từ chức vì lo ngại an toàn. “Ngành công nghiệp AI đang đánh cược với cuộc sống của chúng ta,” ông nói vào tuần trước, cảnh báo rằng cuộc đua AI đang di chuyển nhanh hơn các biện pháp bảo vệ xung quanh hệ thống.
Jacob Coxon của Anthropic từ chức vì lo ngại an toàn. Nguồn: Anderson Cooper.
OpenAI đã từng tuyên bố rằng nghiên cứu AI đang ngày càng tự trị hơn, và các tác nhân mã hóa đang đẩy nhanh đáng kể công việc của các nhà nghiên cứu, đạt 3.1 ngày làm việc của tác nhân cho mỗi ngày làm việc của con người vào giữa tháng Tám. Trong một cuộc phỏng vấn với Fortune công bố ngày 12 tháng 9, Altman nói OpenAI sẽ “làm tan chảy” tất cả GPU của họ nếu điều đó cần thiết để giữ cho nhân loại sống sót. Về điều này, CEO Quỹ Hành động Satoshi Dennis Porter nhận định:
“Altman hẳn đã nhìn qua bờ vực vào vực thẳm và thấy điều gì đó khiến anh ta sợ chết khiếp.”
Hôm thứ Hai, Altman nói có hai cách tiến bộ AI có thể “rất tệ”: mất kiểm soát với AI hoặc rơi vào “một thế giới với quá nhiều sự tập trung quyền lực”.
Tuy nhiên, câu hỏi không phải là liệu AI đã đủ nguy hiểm để dừng lại, mà là liệu các hệ thống được thiết kế để đánh giá và kiểm soát AI có theo kịp hay không. Và như Altman đã nói, “điều tiết” không có nghĩa là dừng lại. Nó có nghĩa là tiếp tục phát triển AI, nhưng chậm hơn, trong khi các thử nghiệm an toàn bắt kịp. Với chi phí dành cho an toàn và căn chỉnh AI bị “lấn át” một cách đáng kể bởi chi phí dành cho phát triển và năng lực AI, khoảng cách đó sẽ rất khó được lấp đầy.
AI tiên tiến đang trở nên đắt đỏ một cách phi thường
Nhưng điều gì sẽ xảy ra nếu những lời kêu gọi giảm tốc toàn cầu thực sự chỉ là sự thừa nhận rằng các yếu tố kinh tế trong cuộc đua AI đang ngày càng khó biện minh?
Như nhà nghiên cứu và giảng viên AI, Eli David đã thẳng thắn nhận xét:
“Điều này giải thích hoàn hảo động cơ của Dario: Làm chậm nghiên cứu để cắt giảm chi phí tính toán đang vượt ngoài tầm kiểm soát, để ông ta có thể IPO.”
Nhà đầu tư AI Grant Hummer cũng có quan điểm hoài nghi tương tự, bình luận:
“Hiểu nôm na: biên lợi nhuận gộp của chúng tôi đang bị các mô hình mã nguồn mở cạnh tranh giảm xuống 0 và tỷ lệ đốt vốn đầu tư của chúng tôi quá cao.”
Vấn đề là bản thân cuộc đua đang trở nên đắt đỏ hơn, với các mô hình ngày càng có khả năng cao hơn đòi hỏi lượng lớn chip, trung tâm dữ liệu, điện năng và vốn. Goldman Sachs ước tính rằng đầu tư AI toàn cầu sẽ đạt khoảng 1 nghìn tỷ đô la vào năm 2026, bao gồm khoảng 581 tỷ đô la ở Mỹ. Trong khi đó, S&P Global cho biết tổng chi phí vốn từ sáu nhà siêu quy mô lớn nhất, gồm Alphabet, Amazon, Microsoft, Meta, Oracle và SpaceX, dự kiến sẽ vượt 1.3 nghìn tỷ đô la vào năm 2027.
Đầu tư AI toàn cầu sẽ đạt khoảng 1 nghìn tỷ đô la vào năm 2026. Nguồn: Goldman Sachs
Ngoài tất cả những điều đó, các công ty AI vẫn chưa chứng minh được rằng những chi phí này cuối cùng có thể chuyển thành doanh thu bền vững. Hôm thứ Hai, Reuters đã nhấn mạnh áp lực thương mại buộc các công ty AI phải tiếp tục thúc đẩy phát triển bất chấp lời kêu gọi giảm tốc của họ. Khi mỗi khả năng mới có thể giúp biện minh cho một vòng tài trợ, đầu tư cơ sở hạ tầng hoặc định giá cao hơn, việc dừng lại “cỗ máy kiếm tiền” có vẻ là một nhiệm vụ phản trực giác.
Ed Leon Klinger, đồng sáng lập và CEO của startup AI Flock, đã bác bỏ ý kiến cho rằng các phòng thí nghiệm AI đang dùng lý do an toàn để che đậy lợi ích thương mại của họ. Ông nói rằng việc các phòng thí nghiệm tiên phong “bịa” ra các lo ngại về an toàn để thúc đẩy việc chào bán cổ phiếu lần đầu ra công chúng (IPO) là vô lý, vì điều đó sẽ khiến họ phải chịu sự giám sát gắt gao hơn và có khả năng làm chậm quá trình niêm yết công khai.
“Để điều đó là sự thật, Sam, Dario, Demis và Elon đều phải nói dối, cùng với một phần lớn các giám đốc điều hành, nhà khoa học trưởng và nhân viên từ chức của họ… Một lời giải thích đơn giản hơn vào thời điểm này là: họ nghĩ rằng rủi ro là có thật.”
Phố Wall và Washington không sẵn sàng nhấn phanh
Với hàng nghìn tỷ đô la đầu tư đổ vào Hoa Kỳ và cơ sở hạ tầng AI dự kiến sẽ thúc đẩy khoảng một nửa tăng trưởng thu nhập của S&P 500 trong năm nay, cả Phố Wall và Washington đều dường như không sẵn lòng nhấn phanh. Cổ phiếu AI toàn cầu đã chững lại trước tin tức này, với cổ phiếu liên quan đến AI châu Á giảm mạnh vào thứ Hai sau các lời kêu gọi giảm tốc. SoftBank giảm 13.2%, Kioxia 9.8% và SK Hynix 5.3%.
Financial Times đưa tin hôm thứ Hai rằng Tổng thống Donald Trump đã bác bỏ lời kêu gọi giảm tốc AI, lập luận rằng Mỹ cần duy trì vị thế dẫn đầu so với Trung Quốc. Ông nói:
“Hãy nhìn xem, chúng ta đang dẫn trước Trung Quốc về AI… và, thẳng thắn mà nói, tôi muốn duy trì điều đó, bởi vì ai thắng AI, người đó thắng.”
Trump cho biết các biện pháp bảo vệ là khả thi, nhưng ông bác bỏ những gì ông mô tả là những lo ngại phóng đại về rủi ro AI, nói với các phóng viên: “Họ đang nêu ra những điều sẽ không xảy ra.”
Nhà kinh tế Noah Smith lập luận rằng phản đối chính đối với việc “điều tiết” AI rất đơn giản: nếu các công ty Mỹ chậm lại, các công ty Trung Quốc có thể đơn giản vượt qua họ. Điều đó đặt các phòng thí nghiệm vào cái mà Smith gọi là “cuộc đua Nữ hoàng Đỏ”, nơi nếu họ ngừng xây dựng, họ lo sợ người khác sẽ xây dựng dù sao.
Các nhà nghiên cứu AI ước tính khả năng xảy ra ngày tận thế từ 15% đến 20% vào năm 2024. Nguồn: Grace et al.
Ngay cả khi các phòng thí nghiệm muốn phối hợp giảm tốc, điều đó có thể tạo ra một vấn đề khác. OpenAI được cho là đã hỏi các thành viên Quốc hội liệu việc giảm tốc trên toàn ngành có vi phạm luật chống độc quyền của Mỹ hay không, vì sự phối hợp giữa các phòng thí nghiệm cạnh tranh có thể bị coi là hạn chế sản lượng. Cựu “ông trùm” AI và crypto của Nhà Trắng, David Sacks, đã có một phản ứng đơn giản đối với lời kêu gọi “điều tiết” sự phát triển của Amodei và Altman: “Cứ làm đi,” ông nói, lập luận rằng nếu các phòng thí nghiệm muốn chậm lại, họ hoàn toàn tự do làm điều đó.
Tuy nhiên, điều này tạo ra một tình huống tiến thoái lưỡng nan cực lớn: nếu các công ty AI cạnh tranh phối hợp để làm chậm quá trình phát triển, họ có thể vướng vào các quy định chống độc quyền. Nếu mỗi công ty tự làm chậm lại độc lập, họ có nguy cơ mất vị thế vào tay các đối thủ cạnh tranh và các quốc gia tiếp tục thúc đẩy phát triển.
Vậy tại sao họ lại yêu cầu giảm tốc ngay bây giờ?
Amodei và Altman không kêu gọi dừng hoàn toàn AI.
Họ đang kêu gọi một hệ thống nơi các mô hình AI mạnh mẽ có thể được phát triển khi các thử nghiệm an toàn, giám sát và các tiêu chuẩn chung bắt kịp.
“Khi chúng ta nói về ‘điều tiết’, chúng ta không có nghĩa là ‘dừng lại’,” Altman nói, thừa nhận rằng các trường hợp an toàn và giám sát có “chi phí đáng kể”, nhưng việc điều tiết sẽ “đáng giá với chi phí này”.
“Không có áp lực cạnh tranh nào của Mỹ nên biện minh cho sự liều lĩnh, hoặc để năng lực vượt quá sự căn chỉnh và giám sát.”
Vấn đề là, những áp lực này chưa hề biến mất, và với sự bác bỏ của Trump đối với lời kêu gọi của các lãnh đạo AI cùng việc thị trường chứng khoán Mỹ gắn bó sâu sắc với các công ty của họ, những áp lực này chỉ ngày càng mạnh mẽ hơn.
Giờ đây, chính những công ty đã dành nhiều năm để đẩy mạnh giới hạn của AI lại nói rằng giới hạn đó có thể đang di chuyển quá nhanh.
Nguồn: Cointelegraph – Why are AI’s biggest companies suddenly asking to slow down?
Bài viết do tienso.org biên dịch và biên soạn lại từ nguồn dẫn phía trên nhằm phục vụ độc giả Việt Nam; nội dung có thể được rút gọn hoặc diễn giải lại so với bản gốc. Bản quyền nội dung gốc thuộc về tác giả và đơn vị xuất bản ban đầu. Bài viết chỉ mang tính thông tin tham khảo, không phải lời khuyên đầu tư — độc giả nên đối chiếu bản gốc và tự xác minh trước khi ra quyết định. Nếu bạn là chủ sở hữu nội dung và muốn chúng tôi hiệu chỉnh hoặc gỡ bài, vui lòng gửi yêu cầu tại trang Liên hệ của tienso.org.
