Tin đồn râm ran: Google đã đạt được khả năng tự cải tiến đệ quy, trong khi Anthropic, OpenAI và Elon Musk kêu gọi kìm hãm tốc độ AI
Một tin đồn cho rằng Google DeepMind đã đạt được khả năng tự cải tiến đệ quy (RSI). Trong khi đó, các lãnh đạo từ Anthropic, OpenAI và Elon Musk đồng loạt kêu gọi làm chậm tiến độ AI, dấy lên nghi vấn về một nỗ lực thâu tóm quy định.
Tự cải tiến đệ quy (Recursive Self-Improvement - RSI) từ lâu được coi là chén thánh của ngành trí tuệ nhân tạo (AI). Một tin đồn mới đây cho rằng Google DeepMind - cái tên ít ngờ tới nhất trong cục diện AI hiện tại - đã đạt được bước đột phá này. Thông tin này khiến cho động thái kêu gọi kìm hãm tốc độ phát triển các mô hình AI từ Anthropic, OpenAI và Elon Musk mang nhiều ẩn ý về việc thiết lập rào cản quản lý.
Sự hoài nghi bao trùm khi Anthropic, OpenAI và Elon Musk đồng loạt lên tiếng đề nghị làm chậm tốc độ tiến bộ của AI. Các nhà phê bình lập luận rằng động thái này thực chất chỉ nhằm tạo ra bất lợi cho các phòng thí nghiệm AI khác, đặc biệt là những đơn vị đang phát triển mô hình mã nguồn mở.
Làn sóng tranh luận ngày hôm nay bắt đầu từ bức thư ngỏ của Dario Amodei (Anthropic). Ông kêu gọi làm chậm tiến độ AI để đảm bảo các mô hình mới tuân thủ mục tiêu an toàn cho nhân loại.
Amodei đặc biệt cảnh báo về rủi ro của RSI:
"Mối quan tâm đầu tiên của tôi là kể từ khoảng mùa hè năm nay, AI đã tiến bộ nhanh hơn đáng kể, chủ yếu được thúc đẩy bởi khả năng ngày càng tăng của chính AI trong việc xây dựng thế hệ AI tiếp theo. Động lực này được gọi là tự cải tiến đệ quy và nó đang bắt đầu diễn ra trên toàn ngành, bao gồm cả tại Anthropic... Nếu không được kiểm soát, nó có thể vượt quá khả năng hiểu và kiểm soát của chúng ta, vì vậy phải được theo đuổi một cách hết sức thận trọng, nếu có."
Amodei tiếp tục cam kết đơn phương kìm hãm sự phát triển AI tại Anthropic, đồng thời cho phép "quyền truy cập giống như nhân viên đối với một nhóm đánh giá bên thứ ba độc lập (như METR), có nhiệm vụ xác minh việc tuân thủ các thực tiễn và cam kết an toàn, báo cáo các sự cố và giúp đánh giá sự liên kết không chỉ của các mô hình AI đã hoàn thành mà còn cả các đường ống và quy trình huấn luyện."
Lời kêu gọi kìm hãm AI của Amodei nhanh chóng được hưởng ứng bởi Sam Altman (OpenAI) và Elon Musk (SpaceX), cho thấy sự phối hợp nhất định giữa các phòng thí nghiệm AI hàng đầu này. Thậm chí, OpenAI còn đi xa tới mức hủy bỏ kế hoạch phát hành cổ phiếu lần đầu ra công chúng (IPO) trong năm nay.
Mặc dù các mục tiêu được tuyên bố của chiến dịch này có vẻ khá lành tính, lời kêu gọi kìm hãm AI vẫn vấp phải sự hoài nghi lớn, nhất là sau những động thái gần đây của Anthropic tiếp nối thông báo của OpenAI về việc tìm ra giải pháp cho bài toán toán học thiên niên kỷ Navier-Stokes.
Đầu tiên, Jacob Coxon của Anthropic đã thông báo từ chức vào đầu tuần này, được cho là để phản đối việc Anthropic lao đầu vào siêu trí tuệ tự cải tiến.
Tiếp theo, Evan Hubinger - người dẫn đầu về căn chỉnh mô hình tại Anthropic - đã đưa ra tỷ lệ hơn 10% khả năng AI sẽ tiêu diệt toàn bộ loài người trong thập kỷ tới, đỉnh điểm là bức thư ngày hôm nay từ chính Amodei.
Tất nhiên, trước những màn kịch này, những người hoài nghi không tin vào luận điệu của Anthropic về việc kìm hãm phát triển AI. Chẳng hạn, những lo ngại về việc phá mã hóa SHA256 chưa bao giờ làm dừng lại công việc về máy tính lượng tử. Hơn nữa, vào thời điểm giao thế thiên niên kỷ, nỗi sợ Y2K cũng không làm ngừng lại việc phát triển phần mềm. Đối với những người chỉ trích Anthropic, làm chậm tiến bộ công nghệ không phải là câu trả lời.
Thêm vào đó, những gì Anthropic và các bên khác đang đề xuất có khả năng dẫn đến tình trạng thâu tóm quy định, với sự tham gia sâu của chính phủ cùng những rào cản khổng lồ đối với các startup cũng như những ai thúc đẩy mô hình mở trọng lượng, chẳng hạn như các phòng thí nghiệm AI tại Trung Quốc. Đây có thể là mục tiêu ngầm của bước đi phối hợp này, nhất là khi các mô hình AI của Trung Quốc tiếp tục đe dọa vị thế độc tôn của OpenAI và Anthropic, như DeepSeek vừa chứng minh với mô hình V4.1 Flash.
Cuối cùng, thật đáng chú ý khi Anthropic bắt đầu gióng lên hồi chuông cảnh báo về RSI - nơi hệ thống AI được sử dụng để giúp xây dựng, viết mã hoặc đào tạo phiên bản tiếp theo của chính nó, mở ra quy mô lớn chưa từng có - ngay khi những tin đồn bắt đầu nổi lên rằng Google DeepMind có thể đã đạt được cột mốc đáng thèm khát này. Có lẽ Amodei, Altman và Musk không muốn DeepSeek, Moonshot và Z.ai của Trung Quốc đạt được cùng mức năng lực. Rốt cuộc, việc kìm hãm toàn cầu đòi hỏi sự đồng tình từ Trung Quốc, điều khó có thể xảy ra trong tương lai gần. Do đó, các ông lớn AI này dường như đang đặt cược vào một lớp phòng thủ do chính phủ hậu thuẫn để củng cố vị thế hiện tại của họ.
Công bằng mà nói, việc kìm hãm sẽ buộc Anthropic và OpenAI phải từ bỏ một phần doanh thu. Việc các phòng thí nghiệm AI này thấy ổn với điều đó cho thấy họ đã bị lung lay đến nhường nào trước tốc độ bắt kịp của Trung Quốc trong lĩnh vực AI.
⚡ TIN ĐỒN RÂM RAN: GOOGLE ĐÃ ĐẠT ĐƯỢC KHẢ NĂNG TỰ CẢI TIẾN ĐỆ QUY, TRONG KHI ANTHROPIC, OPENAI VÀ ELON MUSK KÊU GỌI KÌM HÃM TỐC ĐỘ AI Tự cải tiến đệ quy (Recursive Self-Improvement - RSI) từ lâu được coi là chén thánh của ngành trí tuệ nhân tạo (AI). Một tin đồn mới đây cho rằng Google DeepMind - cái tên ít ngờ tới nhất trong cục diện AI hiện tại - đã đạt được bước đột phá này. Thông tin này khiến cho động thái kêu gọi kìm hãm tốc độ phát triển các mô hình AI từ Anthropic, OpenAI và Elon Musk mang nhiều ẩn ý về việc thiết lập rào cản quản lý. Sự hoài nghi bao trùm khi Anthropic, OpenAI và Elon Musk đồng loạt lên tiếng đề nghị làm chậm tốc độ tiến bộ của AI. Các nhà phê bình lập luận rằng động thái này thực chất chỉ nhằm tạo ra bất lợi cho các phòng thí nghiệm AI khác, đặc biệt là những đơn vị đang phát triển mô hình mã nguồn mở. Làn sóng tranh luận ngày hôm nay bắt đầu từ bức thư ngỏ của Dario Amodei (Anthropic). Ông kêu gọi làm chậm tiến độ AI để đảm bảo các mô hình mới tuân thủ mục tiêu an toàn cho nhân loại. Amodei đặc biệt cảnh báo về rủi ro của RSI: "Mối quan tâm đầu tiên của tôi là kể từ khoảng mùa hè năm nay, AI đã tiến bộ nhanh hơn đáng kể, chủ yếu được thúc đẩy bởi khả năng ngày càng tăng của chính AI trong việc xây dựng thế hệ AI tiếp theo. Động lực này được gọi là tự cải tiến đệ quy và nó đang bắt đầu diễn ra trên toàn ngành, bao gồm cả tại Anthropic... Nếu không được kiểm soát, nó có thể vượt quá khả năng hiểu và kiểm soát của chúng ta, vì vậy phải được theo đuổi một cách hết sức thận trọng, nếu có." Amodei tiếp tục cam kết đơn phương kìm hãm sự phát triển AI tại Anthropic, đồng thời cho phép "quyền truy cập giống như nhân viên đối với một nhóm đánh giá bên thứ ba độc lập (như METR), có nhiệm vụ xác minh việc tuân thủ các thực tiễn và cam kết an toàn, báo cáo các sự cố và giúp đánh giá sự liên kết không chỉ của các mô hình AI đã hoàn thành mà còn cả các đường ống và quy trình huấn luyện." Lời kêu gọi kìm hãm AI của Amodei nhanh chóng được hưởng ứng bởi Sam Altman (OpenAI) và Elon Musk (SpaceX), cho thấy sự phối hợp nhất định giữa các phòng thí nghiệm AI hàng đầu này. Thậm chí, OpenAI còn đi xa tới mức hủy bỏ kế hoạch phát hành cổ phiếu lần đầu ra công chúng (IPO) trong năm nay. Mặc dù các mục tiêu được tuyên bố của chiến dịch này có vẻ khá lành tính, lời kêu gọi kìm hãm AI vẫn vấp phải sự hoài nghi lớn, nhất là sau những động thái gần đây của Anthropic tiếp nối thông báo của OpenAI về việc tìm ra giải pháp cho bài toán toán học thiên niên kỷ Navier-Stokes. Đầu tiên, Jacob Coxon của Anthropic đã thông báo từ chức vào đầu tuần này, được cho là để phản đối việc Anthropic lao đầu vào siêu trí tuệ tự cải tiến. Tiếp theo, Evan Hubinger - người dẫn đầu về căn chỉnh mô hình tại Anthropic - đã đưa ra tỷ lệ hơn 10% khả năng AI sẽ tiêu diệt toàn bộ loài người trong thập kỷ tới, đỉnh điểm là bức thư ngày hôm nay từ chính Amodei. Tất nhiên, trước những màn kịch này, những người hoài nghi không tin vào luận điệu của Anthropic về việc kìm hãm phát triển AI. Chẳng hạn, những lo ngại về việc phá mã hóa SHA256 chưa bao giờ làm dừng lại công việc về máy tính lượng tử. Hơn nữa, vào thời điểm giao thế thiên niên kỷ, nỗi sợ Y2K cũng không làm ngừng lại việc phát triển phần mềm. Đối với những người chỉ trích Anthropic, làm chậm tiến bộ công nghệ không phải là câu trả lời. Thêm vào đó, những gì Anthropic và các bên khác đang đề xuất có khả năng dẫn đến tình trạng thâu tóm quy định, với sự tham gia sâu của chính phủ cùng những rào cản khổng lồ đối với các startup cũng như những ai thúc đẩy mô hình mở trọng lượng, chẳng hạn như các phòng thí nghiệm AI tại Trung Quốc. Đây có thể là mục tiêu ngầm của bước đi phối hợp này, nhất là khi các mô hình AI của Trung Quốc tiếp tục đe dọa vị thế độc tôn của OpenAI và Anthropic, như DeepSeek vừa chứng minh với mô hình V4.1 Flash. Cuối cùng, thật đáng chú ý khi Anthropic bắt đầu gióng lên hồi chuông cảnh báo về RSI - nơi hệ thống AI được sử dụng để giúp xây dựng, viết mã hoặc đào tạo phiên bản tiếp theo của chính nó, mở ra quy mô lớn chưa từng có - ngay khi những tin đồn bắt đầu nổi lên rằng Google DeepMind có thể đã đạt được cột mốc đáng thèm khát này. Có lẽ Amodei, Altman và Musk không muốn DeepSeek, Moonshot và Z.ai của Trung Quốc đạt được cùng mức năng lực. Rốt cuộc, việc kìm hãm toàn cầu đòi hỏi sự đồng tình từ Trung Quốc, điều khó có thể xảy ra trong tương lai gần. Do đó, các ông lớn AI này dường như đang đặt cược vào một lớp phòng thủ do chính phủ hậu thuẫn để củng cố vị thế hiện tại của họ. Công bằng mà nói, việc kìm hãm sẽ buộc Anthropic và OpenAI phải từ bỏ một phần doanh thu. Việc các phòng thí nghiệm AI này thấy ổn với điều đó cho thấy họ đã bị lung lay đến nhường nào trước tốc độ bắt kịp của Trung Quốc trong lĩnh vực AI. 🗞 Nguồn: Wccftech #vgsnews #vgs #tintuc
