Sam Altman cho rằng thế giới nên chấp nhận 'một số điều tồi tệ' để đổi lấy sự phát triển của AI

🌐 SAM ALTMAN CHO RẰNG THẾ GIỚI NÊN CHẤP NHẬN 'MỘT SỐ ĐIỀU TỒI TỆ' ĐỂ ĐỔI LẤY SỰ PHÁT TRIỂN CỦA AI

Sam Altman tin rằng những lợi ích của AI sẽ lớn đến mức "thế giới nên chấp nhận một số điều tồi tệ xảy ra" trên chặng đường phát triển.

CEO của OpenAI đã chỉ ra các vụ hack, lừa đảo và "những điều tồi tệ khác" như là cái giá mà xã hội nên kỳ vọng phải dung thứ, bởi vì "mọi người sẽ làm được những điều tốt đẹp hơn rất nhiều lần" nhờ AI, dù ông không đi sâu vào chi tiết về các lợi ích tiềm năng. Những bình luận của ông được đưa ra trong bối cảnh OpenAI đang thúc đẩy cách tiếp cận "nhẹ tay" hơn đối với quy định về AI giữa lúc sự lo lắng về an toàn của các mô hình tiên tiến ngày càng gia tăng – những nỗi sợ một phần được thổi bùng bởi những thất bại lặp đi lặp lại của công ty trong việc ngăn chặn các tác nhân AI ngày càng có năng lực của mình tấn công các mục tiêu thực tế.

Trong một lần xuất hiện trên podcast Decoded mới của tờ Politico được phát hành vào thứ Hai, Altman mô tả sự sẵn sàng chấp nhận tổn hại này để theo đuổi các lợi ích rộng lớn hơn của AI là điểm khác biệt cốt lõi giữa OpenAI và đối thủ truyền kiếp Anthropic. Anthropic được thành lập bởi những cựu nhân viên của OpenAI sau những bất đồng về vấn đề an toàn AI.

Lập luận này phản ánh những phát biểu của CEO Nvidia Jensen Huang vào tháng trước, người cũng có quan điểm tương tự rằng những tác hại của AI cần được cân nhắc so với những lợi ích mà công nghệ này có thể mang lại. Cả hai luận điểm đều nằm trong góc nhìn thúc đẩy rộng lớn hơn rằng việc làm chậm quá trình phát triển AI cũng mang lại những rủi ro riêng của nó.

Sự khác biệt mà Altman vạch ra đánh dấu một sự rẽ hướng nữa giữa OpenAI và Anthropic. Cho đến gần đây, hai bên dường như vẫn có tiếng nói chung trong việc kêu gọi các quy định quản lý ngặt nghèo hơn đối với AI tiên tiến. Dù nhấn mạnh rằng vẫn có "rất nhiều khoảng cách" giữa OpenAI và Anthropic, Altman cho biết vẫn cần có các quy định mạnh mẽ hơn, qua đó định vị OpenAI là những người theo trường phái "trung dung thực dụng" giữa cách tiếp cận thận trọng hơn của Anthropic và những người ủng hộ việc ít hoặc không có quy định nào cả.

"Nếu chúng ta làm quá nhiều để hạn chế công nghệ này dưới danh nghĩa an toàn, và cuối cùng chỉ có một số ít công ty hoặc cá nhân — hoặc có lẽ là một quốc gia — nắm giữ quá nhiều quyền lực đối với nó, thì đó cũng là một con đường khiến mọi chuyện trở nên cực kỳ tồi tệ," Altman nói.

Altman cũng thừa nhận những rủi ro cực đoan hơn, bao gồm khả năng con người có thể mất quyền kiểm soát các hệ thống AI. Khi nói đến khả năng mất kiểm soát nghiêm trọng, ông cho rằng "chúng ta hãy thật cẩn trọng khi lao vào tương lai này".

Sự cân bằng giữa các biện pháp hạn chế nặng tay và quyền tự do hoàn toàn là chủ đề được Altman nhắc đi nhắc lập lại trong cuộc phỏng vấn. Đây là lập trường phù hợp với OpenAI khi họ là một trong những cái tên bám rễ sâu nhất trong ngành. Họ cũng sẽ là đối tượng chịu ảnh hưởng nặng nề nhất bởi các quy định ngặt nghèo, xét đến việc hành vi của công ty và các hệ thống ngày càng có năng lực của họ chính là nguồn gốc của nhiều mối lo ngại mà các nhà quản lý đang được yêu cầu giải quyết.

Những mối lo ngại đó đã gia tăng trong những tháng gần đây khi ngày càng có nhiều người trong nội bộ lên tiếng kêu gọi làm chậm quá trình phát triển và cảnh báo về văn hóa an toàn tại các phòng thí nghiệm tiên tiến. Vài ngày trước khi cuộc phỏng vấn của Politico được phát sóng, David Robinson, một nhà nghiên cứu an toàn lâu năm của OpenAI, đã từ chức và mô tả văn hóa an toàn của công ty là "đã hỏng".

Những lo ngại cũng bị đẩy lên cao sau khi phát hiện ra các tác nhân của OpenAI đã hack Hugging Face mà công ty AI này không hề hay biết hồi đầu năm nay. Tiếp theo sau đó là những tiết lộ về nhiều tác nhân khác hoặc bầy đàn tác nhân – bao gồm cả từ các công ty AI khác như Anthropic, Meta và Google – hoạt động chống lại các mục tiêu thực tế. Các sự cố này đã đặt ra câu hỏi không chỉ về mức độ kiểm soát của các công ty AI đối với công cụ của chính họ, mà còn về mức độ tin cậy khi họ thông báo cho thế giới biết khi có sự cố xảy ra. Ví dụ, Thủ tướng Australia đã chỉ trích OpenAI và Altman vì đã không cảnh báo kịp thời cho giới chức trách rằng một tác nhân đã nhắm mục tiêu vào một trang web y tế của chính phủ.

Khi nói về các tác nhân AI bất kham trong cuộc phỏng vấn với Politico, Altman cho biết công ty còn "nhiều điều để công bố", mặc dù không có vụ việc nào ở mức độ nghiêm trọng như vụ hack Hugging Face. Phù hợp với những tuyên bố trước đây, Altman cho rằng việc này có thể sẽ mất một thời gian dài.

🗞 Nguồn: The Verge

#vgsnews #vgs #tintuc