Lý do OpenAI vắng mặt trong liên minh bảo mật AI của Nvidia

🚀 LÝ DO OPENAI VẮNG MẶT TRONG LIÊN MINH BẢO MẬT AI CỦA NVIDIA

Khi Nvidia công bố một liên minh mới gồm hơn 100 công ty nhằm giải quyết vấn đề tác nhân AI đi lệch hướng (rogue AI agents) vào thứ Hai, có một cái tên vắng mặt đáng chú ý: OpenAI. Dù OpenAI không phải là ông lớn công nghệ duy nhất không tham gia — Amazon, Google và Apple cũng chưa gia nhập — nhưng đây lại là cái tên thiếu vắng rõ ràng nhất, đặc biệt khi đối thủ Anthropic là một thành viên ủng hộ. Tuy nhiên, bất chấp việc OpenAI không đưa ra cam kết công khai với liên minh này, người phát ngôn của OpenAI chia sẻ với TechCrunch rằng công ty vẫn ủng hộ công việc của Nvidia. Nỗ lực mới, mang tên Open Agent Safety Platform của Nvidia, là nỗ lực nhằm lan truyền công nghệ bảo mật tác nhân AI do chính họ phát triển và chủ yếu là mã nguồn mở vào hệ sinh thái AI. Đây là phản ứng trực tiếp đối với các sự cố tác nhân AI đi lệch hướng mà các phòng thí nghiệm tiên phong như Anthropic và OpenAI từng tiết lộ. CEO Nvidia Jensen Huang từng gọi các AI đi lệch hướng là một vấn đề kỹ thuật thông thường có thể giải quyết giống như mọi vấn đề công nghệ khác. OpenAgent Safety Platform chính là hành động thiết thực của ông Huang. OpenAI đang hợp tác với Nvidia về bảo mật tác nhân, bao gồm cả một trong những phần mềm cốt lõi là một phần của nền tảng này: OpenShell. OpenShell là phần mềm mã nguồn mở tạo ra một môi trường sandbox được thiết kế riêng để ngăn chặn các tác nhân trốn thoát. Dù vẫn có phần tò mò khi OpenAI không trở thành người ủng hộ sáng kiến này như đối thủ truyền kiếp Anthropic, việc một phòng thí nghiệm AI tiên phong khác vẫn ủng hộ nỗ lực này là một tin vui. Điều đó bởi vì OpenAI, đặc biệt, có thể hưởng lợi từ công nghệ này, ít nhất theo nhà sáng lập kiêm CEO Hugging Face Clem Delangue. Dù vậy, có một lý do khác khiến một số tên tuổi lớn, bao gồm cả OpenAI, có thể không muốn công khai cam kết với nỗ lực của Nvidia. Để sử dụng toàn bộ hệ thống, có một thành phần phần cứng không phải là mã nguồn mở, vẫn là độc quyền và chỉ có thể được triển khai trên phần cứng của Nvidia. Phần giám sát phần cứng dựa vào Nvidia Sentry, một tính năng độc quyền chạy trên các bộ xử lý đặc biệt của Nvidia gọi là bộ xử lý dữ liệu BlueField-4. Sentry liên tục theo dõi hành vi của tác nhân từ các bộ xử lý này và có thể lập tức ngắt hoạt động của chúng. Rõ ràng, OpenAI coi sự an toàn của AI là cơ hội để giữ sự độc lập khỏi nhà đầu tư lớn Nvidia, đồng thời là cơ hội để thể hiện vai trò lãnh đạo của chính mình. Chẳng hạn, công ty đang tự phát triển các biện pháp bảo vệ cho nghiên cứu và sản phẩm của mình, đồng thời có liên minh an ninh mạng AI riêng mang tên Defense Factory.

🗞 Nguồn: TechCrunch

#vgsnews #vgs #tintuc