Anthropic cảnh báo về mối đe dọa sâu AI tự nhân bản không cần trung tâm dữ liệu

🔧 ANTHROPIC CẢNH BÁO VỀ MỐI ĐE DỌA SÂU AI TỰ NHÂN BẢN KHÔNG CẦN TRUNG TÂM DỮ LIỆU

Đội ngũ Frontier Red Team của Anthropic đã chứng minh hai thành phần của một loại sâu chạy bằng AI tiềm năng. Nếu các vấn đề quan trọng về việc triển khai thực tế được giải quyết, nó có thể lây lan qua các thiết bị tiêu dùng bao gồm hộp Android TV giá rẻ và thiết bị gia dụng thông minh, mà giả thuyết là không cần dựa vào cơ sở hạ tầng trung tâm dữ liệu. Các thí nghiệm cho thấy các tác nhân AI có thể định cấu hình suy luận trên các nền tảng phần cứng khác nhau và điều phối việc nhân bản qua mạng. Tuy nhiên, vẫn còn một số hạn chế nghiêm trọng, đặc biệt là khoảng cách giữa khả năng của các mô hình hiện nay so với các ràng buộc về phần cứng của các mục tiêu tiềm năng.

Trong báo cáo ngày 12 tháng 10 có tựa đề "Các mô hình AI có thể có khả năng tự nhân bản mà không cần truy cập vào trung tâm dữ liệu", Anthropic xem xét một lớp phần mềm độc hại tiềm năng gọi là trình nhân bản dựa trên trọng số. Thay vì phân phối mã thực thi thông thường, nó sẽ truyền bá trọng số của mô hình AI cùng với cơ sở hạ tầng phần mềm cần thiết để chạy suy luận trên các thiết bị bị xâm nhập, và điều này không chỉ là lý thuyết thuần túy.

🗞 Nguồn: Tom's Hardware

#vgsnews #vgs #tintuc