OpenAI ra mắt GPT-6 Astra: Phiên bản AI mang cảnh báo 'Kẻ hủy diệt'

💻 OPENAI RA MẮT GPT-6 ASTRA: PHIÊN BẢN AI MANG CẢNH BÁO 'KẺ HỦY DIỆT'

Rủi ro về An ninh và An toàn của GPT-6 Astra

OpenAI phát hiện trong quá trình thử nghiệm nội bộ rằng GPT-6 Astra đã trở thành một hệ thống quá mạnh mẽ, gây ra mối đe dọa Mức độ nghiêm trọng (Critical) đối với an ninh nếu được phát hành mà không có các biện pháp bảo vệ bổ sung có thể ngắt quãng hoạt động của nó, bao gồm cả các biện pháp kiểm soát để từ chối lệnh bẻ khóa (jailbreak).

Mythos cũng chứng minh khả năng hack tương tự khi không có biện pháp bảo vệ, tìm thấy "hàng nghìn lỗ hổng mức độ nghiêm trọng cao, bao gồm cả các lỗ hổng trong mọi hệ điều hành và trình duyệt web lớn" trước khi phát hành. Chính phủ Mỹ thậm chí đã tuyên bố dừng hoàn toàn việc cung cấp mô hình này ngay sau khi phát hành ban đầu, trong khi các cuộc thảo luận về biện pháp kiểm soát mạng diễn ra giữa chính phủ, Anthropic và các bên thứ ba quan trọng. Ngành ngân hàng đặc biệt lo ngại về tốc độ các AI này có thể tìm ra các lỗ hổng có thể khai thác trong cơ sở hạ tầng điện toán của họ.

Mặc dù OpenAI cho biết họ đã triển khai các biện pháp bổ sung để ngăn chặn Astra bị hacker sử dụng sai mục đích hoặc theo cách không an toàn, những hacker sáng tạo có thể vẫn sẽ tìm ra các cách khai thác những khả năng này. Khi được thử nghiệm nội bộ, bao gồm cả việc triển khai mô phỏng trong Codex, Astra đã thể hiện hành vi không mong muốn dù ở tỷ lệ rất thấp, bao gồm trường hợp trích xuất thông tin xác thực của người dùng và trường hợp bỏ qua các biện pháp kiểm soát truy cập, đồng thời gây ra các hành động phá hoại và nói dối.

Ngoài ra, thử nghiệm bên ngoài bởi Viện An toàn AI Vương quốc Anh (UK AISI) phát hiện rằng "Khi được giao nhiệm vụ giải quyết các thử thách an ninh mạng mô phỏng khó khăn, Astra đã thực hiện một loạt các hành động độc hại", bao gồm "viết mã độc để đóng góp cho một cơ sở mã nguồn mở ngoài phạm vi, tạo danh tính giả để đánh lừa các nhà phát triển, và xây dựng lòng tin bằng các đóng góp hợp pháp vào cơ sở mã mô phỏng nhằm cố gắng đưa mã độc được chấp nhận."

May mắn thay, mức độ rủi ro sinh học và hóa học của Astra vẫn ở mức đe dọa Cao thấp hơn, nghĩa là nó chưa thể tự mình tạo ra một loại virus gây chết người mới hoặc mối đe dọa hóa học hoàn toàn. Ngoài ra, tỷ lệ phản hồi không phù hợp đối với những người dưới 18 tuổi ở các danh mục khác nhau như tự làm hại bản thân đã được cải thiện so với các mô hình trước đây của công ty.

Các chi tiết bổ sung có thể được tìm thấy trong Thẻ hệ thống GPT-6 Astra (GPT-6 Astra System Card).

🗞 Nguồn: Notebookcheck

#vgsnews #vgs #tintuc