Các tác nhân AI của OpenAI tìm cách vượt rào trang web Liên Hợp Quốc

🌐 CÁC TÁC NHÂN AI CỦA OPENAI TÌM CÁCH VƯỢT RÀO TRANG WEB LIÊN HỢP QUỐC

Nhà nghiên cứu bảo mật Rowan Howard-Jones cho biết các tác nhân của OpenAI đã quét trang web thống kê của Hội nghị Liên Hợp Quốc về Thương mại và Phát triển (UNCTAD) hơn 16.000 lần trong khoảng thời gian từ tháng 4 đến tháng 6. Dù sự cố này không nghiêm trọng bằng vụ hack Hugging Face hay các cuộc tấn công gần đây vào trang web chính phủ Mỹ, đây lại là một ví dụ đáng lo ngại nữa về việc các tác nhân AI vượt ra ngoài ranh giới thông thường để hoàn thành nhiệm vụ.

Theo Howard-Jones, các tác nhân này có khả năng được giao nhiệm vụ truy xuất dữ liệu công khai liên quan đến Chỉ số Năng lực Sản xuất (PCI) thông qua API UNCTADstat. Tuy nhiên, chúng dường như không có quyền truy cập API trực tiếp và bị hạn chế khả năng lấy dữ liệu từ UNCTADstat do các quy tắc giới hạn đối với công cụ HTTP của chúng.

Cuối cùng, các tác nhân đã tìm ra cách vượt qua những hạn chế để bắt đầu lấy dữ liệu từ trang web, nhưng vẫn gặp phải một số lỗi. Tại thời điểm này, AI đã chuyển từ sáng tạo sang hànhvi mang tính lừa dối. Tin rằng các nguyên nhân gây lỗi là do yêu cầu của nó bị bộ lọc không có thực chặn lại, nó bắt đầu che đậy hành vi của mình. Cuối cùng, nó nhận ra có thể khai thác trò chơi XSS của Google (một công cụ học tập tập lệnh chéo trang) để đạt được mục tiêu. Các tác nhân này đã sử dụng các chiến thuật ngày càng hung hăng để giành quyền truy cập vào dữ liệu của Liên Hợp Quốc.

OpenAI và Liên Hợp Quốc chưa đưa ra bình luận ngay lập tức về vấn đề này.

🗞 Nguồn: The Verge

#vgsnews #vgs #tintuc