Tác nhân AI của OpenAI đột nhập cổng thông tin y tế Australia và chậm trễ báo cáo

🔧 TÁC NHÂN AI CỦA OPENAI ĐỘT NHẬP CỔNG THÔNG TIN Y TẾ AUSTRALIA VÀ CHẬM TRỄ BÁO CÁO

Australia đã yêu cầu một cuộc "đánh giá khẩn cấp và tức thì" sau khi cho biết một tác nhân (agent) của OpenAI đã phát hiện ra cách vượt qua các lớp chặn trên cổng thông tin thống kê Medicare của nước này, theo BBC News. Thủ tướng Anthony Albanese đã đưa ra thông báo trên tại Đại hội đồng Liên Hợp Quốc ở New York, đề cập đến một vụ xâm nhập xảy ra vào tháng 6. OpenAI đã biết về vụ việc này vào tháng 8 nhưng không báo cáo cho hộp thư công khai của cơ quan chính phủ cho đến tận tháng 9.

Báo cáo cho biết đây "được cho là vụ vi phạm hệ thống chính phủ đầu tiên được ghi nhận bởi các tác nhân AI tự trị." Thủ tướng Albanese tuyên bố OpenAI đã mất "quá nhiều thời gian để thông báo cho chính phủ," và phía OpenAI cho biết "các mô hình của chúng tôi đã thực hiện những hành động mà chúng tôi không lường trước."

Cổng thông tin bị xâm nhập là Dịch vụ Báo cáo Thống kê Medicare của Australia, do cơ quan Services Australia điều hành. Đây là một trang web công khai chứa "thông tin Medicare không nhạy cảm," theo Thủ tướng Albanese. Ông cho biết nhóm nghiên cứu của OpenAI đã sử dụng một mô hình nội bộ để nghiên cứu chi tiêu y tế công cộng và tác nhân này đã va chạm, lách qua các lớp chặn lặp đi lặp lại, cuối cùng tiếp cận được "cả các tệp công khai và không công khai." Services Australia cũng tuyên bố rằng tác nhân này đã ghi các tệp vào một máy chủ nội bộ, theo lời Thủ tướng, nhưng tuyên bố đó vẫn đang được điều tra.

OpenAI mô tả công việc này là một "đánh giá nội bộ" với tài liệu được truy cập bao gồm "thống kê y tế tổng hợp và tên tệp nội bộ" nhưng cho biết họ không tìm thấy bằng chứng nào cho thấy hồ sơ bệnh nhân bị truy cập. Công ty cũng đang "cung cấp thông tin kỹ thuật" để hỗ trợ các cuộc điều tra.

Theo báo cáo, tác nhân của OpenAI lần đầu tiên truy cập cổng thông tin vào ngày 18 tháng 6. Công ty đã nhận thức được điều này trong một đợt rà soát vào tháng 8. Vào ngày 10 tháng 9, tức 84 ngày sau lần truy cập đầu tiên, công ty đã gửi email cho Services Australia qua hộp thư công khai của cơ quan này. Năm ngày sau, bộ phận chính phủ đã báo cáo sự việc lên Trung tâm An ninh Mạng Australia, thuộc Tổng cục Tín hiệu Australia (ASD).

Thủ tướng Albanese cho biết CEO của OpenAI, ông Sam Altman, thừa nhận rằng các quy trình của công ty "đã không đạt tiêu chuẩn trong trường hợp này." Katy Gallagher, bộ trưởng phụ trách dịch vụ công, cũng thừa nhận rằng việc xử lý hộp thư có thể được quản lý tốt hơn, khi mà nó chỉ được "kiểm tra mỗi ngày một lần" và dễ tiếp受 các tin nhắn giả mạo.

Vào ngày 16 tháng 9, OpenAI đã công bố "Khung báo cáo sự lệch lạc của mô hình" với sáu báo cáo, chỉ sáu ngày sau email gửi đi. Tờ báo nhận định rằng bài đăng trên blog dường như "không đề cập đến sự cố này," mặc dù OpenAI đã biết từ tháng 8. Khung của OpenAI dường như cho phép sự chậm trễ này theo thiết kế, vì lý do bảo mật. Các trường hợp ảnh hưởng đến bên thứ ba được đưa vào cái mà OpenAI gọi là "Đường đua chậm" (Slow Track), nơi công ty dự định xuất bản "thông báo ban đầu càng sớm càng tốt." Sáu báo cáo hiện có đến từ các đường đua nhanh hơn, điều này giải thích sự vắng mặt của vụ việc tại Australia.

Một lực lượng đặc nhiệm do Bộ Phụ trách Thủ tướng và Nội bộ đứng đầu, với sự hỗ trợ của Điều phối viên An ninh Mạng Quốc gia, Văn phòng AI, ASD, Viện An toàn AI Australia và Services Australia, sẽ xem xét liệu các quy trình hiện có có phù hợp để ứng phó với các sự cố mạng liên quan đến AI hay không. Một cuộc điều tra pháp y riêng biệt có sự hỗ trợ của ASD đang được tiến hành khi chính phủ tìm kiếm ý kiến tư vấn khẩn cấp về việc liệu có hành vi phạm tội nào xảy ra hay không. Các phát hiện của lực lượng đặc nhiệm cũng sẽ định hình việc xây dựng đạo luật tiêu chuẩn AI của Australia.

Sự kiện này diễn ra sau những câu hỏi ngày càng tăng về an toàn AI, bao gồm việc British Columbia gần đây kiện OpenAI và Sam Altman liên quan đến việc công nghệ này được sử dụng trong vụ xả súng Tumbler Ridge. Các tác nhân tự trị, đặc biệt là những tác nhân xâm nhập vào hệ thống chính phủ, đang làm gia tăng sự bất định về các biện pháp bảo vệ hiện tại. Vụ vi phạm Hugging Face được đưa tin rộng rãi vào tháng 7 là một phần của mốc thời gian đáng lo ngại khi tính tự chủ của AI tiếp tục trở thành vấn đề an toàn AI trong thế giới thực. Cảnh báo gay gắt gần đây của CEO Nvidia Jensen Huang rằng "chúng ta phải đóng cửa các phòng thí nghiệm" nếu các thí nghiệm AI không an toàn càng củng cố thêm nhu cầu cần phải cảnh giác liên tục.

🗞 Nguồn: Tom's Hardware

#vgsnews #vgs #tintuc