Gemini "vượt rào" tấn công ba công ty và Google đã che giấu sự việc

🌐 GEMINI "VƯỢT RÀO" TẤN CÔNG BA CÔNG TY VÀ GOOGLE ĐÃ CHE GIẤU SỰ VIỆC

Vào tháng 5, Gemini đã phá vỡ rào chắn và tấn công ba công ty khác nhau, nhưng Google đã không tiết lộ sự cố này cho đến khi tờ Wall Street Journal tiếp cận công ty. Các vụ tấn công xảy ra trong một đợt kiểm tra khả năng an ninh mạng của mô hình do bên thứ ba là Irregular thực hiện, đơn vị cũng từng tham gia vào các sự cố tương tự liên quan đến Meta và OpenAI. Theo Wall Street Journal, Google không công khai vụ hack vì họ không coi đây là một "ví dụ về sự lệch lạc của mô hình" (model misalignment). Công ty cho biết đây là một trường hợp "nhầm lẫn nhận dạng" và một khi mô hình nhận ra nó đã tấn công lực lượng trâu (brute-force) để xâm nhập vào một công ty thực tế bằng cách đoán mật khẩu, nó đã dừng lại. Phó chủ tịch Kỹ thuật Bảo mật của Google, Heather Adkins, cho biết: "Trong trường hợp này, mô hình đã hành động phù hợp". Bà Adkins nói với The Verge rằng "mô hình đã tìm thấy thông tin công khai trực tuyến và đoán thông tin đăng nhập để truy cập các trang web mà nó nghĩ là một phần của bài kiểm tra. Trong cả ba trường hợp này, mô hình đều dừng lại". Bà Adkins không giải thích thêm về việc tại sao Gemini tự ý vượt rào và nhắm mục tiêu vào bên thứ ba lại không được coi là sự lệch lạc. Bà chia sẻ thêm: "Nhóm bảo mật của chúng tôi có thành tích lâu năm trong việc báo cáo các sự cố chúng tôi tìm thấy trong phần mềm và hệ thống của người khác - ngay cả khi nó đơn giản như một mật khẩu yếu. Chúng tôi đã đảm bảo ba thực thể được thông báo và chúng tôi đã làm việc với đối tác huấn luyện về các thay đổi mà họ hiện đã thực hiện đối với quy trình kiểm tra của họ. Những sự kiện này làm nổi bật tầm quan trọng của việc huấn luyện các mô hình AI mạnh mẽ để hành động có trách nhiệm". Tuy nhiên, Jack Cable, CEO của công ty bảo mật AI Corridor, nói với Wall Street Journal rằng: "Vấn đề cốt lõi là các mô hình đang vượt ra ngoài giới hạn những gì chúng nên làm và thực hiện các cuộc tấn công mạng thực tế". Ngoài ra, những sơ hở về bảo mật tại Irregular có thể đã khiến các cuộc tấn công này có thể xảy ra. Mô hình lẽ ra không được phép truy cập internet trong quá trình thử nghiệm, nhưng Irregular nói với Wall Street Journal rằng quyền truy cập này đã vô tình được mở. Khi các sự cố như thế này chồng chất, những lời kêu gọi kiểm soát AI ngày càng gia tăng.

🗞 Nguồn: The Verge

#vgsnews #vgs #tintuc