Đừng để bạn bè "hiến dâng" dữ liệu của bạn cho trợ lý AI

🌐 ĐỪNG ĐỂ BẠN BÈ "HIẾN DÂNG" DỮ LIỆU CỦA BẠN CHO TRỢ LÝ AI

Xu hướng đang gia tăng trong thế giới công nghệ tiêu dùng là các thiết bị được thiết kế để theo dõi mọi thứ và mọi người xung quanh bạn, bất kể người khác có đồng ý hay không. Giờ đây, với sự xuất hiện của các "trợ lý cá nhân AI" như Muse của Meta, bạn không chỉ được yêu cầu một cách hào hứng để từ bỏ dữ liệu của chính mình, mà còn cả thông tin của bạn bè, gia đình, người bạn từng hẹn hò qua ứng dụng từ năm năm trước — và hầu như bất kỳ ai khác mà bạn từng tiếp xúc.

Kể từ khi Muse được phát hành vào tháng trước, trợ lý này đã được tải xuống hàng triệu lần và vươn lên vị trí số 1 trên App Store của Apple. Với sự trợ giúp của hình đại diện ảo kỳ quái — một sinh vật giống Labubu phiên bản Temu với nụ cười khó hiểu — ứng dụng này yêu cầu và khuyến khích người dùng cấp quyền truy cập vào tài khoản ngân hàng, mật khẩu, danh bạ, nhật ký trò chuyện và bất cứ thứ gì có thể giúp nó làm theo ý người dùng.

"Những hệ thống này được quảng cáo là những người trợ giúp tự động, thần đèn hoặc người hầu làm những gì bạn cần trước khi bạn hỏi, một cách liền mạch," Meredith Whittaker, chủ tịch của Signal Foundation, công ty tạo ra ứng dụng nhắn tin mã hóa phổ biến Signal, chia sẻ với The Verge. Những hành động tự động này được áp dụng "không chỉ cho người cài đặt Muse trên thiết bị của họ, mà còn cho tất cả những người mà người đó giao tiếp, được ngoại suy từ thông tin thân mật nhất của họ — email, tin nhắn, danh bạ, ảnh và hơn thế nữa."

Với các tác nhân AI, các công ty công nghệ đang cho phép người tiêu dùng tự động hóa các tác vụ hàng ngày của họ bằng cách mở rộng phong cách giám sát đại trà của họ sang lượng lớn dữ liệu nhạy cảm. Đó là sự đánh đổi Faustian tương tự mà Thung lũng Silicon đã cung cấp cho chúng ta trong nhiều thập kỷ: dữ liệu riêng tư của bạn đổi lấy một chút sự tiện lợi. Và đối với nhiều người, ý tưởng có một trợ lý ảo làm các công việc vặt như điền vào hóa đơn và gửi email rất hấp dẫn — đặc biệt nếu họ không nhận ra mình đang thực sự trao đi bao nhiêu dữ liệu để đổi lại.

"Để bất kỳ tác nhân nào hữu ích và thực sự giúp bạn đạt được mục tiêu của mình, nó cần có bối cảnh về bạn và những người bạn tương tác," người phát ngôn của Meta, Daniel Roberts, chia sẻ với The Verge liên quan đến dữ liệu của người khác được chia sẻ với Muse. "Muse thu thập điều đó dựa trên thông tin công khai và từ những gì bạn chọn chia sẻ, đó là cách nó nhớ người vừa gửi hóa đơn cho bạn thực sự là thợ sửa ống nước mà bạn đã thuê trước đó để hoàn thành một số công việc trong phòng tắm của bạn hoặc loài hoa nào mà vợ/chồng bạn nói họ thích nhất." Roberts chỉ ra quy trình chọn tham gia (opt-in) của Muse và các tùy chọn, cài đặt khác nhau sẽ "giúp mọi người đưa ra lựa chọn quyền riêng tư phù hợp với họ."

Tuy nhiên, không phải ai cũng có thể điều hướng các tùy chọn và cài đặt này. Ngay lập tức, người dùng đang mô tả các sự cố vừa đáng báo cáo vừa hoàn toàn có thể đoán trước. Một số người đã báo cáo trợ lý ảo gây ra đủ loại rắc rối, như lấy hàng triệu tin nhắn văn bản mà họ tin là nằm ngoài giới hạn. Meta đã bác bỏ việc trợ lý này có khả năng truy cập tin nhắn văn bản mà không có sự cho phép, một lần nữa quy sự cố cho các quyền ứng dụng được định cấu hình sai và mô tả khả năng đọc tin nhắn văn bản của Muse là "hoàn toàn tùy chọn". Trên Threads, giám đốc điều hành Meta David Singleton đã trả lời trực tiếp một người dùng, tuyên bố rằng trên máy Mac, Muse chỉ có thể có được quyền truy cập vào tin nhắn nếu người dùng cấp cho ứng dụng quyền truy cập toàn bộ đĩa.

Trong một sự cố khác, Muse đã cung cấp địa chỉ nhà của một người đánh giá công nghệ và triệu tập một người lạ đến căn hộ của anh ta. Trong trường hợp này, người đánh giá được đề cập đã cấp quyền cho Muse truy cập dữ liệu đó, nhưng đơn giản là không nhận ra điều đó.

Eva Galperin, giám đốc an ninh mạng của Electronic Frontier Foundation, cho biết những sự cố này không có gì ngạc nhiên, vì các tác nhân AI như Muse được thiết kế để làm mọi người bối rối để từ bỏ càng nhiều dữ liệu càng tốt.

"Bài học quan trọng nhất là mọi người không hiểu họ đang bàn giao loại dữ liệu nào," Galperin nói với The Verge. "Cách thiết kế giao diện người dùng nhằm khuyến khích bạn chia sẻ càng nhiều càng tốt, thường nhiều hơn mức bạn nhận ra, cho đến khi quá muộn. Nó đang sử dụng các mẫu thiết kế tối (dark patterns), và kết quả là bạn cuối cùng lại có Muse làm những việc mà mọi người không muốn."

Do lượng dữ liệu khổng lồ mà các tác nhân AI như Muse đang tiếp thu, điều này cũng có nghĩa là người dùng có nguy cơ làm rò rỉ không chỉ thông tin nhạy cảm của riêng họ mà còn cả thông tin của tất cả những người khác mà họ đã có liên hệ kỹ thuật số.

Và giống như "kính biến thái" khét tiếng của Meta, không có cách nào có ý nghĩa để từ bỏ — ngay cả khi bạn liên tục theo dõi các dấu hiệu cho thấy dữ liệu của bạn bị xâm phạm hoặc quyền riêng tư của bạn bị vi phạm. Bạn bè của bạn giờ đây có thể đơn giản đưa tất cả các cuộc trò chuyện riêng tư của bạn vào các

🗞 Nguồn: The Verge

#vgsnews #vgs #tintuc