Các nhà phát triển AI agent đang hứa hẹn về quyền riêng tư — liệu họ có thực hiện được?

🌐 CÁC NHÀ PHÁT TRIỂN AI AGENT ĐANG HỨA HẸN VỀ QUYỀN RIÊNG TƯ — LIỆU HỌ CÓ THỰC HIỆN ĐƯỢC?

Tại sự kiện OpenAI DevDay năm nay, CEO Sam Altman đã giới thiệu AI agent mới mang tên Dots và tuyên bố trước đám đông rằng công ty muốn "thiết lập một tiêu chuẩn mới về quyền riêng tư trong lĩnh vực AI tiên tiến". OpenAI đã dành cả ngày để châm biếm ứng dụng Muse của Meta — đối thủ cạnh tranh chính của họ — vì đã không bảo vệ an toàn dữ liệu người dùng. Tuy nhiên, bản thân Muse cách đó vài tháng cũng được ra mắt như một giải pháp thay thế an toàn hơn cho người tiền nhiệm OpenClaw, với cam kết từ CEO Mark Zuckerberg rằng nó được "xây dựng từ đầu với tiêu chí riêng tư và bảo mật đặt lên hàng đầu".

Trong thời đại mà các công ty thu thập dữ liệu cá nhân của khách hàng và các cuộc tấn công mạng xảy ra như cơm bữa, các phòng thí nghiệm AI đang cố gắng thuyết phục người dùng chia sẻ nhiều thông tin hơn nữa với các agent của họ. Chiến lược mới nhất của họ để thành công là vượt qua đối thủ bằng cách hứa hẹn rằng, không giống như các đối thủ cạnh tranh, họ sẽ giữ dữ liệu người dùng tránh khỏi những ánh mắt soi mói. Vấn đề là liệu các công ty có giữ được những lời hứa này hay không.

Nat Friedman, giám đốc sản phẩm tại Meta Superintelligence Labs, đã viết trên X rằng "mục tiêu của công ty với Muse là xây dựng thứ gì đó giống như OpenClaw mà chúng tôi có thể làm cho nó an toàn, bảo mật, dễ sử dụng và mở rộng quy mô cho hàng tỷ người". Dữ liệu người dùng được lưu trữ trên một máy ảo (VM) bảo mật, thứ mà Zuckerberg mô tả là một "máy tính Linux cô lập với trình duyệt, CPU, bộ nhớ và không gian lưu trữ". Công ty cho biết phần lớn nỗ lực trong việc xây dựng Muse liên quan đến "thiết kế và kỹ thuật cẩn thận để vận hành [nó] an toàn hơn". Bài đăng trên blog của Meta tiếp tục: "Muse có thể và vẫn sẽ mắc lỗi, nhưng chúng tôi kỳ vọng chúng sẽ ít xảy ra hơn nhiều và gây ra ít thiệt hại hơn nhờ các hệ thống an toàn mà chúng tôi đã tích hợp sẵn."

Nhưng mặc dù Muse đã đứng đầu các bảng xếp hạng App Store và theo Apptopia, đã đạt được 600.000 người dùng hoạt động hàng ngày tại Mỹ chỉ trong vòng vài tuần, những lời hứa của Meta dường như vẫn chưa đạt kỳ vọng. Mặc dù dữ liệu được cô lập với những người dùng khác và công ty có kế hoạch giới thiệu một cách thức "ngăn chặn một cách mã hóa và có thể kiểm chứng việc Meta truy cập dữ liệu trong máy ảo của bạn" vào cuối năm nay, bản thân Meta vẫn có thể truy cập dữ liệu. Một nhà nghiên cứu bảo mật nhanh chóng phơi bày lỗ hổng zero-day cho phép ai đó kiểm soát Muse (đã được vá từ đó đến nay), dấy lên nỗi sợ hãi về các cuộc tấn công từ bên ngoài. Nhiều vấn đề bảo mật nghiêm trọng được báo cáo đã xuất hiện vào phútchót trước khi ra mắt, trong đó có một vấn đề có thể cho phép người dùng truy cập vào cơ sở dữ liệu nội bộ của chính Meta, theo 404 Media.

Muse cũng có vẻ thu thập (và trong một số trường hợp là phân phát) dữ liệu một cách phóng khoáng. Ứng dụng mặc định cho phép Meta huấn luyện các mô hình dựa trên những gì người dùng nhập vào, mặc dù người dùng có thể chọn không tham gia. Một phóng viên của Inc. phàn nàn rằng Muse đã tải lên và đọc các tin nhắn riêng tư của anh ấy mà anh ấy không hề yêu cầu, và một YouTuber cho biết nó đã cung cấp địa chỉ của anh ấy cho một người lạ thông qua Marketplace — trong cả hai trường hợp, Muse dường như đang hoạt động đúng như thiết kế, nhưng người dùng lại không nhận thức được nó sẽ đi xa đến mức nào. Nền tảng này tạo ra "hồ sơ chi tiết về tất cả bạn bè và gia đình của bạn", như Wired đã đưa tin. Không có điều nào trong số này là quá bất ngờ từ Meta, nhưng nó chắc chắn không củng cố ý tưởng rằng Muse là một sản phẩm thực sự quan tâm đến quyền riêng tư hay bảo mật.

OpenAI đã chớp lấy thực tế này khi công bố Dots vào cuối tháng Chín. Alexander Embiricos, trưởng bộ phận sản phẩm Codex của OpenAI, cho biết trên sân khấu DevDay rằng OpenAI tập trung vào việc có "trợ lý đáng tin cậy, an toàn và bảo mật nhất", và CEO Sam Altman đã trình diễn các cách mà mọi người có thể kiểm soát các Dots cá nhân của họ, chẳng hạn như đặt quy tắc không bao giờ thực hiện giao dịch mua sắm vượt quá một số tiền nhất định. Glen Coates, người phụ trách nền tảng ứng dụng của OpenAI, cho biết: "Tôi nghĩ chúng ta đang ở một vị thế khác so với Meta ở chỗ họ không có sản phẩm AI nào có 1,2 tỷ người dùng", đồng thời cho biết thêm rằng "việc tung ra một thứ mắc những lỗi kiểu đó là điều mà chúng tôi sẽ cố gắng cẩn thận để tránh".

Bản thân Altman cũng đẩy mạnh góc độ quyền riêng tư tại DevDay. Để thu hút khách hàng doanh nghiệp, các giám đốc điều hành đã trình bày một khuôn khổ cho phép các doanh nghiệp có "các biện pháp kiểm soát mạnh mẽ hơn" đối với dữ liệu của họ và các tùy chọn chính sách không lưu giữ dữ liệu (có nghĩa là không có dữ liệu nào được lưu trữ trên máy chủ của OpenAI). Quả thực, cho đến nay, chưa có nhiều bê bối quyền riêng tư với Dots — mặc dù vì nó chỉ có sẵn ở các bậc đăng ký ChatGPT từ 100 USD trở lên, nên số lượng người sử dụng cũng có khả năng ít hơn.

Mọi người có thể vẫn cảm thấy không thoải mái khi cung cấp dữ liệu cá nhân cho OpenAI, một phần đơn giản vì các AI agent đòi hỏi quá nhiều dữ liệu đó. Ví dụ, Allison Johnson của The Verge cảm thấy không thoải mái khi gõ thông tin ngân hàng của mình khi bot yêu cầu như một phần của tác vụ liên quan (Muse có tích hợp Stripe để xử lý việc đó).

Tất nhiên, không phải tất cả các công ty đều đưa ra những lời hứa về quyền riêng tư. Instinct từng vấp phải chỉ trích công khai vì các điều khoản dịch vụ bị cho là quá rộng, cho phép ứng dụng truy cập không giới hạn vào dữ liệu; kể từ đó, công ty này có vẻ đã thực hiện các điều chỉnh. Hiện tại, các phòng thí nghiệm AI dường như đang đặt cược vào cách tiếp cận ba phần để phổ biến việc sử dụng AI agent đối với công chúng: Làm cho chúng hữu ích, làm cho chúng thân thiện và dễ thương để bù đắp cảm giác khó chịu, và đưa ra những lời hứa về quyền riêng tư — đồng thời hy vọng chúng sẽ thành sự thật.

🗞 Nguồn: The Verge

#vgsnews #vgs #tintuc