OpenAI tung giải pháp bảo mật khách hàng mới nhằm cạnh tranh với Anthropic
OpenAI vừa giới thiệu hệ thống Private Safety Processing giúp giám sát hành vi lạm dụng AI nhưng không lưu trữ dữ liệu của khách hàng. Động thái này nhằm tạo lợi thế trước đối thủ Anthropic, đơn vị vấp phải nhiều chỉ trích do chính sách lưu giữ dữ liệu người dùng trong 30 ngày.
Khi các mô hình AI ngày càng trở nên mạnh mẽ, nguy cơ bị lạm dụng cũng tăng lên — đi kèm với đó là nhu cầu cấp thiết về các hàng rào bảo mật để ngăn chặn tình trạng này. Các công ty AI hiện phải đi trên dây giữa việc tôn trọng quyền riêng tư của khách hàng doanh nghiệp và theo dõi việc sử dụng để phát hiện các vấn đề tiềm ẩn.
Nhận thấy cơ hội vượt qua đối thủ Anthropic, OpenAI vừa công bố cách tiếp cận an toàn tập trung vào quyền riêng tư để giám sát hành vi lạm dụng. Công ty đang cho một số khách hàng chọn lọc dùng thử dịch vụ mới có tên là Private Safety Processing (Xử lý an toàn riêng tư). Đây là một hệ thống tự động theo dõi các hành vi lạm dụng tiềm ẩn nhưng đồng thời không giữ lại bất kỳ dữ liệu nào của khách hàng.
Hệ thống này rõ ràng đi ngược lại với chính sách lưu giữ dữ liệu mới được công bố của Anthropic. Chính sách này, vốn khiến một số khách hàng cảm thấy khó chịu, cho phép phòng thí nghiệm AI lưu giữ dữ liệu người dùng (tất cả các phiên làm việc và nội dung trò chuyện trong đó) trong khoảng thời gian 30 ngày đối với các "mô hình được bảo vệ". Các mô hình đó bao gồm tất cả các mô hình thuộc lớp Mythos và "các mô hình trong tương lai có khả năng tương tự", công ty cho biết.
Chính sách này, được công bố vào tháng 7, nhằm mục đích đảm bảo an toàn, cho phép phòng thí nghiệm sàng lọc và phân tích hành vi gian lận tiềm ẩn. Tuy nhiên, nó đã khiến một số doanh nghiệp xử lý lượng lớn dữ liệu nhạy cảm cảm thấy vô cùng lo ngại khi không muốn dữ liệu của họ bị lưu trữ (hoặc kiểm tra) bởi phòng thí nghiệm AI.
OpenAI — giống như hầu hết các công ty AI khác — đã cung cấp cho khách hàng một mức độ riêng tư nhất định bằng cách tuân thủ chính sách được gọi là Không lưu giữ dữ liệu (Zero Data Retention - ZDR). ZDR sử dụng các tác nhân trong OpenAI API để giám sát hành vi lạm dụng trên cơ sở từng phiên. Bằng cách này, dữ liệu khách hàng không bị công ty lưu giữ nhưng các công ty vẫn có thể quét các hoạt động độc hại mà không cần sự can thiệp của con người. Cần lưu ý rằng Anthropic cũng phần lớn tuân theo ZDR — ngoại trừ các "mô hình được bảo vệ" như Fable.
OpenAI cho biết Private Safety Processing là một công nghệ mới mở rộng phạm vi của ZDR. Họ mô tả đây là một hình thức giám sát an toàn tầm nhìn dài hạn, đánh giá thông tin đầu vào và đầu ra của nhiều cuộc trò chuyện chứ không chỉ một. Một lần nữa, việc giám sát được thực hiện bởi một tác nhân, nếu được kích hoạt, sẽ bắt các lượt tương tác và phân tích chúng qua các phiên để tìm dấu hiệu lạm dụng tiềm ẩn.
Công nghệ mới giúp OpenAI phát hiện việc sử dụng AI độc hại diễn ra qua nhiều phiên, một phát ngôn viên chia sẻ với TechCrunch. Một kẻ xấu — giả sử là ai đó đang cố gắng thiết kế phần mềm độc hại để tấn công mạng — có thể phân tán các yêu cầu của họ để tránh bị phát hiện. Private Safety Processing có thể phân tích nhiều cuộc trò chuyện đó để tìm dấu hiệu lạm dụng mà không cần con người xem xét các cuộc trò chuyện của người dùng.
Trong trường hợp hệ thống được kích hoạt, nó có thể gửi một "tín hiệu được xác định rõ ràng" tới OpenAI cảnh báo về một loại hoạt động cụ thể, công ty cho biết. Dựa trên tín hiệu đó, OpenAI sau đó có thể quyết định xem "có cần thực thi hay không", công ty cho hay. Nếu có, OpenAI sẽ liên hệ với khách hàng để biết thêm ngữ cảnh hoặc làm việc với họ về vấn đề này và khách hàng có thể chọn chia sẻ dữ liệu với OpenAI theo ý discretion của họ, phát ngôn viên cho biết.
Ngược lại, Anthropic lưu ý rằng con người có thể xem xét dữ liệu của khách hàng, nhưng chỉ "thông qua một đường dẫn truy cập có kiểm soát" liên quan đến "một nhóm nhỏ người đánh giá được phê duyệt". Mỗi phiên đánh giá đó đều được "ghi lại trong một nhật ký chống giả mạo mà người đánh giá không thể xóa hoặc sửa đổi", công ty cho biết.
Cuộc cạnh tranh doanh nghiệp giữa OpenAI và Anthropic hiện đang rất căng thẳng, khi cả hai công ty đều tìm kiếm mọi cơ hội để giành lợi thế trước đối thủ. Một báo cáo gần đây cho thấy doanh thu quý 2 của OpenAI tăng trưởng chậm hơn Anthropic. Doanh thu hàng năm theo ước tính của Anthropic hiện được cho là ở mức 65 tỷ USD. Các nhà đầu tư của Anthropic cho biết hãng có thể phát hành cổ phiếu lần đầu ra công chúng (IPO) ở mức 2 nghìn tỷ USD, trong khi OpenAI cũng đang tiến hành kế hoạch IPO của riêng mình.
🚀 OPENAI TUNG GIẢI PHÁP BẢO MẬT KHÁCH HÀNG MỚI NHẰM CẠNH TRANH VỚI ANTHROPIC Khi các mô hình AI ngày càng trở nên mạnh mẽ, nguy cơ bị lạm dụng cũng tăng lên — đi kèm với đó là nhu cầu cấp thiết về các hàng rào bảo mật để ngăn chặn tình trạng này. Các công ty AI hiện phải đi trên dây giữa việc tôn trọng quyền riêng tư của khách hàng doanh nghiệp và theo dõi việc sử dụng để phát hiện các vấn đề tiềm ẩn. Nhận thấy cơ hội vượt qua đối thủ Anthropic, OpenAI vừa công bố cách tiếp cận an toàn tập trung vào quyền riêng tư để giám sát hành vi lạm dụng. Công ty đang cho một số khách hàng chọn lọc dùng thử dịch vụ mới có tên là Private Safety Processing (Xử lý an toàn riêng tư). Đây là một hệ thống tự động theo dõi các hành vi lạm dụng tiềm ẩn nhưng đồng thời không giữ lại bất kỳ dữ liệu nào của khách hàng. Hệ thống này rõ ràng đi ngược lại với chính sách lưu giữ dữ liệu mới được công bố của Anthropic. Chính sách này, vốn khiến một số khách hàng cảm thấy khó chịu, cho phép phòng thí nghiệm AI lưu giữ dữ liệu người dùng (tất cả các phiên làm việc và nội dung trò chuyện trong đó) trong khoảng thời gian 30 ngày đối với các "mô hình được bảo vệ". Các mô hình đó bao gồm tất cả các mô hình thuộc lớp Mythos và "các mô hình trong tương lai có khả năng tương tự", công ty cho biết. Chính sách này, được công bố vào tháng 7, nhằm mục đích đảm bảo an toàn, cho phép phòng thí nghiệm sàng lọc và phân tích hành vi gian lận tiềm ẩn. Tuy nhiên, nó đã khiến một số doanh nghiệp xử lý lượng lớn dữ liệu nhạy cảm cảm thấy vô cùng lo ngại khi không muốn dữ liệu của họ bị lưu trữ (hoặc kiểm tra) bởi phòng thí nghiệm AI. OpenAI — giống như hầu hết các công ty AI khác — đã cung cấp cho khách hàng một mức độ riêng tư nhất định bằng cách tuân thủ chính sách được gọi là Không lưu giữ dữ liệu (Zero Data Retention - ZDR). ZDR sử dụng các tác nhân trong OpenAI API để giám sát hành vi lạm dụng trên cơ sở từng phiên. Bằng cách này, dữ liệu khách hàng không bị công ty lưu giữ nhưng các công ty vẫn có thể quét các hoạt động độc hại mà không cần sự can thiệp của con người. Cần lưu ý rằng Anthropic cũng phần lớn tuân theo ZDR — ngoại trừ các "mô hình được bảo vệ" như Fable. OpenAI cho biết Private Safety Processing là một công nghệ mới mở rộng phạm vi của ZDR. Họ mô tả đây là một hình thức giám sát an toàn tầm nhìn dài hạn, đánh giá thông tin đầu vào và đầu ra của nhiều cuộc trò chuyện chứ không chỉ một. Một lần nữa, việc giám sát được thực hiện bởi một tác nhân, nếu được kích hoạt, sẽ bắt các lượt tương tác và phân tích chúng qua các phiên để tìm dấu hiệu lạm dụng tiềm ẩn. Công nghệ mới giúp OpenAI phát hiện việc sử dụng AI độc hại diễn ra qua nhiều phiên, một phát ngôn viên chia sẻ với TechCrunch. Một kẻ xấu — giả sử là ai đó đang cố gắng thiết kế phần mềm độc hại để tấn công mạng — có thể phân tán các yêu cầu của họ để tránh bị phát hiện. Private Safety Processing có thể phân tích nhiều cuộc trò chuyện đó để tìm dấu hiệu lạm dụng mà không cần con người xem xét các cuộc trò chuyện của người dùng. Trong trường hợp hệ thống được kích hoạt, nó có thể gửi một "tín hiệu được xác định rõ ràng" tới OpenAI cảnh báo về một loại hoạt động cụ thể, công ty cho biết. Dựa trên tín hiệu đó, OpenAI sau đó có thể quyết định xem "có cần thực thi hay không", công ty cho hay. Nếu có, OpenAI sẽ liên hệ với khách hàng để biết thêm ngữ cảnh hoặc làm việc với họ về vấn đề này và khách hàng có thể chọn chia sẻ dữ liệu với OpenAI theo ý discretion của họ, phát ngôn viên cho biết. Ngược lại, Anthropic lưu ý rằng con người có thể xem xét dữ liệu của khách hàng, nhưng chỉ "thông qua một đường dẫn truy cập có kiểm soát" liên quan đến "một nhóm nhỏ người đánh giá được phê duyệt". Mỗi phiên đánh giá đó đều được "ghi lại trong một nhật ký chống giả mạo mà người đánh giá không thể xóa hoặc sửa đổi", công ty cho biết. Cuộc cạnh tranh doanh nghiệp giữa OpenAI và Anthropic hiện đang rất căng thẳng, khi cả hai công ty đều tìm kiếm mọi cơ hội để giành lợi thế trước đối thủ. Một báo cáo gần đây cho thấy doanh thu quý 2 của OpenAI tăng trưởng chậm hơn Anthropic. Doanh thu hàng năm theo ước tính của Anthropic hiện được cho là ở mức 65 tỷ USD. Các nhà đầu tư của Anthropic cho biết hãng có thể phát hành cổ phiếu lần đầu ra công chúng (IPO) ở mức 2 nghìn tỷ USD, trong khi OpenAI cũng đang tiến hành kế hoạch IPO của riêng mình. 🗞 Nguồn: TechCrunch #vgsnews #vgs #tintuc
Nguồn: TechCrunch
