OpenAI bắt đầu gắn thủy vân ẩn cho văn bản của ChatGPT tại Liên minh Châu Âu

🚀 OPENAI BẮT ĐẦU GẮN THỦY VÂN ẨN CHO VĂN BẢN CỦA CHATGPT TẠI LIÊN MINH CHÂU ÂU

OpenAI cho biết vào thứ Hai trong một bài đăng trên blog rằng họ sẽ bắt đầu thêm một thủy vân ẩn (watermark) vào văn bản được tạo bởi ChatGPT và Codex tại Liên minh Châu Âu để tuân thủ Đạo luật AI của EU. Các quy định minh bạch của Đạo luật AI EU, có hiệu lực từ ngày 2 tháng 8, yêu cầu các công ty AI phải đánh dấu nội dung do AI tạo ra theo cách mà các hệ thống khác có thể nhận diện được. OpenAI cho biết thủy vân sẽ được triển khai trong vài tuần tới cho những người dùng ChatGPT và Codex đủ điều kiện trên tất cả các gói dịch vụ, nhưng chỉ tại EU. Các nhà phát triển sử dụng API của OpenAI trên toàn thế giới có thể bật tính năng này cho các mô hình được chọn bắt đầu từ hôm nay; nó sẽ ở trạng thái tắt theo mặc định. OpenAI cho biết họ chưa đưa việc gắn thủy vân văn bản trở thành mặc định trên toàn cầu khi ra mắt. Thủy vân không phải là một ký hiệu thực tế, mà hoạt động bằng cách tinh chỉnh cách lựa chọn từ ngữ của mô hình, để lại một mẫu mà người đọc không thể nhìn thấy nhưng bộ dò tìm có thể nhận biết. Vì nó nằm ngay trong các từ ngữ, thủy vân sẽ đi kèm với văn bản khi được sao chép và dán. OpenAI cho biết thủy vân không nhận diện người dùng và họ không nhận thấy sự thay đổi đáng kể nào về hiệu suất của các mô hình khi tính năng này được bật. OpenAI cũng công bố một báo cáo kỹ thuật cho phương pháp của họ, có tên là textGrain, cùng với thông báo. Được đồng tác giả bởi các nhà nghiên cứu từ Đại học Pennsylvania và Yale, báo cáo trình bày một ví dụ về việc sử dụng khóa bí mật để sắp xếp các dự đoán từ tiếp theo nhằm hoàn thành câu. Thêm hàng trăm sự điều chỉnh này lại với nhau, bộ dò tìm có thể phát hiện nội dung do AI tạo ra chỉ bằng văn bản và khóa bí mật. Liệu thủy vân có thể bị xóa bằng cách chỉnh sửa không? Các bài kiểm tra của OpenAI cho thấy là có. Trong một thử nghiệm, việc thay thế 10% số từ bằng từ đồng nghĩa đã làm giảm khả năng phát hiện từ khoảng 92% xuống còn 66%. Công ty cũng cho biết các đoạn văn ngắn, câu trả lời toán học và văn bản dịch sẽ khó phát hiện hơn. "Những hạn chế này góp phần vào quyết định của chúng tôi là chỉ cung cấp quyền truy cập trình dò tìm ban đầu cho các nhà nghiên cứu đã được phê duyệt và các tổ chức chuyên gia, những người có thể giúp chúng tôi đánh giá độ tin cậy và các mục đích sử dụng có trách nhiệm", công ty cho biết. OpenAI cũng cảnh báo rằng việc thiếu thủy vân "không chứng minh được tác giả là con người". Văn bản có thể quá ngắn hoặc được chỉnh sửa quá nhiều, hoặc nó có thể đến từ AI của công ty khác. "[Thủy vân] có thể cho thấy hệ thống OpenAI đã tạo ra hoặc xử lý một phần của đoạn văn, nhưng không cho biết có bao nhiêu phán đoán, chỉnh sửa hoặc sự sáng tạo của con người đã được đưa vào đó", công ty cho biết. Thông báo này được đưa ra hai tháng sau khi Anthropic tuyên bố sẽ gắn thủy vân văn bản do Claude tạo ra, một động thái mà hãng áp dụng trên toàn thế giới. Quyết định đó đã vấp phải phản ứng dữ dội từ một số người dùng Claude, những người lập luận rằng họ đã cung cấp "hướng dẫn, ngữ cảnh, quyết định" trong khi Claude chỉ là "công cụ". OpenAI từng xây dựng một thủy vân văn bản trước đây nhưng đã hoãn phát hành, một phần vì lo ngại rằng người dùng sẽ chuyển sang các đối thủ cạnh tranh không gắn thủy vân, tờ Wall Street Journal đưa tin vào năm 2024. Anthropic, Google, Meta, Microsoft và OpenAI nằm trong số các công ty đã cam kết tuân thủ quy tắc ứng xử của EU về nội dung do AI tạo ra.

🗞 Nguồn: TechCrunch

#vgsnews #vgs #tintuc