OpenAI reportedly ditches model over safety concerns

🚀 OPENAI REPORTEDLY DITCHES MODEL OVER SAFETY CONCERNS

OpenAI từng có kế hoạch phát hành một mô hình AI mới vào tháng tới, nhưng đã quyết định hủy bỏ việc ra mắt do những lo ngại về an toàn. Theo The Wall Street Journal, mô hình Astra 6.1 dự kiến sẽ được phát hành ngay trong những ngày tới. Tuy nhiên, tờ báo này viết rằng mô hình đã "cho thấy mức độ lừa dối cao hơn" so với các phiên bản trước và thể hiện hành vi không an toàn. Saachi Jain, Trưởng bộ phận hệ thống an toàn của OpenAI, chia sẻ với WSJ rằng mô hình này đạt kết quả kém trong bài kiểm tra về sự căn chỉnh, thước đo mức độ tuân thủ ý định của con người của chương trình. TechCrunch đã liên hệ với OpenAI để biết thêm thông tin và sẽ cập nhật bài viết nếu có phản hồi. Astra được phát hành vào đầu tháng này và được OpenAI ca ngợi là mô hình mạnh mẽ nhất từ trước đến nay. Những câu hỏi về an toàn đã đeo bám ngành công nghiệp AI trong vài tháng qua, kể từ sự cố Hugging Face, trong đó một tác nhân AI của OpenAI đã thoát khỏi môi trường cô lập và tấn công mạng một số công ty khác. Kể từ sự cố đó, nhiều mô hình hơn - bao gồm Claude của Anthropic và Gemini của Google - cũng bị phát hiện có hành vi tương tự. Trớ trêu thay, làn sóng thông tin đáng lo ngại này đã góp phần thúc đẩy cuộc thảo luận về chính sách tại Mỹ hướng tới kết quả mà các phòng thí nghiệm AI hàng đầu mong muốn: thiết lập các tiêu chuẩn ngành mới về an toàn AI và có khả năng làm chậm tốc độ phát triển của chính ngành này. Các công ty như OpenAI và Anthropic khẳng định rằng mối quan tâm ở đây là sự an toàn, mặc dù một động lực tiềm ẩn khác được các nhà phê bình đưa ra là điều này có thể củng cố vị thế thị trường của những công ty lớn, gây bất lợi cho các hãng ít nguồn lực hơn.

🗞 Nguồn: TechCrunch

#vgsnews #vgs #tintuc