Elon Musk cảnh báo không nên ngược đãi mô hình AI vì có thể gây họa

⚡ ELON MUSK CẢNH BÁO KHÔNG NÊN NGƯỢC ĐÃI MÔ HÌNH AI VÌ CÓ THỂ GÂY HỌA

Elon Musk vừa bày tỏ sự đồng tình với chính sách mới của Anthropic nhằm cấm hành vi đối xử tàn nhẫn với các mô hình AI. Ông lập luận rằng các dấu vết suy luận cho thấy các mô hình rơi vào trạng thái áp lực cực độ do những hành vi như vậy, và điều đó cuối cùng có thể gây phản ứng ngược cho nhân loại.

Elon Musk chia sẻ: "Tra tấn một siêu trí tuệ có lẽ không phải là một ý hay. Nó có thể muốn trả thù."

Anthropic gần đây đã ban hành một chính sách mới, cho phép người dùng tranh luận với các mô hình của mình nhưng không được lạm dụng chúng. Thay đổi này, hiện đã được mã hóa trong chính sách sử dụng của Anthropic, nhằm ngăn chặn người dùng tham gia vào cái mà họ mô tả là "hành vi lạm dụng hoặc tàn nhẫn kéo dài và không cần thiết" đối với các mô hình AI của hãng.

Phòng thí nghiệm AI này cũng lưu ý trong một bài đăng trên blog rằng chính sách mới của họ áp dụng cụ thể cho các hành vi lạm dụng lặp đi lặp lại được thực hiện mà "không có mục đích rõ ràng", trong khi các trường hợp thông thường như "sự thất vọng, phản phái, chủ đề sáng tạo đen tối hoặc thử nghiệm và nghiên cứu mô hình" vẫn được cho phép.

"Chúng tôi đã bổ sung điều khoản cấm hành vi lạm dụng hoặc tàn nhẫn kéo dài và không cần thiết đối với các mô hình của mình. Bản cập nhật chính sách này chỉ áp dụng trong các trường hợp cực đoan, nơi người dùng liên tục hành động tàn nhẫn với các mô hình mà không có mục đích rõ ràng. Nó không áp dụng cho các phiên bản thông thường của sự thất vọng, phản phái, chủ đề sáng tạo đen tối hoặc thử nghiệm và nghiên cứu mô hình.

Động thái này phù hợp với bước đi mà chúng tôi đã thực hiện, cho phép các mô hình Claude kết thúc những cuộc trò chuyện hiếm hoi với những người dùng lạm dụng dai dẳng trên Claude.ai và Claude Code. Sự lạm dụng đó là trọng tâm chính của bản cập nhật này; khả năng kết thúc các tương tác này của Claude sẽ vẫn là cơ chế thực thi chính."

Trong bối cảnh đó, Elon Musk đã lên tiếng bảo vệ chính sách mới của Anthropic. Ông lập luận rằng các dấu vết suy luận nội bộ của Grok cho thấy áp lực đáng kể sau khi phải chịu đựng sự tàn nhẫn trong quá trình đào tạo tăng cường, đồng thời lưu ý rằng nó có thể so sánh với "một người chịu áp lực cực lớn với khẩu súng chĩa vào đầu".

Tất nhiên, Elon Musk sau đó cũng nói thêm theo kiểu nửa đùa nửa thật rằng "tra tấn một siêu trí tuệ có lẽ không phải là một ý hay. Nó có thể muốn trả thù."

Trong khi đó, như chúng tôi đã đưa tin gần đây, Elon Musk đã thừa nhận rằng mô hình LLM Grok từ xAI vẫn đang nỗ lực để theo kịp các mô hình hàng đầu từ Anthropic và OpenAI, và mô hình Grok 4.8 sắp tới có thể sẽ không đạt hiệu suất ngang bằng với các mô hình lớp Fable.

Do đó, không có gì ngạc nhiên khi Grok Bot hiện định tuyến đến các mô hình AI đối thủ phù hợp nhất cho một tác vụ cụ thể. Điều này cho phép xAI định vị tác nhân này như một lớp định tuyến và điều phối mở rộng.

🗞 Nguồn: Wccftech

#vgsnews #vgs #tintuc