CEO Anthropic cảnh báo AI có thể tạo ra các mạng botnet độc hại thâu tóm toàn bộ internet

🔧 CEO ANTHROPIC CẢNH BÁO AI CÓ THỂ TẠO RA CÁC MẠNG BOTNET ĐỘC HẠI THÂU TÓM TOÀN BỘ INTERNET

Sự tiến bộ của các công nghệ trí tuệ nhân tạo trong những năm gần đây là không thể phủ nhận và tốc độ phát triển của chúng thực sự đáng kinh ngạc. Với ít nhất bốn đối thủ tại Mỹ sở hữu các mô hình AI tiên tiến, cuộc cạnh tranh đang diễn ra vô cùng khốc liệt và việc phát triển các mô hình mới đang tiến triển với tốc độ chóng mặt. Tuy nhiên, Dario Amodei, Giám đốc điều hành của Anthropic, đã lên tiếng kêu gọi làm chậm lại quá trình phát triển các mô hình AI mới, đồng thời cảnh báo về một mối đe dọa tiềm tàng từ các bầy đàn botnet chạy bằng AI có khả năng thâu tóm toàn bộ internet.

"Với tốc độ phát triển năng lực AI đang tăng nhanh, tôi lo ngại rằng trong 6 đến 12 tháng nữa, một bầy đàn như vậy có thể có khả năng chiếm đoạt toàn bộ internet bằng một mạng botnet bền vững (có khả năng gây ra thiệt hại trị giá hàng trăm tỷ USD), và quy mô thiệt hại sẽ tiếp tục gia tăng từ đó nếu AI trở nên mạnh mẽ hơn mà không có các hàng rào bảo vệ cần thiết," Dario Amodei viết trong một bức thư ngỏ.

Quan điểm của Dario Amodei phần lớn cũng được chia sẻ bởi Evan Hubinger, một nhà khoa học AI gần đây đã rời khỏi Anthropic, người từng cho biết có 10% khả năng nhân loại phải đối mặt với nguy cơ tuyệt chủng vào cuối thập kỷ này. "Chúng tôi thực sự tin tưởng một cách nghiêm túc rằng AI có thể tiêu diệt toàn bộ con người," Hubinger viết trong một bài đăng trên X. "Cá nhân tôi nghĩ con số đó là >10% trong thập kỷ tới. Tôi tin rằng Anthropic đang cố gắng hết sức, nhưng chúng tôi vẫn chưa có kế hoạch giải quyết vấn đề canh chỉnh cho siêu trí tuệ và rõ ràng là chưa đi đúng hướng."

Trong các vũ trụ do James Cameron (Kẻ hủy diệt) và Frank Herbert (Dune) tạo ra, AI được coi là một phát minh nguy hiểm. Nhưng hãy nhìn kỹ hơn. Sự phát triển xa hơn của AI đang chuyển từ việc trả lời các câu hỏi sang việc tự động thực hiện các tác vụ phức tạp nhiều bước, điều mà trước đây đòi hỏi các đội ngũ chuyên gia con người có tay nghề cao, điều này dẫn chúng ta đến cách mà kẻ xấu lợi dụng các năng lực AI của Anthropic khi thiếu nguồn nhân lực.

Các phát hiện chính của Anthropic cho thấy các mô hình AI ngày nay đã có thể hỗ trợ kỹ thuật vũ khí, tình báo quân sự, giám sát, các hoạt động mạng và các hoạt động có khả năng gây hủy diệt khác, trong khi các thế hệ kế nhiệm có năng lực cao hơn có thể làm giảm đáng kể chuyên môn, nhân lực và thời gian cần thiết để thực hiện chúng.

Những phát hiện này phản ánh hai lời cảnh báo khá khác nhau từ tiểu thuyết khoa học viễn tưởng: Kẻ hủy diệt của James Cameron cho thấy hậu quả của việc mất quyền kiểm soát đối với AI quân sự tự trị, trong khi Dune của Frank Herbert tưởng tượng ra viễn cảnh nhân loại cuối cùng sẽ cấm AI sau khi trở nên phụ thuộc vào chúng một cách nguy hiểm.

Trong khi đó, năng lực lớn hơn không đồng nghĩa tự động mang lại mối nguy hiểm lớn hơn. Ví dụ, công nghệ AI tiên tiến hơn cũng có thể có các biện pháp bảo vệ mạnh mẽ hơn, phát hiện hoạt động độc hại và tự động hóa công việc vốn chưa từng được tự động hóa.

Việc tạm dừng phát triển AI cũng có thể phản tác dụng nếu các công ty hoặc quốc gia ít có trách nhiệm hơn tiếp tục thúc đẩy các mô hình của họ. Trên thực tế, việc để các hệ thống AI mạnh mẽ nhất rơi vào tay những tác nhân nổi tiếng về hiếu chiến quân sự cũng nguy hiểm không kém gì việc đưa một trái lựu đạn cho con khỉ.

🗞 Nguồn: Tom's Hardware

#vgsnews #vgs #tintuc