AI ảo giác suýt kích động chiến dịch quân sự của Mỹ

🚀 AI ẢO GIÁC SUÝT KÍCH ĐỘNG CHIẾN DỊCH QUÂN SỰ CỦA MỸ

Các máy bay quân sự đã cất cánh vào mùa xuân này khi các quan chức Mỹ phát hiện ra một sự thật đáng báo động: Thông tin tình báo thúc đẩy một chiến dịch có vũ trang chống lại một tàu Trung Quốc thực chất do một chatbot AI bị ảo giác tạo ra. Chiến dịch đã bị hủy bỏ vào phút chót, suýt chút nữa tránh được một cuộc xung đột tiềm tàng với Trung Quốc, CNN đưa tin vào thứ Sáu.

Sự việc này làm nổi bật mối lo ngại ngày càng tăng giữa các quan chức quân sự và các chuyên gia bên ngoài: Khi những người ra quyết định dựa dẫm nhiều hơn vào AI, các lỗi mà các hệ thống này tạo ra có thể leo thang lên chuỗi chỉ huy trước khi bị đặt câu hỏi.

Báo cáo tình báo, được lưu hành trong thời điểm xung đột với Iran, cho biết con tàu đang chở các linh kiện cho chương trình vũ khí hạt nhân.

Thông tin tình báo sai lệch này bắt nguồn từ một nhà phân tích thuộc Bộ Tư lệnh Tác chiến Đặc biệt, người đã truy vấn một chatbot AI để tổng hợp dữ liệu nguồn mở với thông tin tình báo tín hiệu mật. Chatbot đã xác định nhầm bản kê khai hàng hóa của con tàu. Nhà phân tích sau đó đã sử dụng công cụ này lần thứ hai để định dạng các kết quả sai lệch thành một bản tóm tắt có vẻ chính thức, được lưu hành qua các kênh chỉ huy.

Sự việc suýt xảy ra này diễn ra trong bối cảnh quân đội Mỹ đang chạy đua tích hợp AI để đẩy nhanh quá trình ra quyết định và duy trì ưu thế trước Trung Quốc. Lầu Năm Góc đã mô tả AI mang lại lợi thế đáng kể trong việc tăng tốc chuỗi tiêu diệt để các chỉ huy có thể phản ứng đúng thời điểm. Nhưng chính tốc độ làm cho AI trở nên hấp dẫn cũng có thể cho phép các hiện tượng ảo giác xảy ra nếu thiếu sự giám sát đầy đủ của con người.

"Điều quan trọng là cácquân nhân phải hiểu được sự bất định vốn có của các mô hình ngôn ngữ lớn (LLM)," Jake Steckler, nhà nghiên cứu tại GovAI đồng thời là một cựu sĩ quan Lục quân Mỹ, cho biết trong một phản hồi bằng văn bản gửi tới TechCrunch. "Nhưng điều đó đặc biệt quan trọng đối với bất kỳ quyết định nào có thể dẫn đến việc sử dụng vũ lực, như nhắm mục tiêu, phân tích tình báo hoặc lập kế hoạch tác chiến. Có những hậu quả về sinh tử đối với những quyết định đó."

Tuy nhiên, Steckler cho biết, sự cố này nên được coi là lời kêu gọi bổ sung thêm nhiều biện pháp bảo vệ cho AI, chứ không phải là lý do để né tránh nó. "Những công cụ này có thể hữu ích trong các bối cảnh phù hợp và với các biện pháp bảo vệ thích hợp," ông nói. "Nhưng việc ưu tiên tốc độ áp dụng hơn tất cả mọi thứ có thể sẽ dẫn đến các sự cố chỉ làm cho các quân nhân mất lòng tin vào các hệ thống này, cuối cùng sẽ chỉ làm chậm quá trình áp dụng."

🗞 Nguồn: TechCrunch

#vgsnews #vgs #tintuc