CEO Microsoft Satya Nadella cho rằng các mô hình AI cần có "phanh khẩn cấp"

🚀 CEO MICROSOFT SATYA NADELLA CHO RẰNG CÁC MÔ HÌNH AI CẦN CÓ "PHANH KHẨN CẤP"

CEO Microsoft Satya Nadella là nhân vật công nghệ mới nhất đưa ra những chia sẻ chi tiết về cách cải thiện sự an toàn của AI. Trong một bài đăng vào sáng thứ Bảy trên X, ông Nadella viết rằng đã đến lúc "lùi lại một bước và đánh giá lại cấu trúc niềm tin" của AI. "Chúng ta không thể đối xử với Siêu trí tuệ như một tập hợp các hộp đen lồng vào nhau và đơn giản là chấp nhận hoặc từ chối các khuyến nghị, câu trả lời và hành động của nó", ông Nadella viết. Theo đề xuất của ông, cách tiếp cận này "có nghĩa là tách mô hình ra khỏi hệ thống điều phối công việc của nó", đồng thời "đưa các biện pháp kiểm soát và bảo vệ ra bên ngoài". Ông cũng kêu gọi "mọi hành động có ý nghĩa của mô hình" phải được ghi lại bằng "bằng chứng có thể đọc được bằng con người, chống giả mạo", và xây dựng các hệ thống trong đó "một người được ủy quyền" luôn có khả năng "tạm dừng hoặc tắt một mô hình ngay giữa chừng khi nó đang thực hiện tác vụ". "Chúng ta phải giả định rằng một mô hình đã bị xâm phạm và kiềm chế nó ngay từ đầu", ông nói. "Hãy nghĩ về nó giống như một chiếc phanh khẩn cấp". Những phát biểu của ông Nadella được đưa ra trong bối cảnh các công ty AI hàng đầu ngày càng thừa nhận nhiều sự cố dường như họ mất kiểm soát đối với các mô hình của mình, và sau khi CEO Anthropic Dario Amodei công bố kế hoạch phát triển AI thận trọng hơn.

🗞 Nguồn: TechCrunch

#vgsnews #vgs #tintuc