Thống đốc Gavin Newsom thúc đẩy cơ chế "công tắc ngắt khẩn cấp" cho trí tuệ nhân tạo

🌐 THỐNG ĐỐC GAVIN NEWSOM THÚC ĐẨY CƠ CHẾ "CÔNG TẮC NGẮT KHẨN CẤP" CHO TRÍ TUỆ NHÂN TẠO

Thống đốc bang California Gavin Newsom đang định hướng bang này tiên phong trong công tác quản lý AI, bao gồm khả năng bắt buộc phải có "công tắc ngắt khẩn cấp" (kill switch) cho các mô hình tiên tiến, thông qua sắc lệnh hành pháp mới được ban hành vào thứ Sáu.

Sắc lệnh của ông Newsom chỉ đạo bang triệu tập một nhóm chuyên gia để đưa ra các khuyến nghị trong vòng hai tháng về cách tăng cường các biện pháp an toàn AI trong luật pháp tiểu bang. Ông Newsom muốn nhóm này xem xét cách bang có thể yêu cầu các công ty AI đưa các nhóm xác minh độc lập vào làm việc tại chỗ để kiểm toán định kỳ, bắt buộc các báo cáo minh bạch và đánh giá rủi ro phải tuân theo các tiêu chuẩn của kiểm toán viên độc lập, tạo ra một "công tắc ngắt khẩn cấp" được kiểm tra thường xuyên về hiệu quả, và đảm bảo các công ty phải báo cáo các "sự cố mất kiểm soát" như vụ tấn công Hugging Face của OpenAI thành các sự cố an toàn quan trọng. Sắc lệnh cũng chỉ đạo một cơ quan tiểu bang đẩy nhanh việc thực thi hai đạo luật gần đây do ông ký kết, tạo ra khuôn khổ cho các bên xác minh độc lập đánh giá an toàn AI và một hệ thống đăng ký kiểm toán viên AI của tiểu bang.

Đã có một làn sóng thảo luận về các dự luật tại Quốc hội sau bài đăng của cựu nhà nghiên cứu Jacob Coxon thuộc Anthropic, cảnh báo về khả năng hơn 10% AI "có thể tiêu diệt toàn bộ loài người" trong vòng một thập kỷ. Tuy nhiên, có rất ít hy vọng ở Washington rằng một dự luật thực chất có thể được thông qua trong thời gian tới, do Hạ viện đang nghỉ họp cho đến tháng 11 và các cuộc bầu cử giữa kỳ sắp tới khiến việc thông qua các đạo luật lớn tại Thượng viện cũng khó xảy ra tương tự. Đồng thời, Tổng thống Donald Trump đã khẳng định: "Sự kiểm soát hoặc 'hàng rào bảo vệ' duy nhất mà AI cần là một TỔNG THỐNG MẠNH MẼ VÀ THÔNG MINH (IQ cao!), và nước Mỹ đang có điều đó rất nhiều!"

Ông Newsom đang kêu gọi Quốc hội và ông Trump "xem xét và áp dụng khuôn khổ của tiểu bang". Sắc lệnh hành pháp của ông Newsom có thể chưa phải là điều cuối cùng chúng ta nghe từ California về chủ đề này. Vào thứ Tư, ông đã nêu khả năng triệu tập các nhà lập pháp California tham gia một phiên họp lập pháp đặc biệt về AI trong cuộc phỏng vấn với Politico, bên cạnh các hành động hành pháp tiềm năng. Ông đặc biệt định hình sắc lệnh này như một mô hình cho hành động liên bang, kêu gọi Quốc hội và ông Trump "xem xét và áp dụng khuôn khổ của tiểu bang, hoặc sử dụng quy định dẫn đầu quốc gia của mình làm mức sàn, chứ không phải mức trần, vì lợi ích và sự an toàn của tất cả người Mỹ."

"Sự thất bại hoàn toàn của chính phủ liên bang trong việc tạo ra bất kỳ hình thức giám sát hoặc trách nhiệm giải trình nào đối với AI nên khiến mọi người Mỹ lo lắng, đặc biệt là khi chính các CEO của các công ty AI đang phải cầu xin sự quản lý," ông Newsom cho biết trong một tuyên bố. "Chúng tôi không đợi hành động - chúng tôi sẽ đẩy nhanh công việc của mình về việc giám sát AI một cách có trách nhiệm và thực chất trước khi quá muộn. Chúng tôi sẽ làm điều này một cách thấu đáo nhưng với tốc độ khẩn trương; các vấn đề đặt ra quá lớn để có thể chờ đợi hoặc trì hoãn hành động."

🗞 Nguồn: The Verge

#vgsnews #vgs #tintuc