Google DeepMind thành lập viện nghiên cứu mới nhằm mở rộng tranh luận về AGI

🚀 GOOGLE DEEPMIND THÀNH LẬP VIỆN NGHIÊN CỨU MỚI NHẰM MỞ RỘNG TRANH LUẬN VỀ AGI

Các nhà nghiên cứu của Google và Google DeepMind đã ra mắt DeepMind Institute vào hôm thứ Tư nhằm thúc đẩy các cuộc thảo luận xoay quanh trí tuệ nhân tạo tổng quát (AGI). Viện này có các giám đốc gồm đồng sáng lập DeepMind Shane Legg, giám đốc điều hành Google James Manyika và chủ tịch Google DeepMind Demis Hassabis, trong đó Shane Legg giữ vai trò tổng biên tập.

Viện nghiên cứu mới hướng tới việc đưa ra các quan điểm khác nhau giữa Google, Google DeepMind và cộng đồng nghiên cứu toàn cầu rộng lớn hơn xung quanh AGI. Thông báo cho biết: "Họ sẽ không phải lúc nào cũng đồng thuận và có khả năng sẽ thay đổi quan điểm khi có thêm dữ liệu và thông tin xuất hiện tại ranh giới công nghệ đang phát triển nhanh chóng này."

Bộ sưu tập bốn bài luận đầu tiên bao gồm nhiều chủ đề: chính sách kinh tế để quản lý sự gián đoạn tiềm tàng từ AGI, bảo tồn khả năng suy luận có thể đọc được của con người, các nguyên tắc cho sự thịnh vượng của con người và một framework để đánh giá các mô hình AI tiên tiến.

Một bài luận do các nhà nghiên cứu an toàn của DeepMind là Rohin Shah và Anca Dragan thực hiện, lập luận rằng cửa sổ minh bạch đang thu hẹp dần của AI — khả năng quan sát và kiểm tra quá trình suy luận từng bước của mô hình — không phải là điều tất yếu. Khi các kiến trúc mới làm cho các mô hình mạnh mẽ nhất khó giám sát hơn, các tác giả cho biết các nhà phát triển và cơ quan quản lý nên đối mặt trực tiếp với các vấn đề đánh đổi an toàn. Điều đó có thể có nghĩa là giới hạn "độ sâu chuỗi mờ đục" — lượng tính toán tuần tự mà một mô hình có thể thực hiện mà không tạo ra dấu vết suy luận có thể đọc được — hoặc yêu cầu các nhà phát triển chứng minh rằng các hệ thống ít minh bạch hơn vẫn có thể giám sát được.

Trong một bài luận khác, Hassabis đề xuất một cơ quan tiêu chuẩn AI tiên tiến do Hoa Kỳ dẫn đầu nhằm đánh giá các mô hình AI tiên tiến nhất. Theo framework của ông, các nhà phát triển ban đầu sẽ tự nguyện gửi các mô hình để đánh giá tối đa 30 ngày trước khi phát hành. Một khi hệ thống đánh giá đã chứng minh được hiệu quả, việc vượt qua các bài kiểm tra của hệ thống này có thể trở thành yêu cầu bắt buộc để triển khai các mô hình tiên tiến tại Hoa Kỳ.

Cơ quan này ban đầu sẽ thiết kế các bài đánh giá thông qua tham vấn với các công ty AI nhưng cuối cùng sẽ phát triển các bài đánh giá độc lập và được bảo mật — gọi là các bài kiểm tra "giữ lại" — để ngăn các phòng thí nghiệm tinh chỉnh mô hình của họ cho phù hợp với các bài đánh giá đã biết. Hassabis cho biết framework này có thể được "đẩy mạnh nếu mức độ nghiêm trọng của tình huống đòi hỏi", có khả năng bao gồm cả việc giảm tốc độ phối hợp giữa các nhà phát triển AI tiên tiến.

Các bài luận xuất hiện khi cuộc tranh luận về an toàn trong ngành đang chuyển từ các tuyên bố quan ngại chung sang các đề xuất cụ thể về việc công khai thông tin, sự giám sát từ bên ngoài và, nếu các biện pháp bảo vệ tụt lại phía sau, là sự giảm tốc độ phối hợp. Sự chuyển dịch đó đã được đẩy nhanh trong tuần này khi các lãnh đạo ngành tán thành các yếu tố trong lời kêu gọi của CEO Anthropic Dario Amodei về việc "điều tiết nhịp độ" phát triển AI tiên tiến.

🗞 Nguồn: TechCrunch

#vgsnews #vgs #tintuc