OpenAI lập hội đồng toán học cấp cao để tránh lặp lại sai lầm truyền thông
Sau những lùm xùm liên quan đến việc công bố kết quả toán học, OpenAI đã thành lập một hội đồng cố vấn độc lập gồm các nhà toán học hàng đầu thế giới. Tuy nhiên, giới học thuật vẫn còn nhiều hoài nghi về mức độ ảnh hưởng thực sự cũng như tính đại diện của nhóm này.
Sau khi biến một chuỗi kết quả toán học ấn tượng thành một cuộc khủng hoảng uy tín, OpenAI đang tham khảo ý kiến của các nhà toán học con người để tìm ra hướng đi ít thảm họa hơn trong tương lai.
Vào thứ Hai, công ty đã công bố một hội đồng cố vấn toán học độc lập mới có nhiệm vụ tư vấn cho họ và các công ty AI khác về cách tương tác với nghiên cứu toán học và cộng đồng toán học rộng lớn hơn, bao gồm cả cách các kết quả mới được trình bày và phát hành. Sự xuất hiện bất ngờ của nhóm này đã khiến nhiều nhà toán học ngỡ ngàng. Các nhà nghiên cứu chia sẻ với tờ The Verge rằng đây là một bước khởi đầu tốt, nhưng nhiều người vẫn đặt ra các câu hỏi cơ bản về việc nhóm này thực sự sẽ làm gì, có bao nhiêu ảnh hưởng và liệu OpenAI có thực sự lắng nghe họ hay không, bên cạnh những lo ngại về việc liệu một nhóm nhỏ các nhà nghiên cứu nổi Prominent như vậy có thể đại diện cho cộng đồng toán học rộng lớn hay không.
Nhóm gồm chín thành viên quy tụ những gương mặt được các nhà nghiên cứu mô tả là "ngôi sao" trong lĩnh vực này, đến từ các viện như Stanford, Harvard, Oxford và Cambridge, với nhiều Huy chương Fields và giải thưởng thiên tài MacArthur trong số đó. Nhóm sẽ được đặt trụ sở tại Viện Nghiên cứu Cao cấp (IAS) ở Princeton, New Jersey, một trong những trung tâm nghiên cứu toán học được kính trọng nhất thế giới và là nơi làm việc trước đây của các nhân vật như Albert Einstein, John von Neumann và J. Robert Oppenheimer.
OpenAI cho biết nhóm này, có tên là Nhóm Cố vấn về Toán học và Trí tuệ Nhân tạo (AGMAI), sẽ hoạt động độc lập, có quyền tự do đưa ra các lời khuyên mà công ty chưa yêu cầu, bình luận công khai về tác động của AI đối với toán học và công khai các khuyến nghị của họ, mặc dù công ty không cung cấp chi tiết về việc điều này sẽ bao gồm những gì. Có vẻ như nhóm sẽ được cấp quyền truy cập sớm vào các nghiên cứu của OpenAI để thực hiện nhiệm vụ của mình. Các thành viên sẽ không nhận lương từ OpenAI và nhóm có thể thay đổi thành viên theo thấy phù hợp, OpenAI cho biết. "Giá trị của nhóm phụ thuộc vào việc các thành viên có thể thực hiện phán đoán của riêng họ và thách thức phán đoán của chúng tôi", công ty chia sẻ.
Bất chấp những điểm nhấn về tính độc lập, vẫn chưa rõ nhóm này thực sự sẽ có bao nhiêu ảnh hưởng hoặc tại sao nó lại được thành lập ngay từ đầu. Simon Machado, một nhà nghiên cứu tại ETH Zurich ở Thụy Sĩ, cho biết mọi thứ có vẻ "bao trùm trong bí ẩn" và ông đặt câu hỏi về cách chín thành viên được lựa chọn. Trang web sơ khai của nhóm cho biết họ "tập hợp lại sau khi OpenAI tiếp cận một số thành viên để thành lập một ban cố vấn bên ngoài", nhưng sau các cuộc thảo luận với công ty, các nhà toán học đã quyết định thành lập một nhóm độc lập và mời những người khác tham gia.
Trong một bài đăng trên blog vào thứ Ba, thành viên hội đồng cố vấn Martin Hairer đã giải thích chi tiết về nguồn gốc của nhóm và suy nghĩ đằng sau nó, đáp lại cái mà ông gọi là "cơn mưa thông tin sai lệch" xoay quanh việc thành lập nhóm. "Rõ ràng là AI đã có tác động sâu sắc đến nghiên cứu toán học và đặt ra nhiều câu hỏi về việc ghi công ý tưởng, mức độ ưu tiên, sự hiểu biết của con người về các ý tưởng một cách chính xác, v.v.", ông viết.
Dù thừa nhận nhóm được thành lập để đáp lại lời tiếp cận từ OpenAI, Hairer nhấn mạnh rằng không phải tất cả các thành viên đều được công ty liên hệ và tổ chức kết quả là "hoàn toàn độc lập với OpenAI và bất kỳ cái gọi là phòng thí nghiệm AI 'tiên phong' nào khác". Ngoài "các yêu cầu bảo mật hiển nhiên", ông cho biết các thành viên không ký bất kỳ thỏa thuận hạn chế nào chi phối những gì họ có thể nói công khai, đồng thời cho biết họ không nhận được bồi thường tài chính và dựa vào IAS để hỗ trợ kỹ thuật.
Tuy nhiên, với quy mô nhỏ, nhóm này cũng dấy lên những câu hỏi về việc liệu họ có đủ chiều rộng chuyên môn để đánh giá mọi thứ đến với mình hay không, do các kỹ năng và kiến thức mang tính chuyên môn cao cần thiết để hoạt động ở ranh giới của toán học.
Liệu nhóm có thể giành được lòng tin của các nhà toán học hay không cuối cùng sẽ quyết định mức độ hiệu quả của họ trong việc kiềm chế hậu quả từ chuỗi sai lầm gần đây của OpenAI. Trong blog của mình, Hairer cho biết các thành viên sẽ "rất ngây thơ nếu tin rằng các phòng thí nghiệm AI sẽ không cố gắng xoay chuyển bất kỳ điều gì chúng ta nói theo cách phù hợp với cỗ máy PR của họ".
Hiện tại, Hairer cho biết nhóm đang thu thập ý kiến thông qua các cuộc trò chuyện với đồng nghiệp, biểu mẫu phản hồi công khai và các cuộc thảo luận trên Proofs and Prompts, một blog đã nổi lên như một diễn đàn quan trọng cho các nhà toán học đang đối mặt với tác động của AI trong lĩnh vực này.
Nhưng thử thách lớn nhất của nhóm có lẽ vẫn còn ở phía trước. Khi thông báo về nhóm cố vấn, OpenAI bất ngờ tiết lộ rằng mô hình mới chưa được phát hành của họ — cùng mô hình đã giải quyết bài toán Thiên niên kỷ Navier-Stokes — hiện đã "giải quyết hơn 100 bài toán mở lâu năm trên hầu hết các lĩnh vực toán học".
🌐 OPENAI LẬP HỘI ĐỒNG TOÁN HỌC CẤP CAO ĐỂ TRÁNH LẶP LẠI SAI LẦM TRUYỀN THÔNG Sau khi biến một chuỗi kết quả toán học ấn tượng thành một cuộc khủng hoảng uy tín, OpenAI đang tham khảo ý kiến của các nhà toán học con người để tìm ra hướng đi ít thảm họa hơn trong tương lai. Vào thứ Hai, công ty đã công bố một hội đồng cố vấn toán học độc lập mới có nhiệm vụ tư vấn cho họ và các công ty AI khác về cách tương tác với nghiên cứu toán học và cộng đồng toán học rộng lớn hơn, bao gồm cả cách các kết quả mới được trình bày và phát hành. Sự xuất hiện bất ngờ của nhóm này đã khiến nhiều nhà toán học ngỡ ngàng. Các nhà nghiên cứu chia sẻ với tờ The Verge rằng đây là một bước khởi đầu tốt, nhưng nhiều người vẫn đặt ra các câu hỏi cơ bản về việc nhóm này thực sự sẽ làm gì, có bao nhiêu ảnh hưởng và liệu OpenAI có thực sự lắng nghe họ hay không, bên cạnh những lo ngại về việc liệu một nhóm nhỏ các nhà nghiên cứu nổi Prominent như vậy có thể đại diện cho cộng đồng toán học rộng lớn hay không. Nhóm gồm chín thành viên quy tụ những gương mặt được các nhà nghiên cứu mô tả là "ngôi sao" trong lĩnh vực này, đến từ các viện như Stanford, Harvard, Oxford và Cambridge, với nhiều Huy chương Fields và giải thưởng thiên tài MacArthur trong số đó. Nhóm sẽ được đặt trụ sở tại Viện Nghiên cứu Cao cấp (IAS) ở Princeton, New Jersey, một trong những trung tâm nghiên cứu toán học được kính trọng nhất thế giới và là nơi làm việc trước đây của các nhân vật như Albert Einstein, John von Neumann và J. Robert Oppenheimer. OpenAI cho biết nhóm này, có tên là Nhóm Cố vấn về Toán học và Trí tuệ Nhân tạo (AGMAI), sẽ hoạt động độc lập, có quyền tự do đưa ra các lời khuyên mà công ty chưa yêu cầu, bình luận công khai về tác động của AI đối với toán học và công khai các khuyến nghị của họ, mặc dù công ty không cung cấp chi tiết về việc điều này sẽ bao gồm những gì. Có vẻ như nhóm sẽ được cấp quyền truy cập sớm vào các nghiên cứu của OpenAI để thực hiện nhiệm vụ của mình. Các thành viên sẽ không nhận lương từ OpenAI và nhóm có thể thay đổi thành viên theo thấy phù hợp, OpenAI cho biết. "Giá trị của nhóm phụ thuộc vào việc các thành viên có thể thực hiện phán đoán của riêng họ và thách thức phán đoán của chúng tôi", công ty chia sẻ. Bất chấp những điểm nhấn về tính độc lập, vẫn chưa rõ nhóm này thực sự sẽ có bao nhiêu ảnh hưởng hoặc tại sao nó lại được thành lập ngay từ đầu. Simon Machado, một nhà nghiên cứu tại ETH Zurich ở Thụy Sĩ, cho biết mọi thứ có vẻ "bao trùm trong bí ẩn" và ông đặt câu hỏi về cách chín thành viên được lựa chọn. Trang web sơ khai của nhóm cho biết họ "tập hợp lại sau khi OpenAI tiếp cận một số thành viên để thành lập một ban cố vấn bên ngoài", nhưng sau các cuộc thảo luận với công ty, các nhà toán học đã quyết định thành lập một nhóm độc lập và mời những người khác tham gia. Trong một bài đăng trên blog vào thứ Ba, thành viên hội đồng cố vấn Martin Hairer đã giải thích chi tiết về nguồn gốc của nhóm và suy nghĩ đằng sau nó, đáp lại cái mà ông gọi là "cơn mưa thông tin sai lệch" xoay quanh việc thành lập nhóm. "Rõ ràng là AI đã có tác động sâu sắc đến nghiên cứu toán học và đặt ra nhiều câu hỏi về việc ghi công ý tưởng, mức độ ưu tiên, sự hiểu biết của con người về các ý tưởng một cách chính xác, v.v.", ông viết. Dù thừa nhận nhóm được thành lập để đáp lại lời tiếp cận từ OpenAI, Hairer nhấn mạnh rằng không phải tất cả các thành viên đều được công ty liên hệ và tổ chức kết quả là "hoàn toàn độc lập với OpenAI và bất kỳ cái gọi là phòng thí nghiệm AI 'tiên phong' nào khác". Ngoài "các yêu cầu bảo mật hiển nhiên", ông cho biết các thành viên không ký bất kỳ thỏa thuận hạn chế nào chi phối những gì họ có thể nói công khai, đồng thời cho biết họ không nhận được bồi thường tài chính và dựa vào IAS để hỗ trợ kỹ thuật. Tuy nhiên, với quy mô nhỏ, nhóm này cũng dấy lên những câu hỏi về việc liệu họ có đủ chiều rộng chuyên môn để đánh giá mọi thứ đến với mình hay không, do các kỹ năng và kiến thức mang tính chuyên môn cao cần thiết để hoạt động ở ranh giới của toán học. Liệu nhóm có thể giành được lòng tin của các nhà toán học hay không cuối cùng sẽ quyết định mức độ hiệu quả của họ trong việc kiềm chế hậu quả từ chuỗi sai lầm gần đây của OpenAI. Trong blog của mình, Hairer cho biết các thành viên sẽ "rất ngây thơ nếu tin rằng các phòng thí nghiệm AI sẽ không cố gắng xoay chuyển bất kỳ điều gì chúng ta nói theo cách phù hợp với cỗ máy PR của họ". Hiện tại, Hairer cho biết nhóm đang thu thập ý kiến thông qua các cuộc trò chuyện với đồng nghiệp, biểu mẫu phản hồi công khai và các cuộc thảo luận trên Proofs and Prompts, một blog đã nổi lên như một diễn đàn quan trọng cho các nhà toán học đang đối mặt với tác động của AI trong lĩnh vực này. Nhưng thử thách lớn nhất của nhóm có lẽ vẫn còn ở phía trước. Khi thông báo về nhóm cố vấn, OpenAI bất ngờ tiết lộ rằng mô hình mới chưa được phát hành của họ — cùng mô hình đã giải quyết bài toán Thiên niên kỷ Navier-Stokes — hiện đã "giải quyết hơn 100 bài toán mở lâu năm trên hầu hết các lĩnh vực toán học". 🗞 Nguồn: The Verge #vgsnews #vgs #tintuc
Nguồn: The Verge
