Nhân viên an toàn của OpenAI từ chức và lên tiếng báo động về văn hóa công ty
David Robinson, cựu nhân viên chuyên viết báo cáo an toàn tại OpenAI, đã từ chức và công khai chỉ trích văn hóa ngành công nghệ là đang "rạn nứt". Anh cho rằng các công ty AI cần phải vận hành với sự thận trọng và các biện pháp bảo vệ nghiêm ngặt tương tự như nhà máy điện hạt nhân.
David Robinson từng là người viết các báo cáo an toàn đi kèm với mỗi lần ra mắt mô hình lớn tại OpenAI. Tuần này, anh đã từ chức và hiện đang lên tiếng trong một bài xã luận trên tờ The Atlantic. Có thể bạn sẽ cảm thấy hoài nghi khi mọi người liên tục xuất hiện để cảnh báo về sự nguy hiểm của thứ mà chính họ đã góp phần xây dựng. Rốt cuộc, chính họ đã tạo ra tình trạng này. Nhưng điều đó không có nghĩa là chúng ta nên bỏ qua những lời cảnh báo của họ. Robinson cho biết văn hóa trong ngành đang thực sự rạn nứt. Đây là một vấn đề sâu sắc hơn việc chỉ đơn thuần áp đặt một vài quy tắc hoặc quy định mới về cách chúng ta xử lý việc huấn luyện mô hình. Thung lũng Silicon đã hoạt động với "sự tự tin tột độ" và "những cuộc đua nước rút liên tục", anh nói, xây dựng các mô hình lớn hơn và tốt hơn với "sự lạc quan không gì cản nổi", phớt lờ hoặc đánh giá thấp các vấn đề tiềm ẩn. Anh cho rằng đã đến lúc các công ty AI phải phát triển sự khiêm tốn và nhìn ra bên ngoài thế giới khép kín, thích di chuyển nhanh và phá vỡ mọi thứ của ngành công nghệ. Cụ thể, anh cho biết AI cần các biện pháp bảo vệ ở cấp độ hạt nhân: Xét đến các rủi ro hiện nay, các phòng thí nghiệm tiên tiến cần phải hoạt động giống như các nhà máy điện hạt nhân hoặc sân bay đông đúc, với các lớp dự phòng và lập kế hoạch cẩn thận, tốn thời gian, để sai sót của con người dẫu có xảy ra theo cách không thể tránh khỏi cũng không mở đường cho thảm họa. Robinson chỉ là người mới nhất trong chuỗi ngày càng dài các nhà nghiên cứu và nhân viên an toàn đã rời khỏi vị trí của họ tại các công ty AI nổi bật. Jacob Coxon dường như là người châm ngòi cho làn sóng di cư này khi từ chức tại Anthropic và công khai tuyên bố AI "có thể giết chết tất cả chúng ta trước cuối thập kỷ này". Tiếp sau anh là Robert O'Callahan, Bilal Chughtai và Josh Engels tại Google DeepMind, cũng như Joe Benton tại Anthropic.
🌐 NHÂN VIÊN AN TOÀN CỦA OPENAI TỪ CHỨC VÀ LÊN TIẾNG BÁO ĐỘNG VỀ VĂN HÓA CÔNG TY David Robinson từng là người viết các báo cáo an toàn đi kèm với mỗi lần ra mắt mô hình lớn tại OpenAI. Tuần này, anh đã từ chức và hiện đang lên tiếng trong một bài xã luận trên tờ The Atlantic. Có thể bạn sẽ cảm thấy hoài nghi khi mọi người liên tục xuất hiện để cảnh báo về sự nguy hiểm của thứ mà chính họ đã góp phần xây dựng. Rốt cuộc, chính họ đã tạo ra tình trạng này. Nhưng điều đó không có nghĩa là chúng ta nên bỏ qua những lời cảnh báo của họ. Robinson cho biết văn hóa trong ngành đang thực sự rạn nứt. Đây là một vấn đề sâu sắc hơn việc chỉ đơn thuần áp đặt một vài quy tắc hoặc quy định mới về cách chúng ta xử lý việc huấn luyện mô hình. Thung lũng Silicon đã hoạt động với "sự tự tin tột độ" và "những cuộc đua nước rút liên tục", anh nói, xây dựng các mô hình lớn hơn và tốt hơn với "sự lạc quan không gì cản nổi", phớt lờ hoặc đánh giá thấp các vấn đề tiềm ẩn. Anh cho rằng đã đến lúc các công ty AI phải phát triển sự khiêm tốn và nhìn ra bên ngoài thế giới khép kín, thích di chuyển nhanh và phá vỡ mọi thứ của ngành công nghệ. Cụ thể, anh cho biết AI cần các biện pháp bảo vệ ở cấp độ hạt nhân: Xét đến các rủi ro hiện nay, các phòng thí nghiệm tiên tiến cần phải hoạt động giống như các nhà máy điện hạt nhân hoặc sân bay đông đúc, với các lớp dự phòng và lập kế hoạch cẩn thận, tốn thời gian, để sai sót của con người dẫu có xảy ra theo cách không thể tránh khỏi cũng không mở đường cho thảm họa. Robinson chỉ là người mới nhất trong chuỗi ngày càng dài các nhà nghiên cứu và nhân viên an toàn đã rời khỏi vị trí của họ tại các công ty AI nổi bật. Jacob Coxon dường như là người châm ngòi cho làn sóng di cư này khi từ chức tại Anthropic và công khai tuyên bố AI "có thể giết chết tất cả chúng ta trước cuối thập kỷ này". Tiếp sau anh là Robert O'Callahan, Bilal Chughtai và Josh Engels tại Google DeepMind, cũng như Joe Benton tại Anthropic. 🗞 Nguồn: The Verge #vgsnews #vgs #tintuc
Nguồn: The Verge
