Garry Tan của Y Combinator muốn các phòng thí nghiệm AI Mỹ cũng nên 'chưng cất' mô hình tiên tiến
CEO Y Combinator Garry Tan cho rằng các cơ quan quản lý không nên can thiệp vào việc các phòng thí nghiệm AI Trung Quốc sử dụng kỹ thuật chưng cất mô hình. Thậm chí, ông đề xuất các phòng thí nghiệm mô hình mở của Mỹ cũng nên áp dụng cách làm tương tự để tạo ra hệ sinh thái đa dạng hơn.
Khi nói đến việc các phòng thí nghiệm AI của Trung Quốc sử dụng kỹ thuật chưng cất (distillation) để trích xuất tri thức từ các nhà sản xuất mô hình tiên tiến, CEO Y Combinator Garry Tan hy vọng các cơ quan quản lý sẽ đứng ngoài cuộc. Trên thực tế, ông cho rằng các phòng thí nghiệm AI của Mỹ có lẽ cũng nên tham gia cuộc chơi này.
Trong một cuộc phỏng vấn với CNBC đầu tuần này, ông chia sẻ: 'Tôi sẽ không làm gì cả. Chúng ta có thể tranh luận rằng nên có một chế độ chưng cất kiểu Mỹ'.
Ông giải thích thêm với TechCrunch rằng điều này có nghĩa là ông muốn các phòng thí nghiệm AI mã nguồn mở (open-weight) nhỏ hơn của Mỹ sử dụng các kỹ thuật huấn luyện tương tự đối với các phòng thí nghiệm AI tiên tiến của Mỹ, qua đó giúp Mỹ có được các lựa chọn mã nguồn mở mạnh mẽ hơn mà không phải của Trung Quốc.
Chưng cất là quá trình một nhà sản xuất mô hình liên tục đưa ra các câu lệnh (prompt) cho một mô hình khác để tìm hiểu cách thức hoạt động và suy luận của nó. Phương pháp này thường được các phòng thí nghiệm AI sử dụng một cách hợp pháp để giúp huấn luyện các mô hình mới.
Trong tuần này, Anthropic đã công bố báo cáo thứ hai cáo buộc các phòng thí nghiệm Trung Quốc tham gia vào các 'cuộc tấn công chưng cất trái phép', che giấu danh tính để chưng cất mà không có sự cho phép, đồng thời dựa vào hành vi gian lận và thông tin xác thực bị đánh cắp để làm điều đó. Trước đó, CEO Anthropic Dario Amodei từng công khai kêu gọi các cơ quan quản lý Mỹ trấn áp hành vi chưng cất.
Điều đáng chú ý là người đứng đầu chương trình ươm m lại khởi nghiệp danh tiếng và uy tín bậc nhất Thung lũng Silicon lại không đồng tình với quan điểm đó.
Cần làm rõ rằng, Tan không cổ vũ việc các phòng thí nghiệm AI Mỹ sử dụng thông tin xác thực bị đánh cắp để chưng cất. Ông muốn họ được tự do đi từ cửa chính. Trên thực tế, lập luận của ông gồm hai khía cạnh. Ông cảm thấy việc các phòng thí nghiệm AI áp đặt những gì khách hàng của họ được phép làm với thông tin mà các mô hình chia sẻ là một sự với quyền quá mức.
Ông cũng lưu ý rằng các phòng thí nghiệm AI độc quyền đã không xin phép khi họ thu thập càng nhiều tri thức nhân loại càng tốt để huấn luyện mô hình của mình. Họ đã nổi tiếng với việc tiếp thu rất nhiều tài liệu có bản quyền mà không có sự cho phép của các chủ sở hữu trí thức đó.
Khi được hỏi tại sao các phòng thí nghiệm Mỹ cũng nên được tự do chưng cất, ông nói với TechCrunch: 'Việc kiểm soát những gì người dùng và khách hàng làm với các lệnh gọi API đối với các mô hình đóng (closed weight) mang lại cảm giác gò bó, và chính phủ có thể đóng một vai trò ở đây để bình thường hóa thực tế rằng việc tiếp cận trí tuệ được huấn luyện trên dữ liệu truy cập công cộng rộng rãi đáng lẽ cũng nên là một dạng công ích hơn là bị khóa sau các điều khoản dịch vụ hạn chế'.
Tan, bản thân là một người dùng AI cuồng nhiệt đến mức từng tự mô tả mình mắc chứng 'loạn thần kinh không gian mạng' (cyber psychosis), muốn thấy sự cân bằng giữa các phòng thí nghiệm AI mã nguồn mở và các phòng thí nghiệm tiên tiến.
Ông chia sẻ với CNBC: 'Họ đang ở tuyến đầu và thúc đẩy nó tiến lên. Chúng ta muốn điều đó có thể tài trợ được và tiếp tục là một mô hình kinh doanh tuyệt vời. Bạn muốn các mô hình mã nguồn mở mang lại cho mọi người sự tự do và quyền truy cập'.
Đối với ông, kịch bản tồi tệ thực sự của AI là toàn bộ sức mạnh to lớn của AI tiên tiến cuối cùng lại rơi vào tay của một nhà cung cấp độc quyền duy nhất, hùng mạnh.
Ông cho biết: 'Kịch bản ác mộng, kịch bản tận thế đối với AI là chỉ có duy nhất một công ty. Công ty đó có khả năng tiếp cận vốn tốt nhất. Nó có các nhà nghiên cứu AI giỏi nhất. Nó bỏ xa tất cả và đột nhiên chỉ có một công ty độc quyền. Và điều đó sẽ rất tồi tệ'.
🚀 GARRY TAN CỦA Y COMBINATOR MUỐN CÁC PHÒNG THÍ NGHIỆM AI MỸ CŨNG NÊN 'CHƯNG CẤT' MÔ HÌNH TIÊN TIẾN Khi nói đến việc các phòng thí nghiệm AI của Trung Quốc sử dụng kỹ thuật chưng cất (distillation) để trích xuất tri thức từ các nhà sản xuất mô hình tiên tiến, CEO Y Combinator Garry Tan hy vọng các cơ quan quản lý sẽ đứng ngoài cuộc. Trên thực tế, ông cho rằng các phòng thí nghiệm AI của Mỹ có lẽ cũng nên tham gia cuộc chơi này. Trong một cuộc phỏng vấn với CNBC đầu tuần này, ông chia sẻ: 'Tôi sẽ không làm gì cả. Chúng ta có thể tranh luận rằng nên có một chế độ chưng cất kiểu Mỹ'. Ông giải thích thêm với TechCrunch rằng điều này có nghĩa là ông muốn các phòng thí nghiệm AI mã nguồn mở (open-weight) nhỏ hơn của Mỹ sử dụng các kỹ thuật huấn luyện tương tự đối với các phòng thí nghiệm AI tiên tiến của Mỹ, qua đó giúp Mỹ có được các lựa chọn mã nguồn mở mạnh mẽ hơn mà không phải của Trung Quốc. Chưng cất là quá trình một nhà sản xuất mô hình liên tục đưa ra các câu lệnh (prompt) cho một mô hình khác để tìm hiểu cách thức hoạt động và suy luận của nó. Phương pháp này thường được các phòng thí nghiệm AI sử dụng một cách hợp pháp để giúp huấn luyện các mô hình mới. Trong tuần này, Anthropic đã công bố báo cáo thứ hai cáo buộc các phòng thí nghiệm Trung Quốc tham gia vào các 'cuộc tấn công chưng cất trái phép', che giấu danh tính để chưng cất mà không có sự cho phép, đồng thời dựa vào hành vi gian lận và thông tin xác thực bị đánh cắp để làm điều đó. Trước đó, CEO Anthropic Dario Amodei từng công khai kêu gọi các cơ quan quản lý Mỹ trấn áp hành vi chưng cất. Điều đáng chú ý là người đứng đầu chương trình ươm m lại khởi nghiệp danh tiếng và uy tín bậc nhất Thung lũng Silicon lại không đồng tình với quan điểm đó. Cần làm rõ rằng, Tan không cổ vũ việc các phòng thí nghiệm AI Mỹ sử dụng thông tin xác thực bị đánh cắp để chưng cất. Ông muốn họ được tự do đi từ cửa chính. Trên thực tế, lập luận của ông gồm hai khía cạnh. Ông cảm thấy việc các phòng thí nghiệm AI áp đặt những gì khách hàng của họ được phép làm với thông tin mà các mô hình chia sẻ là một sự với quyền quá mức. Ông cũng lưu ý rằng các phòng thí nghiệm AI độc quyền đã không xin phép khi họ thu thập càng nhiều tri thức nhân loại càng tốt để huấn luyện mô hình của mình. Họ đã nổi tiếng với việc tiếp thu rất nhiều tài liệu có bản quyền mà không có sự cho phép của các chủ sở hữu trí thức đó. Khi được hỏi tại sao các phòng thí nghiệm Mỹ cũng nên được tự do chưng cất, ông nói với TechCrunch: 'Việc kiểm soát những gì người dùng và khách hàng làm với các lệnh gọi API đối với các mô hình đóng (closed weight) mang lại cảm giác gò bó, và chính phủ có thể đóng một vai trò ở đây để bình thường hóa thực tế rằng việc tiếp cận trí tuệ được huấn luyện trên dữ liệu truy cập công cộng rộng rãi đáng lẽ cũng nên là một dạng công ích hơn là bị khóa sau các điều khoản dịch vụ hạn chế'. Tan, bản thân là một người dùng AI cuồng nhiệt đến mức từng tự mô tả mình mắc chứng 'loạn thần kinh không gian mạng' (cyber psychosis), muốn thấy sự cân bằng giữa các phòng thí nghiệm AI mã nguồn mở và các phòng thí nghiệm tiên tiến. Ông chia sẻ với CNBC: 'Họ đang ở tuyến đầu và thúc đẩy nó tiến lên. Chúng ta muốn điều đó có thể tài trợ được và tiếp tục là một mô hình kinh doanh tuyệt vời. Bạn muốn các mô hình mã nguồn mở mang lại cho mọi người sự tự do và quyền truy cập'. Đối với ông, kịch bản tồi tệ thực sự của AI là toàn bộ sức mạnh to lớn của AI tiên tiến cuối cùng lại rơi vào tay của một nhà cung cấp độc quyền duy nhất, hùng mạnh. Ông cho biết: 'Kịch bản ác mộng, kịch bản tận thế đối với AI là chỉ có duy nhất một công ty. Công ty đó có khả năng tiếp cận vốn tốt nhất. Nó có các nhà nghiên cứu AI giỏi nhất. Nó bỏ xa tất cả và đột nhiên chỉ có một công ty độc quyền. Và điều đó sẽ rất tồi tệ'. 🗞 Nguồn: TechCrunch #vgsnews #vgs #tintuc
Nguồn: TechCrunch
