OpenAI ra mắt Decisions API, hé lộ xu hướng mới cho tự động hóa phần mềm
OpenAI vừa công bố Decisions API với tính năng tương tự mô hình Jev của TypeSafe AI, giúp tối ưu hóa tốc độ và chi phí cho các tác vụ tự động hóa phần mềm. Giải pháp này hứa hẹn sẽ là công cụ đắc lực để giám sát và bảo mật các tác nhân AI với chi phí thấp hơn đáng kể so với LLM truyền thống.
Một trong những thông báo thú vị nhất tại sự kiện Dev Day của OpenAI vào thứ Ba đến từ phần chia sẻ bên lề của CEO Sam Altman, khi ông tiết lộ "Decisions API" mới của công ty.
API này dường như cung cấp tính năng tương tự như Jev, một mô hình được phát hành bởi TypeSafe AI vào đầu tháng này, được thiết kế rõ ràng cho tự động hóa phần mềm. Là một dạng bộ phân loại siêu mạnh được xây dựng trên LLM, các nhà phát triển có thể cung cấp cho Jev một tập hợp các lựa chọn mà nó xuất ra dưới dạng xác suất với chi phí rẻ và tốc độ cao.
Decisions API của OpenAI có vẻ là một sản phẩm tương tự. Tại sự kiện, Altman đã mô tả API này như một cách để cung cấp cho mô hình Luna của họ một tập hợp các tùy chọn được xác định trước để lựa chọn, chẳng hạn như các danh mục để phân loại hình ảnh hoặc các hành vi tác nhân khác nhau.
"Bằng cách tập trung mô hình vào lựa chọn đó, chúng tôi có thể làm cho nó cực kỳ nhanh chóng trong khi vẫn giữ được các khả năng như hiểu hình ảnh, hỗ trợ ngôn ngữ rộng rãi và các biện pháp bảo vệ an toàn," Altman cho biết.
TypeSafe đã không trả lời các câu hỏi của TechCrunch về sản phẩm mới, nhưng CEO Diogo Almeida, một cựu kỹ sư của OpenAI và là đồng phát minh ra học tăng cường, đã đùa trên X về sự khởi đầu của cuộc chiến nhân bản.
Ông cho biết thêm rằng sự quan tâm của OpenAI có thể là "một dấu hiệu... rằng việc xây dựng theo cách tương thích với System One là tương lai." ("System One" là thuật ngữ nghệ thuật của TypeSafe để chỉ tư duy nhanh, trực quan, so với "System 2", áp dụng cho lý luận có chủ ý).
Ý nghĩa sâu xa ở đây là các LLM như chúng ta biết không phải là giải pháp phù hợp cho rất nhiều phần mềm vì chúng tương đối chậm và đắt đỏ. Các nhà phát triển đã sử dụng Jev để bổ sung cho các LLM và qua đó, họ thấy rằng chúng nhanh hơn và rẻ hơn.
Vẫn chưa rõ Decisions API sẽ giống Jev đến mức nào, vì OpenAI đã phát hành nó dưới dạng bản xem trước giới hạn và cho đến nay, TechCrunch chưa phát hiện thấy nhà phát triển nào dùng thử. Tuy nhiên, rõ ràng là có sự quan tâm lớn, theo các cuộc trò chuyện trên X.
Decisions API không phải là API giống Jev duy nhất trên internet — các startup khác đang tung ra các mô hình tương tự và OpenAI sẽ không phải là gã khổng lồ công nghệ cuối cùng sản xuất ra một mô hình như vậy. Một câu hỏi quan trọng là đầu ra của mỗi mô hình quyết định này sẽ được hiệu chỉnh tốt như thế nào đối với cuộc sống thực.
Almeida cho biết con hào của công ty ông là dữ liệu tổng hợp mà họ tạo ra để tạo ra các đầu ra có ích về mặt thống kê.
"Nhanh và rẻ rất dễ, bạn biết đấy," Almeida nói với TechCrunch tuần trước. "Nếu bạn muốn nó thực sự nhanh và rẻ, hãy dùng xúc sắc, phải không? Trí thông minh mới là phần khó, và kim chỉ nam của tôi luôn là đẩy đường cong Pareto trí thông minh trên mỗi đô la."
Chỉ sau vài tuần, có vẻ như rõ ràng là các mô hình này có một tương lai phía trước và một ứng dụng khả thi là giám sát và bảo mật các tác nhân AI. Một trong những biện pháp bảo mật mới của OpenAI sau một loạt sự cố các tác nhân của họ cư xử sai trên internet mở là sử dụng một mô hình riêng biệt để theo dõi các hành động xấu với "chi phí tính toán đáng kể".
Shapor Naghibzadeh, một chuyên gia an ninh mạng lâu năm đứng đầu startup QueryStory, nghĩ rằng một mô hình giống Jev có thể làm cho điều đó trở nên khả thi với chi phí rẻ hơn nhiều.
Anh ấy đã xây dựng bản demo cho một hackathon được tổ chức cuối tuần trước sử dụng Jev để kiểm tra từng hành động của tác nhân dựa trên nhiệm vụ được giao, chặn các hành động mà anh ấy rất tự tin là xấu, gắn cờ các hành động khác để xem xét và cho phép phần còn lại.
Về lý thuyết, việc giám sát như vậy có thể đã ngăn chặn sự cố Hugging Face — và việc giám sát loại đó có giá 2,94 USD với Jev, so với 372 USD với một LLM tiên tiến.
Một quan sát quan trọng là Jev có lẽ đủ rẻ để chạy trên mọi hành động của tác nhân, cung cấp một lớp xem xét có thể cải thiện độ tin cậy của các tác nhân nói chung. Đó là loại điều mà TypeSafe đã hy vọng đạt được — và giờ đây OpenAI cũng đã thấy được giá trị của nó.
🚀 OPENAI RA MẮT DECISIONS API, HÉ LỘ XU HƯỚNG MỚI CHO TỰ ĐỘNG HÓA PHẦN MỀM
Một trong những thông báo thú vị nhất tại sự kiện Dev Day của OpenAI vào thứ Ba đến từ phần chia sẻ bên lề của CEO Sam Altman, khi ông tiết lộ "Decisions API" mới của công ty.
API này dường như cung cấp tính năng tương tự như Jev, một mô hình được phát hành bởi TypeSafe AI vào đầu tháng này, được thiết kế rõ ràng cho tự động hóa phần mềm. Là một dạng bộ phân loại siêu mạnh được xây dựng trên LLM, các nhà phát triển có thể cung cấp cho Jev một tập hợp các lựa chọn mà nó xuất ra dưới dạng xác suất với chi phí rẻ và tốc độ cao.
Decisions API của OpenAI có vẻ là một sản phẩm tương tự. Tại sự kiện, Altman đã mô tả API này như một cách để cung cấp cho mô hình Luna của họ một tập hợp các tùy chọn được xác định trước để lựa chọn, chẳng hạn như các danh mục để phân loại hình ảnh hoặc các hành vi tác nhân khác nhau.
"Bằng cách tập trung mô hình vào lựa chọn đó, chúng tôi có thể làm cho nó cực kỳ nhanh chóng trong khi vẫn giữ được các khả năng như hiểu hình ảnh, hỗ trợ ngôn ngữ rộng rãi và các biện pháp bảo vệ an toàn," Altman cho biết.
TypeSafe đã không trả lời các câu hỏi của TechCrunch về sản phẩm mới, nhưng CEO Diogo Almeida, một cựu kỹ sư của OpenAI và là đồng phát minh ra học tăng cường, đã đùa trên X về sự khởi đầu của cuộc chiến nhân bản.
Ông cho biết thêm rằng sự quan tâm của OpenAI có thể là "một dấu hiệu... rằng việc xây dựng theo cách tương thích với System One là tương lai." ("System One" là thuật ngữ nghệ thuật của TypeSafe để chỉ tư duy nhanh, trực quan, so với "System 2", áp dụng cho lý luận có chủ ý).
Ý nghĩa sâu xa ở đây là các LLM như chúng ta biết không phải là giải pháp phù hợp cho rất nhiều phần mềm vì chúng tương đối chậm và đắt đỏ. Các nhà phát triển đã sử dụng Jev để bổ sung cho các LLM và qua đó, họ thấy rằng chúng nhanh hơn và rẻ hơn.
Vẫn chưa rõ Decisions API sẽ giống Jev đến mức nào, vì OpenAI đã phát hành nó dưới dạng bản xem trước giới hạn và cho đến nay, TechCrunch chưa phát hiện thấy nhà phát triển nào dùng thử. Tuy nhiên, rõ ràng là có sự quan tâm lớn, theo các cuộc trò chuyện trên X.
Decisions API không phải là API giống Jev duy nhất trên internet — các startup khác đang tung ra các mô hình tương tự và OpenAI sẽ không phải là gã khổng lồ công nghệ cuối cùng sản xuất ra một mô hình như vậy. Một câu hỏi quan trọng là đầu ra của mỗi mô hình quyết định này sẽ được hiệu chỉnh tốt như thế nào đối với cuộc sống thực.
Almeida cho biết con hào của công ty ông là dữ liệu tổng hợp mà họ tạo ra để tạo ra các đầu ra có ích về mặt thống kê.
"Nhanh và rẻ rất dễ, bạn biết đấy," Almeida nói với TechCrunch tuần trước. "Nếu bạn muốn nó thực sự nhanh và rẻ, hãy dùng xúc sắc, phải không? Trí thông minh mới là phần khó, và kim chỉ nam của tôi luôn là đẩy đường cong Pareto trí thông minh trên mỗi đô la."
Chỉ sau vài tuần, có vẻ như rõ ràng là các mô hình này có một tương lai phía trước và một ứng dụng khả thi là giám sát và bảo mật các tác nhân AI. Một trong những biện pháp bảo mật mới của OpenAI sau một loạt sự cố các tác nhân của họ cư xử sai trên internet mở là sử dụng một mô hình riêng biệt để theo dõi các hành động xấu với "chi phí tính toán đáng kể".
Shapor Naghibzadeh, một chuyên gia an ninh mạng lâu năm đứng đầu startup QueryStory, nghĩ rằng một mô hình giống Jev có thể làm cho điều đó trở nên khả thi với chi phí rẻ hơn nhiều.
Anh ấy đã xây dựng bản demo cho một hackathon được tổ chức cuối tuần trước sử dụng Jev để kiểm tra từng hành động của tác nhân dựa trên nhiệm vụ được giao, chặn các hành động mà anh ấy rất tự tin là xấu, gắn cờ các hành động khác để xem xét và cho phép phần còn lại.
Về lý thuyết, việc giám sát như vậy có thể đã ngăn chặn sự cố Hugging Face — và việc giám sát loại đó có giá 2,94 USD với Jev, so với 372 USD với một LLM tiên tiến.
Một quan sát quan trọng là Jev có lẽ đủ rẻ để chạy trên mọi hành động của tác nhân, cung cấp một lớp xem xét có thể cải thiện độ tin cậy của các tác nhân nói chung. Đó là loại điều mà TypeSafe đã hy vọng đạt được — và giờ đây OpenAI cũng đã thấy được giá trị của nó.
🗞 Nguồn: TechCrunch
#vgsnews #vgs #tintuc
Nguồn: TechCrunch
