Amazon ra mắt mô hình ra quyết định mã nguồn mở Strands Decider 2B

🚀 AMAZON RA MẮT MÔ HÌNH RA QUYẾT ĐỊNH MÃ NGUỒN MỞ STRANDS DECIDER 2B

Amazon Web Services vừa phát hành một mô hình ra quyết định mã nguồn mở lấy cảm hứng từ Jev của TypeSafe, trong bối cảnh các nhà phát triển AI đang ngày càng tìm kiếm các giải pháp thông minh phù hợp hơn cho việc tự động hóa máy tính thay vì các mô hình LLM tiên tiến.

Strands Decider 2B của Amazon, được ra mắt cùng tuần OpenAI công bố một sản phẩm tương tự, là một công cụ tốc độ cao, chi phí thấp dùng để lựa chọn giữa các phương án đã được định trước và đưa ra mức độ tin cậy đối với lựa chọn đó. Mô hình này hoàn toàn là mã nguồn mở, đã có sẵn và đủ nhỏ gọn để chạy cục bộ.

Kỹ sư trưởng của Amazon, Marc Brooker, đã nảy ra ý tưởng cho dự án này sau khi nhìn thấy Jev và thử tự xây dựng một mô hình tương tự. Dự án tự làm này đã thành công rực rỡ khi từng vươn lên vị trí dẫn đầu bảng xếp hạng Jevbench đối với các mô hình cùng kích thước, đến mức các kỹ sư Amazon đã tinh chỉnh và phát hành nó dưới dạng một sản phẩm từ Strands Labs, một tổ chức phát triển các công cụ và giao thức mới để triển khai các tác nhân AI (AI agent).

Brooker cho biết nhu cầu về một công cụ như thế này xuất hiện từ các cuộc trò chuyện với khách hàng AWS, những người có quy trình làm việc dạng tác nhân không phải lúc nào cũng đòi hỏi năng lực hoặc chi phí của một LLM đầy đủ tính năng.

"Điều ban đầu thu hút sự quan tâm của tôi đối với lớp mô hình này là chúng tạo ra một bộ quyết định hoàn hảo cho một bước trong quy trình làm việc — 'điều tiếp theo tôi cần làm ở đây là gì, dựa trên vị trí hiện tại của tôi?'", Brooker chia sẻ với TechCrunch. Ông cho biết nó mang lại cho khách hàng "một bước quy trình làm việc có thể được cấu trúc theo cách đáng tin cậy hơn, nhờ vào điểm số độ tin cậy, nhờ vào miền câu trả lời khép kín, đồng thời có độ trễ thấp hơn và chi phí có thể thấp hơn."

Giống như các mô hình ra quyết định khác, Strands Decider được xây dựng dựa trên phần "thân" của một LLM, trong trường hợp này là Qen3.5-2B, nhưng thay vì tạo ra văn bản, nó đưa ra các lựa chọn đã được hiệu chỉnh. TypeSafe đặt tên mô hình của họ là Jev theo tên nhà kinh tế học William Stanley Jevons, với hy vọng gợi nhắc lại lý thuyết của ông rằng chi phí giảm đi của một thứ gì đó — như trí tuệ máy tính — trên thực tế có thể làm tăng nhu cầu về nó.

Việc hàng chục mô hình tương tự được tạo ra bởi các nhà nghiên cứu kể từ khi TypeSafe ra mắt ý tưởng cho thấy sự quan tâm rộng rãi, nhưng cũng đặt ra câu hỏi về mức độ giá trị mà chúng có thể mang lại. Brooker gợi ý rằng thử thách sẽ nằm ở việc tối ưu hóa khả năng ra quyết định nhanh chóng của mô hình mà không làm tổn hại đến trí thông minh của nó.

"Có một sự cân bằng rất cẩn trọng cần phải tìm ra khi bạn muốn thúc đẩy hiệu suất của nó về độ chính xác và khả năng hiệu chỉnh cho những loại tác vụ này, mà không làm giảm hiệu suất của nó trong việc hiểu các ngôn ngữ khác nhau, hay việc sở hữu loại kiến thức mà nó có, điều làm cho nó trở nên đa năng, thú vị và hữu ích," ông nói với TechCrunch.

Mặc dù vậy, ông không kỳ vọng các phòng thí nghiệm tiên tiến sẽ thống trị lĩnh vực này, đặc biệt là với các thị trường nhỏ hơn, chi phí để xây dựng một thứ gì đó thú vị chỉ nằm trong khoảng hàng trăm hoặc hàng nghìn USD.

Về phần mình, các giám đốc điều hành của TypeSafe cho biết họ đang tập trung vào công việc và cải tiến các mô hình trong tương lai.

"Tôi hiểu rằng mọi người nghĩ đây là một cơn sốt vàng, nhưng họ có thể đang đánh giá thấp độ khó trong việc làm cho các mô hình thực sự thông minh," CEO kiêm nhà sáng lập Diogo Almeida chia sẻ với TechCrunch, đồng thời cho biết hiện tại ông chưa thấy sự cạnh tranh thực sự nào xuất hiện đối với công ty của mình.

"Lô sản phẩm hiện tại có vẻ giống như những người làm máy học muốn triển khai một kiến trúc thú vị hơn là một đội ngũ tận tâm làm cho trí tuệ trở nên hữu ích."

🗞 Nguồn: TechCrunch

#vgsnews #vgs #tintuc