PrismML mang mô hình ngôn ngữ nhỏ gọn lên kính thông minh chạy chip Qualcomm

🚀 PRISMML MANG MÔ HÌNH NGÔN NGỮ NHỎ GỌN LÊN KÍNH THÔNG MINH CHẠY CHIP QUALCOMM

Phòng thí nghiệm AI PrismML — được thành lập bởi các nhà nghiên cứu tại Caltech và có cố vấn là Ion Stoica từ UC Berkeley — đã tạo ra một phiên bản mô hình ngôn ngữ nhỏ gọn dành cho kính thông minh chạy trên chip Snapdragon của Qualcomm. Vào thứ Tư, tại sự kiện Snapdragon Summit của Qualcomm, nhà sản xuất chip này đã trình diễn mô hình Bonsai LLM 1-bit của PrismML, có khả năng chạy cục bộ trên kính thông minh AI được xây dựng dựa trên nền tảng Snapdragon AR1 Gen 1. Như TechCrunch đã đưa tin trước đó, điểm nổi bật của PrismML là khả năng thu nhỏ đáng kể các mô hình lớn (trong trường hợp này là gấp 4 lần) mà vẫn duy trì gần như toàn bộ hiệu suất của chúng trên các tiêu chuẩn đánh giá thông thường. Phiên bản dành cho kính thông minh là một mô hình 2 tỷ tham số được tinh chỉnh cho cả thị giác và ngôn ngữ, giúp người đeo có thể hỏi về những gì họ đang nhìn thấy theo thời gian thực. Mục tiêu lớn hơn của Prism là phát triển AI trọng số mở (open-weight) có khả năng chạy trên thiết bị và tận dụng tốt hơn sức mạnh tính toán mà chúng đang sẵn có. Startup này quảng bá giải pháp này như một sự thay thế cho việc phải phụ thuộc vào các cam kết bảo mật từ các phòng thí nghiệm AI độc quyền và nhu cầu tính toán khổng lồ của họ. Việc phát hành mô hình cho chip của Qualcomm là một bước tiến hướng tới tầm nhìn đó. Tuy nhiên, hiện tại vẫn chưa có chiếc kính thông minh nào chạy PrismML được công bố.

🗞 Nguồn: TechCrunch

#vgsnews #vgs #tintuc