Tác nhân AI hiện sử dụng nhiều hơn con người gấp 5 lần về số lượng token
Các tác nhân AI đang tiêu thụ lượng token gấp 5 lần so với con người, chủ yếu do việc đọc lại các đoạn prompt đã lưu trong bộ nhớ cache. Con số này dự kiến sẽ còn tăng mạnh lên gấp 10 lần trong thời gian tới.
CEO Daniel Newman của Futurum Group đã viết trong một bài đăng trên X rằng "AI hiện đang được sử dụng bởi AI nhiều gấp 5 lần so với con người. Con số đó sẽ tăng tốc lên 10 lần và sau đó cao hơn nữa." Dữ liệu của ông, dựa trên biểu đồ từ Andreessen Horowitz (a16z) về các số liệu của OpenRouter, cho thấy các tác nhân AI đạt 7.3 nghìn tỷ token so với 1.4 nghìn tỷ của con người tính đến tháng 8, sáu tháng sau khi mức sử dụng của tác nhân vượt qua con người lần đầu tiên. Tuy nhiên, các tác nhân phần lớn đang đọc lại những gì chúng đã thấy: hơn 85% token của tác nhân đến từ các prompt được lưu trong bộ nhớ cache, a16z viết, dẫn nguồn từ OpenRouter.
🔧 TÁC NHÂN AI HIỆN SỬ DỤNG NHIỀU HƠN CON NGƯỜI GẤP 5 LẦN VỀ SỐ LƯỢNG TOKEN CEO Daniel Newman của Futurum Group đã viết trong một bài đăng trên X rằng "AI hiện đang được sử dụng bởi AI nhiều gấp 5 lần so với con người. Con số đó sẽ tăng tốc lên 10 lần và sau đó cao hơn nữa." Dữ liệu của ông, dựa trên biểu đồ từ Andreessen Horowitz (a16z) về các số liệu của OpenRouter, cho thấy các tác nhân AI đạt 7.3 nghìn tỷ token so với 1.4 nghìn tỷ của con người tính đến tháng 8, sáu tháng sau khi mức sử dụng của tác nhân vượt qua con người lần đầu tiên. Tuy nhiên, các tác nhân phần lớn đang đọc lại những gì chúng đã thấy: hơn 85% token của tác nhân đến từ các prompt được lưu trong bộ nhớ cache, a16z viết, dẫn nguồn từ OpenRouter. 🗞 Nguồn: Tom's Hardware #vgsnews #vgs #tintuc
Nguồn: Tom's Hardware
