中國信通院將發布公有云大模型 Token 服務性能測評
媒體報導指出,中國信息通信研究院將於 6 月 16 日在北京召開「高質量 Token 服務研討會」,會議上將首次發布公有云大模型 Token 服務性能測評結果。此次測評由信通院等機構主導,旨在對主流 Token 服務平台的吞吐率、時延等關鍵性能指標進行量化評估。同時,會議將發布一系列相關標準,並為通過認證的服務平台頒發證書。數據顯示,我國日均 Token 調用量已從 2024 年初的千億次級別躍升至 140 萬億次以上,反映出 AI 大模型應用的快速增長。此次研討會旨在推動 Token 服務質量的提升,促進產業標準化和健康發展。
來源
來源:媒體報導
- 媒體報導中国信息通信研究院