LLM GATEWAY 连接中… 字号 主题 key
统计时间口径作用于概览与三张统计表(最近请求页有自己的筛选)
请求总数
-
错误 - · 运行 -
输入 / 输出 tokens
-
推理 -
生成速度(token/s)
-
输出 token ÷(总耗时−首字)
缓存命中率
-
命中 token - / 输入 -
数据量(上行 / 下行)
-
实际写出 - · 请求体 / 上游响应体
首字 / 总耗时(均)
-
-
输入 tokens 按本地时间
上游额度
读取中…