tokenspeed

聊天机器人那套推理引擎不够用了：TokenSpeed 想把 Agent 场景的缓存复用率拉到 99%

用聊天机器人的思路去服务 Agent，就像用出租车调度系统去管一支货运车队：单看每一单都没问题，放到全天候、多轮次、长上下文的真实负载里，账立刻算不平。 TokenSpeed 在 AICon 2026 深圳站分享 Age…