Kimi 开放平台上下文缓存功能公测:降低最高 90% 的使用成本
嘿,你知道吗?系统之家的月之暗面 Kimi 开放平台最近开了个上下文缓存的功能,正在公测呢!这个功能特别适合那些经常需要请求、引用大量初始上下文的场景,可以帮你省下不少钱,而且还能提高效率哦!官方说,最多能省下 90% 的费用,首 Token 延迟也能减少 83%,让你的模型响应速度更快哦!怎么样,是不是很赞啊?
系统之家附 Kimi 开放平台上下文缓存功能公测详情如下:
技术简介
据介绍,上下文缓存是一种数据管理技术,允许系统预先存储会被频繁请求的大量数据或信息。当用户请求相同信息时,系统可以直接从缓存中提供,无需重新计算或从原始数据源中检索。
适用场景
适用业务场景如下:
提供大量预设内容的 QA Bot,例如 Kimi API 小助手
针对固定的文档集合的频繁查询,例如上市公司信息披露问答工具
对静态代码库或知识库的周期性分析,例如各类 Copilot Agent
瞬时流量巨大的爆款 AI 应用,例如哄哄模拟器,LLM Riddles
交互规则复杂的 Agent 类应用等
计费说明
上下文缓存收费模式主要分为以下三个部分:
Cache 创建费用
调用 Cache 创建接口,成功创建 Cache 后,按照 Cache 中 Tokens 按实际量计费。24 元 / M token
Cache 存储费用
Cache 存活时间内,按分钟收取 Cache 存储费用。10 元 / M token / 分钟
Cache 调用费用
Cache 调用增量 token 的收费:按模型原价收费
Cache 调用次数收费:Cache 存活时间内,用户通过 chat 接口请求已创建成功的 Cache,若 chat message 内容与存活中的 Cache 匹配成功,将按调用次数收取 Cache 调用费用。0.02 元 / 次
公测时间和资格说明
公测时间:功能上线后,公测 3 个月,公测期价格可能随时调整。
公测资格:公测期间 Context Caching 功能优先开放给 Tier5 等级用户,其他用户范围放开时间待定。
以上是系统之家提供的最新资讯,感谢您的阅读,更多精彩内容请关注系统之家官网。
系统下载排行榜71011xp
萝卜家园Win7 sp1 64位旗舰版 V2021.05
2系统之家Win7 64位纯净版ISO镜像下载V2024
3【系统之家】Windows7 64位 官方专业版
4【低配首选】深度技术 Ghost Win7 SP1 32位 旗舰精简版
5深度纯净版win7旗舰版镜像(支持USB3.0)
6系统之家 Ghost Win7 极限精简版 V2024
7深度技术 Win7 64位精品旗舰版(带USB3.0/3.1驱动,新电脑) V2024
8深度Ghost Win7纯净版(新机型新技术)镜像V2024
9Win7系统 64位旗舰版(新机型+深度优化) V2024
10系统之家Win7系统64位旗舰版(专业优化+新机型USB3.0支持)
【干净不带软件】Windows10 22H2 64位 纯净专业版
2【系统之家】Windows10 22H2 64位 游戏优化版
3【高性能系统】Windows10 22H2 64位 纯净专业工作站版
4【高性能系统】Windows10 22H2 64位 专业工作站版
5【适合家庭/个人】Windows10 22H2 64位 家庭中文版
6【长期支持】Windows10 64位 企业版LTSC 2021
7【深度技术】Windows10 64位 专业精简版
8【惠普通用】HP Windows10 64位 专业装机版
9【适合家庭/个人】Windows10 22H2 64位 家庭纯净版
10【联想通用】Lenovo Windows10 64位 专业装机版
【干净无捆绑】真正纯净版的Win11 64位 专业版系统
2【娱乐专属】Windows11 22H2 64位 电竞游戏版
3不忘初心Win11 22H2 X64无更新纯净精简版 V2023
4Windows11 23H2 64位 专业纯净版镜像
5【新机预装系统】Windows11 23H2 64位 高级中文家庭版
6系统之家Ghost Win11中文专业版 V2023
7系统之家Win11纯净版精简镜像
8Win11 22H2(22621.819) 11月更新 V2022
9戴尔笔记本 Win11 64位 最新正式版 V2023
10系统之家 Ghost Win11 64位 精简纯净版 V2023
系统之家Ghost WinXP SP3专业版 V2021.10
2番茄花园Ghost XP Sp3纯净版 V2021.08
3深度技术Windows XP SP3 经典专业版 V2021.06
4电脑公司 Windows XP 经典版 V2021.04
5风林火山WindowsXP Sp3专业版 V2022.01
6萝卜家园 Windows Sp3 XP 经典版 V2021.04
7番茄花园WindowsXP Sp3专业版 V2021.06
8技术员联盟 Ghost WinXP SP3 精简版 V2021.12
9萝卜家园WindowsXP Sp3专业版 V2021.05
10深度技术GHOST XP SP3 通用装机版 V2021.04
热门教程 更多+
U盘装Win10显示:Windows无法打开所需的文件F:\sources\install.wim怎么办?
2Win10任务栏假死怎么彻底解决 Win10任务栏假死真正解决办法
3Win11开机自动安装垃圾软件怎么办?Win11阻止流氓软件自动安装教程
4Win10 Ltsc是什么版本 Win10 Ltsc版好用吗
5装Win10系统用磁盘分区类型选mbr好还是GUID分区格式好?
6Win10提示你的设备中缺少重要的安全和质量修复的解决方法
7戴尔电脑Win10如何重装Win7?戴尔电脑Win10重装Win7的方法
8Win11开机一直转圈怎么办 Win11开机一直转圈的解决办法
9Win10原版镜像怎么用PE安装 PE安装Win10原版镜像教程
10Win10系统的C盘如何扩大?Win10系统的C盘扩大的方法
装机必备 更多+
重装教程 更多+
电脑教程专题 更多+




