月之暗面 Kimi 開放平臺:上下文緩存存儲費(fèi)降價 50%,低至5元/1M tokens/min
快訊
2024年08月07日 14:12 2
admin
新浪科技訊 8月7日午間消息,月之暗面旗下Kimi 開放平臺宣布,上下文緩存 Cache 存儲費(fèi)用降價50%,Cache 存儲費(fèi)用由10元/1M tokens/min,降低至5元/1M tokens/min。
上下文緩存(Context Caching)是一種高效的數(shù)據(jù)管理技術(shù),它允許系統(tǒng)預(yù)先存儲那些可能會被頻繁請求的大量數(shù)據(jù)或信息。這樣,當(dāng)用戶再次請求相同信息時,系統(tǒng)可以直接從緩存中快速提供,而無需重新計算或從原始數(shù)據(jù)源中檢索,從而節(jié)省時間和資源。
Cache 存儲費(fèi)用是指,Cache 存活時間內(nèi),按分鐘收取 Cache 存儲費(fèi)用。上下文緩存(Context Caching)儲存費(fèi)的下降,有利于頻繁請求kimi,重復(fù)引用大量初始上下文的用戶,可有效降低長文本模型費(fèi)用并提高效率!
相關(guān)文章
最新評論