GPTCache 为 LLM 查询创建语义缓存的库

GPTCache 是一个用于创建语义缓存以存储来自 LLM 查询的响应的库。将你的 LLM API 成本削减 10 倍，将速度提高 100 倍。 ChatGPT 和各种大型语言模型（LLM）拥有...