From Dev.to
datasette-llm 0.1a11:通过 OpenAI 兼容接口接入本地模型
datasette-llm 是 Datasette 的大语言模型配置中间层插件,负责为其他 Datasette 插件配置模型。 0.1a11 版本新增了 OpenAI 兼容接口支持。只要模型服务提供兼容接口,就可以接入 Datasette,不必限定模型的部署位置。对于通过 LM Studio、Ollama 或 llama.cpp 运行本地模型的开发者,这也提供了将本地模型与 Datasette A...
