Technology · Culture · Change
Sign inJoin us
TechTrends NowFollow the next shiftTechnology · Culture · Change
← Latest news

From Dev.to

datasette-llm 0.1a11:通过 OpenAI 兼容接口接入本地模型

datasette-llm 是 Datasette 的大语言模型配置中间层插件,负责为其他 Datasette 插件配置模型。 0.1a11 版本新增了 OpenAI 兼容接口支持。只要模型服务提供兼容接口,就可以接入 Datasette,不必限定模型的部署位置。对于通过 LM Studio、Ollama 或 llama.cpp 运行本地模型的开发者,这也提供了将本地模型与 Datasette A...

Read the full report at Dev.to ↗