有趣的 Dify实现语言模型与本地数据库的联合查询示例 Nin 2025年3月21日 2025年3月22日 业务需求 大语言模型日益普及,从ChatGpt时刻到可以本地部署的Deepseek,一夜之间仿佛带来了改变世界的浪潮。但是应用起来结合业务实现本地化功能的实践不多。出于业务考量,能够运用大模型强大的推理思索能力实现数据的本地分析和处理是一个突破口。在网络里发现dify这个强大的开源平台可以做的事情很多。 DIfy 就我的理解Dify是一款开源的Ai应用开发平台,可以利用可视化的界面迅速的创建出工作流、智能体、聊天机器人等工具,实现业务的快速开展。按照官方文档可以接入的模型如下:系统推理模型、Embedding 模型、Rerank 模型、语音转文字模型。这些模型dify均提供了接口服务,或者也可以通过ollama本地部署直接调用。 工作流实现数据分析步骤 一、选择合适的模型进行语言分析和sql生成处理。考虑到本地部署,应根据硬件服务器的参数选择合适的模型部署。我选择的是gemma3:27b和qwen2.5-coder:32b。这里没有选择ds,相较于Gemma3,ds略显臃肿且不具备多模态的分析能力。二、创建知识库这步就是把数据库的结构导出来录入到知识库。这里需要注意的是需要按照查询语句的格式进行分割。三、工作流共分6步如下:开始——知识检索——SQL自然语言处理——代码执行GET请求,返回的数据利用Gemma3进行处理,结束输出LLM文本。这里需要注意的是SQL语言处理时提示词的写法:角色–目标–要求–示例。下图是我的一个例子。进行ge请求的时候需要自己编写相应的程序,返回json喂给大模型进行语义分析和数据处理。Dify的应用可以单独发布,独立访问,并且具备日志分析功能。 成品如右图,LLM的输出以最开始的输入变量为标准要求。Dify还有许多其他的只能应用,可以进一步挖掘。 ps:原来的us.kg域名被收回,看来还是clooudns稳定!