一、选择合适的模型进行语言分析和sql生成处理。考虑到本地部署,应根据硬件服务器的参数选择合适的模型部署。我选择的是gemma3:27b和qwen2.5-coder:32b。这里没有选择ds,相较于Gemma3,ds略显臃肿且不具备多模态的分析能力。
二、创建知识库
这步就是把数据库的结构导出来录入到知识库。
这里需要注意的是需要按照查询语句的格式进行分割。
三、工作流共分6步如下:开始——知识检索——SQL自然语言处理——代码执行GET请求,返回的数据利用Gemma3进行处理,结束输出LLM文本。
这里需要注意的是SQL语言处理时提示词的写法:角色–目标–要求–示例。下图是我的一个例子。
进行ge请求的时候需要自己编写相应的程序,返回json喂给大模型进行语义分析和数据处理。
Dify的应用可以单独发布,独立访问,并且具备日志分析功能。