#官方文档链接 https://dcnsxxvm4zeq.feishu.cn/wiki/XOnXwC2btiw8YDkyFQsctFAEnHf?fromScene=spaceOverview —————————– ————————————————– ————————————————- #介绍：支持API接入或者本地大模型接入#Step 1： ·base_url：参考以下[api_key合辑]中的填写规范； ·api_hey：不同的LLM的api_key不同，填写方式同参照[API_KEYS] #Step 2： ·models_name：输入你需要调用的大模型名称，如：qwen2:latest。 ———————————– ————————————————– ——————————- #注： ·可以用[ollama](https://github.com/ollama /ollama) 来管理你的模型； ·在api_key填入ollama，base_url填入http://127.0.0.1:11434/v1，在model_name填入你的模型名称，例如:llama3、qwen2:latest；或者直接开启is_ollama属性，这样你只要填入model_name就可以使用ollama了。 · 以ollama的方式加载的部分模型并且没有工具调用功能（如：llama3），当你连入工具后会报错，接下来你可以将LLM_api节点上的·is_tool_in_sys_prompt属性打开，工具信息则系统提示词的方式输入LLM，让LLM临时获得工具调用能力。 ——————- ————————————————– ———————————————————– #[api_key合辑] [API_KEYS] base_url = https:
声明：本站所有文章，如无特殊说明或标注，均为本站原创发布。任何个人或组织，在未征得本站同意时，禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益，可联系我们进行处理。
