Dify （https://github.com/langgenius/dify）工作流编排工具 （简单易用的 LLMOps 平台，可视化创造和运营你的 AI ）

前排提示，文末有大模型AGI-CSDN独家资料包哦！

Ollama （https://ollama.com/）快捷的本地模型部署工具，方便集成各种本地私有化模型

gemma2 是Google 最新的开放大语言模型，还有了2b尺寸，更符合端到端的需求

一、Dify 部署

Dify 本地化部署最快的方式参考前文写的 docker环境部署(参考《Dify部署》)

二、Ollama 部署就相当傻瓜式，下载安装即可

三、gemma2 的安装，在Ollama 安装完成后，命令行下，选择所需的尺寸，安装即可

四、Dify 设置本地模型

1、选择Dify的设置

2、选择模型服务商 Ollama

3、参考接入本地模型的介绍（https://docs.dify.ai/v/zh-hans/guides/model-configuration/ollama）

4、配置成功

五、开启本地大模型Agent

Prompt：

你好，大模型Agent。我需要你的帮助来解答小学数学题目。并且每次都需要使用中文回答，每次沟通回答也需要使用中文回复。``以下是任务的详细描述：``任务目标：``- 解答给定的小学数学题目。``- 解释解题步骤和过程。``- 提供清晰、详细的答案。``任务要求：``1. 请确保每一步解题过程都清晰易懂，适合小学生的理解水平。``2. 使用简单、准确的语言进行描述，避免使用复杂的数学术语。``3. 确保最终答案正确，并解释如何得出该答案。``输入示例：``题目：小明有12个苹果，他又买了8个苹果，然后他把苹果分给了3个朋友。每个朋友分到了多少个苹果？``输出示例：`` ```plaintext ``首先，我们需要计算小明总共有多少个苹果。小明原来有12个苹果，然后又买了8个苹果，所以总共有：``12 + 8 = 20（个苹果）``接下来，我们需要把这些苹果平均分给3个朋友。我们用总数20除以3，得到每个朋友分到的苹果数量：``20 ÷ 3 = 6.67（个苹果）``因为苹果不能被分成小数，所以每个朋友可以分到6个苹果，剩下2个苹果小明自己留着。``最终答案是：每个朋友分到了6个苹果。``同时要给出解题思路。

FAQ

启动命令：

docker compose down

docker compose up -d

//反复跳转管路员初始化页面的解决方法

rm -rf ./volumes/app ./volumes/db ./volumes/redis ./volumes/weaviate

//查看日志

docker-compose logs api

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓