基于ChatGLM-6B使用ptuning进行微调，实现类instruction的效果

由于ChatGLM-6B 不支持instruction，所以在进行角色扮演任务时具有不稳定性。本项目通过模板生成超小语料数据集，使用ptuning 进行微调，实现角色扮演的效果。
📜 通过外挂知识库的方式进行角色背景设定。

• Python 3.10

• 基本信息
• 背景设定
• 性格、情绪

1. 安装依赖

   # 安装ChatGLM-6B所需依赖
   $ pip install -r chatglm_6b/requirements.txt
   # 安装ptuning依赖
   $ pip install rouge_chinese nltk jieba datasets
   # 安装本项目所需依赖
   $ pip install -r requirements.txt

2. 训练模型

   可以删除 train_instruction.sh 中的--quantization_bit参数，不使用量化。

   # 构造数据集
   $ python dataset.py
   # 训练
   $ bash train_instruction.sh

   从 Google Drive 下载已经训练的权重文件，放在 ckpt 目录下，跳过此步骤。

3. 运行

   $ bash web_demo.sh

4. 访问
   浏览器直接打开 http://127.0.0.1:7860

• 以上数据为单张RTX 3090显卡的测试结果
• epoch: 50

• ChatGLM-6B 提供基础模型
• langchain-ChatGLM 提供知识库解决方案