Skip to content

Commit 3b075bc

Browse files
committed
chore: add for images
1 parent 3fefe51 commit 3b075bc

File tree

3 files changed

+20
-7
lines changed

3 files changed

+20
-7
lines changed

README.md

Lines changed: 18 additions & 5 deletions
Original file line numberDiff line numberDiff line change
@@ -704,6 +704,11 @@ AI 生成的代码被开发者入库的比例。
704704
随后,我们需要部署模型,并提供一个对应的 API,这个 API 需要与我们的 IDE 接口保持一致。这里我们采用了 OpenBayes
705705
平台来部署模型。详细见:`code/server` 目录下的相关代码。
706706
707+
```bash
708+
pip install -r requirements.txt
709+
python server-python38.py
710+
```
711+
707712
如下是适用于 OpenBayes 的代码,以在后台提供公网 API:
708713
709714
```python
@@ -748,15 +753,23 @@ if __name__ == "__main__":
748753
| 内部代码补全 | 大于 10,000 | 不需要 |
749754
| IDE + 代码补全 | 大于 10,000 | 需要 |
750755
751-
#### DeepSeek 微调
756+
#### OpenBayes + DeepSeek 微调
752757
753-
详细见:[code/finetune/finetune.ipynb](code/finetune/finetune.ipynb)
758+
在这里我们使用的是,以及 DeepSeek 官方提供的脚本来进行微调。
754759
755-
#### 参数配置
760+
- 云 GPU: [OpenBayes](https://openbayes.com/console/signup?r=phodal_uVxU)
761+
- GPU 算力:4090x2 (目测和微调参数有关,但是我试了几次 4090 还是不行)
762+
- 微调脚本:[https://github.com/deepseek-ai/DeepSeek-Coder](https://github.com/deepseek-ai/DeepSeek-Coder)
763+
- 数据集:6000
756764
757-
TODO
765+
我在 OpenBayes 上传了的 DeepSeek 模型:[OpenBayes deepseek-coder-6.7b-instruct](https://openbayes.com/console/phodal/models/zV91IERweWd/1/overview),你可以在创建时直接使用这个模型。
766+
767+
![Finetune Model Choice](images/finetune-model-choice.jpg)
768+
769+
其它:
758770
759-
微调参数,详细见:[Trainer](https://huggingface.co/docs/transformers/v4.36.1/zh/main_classes/trainer)
771+
- 详细的 Notebook 见:[code/finetune/finetune.ipynb](code/finetune/finetune.ipynb)
772+
- 微调参数,详细见:[Trainer](https://huggingface.co/docs/transformers/v4.36.1/zh/main_classes/trainer)
760773
761774
### 数据集构建
762775

code/server/requirements.txt

Lines changed: 2 additions & 2 deletions
Original file line numberDiff line numberDiff line change
@@ -1,8 +1,8 @@
11
accelerate==0.23.0
22
bitsandbytes==0.41.1
3-
gradio==3.48.0
3+
# gradio==3.48.0
44
protobuf==3.20.3
5-
# scipy==1.11.2
5+
scipy==1.11.2
66
sentencepiece==0.1.99
77
spaces==0.16.1
88
torch==2.0.0

images/finetune-model-choice.jpg

208 KB
Loading

0 commit comments

Comments
 (0)