在国内一般人是无法使用正宗Chatgpt的,openai公司对来自中国的IP都是直接ban掉的。而使用一些大神们提供的聚合AI网站,同样也是需要交钱的。
拒绝做韭菜!拒绝做韭菜!拒绝做韭菜!重要的事情说三遍
所以我们今天就来本地部署GPT,在自己的电脑上拥有属于我们自己的GPT,既不用跳墙也不用花银子。
此次部署对电脑的配置基本没有什么要求,不需要GPU!!!
我们需要用到的是一款AIGC大语言模型win版可执行文件。
软件下载后直接双击就可以安装:
安装路径根据自己电脑情况选择,点击下一步自动安装成功。
安装成功之后,桌面会有两个图标:
这个时候先不要启动程序,我们需要在安装程序后的文件里放入语言大模型。模型要放在这个路径的文件夹里:
D:\AIGCDemo\LLM_Demo\checkpoint
这三个模型比较大,这里一起提供给大家
将下载的三个语言模型放入正确的位置后,双击桌面AI Backend图标:
稍等一会:
点击“立即交互”:
出现的提示不要管,直接确定,进入正题:
完全中文交互页面,清爽简洁。
整个软件有三大功能模块:中文应用、英文应用、代码生成。基本涵盖了大语言模型的主要功能。
软件使用非常简单,即使在不联网的情况下也可以正常使用,这就能很好保障我们在使用大模型过程中的个人隐私保密问题,免除我们的后顾之忧。
再汇总一下安装使用注意事项:
安装本程序后,将在桌面创建[AIGC大语言模型] 和 [AI Backend] 2个快捷方式.
[AI Backend] 是AIGC大语言模型的服务环境控制程序,用来启停服务.
[AIGC大语言模型] 是AIGC 大语言模型的客户端程序,在服务启动后,可以让用户进行交互.
模型导入方法:
1.下载模型文件到本地
2.启动 AI Backend
3.在系统托盘区域右键点击AI Backend图标,选择[打开模型文件夹],此时会在Explorer中打开模型文件需要放置的目录.
(模型文件夹在 [安装目录]\LLM_Demo\checkpoint,亦可手动打开 )
4.将下载好的模型文件复制到 步骤3所打开的文件夹中.
5.在系统托盘区域右键点击AI Backend图标,选择[启动服务].[ 此貼被valen在2024-02-22 17:30重新編輯 ]
赞(143)