绪论书接上回,之前我写到过通过极空间部署kimi的API接口从辛勤毕kimi大模子的使用,但由于经过许多东说念主照旧没看懂,且不知说念怎么对接到web就业中,于是今天便从头写写,同期我们将这个就业升级,除了kimi再将智谱、千问等大模子接入到我们的极空间中去部署。,为了护理老用户,此次我依然使用极空间来部署,何况经过会更为详备。储藏心机一下不外分吧!Z423本次通盘部署经过会触及一共四个容器,我这里秉承的建筑为极空间Z423,手脚民用级的NAS性能巅峰居品,除了出厂自带的32G大内存关于心爱折腾多样玩法的东说念主来说很友好,Z423的AMD锐龙7 5825U亦然现在我使用过最强的NASCPU了。现在我Docker中照旧部署十多个技俩加上虚构机一个,可以看到CPU的占用险些不动,内存也完全莫得蹙悚。虽然了,今天先容的容器在老款Z4S以及最新的Z4Pro也可以趁机畅通动手。部署经过最初我们需要先部署一个web就业用于联络这些API接口,这么你材干通过可视化的界面来使用多样各种的大模子。市面上现在照旧蛮多这么的web哄骗了,但无一例外大多皆是套壳NextChat,是以我们干脆告成使用NextChat。NextChatNextChat的部署并不难,最初我们拜谒极空间的Docker界面,在仓库中告成搜索yidadaa/chatgpt-next-web,若是下载超时,可以通过自界说拉取加代理的形貌。技俩下载收受自界说拉取,随后在技俩名前边加上dockerproxy.com,这么便可以已毕更快的拉取镜像文献。(网址后头牢记要加/象征哦!)加快镜像镜像下载之后我们收受镜像创建容器,容器端口3000不变,腹地端口简短不突破就行。端口映射环境变量这里可以可以填写API的代理地址,key和拜谒密码,这里可以暂时不填写,毕竟我们还莫得获得到key,拜谒密码变量为code,看你我方是否需要了,不填默许无密码。环境变量我这里告成完全不填写,随后告成创建容器。创建好之后我们开放极空间的资料拜谒功能(只可使用客户端)新建NextChat的资料拜谒,地址为127.0.0.1:腹地端口,举例我这里就是127.0.0.1:3999。资料拜谒这技术我们通过资料拜谒的标签就可以拜谒到技俩了,同期也可以将标签贴到首页手脚快捷拜谒图标,极空间这极少照旧蛮便捷的,浅显实用!技俩首页这技术我们还不成发问以及绘图,毕竟我们还莫得填写key。而为了将通盘大模子聚拢到一说念,是以这里我们告成部署one api来已毕API接口的长入。在此之前我们在docker文献夹新建one文献夹(名字简短,好记就行)准备责任随后在极空间的Docker仓库搜索justong/one-api,若是拉取失败,照旧可以选择上述的加代理的体式。one-api收受镜像创建容器,文献夹旅途这里我们将刚刚创建的one文献夹映射旅途设立为/data,端口上容器端口3000不动,腹地端口简短不突破就行了。容器设立随后启动技俩,这技术我们就能得到一个用于对接通盘大模子的就业了,默许的用户名为root密码123456,初次登录会辅导你修改密码。这里我依然使用极空间的资料拜谒剪辑好,这么便捷我们告成使用。技俩预览这里我们照旧为api的接入作念好了通盘准备责任了,接下来等于大模子的api搭建。最初是kimi模子。告成开放Docker仓库界面搜索:kimi-free-api下载镜像,镜像并不大,部署好也就200多M。(需要防御的事,该技俩现在仅用于私用,再次感谢LLM Red Team大模子红队组织的开源技俩。)技俩下载下载之后我们告成创建容器,这里只需要将端口8000映射出去就可以了。这技术你的kimi接口便为你的ip地址+腹地端标语,举例我这里就是http://192.168.101.12:8700。端口映射接口有了,还需要获得对应的key。kimi的key很好获得,登录kimi的官网,注册登录账号之后随意发起一段对话。随后按F12开放浏览器的征战东说念主员功能,这里我使用的为Edge浏览器,是以点击哄骗次序-腹地会话功能,找到refresh_token这一项,将其中的值记载下来,这就是稍后需要使用到的key。若是你是谷歌或其他浏览器,征战选项为英文界面,那么就在Application > Local Storage中去找。key这技术我们便得到了kimi的api接口以及key。由于kimi现在不守旧ai绘图,是以我们还需要其他模子,是以这里我们再选择LLM Red Team大模子红队的开源技俩glm-free-api来获得智谱清言的api接口以及key。Docker中搜索vinlic/glm-free-api下载镜像。智谱清言依然照旧雷同,只需要映射端口即可。端口映射之后告成启动技俩,接着我们去智谱清言的官网获得key。注册登录一个账号,随后随意发起一段对话,随后按下F12获得到key。这技术我们便得到了智谱清言的接口与key了。获得key临了我们开放刚刚部署的one api技俩界面,在渠说念中添加kimi以及智谱清言,这里需要防御模子的收受,kimi由于不守旧ai绘画,是以只需要收受对话模子即可,可以参考我这里的设立,代理地址等于我们刚刚搭建的kimi接口地址,密钥则是我们刚刚通过F12获得的值。kimi设立智谱清言因为具备ai绘图的才略,是以在设立中我们需要添加上dall-e-2大致-3皆可以。他起模子有莫得皆无所谓,加上也不碍事,代理和密钥同上。智谱设立临了点击令牌,收受添加一个令牌,随后复制我们的令牌。再转到我们搭建的NextChat技俩,点击右下角的设立项收受自界说接口,接口地址则是我们搭建的one-api就业地址,举例我这里就为http://192.168.101.12:3300。API key则是我们刚刚获得到的令牌。web设立这技术我们就能告成对话了,通过极空间的资料拜谒功能将NextChat固定到桌面,这么便可以告成在极空间中开放就业,从辛勤毕对话了。kimi展示写在临了通盘经过需要部署的容器技俩较多,是以念念要体验的牢记一定要耐性,部署完成之后基本只好收罗不出问题,基本就不会有问题了。上篇著作发布亦然蛮多东说念主问,是以今天特此出更为详备的本色,不得不说极空间NAS现在的用户量越来越多了,可以的性能成立加上更为浅显便捷的操作设立,校服NAS会跟着极空间的发展越来越晋升到全球家庭。
以上等于本期的全部本色了开云kaiyun,若是你以为还算意旨大致对你有所匡助,不妨点赞储藏,临了也但愿能得到你的心机,我们下期见!