一个在本地部署的人工智能语言模型项目ollama,即你的 PC 不需要联网,用命令框就能和智能助手文字对话,敲代码,写论文,或者聊聊天。可以使用全球范围内已开源的人工智能语言模型,包括通义千问Qwen,llama3,phi-3,OpenAI和Google的gemma等(它官网有提供的,你不用去找)。
因为本人是个穷苦的傻逼大学生,所以本文只讲windows安装过程,Mac和linux安装方法请查阅ollama官网,有一键部署指令,这里不过多阐述。
如果网络环境有问题,请自行解决。
好的教程开始👇
ollama官网:
下载安装
(tips:默认只能安装在C盘,如需更改安装路径请自行百度:ollama更改盘符)
安装完成后启动
命令提示符
:键入win+R
,输入cmd
,开启命令行窗口后输入ollama
然后回车Enter
,出现下图所示界面则安装成功.接下来安装语言模型,根据自己设备配置和需求选择语言模型下载。
假设安装的语言模型是
opanchat
,那么在模型详情页面会看到如下窗口点击复制,再次打开
cmd
命令行窗口,粘贴刚刚复制的命令然后回车Enter
,模型会自己开始下载,速度取决于你的网速和选择的模型大小#注意:模型所需配置大于宿主机配置会导致无法启动#
下载完成后您会看到以下提示
当命令行出现
send message
意味着可以和模型开始对话,如图所示:后续启动对话依旧是以命令行的方式启动:
ollama run openchat #此处为所下载的模型名称 #获取提示请输入ollama /help
#你也可以创建一个快捷启动脚本:新建文本文件,粘贴启动命令,把文件后缀改为bat脚本,双击启动即可#
现在你可以愉快地玩耍了😊
注:因为项目更新迭代原因,后续 ollama配置文件和模型均有更改,但大概思路不变,如果你还是不理解,你也可以寻求我的帮助「在主页」
如需可视化UI请自行配置MaxKB
#基于本地端口的网页版对话界面#