ollama
💫

ollama

创建时间
May 22, 2024 07:09 AM
标签
一个在本地部署的人工智能语言模型项目ollama,即你的 PC 不需要联网,用命令框就能和智能助手文字对话,敲代码,写论文,或者聊聊天。可以使用全球范围内已开源的人工智能语言模型,包括通义千问Qwenllama3phi-3OpenAIGooglegemma等(它官网有提供的,你不用去找)。
因为本人是个穷苦的傻逼大学生,所以本文只讲windows安装过程,Mac和linux安装方法请查阅ollama官网,有一键部署指令,这里不过多阐述。
如果网络环境有问题,请自行解决。
好的教程开始👇
ollama官网
下载安装(tips:默认只能安装在C盘,如需更改安装路径请自行百度:ollama更改盘符)
notion image
安装完成后启动命令提示符:键入win+R,输入cmd ,开启命令行窗口后输入ollama然后回车Enter,出现下图所示界面则安装成功.
notion image
接下来安装语言模型,根据自己设备配置和需求选择语言模型下载。
notion image
假设安装的语言模型是opanchat,那么在模型详情页面会看到如下窗口
notion image
点击复制,再次打开cmd命令行窗口,粘贴刚刚复制的命令然后回车Enter ,模型会自己开始下载,速度取决于你的网速和选择的模型大小
#注意:模型所需配置大于宿主机配置会导致无法启动#
下载完成后您会看到以下提示
notion image
当命令行出现send message意味着可以和模型开始对话,如图所示:
notion image
后续启动对话依旧是以命令行的方式启动:
ollama run openchat #此处为所下载的模型名称 #获取提示请输入ollama /help
#你也可以创建一个快捷启动脚本:新建文本文件,粘贴启动命令,把文件后缀改为bat脚本,双击启动即可#
现在你可以愉快地玩耍了😊
注:因为项目更新迭代原因,后续 ollama配置文件和模型均有更改,但大概思路不变,如果你还是不理解,你也可以寻求我的帮助「在主页
如需可视化UI请自行配置MaxKB
#基于本地端口的网页版对话界面#
notion image