获取一个无限的AI ChatGPT — 如何在没有Docker的情况下安装Ollama和Open-webgui

《铁甲奇侠》电影预测了ChatGPT的发明。在电影中，托尼·斯塔克使用他的人工智能助手贾维斯来找到零点能源的新元素。现在我们已经进入未来，拥有了Chat GPT。

Chat GPT的竞争对手包括Meta AI、Google Gemini、Duck Duck Go AI Chat、Deep AI等几家公司。

这些云AI提供商的缺点在于它们受到速率限制，意味着您并非拥有无限次使用。

这就是为什么拥有自己的私人托管的AI聊天机器人是一个选择，适合那些用它进行的人;-

• 总结研究论文和在线文章
• 内容创作，以及想要创作病毒文章的人
• 学习，并且希望通过示例编码

以下是Ollama 的官方安装说明。

请访问以下链接查看：https://github.com/ollama/ollama/blob/main/docs/linux.md

在我这里，我使用的是Linux Mint。

让我们下载安装程序，并用sudo运行。

curl -fsSL https://ollama.com/install.sh | sudo sh

检查守护进程是否正在运行。

sudo systemctl status ollama

检查模型。

> ollama --help
Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information
> ollama list
NAME                ID              SIZE      MODIFIED

以上应该显示一个空的模型列表。

让我们下载模型codellama，我们想要像钢铁侠的贾维斯一样使用它。

ollama pull codellama

看这里以获得模型清单。

https://ollama.com/search 在此网址上进行搜索。

现在让我们为ollama安装web GUI。

在撰写时，open-webui 需要 Python 3.11，让我们安装它。

sudo apt install python3.11 python3.11-venv

在opt中创建一个虚拟环境。

cd /opt
sudo mkdir open-wegui
sudo python3.11 -m venv /opt/open-webui
sudo /opt/open-webui/bin/pip install --upgrade pip

安装open-webui。

sudo /opt/open-webui/bin/pip install open-webui

让我们为开放的 WebUI 创建一个守护程序。我们将使用合理且安全的默认设置。

> sudo useradd -r -s /sbin/nologin openwebui
> sudo chown -R openwebui:openwebui /opt/open-webui
> sudo vim /etc/systemd/system/openwebui.service
[Unit]
Description=Open WebUI
After=network.target

[Service]
Type=simple
User=openwebui
Group=openwebui
WorkingDirectory=/opt/open-webui
ExecStart=/opt/open-webui/bin/open-webui serve
Restart=on-failure
Environment=ENV_VAR_NAME=value  # Set any environment variables needed
PrivateTmp=true
ProtectSystem=full
ProtectHome=yes
NoNewPrivileges=true
AmbientCapabilities=CAP_NET_BIND_SERVICE  # If binding to low ports
LimitNOFILE=10000  # Limit the number of open files

[Install]
WantedBy=multi-user.target

让守护程序生效

sudo sytemctl status open-webui
sudo sytemctl start open-webui
sudo sytemctl status open-webui

导航到http://localhost:8080/

小心，默認情況下，此應用程序監聽所有接口。

如果这让你困扰，可以设置一个本地防火墙。

你现在有了自己的人工智能聊天机器人，就像《钢铁侠》里的贾维斯。

如果您在IT行业，这可能是您的竞争优势。

拥有无限使用权限使您可以总结许多文档，提高工作效率。

如果您的设置非常缓慢，那是因为您没有安装任何GPU。

如果你有一台笔记本电脑，考虑购买eGPUs，或者为Ollama设置一个专用服务器。

🚨号召行动🚨

如果你发现我的文章对你有帮助，觉得有用，或者只是喜欢，请；

🔔 在我的文章上留下掌声。您可以为每篇文章鼓掌最多50次。

🔔 请在我的文章下评论进行任何修改，或仅仅是给予支持！

🔔 阅读这篇文章至少30秒，以确保Medium将其视为有效阅读。

🔔 加入，并在Medium上关注我！