Erstellen Sie Ihren eigenen privaten ChatGPT auf einem VPS mit Open WebUI

Open WebUI ist eine Open-Source-Chat-Schnittstelle, die der von ChatGPT ähnelt und die Sie auf Ihrem eigenen Server installieren. Sie lässt sich mit den APIs von OpenAI, Mistral oder anderen Anbietern verbinden oder mit Modellen, die dank Ollama direkt auf Ihrem VPS laufen. Sie speichern Ihre Unterhaltungen auf Ihrem Server, verwalten Ihre Benutzer und wählen Ihre Modelle selbst aus. In dieser Anleitung erfahren Sie, was dadurch tatsächlich geschützt wird, welchen Server Sie dafür benötigen und wie Sie die Installation ordnungsgemäß durchführen.

1. Zwei Anwendungsmöglichkeiten

Beide Modi können nebeneinander bestehen: ein lokales Modell für sensible Texte und eine API für komplexe Anfragen. Einzelheiten zur Leistung ohne Grafikkarte finden Sie unter Ollama auf einem VPS ohne GPU.

2. Was „privat“ hier bedeutet

Lassen Sie uns genau darauf eingehen, denn dies ist der Punkt, der am häufigsten missverstanden wird:

• Ihre Chats und Ihre Konten werden auf Ihrem Server gespeichert und nicht in einem Konto bei einem Anbieter.
• Mit einer API, wird jede Nachricht dennoch an den Anbieter übermittelt, um dort verarbeitet zu werden. Bitte lesen Sie dessen Nutzungsbedingungen, insbesondere die Bestimmungen zur Datenspeicherung und zum Training der Modelle.
• Mit Ollama, nichts verlässt den Server: Dies ist die einzige wirklich geschlossene Option.
• Die Sicherheit des Servers liegt in Ihrer Verantwortung: Aktualisierungen, Zugriff, Datensicherungen.

3. Manuelle Installation mit Docker

Beginnen Sie mit einem sicheren Linux-VPS (siehe Erste Schritte) mit Docker. Erstellen Sie einen geheimen Schlüssel und starten Sie anschließend den Container:

SECRET=$(openssl rand -hex 32)
docker run -d -p 127.0.0.1:3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  -e WEBUI_SECRET_KEY=$SECRET \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Das Präfix 127.0.0.1 wichtig: Der Port ist nur vom Server selbst aus erreichbar. Docker umgeht häufig die UFW-Regeln, wenn es einen Port veröffentlicht; daher sollten Sie sich besser nicht allein auf die Firewall verlassen. Das Volume open-webui Enthält Ihre Chats, Ihre Nutzer und Ihre Einstellungen: Es bleibt auch nach Updates erhalten.

4. Sicherer Zugriff über HTTPS

Richten Sie einen Reverse-Proxy vor der Anwendung ein. Verwenden Sie dazu Nginx, einen Domainnamen und Let’s Encrypt. Befolgen Sie die Anweisungen unter Nginx und SSL und leiten Sie Ihre Website anschließend auf den Container weiter:

location / {
    proxy_pass http://127.0.0.1:3000;
    proxy_http_version 1.1;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection "upgrade";
    proxy_set_header Host $host;
    proxy_set_header X-Forwarded-Proto $scheme;
}

Die beiden Zeilen Upgrade und Connection dienen den WebSockets, die zur Anzeige der Antworten in Echtzeit verwendet werden.

Erstellen Sie noch heute Ihr Konto. Das erste Konto wird zum Administrator, und die Registrierung wird anschließend automatisch geschlossen. Um Personen einzuladen, aktivieren Sie in den Administratoreinstellungen die Option „New Sign Ups“: Neue Konten warten dann auf Ihre Freigabe.

5. Eine API anbinden

Klicken Sie unter Einstellungen → Admin → Verbindungen auf das + neben der OpenAI-Verbindungsverwaltung und geben Sie anschließend die URL und Ihren Schlüssel ein. Open WebUI funktioniert mit jeder OpenAI-kompatiblen API:

Legen Sie in der Anbieter-Konsole ein Ausgabenlimit fest, insbesondere wenn mehrere Personen die Benutzeroberfläche nutzen. Bitte beachten Sie, dass ein Abonnement für Privatkunden, wie beispielsweise ChatGPT Plus, die API nicht umfasst: Diese wird separat nach Verbrauch abgerechnet.

6. Lokale Vorlagen mit Ollama hinzufügen

curl -fsSL https://ollama.com/install.sh | sh
ollama run llama3.2:3b

Standardmäßig hört Ollama nur auf 127.0.0.1, was für einen Docker-Container jedoch nicht ausreicht. Richten Sie ihn so ein, dass er auf die Docker-Bridge-Schnittstelle hört, oder verwenden Sie die vorinstallierte Kombination aus Ollama und Open WebUI, die dieses Problem behebt. Unabhängig von der gewählten Methode lautet der Port 11434 darf niemals im Internet geöffnet werden: Ollama verfügt über keine eigene Authentifizierung.

Beginnen Sie mit einem kleinen Modell. Der verfügbare Arbeitsspeicher muss die Größe des Modells deutlich übersteigen, und die Anzahl der vCPUs bestimmt maßgeblich die Reaktionsgeschwindigkeit.

7. Welchen VPS sollten Sie wählen?

Wählen Sie einen NVMe-Speicher: Die Modelle sind mehrere Gigabyte groß und werden von der Festplatte geladen. Die Angebote finden Sie auf der Seite VPS für KI-Agenten.

8. Aktualisierungen und Sicherungen

Open WebUI entwickelt sich rasch weiter. Um ein Update durchzuführen, laden Sie das neue Image herunter und erstellen Sie den Container neu, wobei Sie dasselbe Volume und denselben geheimen Schlüssel wiederverwenden:

docker pull ghcr.io/open-webui/open-webui:main
docker rm -f open-webui
# puis relancez la commande docker run, avec la même WEBUI_SECRET_KEY

Bewahren Sie den Schlüssel in einer geschützten Datei auf: Ohne ihn werden offene Sitzungen getrennt. Sichern Sie das Volume open-webui, das den gesamten Verlauf enthält. Siehe Sicherungen mit Borg.

Häufig gestellte Fragen