Quick Start Guide meloki
Bevor Sie beginnen, ist es unerlässlich, alle Sicherheitshinweise zu lesen und zu befolgen. Ihre Sicherheit und der ordnungsgemäße Betrieb dieses Geräts haben für uns oberste Priorität. Bitte nehmen Sie sich einen Moment Zeit, um sich mit den bereitgestellten Sicherheitsrichtlinien vertraut zu machen. Die Einhaltung dieser Anweisungen hilft, Unfälle zu vermeiden und eine reibungslose und effiziente Einrichtung zu gewährleisten.
Allgemeine Informationen
meloki ist eine lokale KI-Instanz, die speziell für Kunden entwickelt wurde und einfachen Zugriff auf leistungsstarke KI-Lösungen bietet. Diese Anleitung beschreibt die wesentlichen Schritte, um Ihr meloki-System schnell einzurichten und zu nutzen.
Die meloki-Software und die KI-Lösungen sind auf dem primären NVMe-Laufwerk installiert. Ein zusätzliches 1TB SSD-Laufwerk ist verfügbar. Es wird für Backups verwendet, Sie können es aber auch zur Speicherung von Eingabe- oder Ausgabedaten (RAG-Dateien, Audiodateien oder Ihre eigenen Modelle) nutzen.
Erste Schritte
meloki bietet zwei Netzwerkanschlüsse mit unterschiedlichen Konfigurationen:
- DHCP-Port: Erhält automatisch eine IP-Adresse von Ihrem Netzwerk
- Port für statische IP: Feste IP-Adresse
172.20.10.1
Schließen Sie je nach Netzwerkkonfiguration ein RJ45-Ethernetkabel an einen der Ports an.
Auf meloki zugreifen
Sie können auf das System entweder über SSH oder über die Weboberfläche zugreifen.
meloki benötigt einen Internetzugang, um Open-Source-Software oder LLM-Modelle herunterzuladen. Die eingehende Web-Benutzeroberfläche für meloki oder die WebUIs der KI-Lösungen sowie die SSH-Dienste sind nur für die Verwaltung im LAN vorgesehen und müssen durch eine Firewall vom WAN blockiert werden.
SSH-Zugriff
Verwenden Sie die folgenden SSH-Befehle, um eine Verbindung herzustellen:
- Für per DHCP zugewiesene IP:
ssh meloki@<dhcp-zugewiesene-ip>
- Für statische IP:
ssh meloki@172.20.10.1
Das Passwort lautet secudos.
Zugriff über Weboberfläche
Die WebUI von meloki ist nur über HTTPS erreichbar.
Bei der Ersteinrichtung:
https://DHCP-IP/
Nach der Einrichtung:
https://DHCP-IP/meloki
Oder verwenden Sie Ihren FQDN mit Ihrem eigenen SSL-Zertifikat.
IP-Konfiguration ändern
Falls weder DHCP noch die vorkonfigurierte statische IP verwendet werden können, müssen die Netzwerkeinstellungen manuell angepasst werden. Verbinden Sie sich über eine Video- oder serielle Konsole mit der Appliance. Sobald das System den Startvorgang abgeschlossen hat, wird eine Anmeldeaufforderung angezeigt.
Melden Sie sich mit meloki und dem Passwort secudos an.
login: meloki
password: *******
Melden Sie sich als Nächstes als Root-Benutzer an.
Geben Sie su - ein und als Passwort secudos.
meloki@meloki:~$ su -
Password: *******
Öffnen Sie die Konfigurationsdatei mit nano oder vi/vim.
Dieses Beispiel fährt mit vim fort.
meloki@meloki:~$ vim /etc/network/interfaces
Sie sollten diese Datei sehen:
# Diese Datei beschreibt die auf Ihrem System verfügbaren Netzwerkschnittstellen
# und wie sie aktiviert werden. Weitere Informationen finden Sie unter interfaces(5).
source /etc/network/interfaces.d/*
# Die Loopback-Netzwerkschnittstelle
auto lo
iface lo inet loopback
# Die primäre Netzwerkschnittstelle
auto enp5s0
iface enp5s0 inet dhcp
# Die sekundäre Netzwerkschnittstelle
auto enp6s0
iface enp6s0 inet static
address 172.20.10.1/24
Um die standardmäßige statische IP auf der Schnittstelle enp6s0 von 172.20.10.1/24 auf 192.168.20.5/24 zu ändern und ein Gateway sowie DNS zu definieren, würde die Datei wie folgt aussehen:
# Diese Datei beschreibt die auf Ihrem System verfügbaren Netzwerkschnittstellen
# und wie sie aktiviert werden. Weitere Informationen finden Sie unter interfaces(5).
source /etc/network/interfaces.d/*
# Die Loopback-Netzwerkschnittstelle
auto lo
iface lo inet loopback
# Die primäre Netzwerkschnittstelle
auto enp5s0
iface enp5s0 inet dhcp
# Die sekundäre Netzwerkschnittstelle
auto enp6s0
iface enp6s0 inet static
address 192.168.20.5/24
gateway 192.168.20.1
dns-nameservers 192.168.20.1
Speichern Sie die Dateiänderungen. In VIM mit :wq.
Wenden Sie die neue Konfiguration an mit:
systemctl restart networking
Ab diesem Zeitpunkt ist Meloki über die benutzerdefinierte Konfiguration erreichbar. Meloki wird diese Konfiguration nicht ändern.
Ersteinrichtungs-Assistent
Der Assistent führt Sie durch die notwendigen Konfigurationen.
Sie können diese Einstellungen jederzeit später ändern.
Klicken Sie auf Jetzt starten, um den Assistenten zu starten.
Legen Sie Ihren eigenen Gerätenamen fest.
Sie müssen Ihren FQDN oder die aktuelle IP in das FQDN/IP-Eingabefeld eintragen.
Klicken Sie auf Weiter.
Ändern Sie die Zeitzone für Ihre Region.
Klicken Sie auf Weiter.
Hier werden Standardwerte für das Docker-Netzwerk bereitgestellt.
Wenn diese mit bestehenden Netzwerken in Konflikt stehen, können sie entsprechend angepasst werden.
Klicken Sie auf Weiter.
SSL-Zertifikate werden für die WebUIs von meloki sowie von Chat & RAG verwendet.
SSL-Zertifikat und SSL-Schlüssel sind zwingend erforderlich. Wir empfehlen die Installation der SSL-Zertifikatskette. Wenn alle Zertifikatsdateien ausgewählt sind, klicken Sie auf Zertifikate hochladen.
Klicken Sie auf Weiter.
Dies ist die letzte Seite des Assistenten. Die Einrichtung ist fast abgeschlossen.
Merken Sie sich die Standard-Anmeldedaten.
Klicken Sie auf Zum Login.
Es wird dringend empfohlen, dieses Passwort nach der ersten Anmeldung zu ändern.
Die Initialisierung des Assistenten ist nun abgeschlossen. Nach einer Weile werden Sie zur Anmeldeseite weitergeleitet.
Ab diesem Zeitpunkt ist das meloki Admin-Panel nur noch über /meloki erreichbar.
meloki Admin-Panel
Das Admin-Panel erfordert einen authentifizierten Benutzer.
Melden Sie sich mit meloki als Benutzername und meloki als Passwort an.