Manuell
Ein eigenes oder nicht gelistetes Modell manuell hinzufügen.
Der manuelle Modus erlaubt es, ein Modell hinzuzufügen, oder eine Auswahl an Modellen zusammenzustellen, welche nicht Teil der mitgelieferten Profile ist.
Modell hinzufügen
Modell suchen
Öffne lemonade-server.ai/models.html und suche ein passendes Modell.
Modellnamen kopieren
Kopiere den Modellnamen.
Download starten
Füge den Namen im unteren Bereich der Modelle-Seite ein, um den Download zu starten.
Große Downloads
Modelldateien sind groß. Plane je nach Modellgröße und Internetverbindung ausreichend Zeit für den Download ein.
Modell konfigurieren
Hinzufügen-Dialog öffnen
Wähle Modell hinzufügen.
Modell auswählen
Wähle das heruntergeladene Modell aus und vergebe einen Namen. Es wird automatisch angezeigt welche Funktionen das Modell unterstützt.
DenkBox zeigt unter Fähigkeiten automatisch an, was das Modell unterstützt: Tool-Nutzung, Bilder und Denkprozess. Speichere das Modell anschließend.
Rollen zuordnen
Lege fest, welches Modell welche Rolle übernimmt: Standard Chat, Komprimierung, Memory und Automation. Ein Modell kann mehrere Rollen übernehmen. Jede Rolle braucht ein Modell.
Performance
Dem Standardmodell werden mehr Ressourcen zur Verfügung gestellt, damit mehrere Anfragen gleichzeitig verarbeitet werden können.
Manuellen Modus aktivieren
Hast du allen Rollen ein Modell zugeordnet, wähle Manuellen Modus aktivieren. Fehlt noch etwas, zeigt DenkBox Zum Aktivieren fehlen: … mit den offenen Rollen.
Im manuellen Modus muss mindestens ein Modell konfiguriert bleiben.
Was du beachten solltest
- DenkBox prüft ein manuell hinzugefügtes Modell nicht automatisch auf Kompatibilität mit der vorhandenen Hardware.
- Füge nicht zu viele Modelle hinzu. Wird der verfügbare Arbeitsspeicher der DenkBox überschritten können die Modelle nicht vorgeladen werden. Das bedeutet deutlich längere Antwortzeiten.
Wann geeignet?
Nutze den manuellen Modus, wenn du ein bestimmtes Modell benötigst, das nicht Teil eines Standard-Profils ist, und du gleichzeitig wenig Zeit für die Konfiguration verwenden willst. DenkBox trifft Annahmen die für die meisten Modelle korrekt sind. Für vollständige Kontrolle über alle Parameter siehe Eigenes Preset.