Modelle
Festlegen, welche KI-Modelle DenkBox für Chat, Zusammenfassungen, Erinnerungen und Automationen verwendet.
Unter Modelle legst du fest, welche KI-Modelle DenkBox verwendet. Jedes Modell übernimmt eine oder mehrere Rollen:
| Rolle | Aufgabe |
|---|---|
Standard Chat | beantwortet Chat-Anfragen, wenn Nutzer:innen kein anderes Modell wählen |
Komprimierung | fasst lange Chats zusammen, damit sie weitergeführt werden können |
Memory | erkennt Erinnerungen in Chats |
Automation | führt AI-Schritte in Automationen aus |
Was bedeutet Modellauswahl?
Das Modell bestimmt direkt Antwortqualität, Geschwindigkeit und Ressourcenbedarf. Ein größeres oder falsch konfiguriertes Modell kann Antworten spürbar verlangsamen oder mehr Arbeitsspeicher belegen, als das System zur Verfügung hat; ein zu kleines Modell liefert unter Umständen schwächere Antworten.
Konsequenzen der Modellwahl
- Leistung: Größere Modelle liefern oft bessere Antworten, benötigen aber mehr Arbeitsspeicher und Rechenzeit.
- Kompatibilität: Nicht jedes Modell unterstützt jede Funktion (z. B. Bildverständnis). Manuell hinzugefügte oder per eigenem Preset konfigurierte Modelle sind nicht automatisch auf Kompatibilität mit der vorhandenen Hardware geprüft.
- Verantwortung: Bitte beachte, dass die Modelle aus dem DenkBox-Katalog für die Hardware getestet und optimiert wurden. In anderen Konfigurationen kann nicht immer ein bestmögliches Ergebnis garantiert werden.
Die drei Modi
Oben auf der Seite wählst du unter Modus, wie die Modelle zusammengestellt werden. Daneben zeigt DenkBox Auslastung, wie viel Arbeitsspeicher die gewählten Modelle belegen.
DenkBox - Katalog
Von DenkBox kuratierte Presets direkt laden und aktivieren – empfohlen.
Manuell (Beta)
Eigene Modelle herunterladen und den Rollen selbst zuordnen.
Eigene Presets (Beta)
Volle Kontrolle über Prompt und technische LLM-Parameter.
Installierte Modelle
Unten auf der Seite siehst du unter Installierte Modelle alle heruntergeladenen Modelle. Nicht benötigte Modelle entfernst du mit Entfernen, um Speicherplatz freizugeben. Modelle, die gerade In Benutzung sind, und das Essenzielles Modell lassen sich nicht entfernen.
Unter Modell herunterladen lädst du neue Modelle herunter. Laufende Downloads kannst du Pausieren, Fortsetzen oder Abbrechen.