1. Systemvoraussetzungen prüfen
Bevor du startest, kurz der Hardware-Check. KI braucht Power:
- Arbeitsspeicher (RAM): Mindestens 16 GB sind empfohlen.
- Grafikkarte (GPU): Ideal ist eine NVIDIA (RTX-Serie) oder ein Apple Silicon Mac (M1/M2/M3), da diese den Prozess massiv beschleunigen.
- Festplatte: Plane etwa 5–10 GB pro Modell ein.
2. Installation
- Gehe auf die offizielle Website lmstudio.ai.
- Lade den Installer für dein Betriebssystem (Windows, Mac oder Linux) herunter.
- Installiere das Programm wie jede andere App auch. Es ist kein kompliziertes Terminal-Setup nötig.
3. Ein Modell finden und herunterladen
LM Studio fungiert als Interface für Hugging Face, die größte Plattform für Open-Source-Modelle.
- Öffne LM Studio.
- Klicke auf das Lupen-Symbol (Search) in der linken Seitenleiste.
- Gib einen Modellnamen ein. Gute Startpunkte sind:
- Llama 3 (von Meta)
- Mistral oder Mixtral
- Phi-3 (von Microsoft, sehr schnell auf schwächerer Hardware)
- Wähle in der Ergebnisliste eine Version aus. Achte dabei auf das GGUF-Format (das Standardformat für LM Studio).
- Wichtig: Auf der rechten Seite siehst du verschiedene „Quantizations“ (Komprimierungsstufen).
- Wähle eine Version, bei der steht: „Should fit in memory“.
- Q4_K_M ist meistens der „Sweet Spot“ zwischen Intelligenz und Geschwindigkeit.
4. Die KI starten (Chat)
Sobald der Download abgeschlossen ist:
- Klicke auf das Sprechblasen-Symbol (AI Chat) links.
- Wähle oben in der Mitte im Dropdown-Menü das Modell aus, das du gerade heruntergeladen hast („Select a model to load“).
- Warte kurz, bis der grüne Balken geladen ist – nun befindet sich die KI in deinem Arbeitsspeicher.
- Schreibe deine erste Nachricht in das Chat-Feld.
5. Profi-Tipp: GPU-Beschleunigung aktivieren
Wenn dein PC eine gute Grafikkarte hat, die KI aber trotzdem langsam antwortet, musst du das „GPU Offloading“ aktivieren:
- Gehe im Chat-Fenster auf die rechte Seitenleiste (Settings).
- Suche den Bereich „Hardware Settings“.
- Schalte „GPU Offload“ ein.
- Schiebe den Regler auf „Max“ (oder gib eine hohe Zahl bei „Layers“ ein), damit so viele Berechnungen wie möglich auf die Grafikkarte ausgelagert werden.
Was du jetzt tun kannst
Deine lokale KI ist jetzt einsatzbereit. Du kannst sie programmieren lassen, Texte zusammenfassen oder sie einfach Dinge fragen, die du einer Cloud-KI lieber nicht anvertrauen würdest.