LM Studio
LM Studio ist eine Software zur lokalen Ausführung von Large Language Modellen (LLM) auf dem eigenen Computer. Die Software verfügt über Möglichkeiten zur LLM-Verwaltung und dem Download verschiedener Modelle. Ebenfalls wird dem Nutzer eine Chatbot-Schnittstelle angeboten, sowie eine API (Programmierschnittstelle) für andere Applikationen.[1][2]
LM Studio nutzt „llama.cpp“ als Inferenz-Engine für Modelle im GGUF-Format und unterstützt zudem Apples MLX-Framework auf Apple Silicon.[3] Neben der grafischen Benutzeroberfläche umfasst die Plattform Befehlszeilentools, Software Development Kits für Python und TypeScript sowie einen lokalen Inferenzserver mit nativen, OpenAI-kompatiblen und Anthropic-kompatiblen APIs.[4][3]
Geschichte
[Bearbeiten | Quelltext bearbeiten]LM Studio wurde im Mai 2023 veröffentlicht.[5] Initial wurde die Software als Desktopanwendung entwickelt mit der Kombination aus lokaler LLM-Verwaltung, Modellsuche, Chat-Oberfläche und einem API Server.[6]
Die Unterstützung für das MLX-Inferenz-Framework auf Apple Silicon wurde im Oktober 2024 eingeführt, parallel zum bestehenden, auf llama.cpp basierenden Inferenzsystem.[7] In nachfolgenden Versionen wurden die entwicklerorientierten Funktionen der Software erweitert, darunter der Headless-Betrieb, das Laden von Modellen nach Bedarf, das Herunterladen von Modellen über die Befehlszeile, der Aufruf von Tools und die spekulative Dekodierung.[8][9]
Im April 2026 übernahm Element Labs, der Entwickler von LM Studio, das Unternehmen Locally AI,[10] dessen Entwickler dem Unternehmen beitrat, um an nativen KI-Anwendungen für Apple-Geräte zu arbeiten.[10]
Features
[Bearbeiten | Quelltext bearbeiten]LM Studio bietet eine integrierte Benutzeroberfläche zum Suchen und Herunterladen von KI-Modellen, zum Laden von Modellen in den Arbeitsspeicher, zum Konfigurieren von Inferenz-Einstellungen sowie zur Interaktion mit Modellen über eine Chat-Oberfläche. Modelle können über Integrationen mit Repositorien wie Hugging Face bezogen werden.[1] Die Anwendung kann zudem „Retrieval-Augmented Generation“ nutzen, um Sprachmodellen lokale Dokumente als Kontext bereitzustellen.[1]
Die Software kann als lokaler Inferenzserver fungieren, sodass Anwendungen auf geladene Modelle zugreifen können, entweder über die REST-API von LM Studio oder über Kompatibilitätsschnittstellen, die den APIs von OpenAI und Anthropic nachempfunden sind.[4] Die Software-Entwicklungskits für Python und TypeScript ermöglichen das programmgesteuerte Laden von Modellen, die Textgenerierung, Embeddings sowie die Nutz von "Agent-Tools".[3]
LM Studio kann auch ohne seine grafische Benutzeroberfläche betrieben werden. Die Headless-Komponente „llmster“ bündelt die LM Studio-Laufzeitumgebung für den Einsatz als Hintergrunddienst auf lokalen Computern, Servern und GPU-Systemen.[11]
Weblinks
[Bearbeiten | Quelltext bearbeiten]- The agent for your computer. LM Studio (englisch, Offizielle Webseite).
- Welcome to LM Studio Docs! LM Studio (englisch, LM Studio Dokumentation).
- Marcus Schwarze: Der lokale KI-Server wird zur privaten ChatGPT-Alternative. In: Frankfurter Allgemeine Zeitung. 18. März 2026.
Einzelnachweise
[Bearbeiten | Quelltext bearbeiten]- 1 2 3 Arne Arnold: 4 free AI chatbots you can run directly on your PC. In: PCWorld. 18. Februar 2025, abgerufen am 15. Oktober 2026 (englisch).
- ↑ Richard Devine: You NEED to ditch Ollama and use LM Studio for local AI if you have a laptop or mini PC – here's why. In: Windows Central. 19. August 2025, abgerufen am 15. Oktober 2026 (englisch).
- 1 2 3 Yagil Burowski: How to run gpt-oss locally with LM Studio. OpenAI, 7. August 2025, abgerufen am 15. Oktober 2026 (englisch).
- 1 2 Route Local Inference Requests to LM Studio. Nvidia, abgerufen am 15. Oktober 2026 (englisch).
- ↑ Yagil Burowski: LM Studio is free for use at work. LM Studio, 8. Juli 2025, abgerufen am 15. Oktober 2026 (englisch).
- ↑ LM Studio 0.3.0. LM Studio, 22. August 2024, abgerufen am 15. Oktober 2026 (englisch).
- ↑ Yagil Burowski, Alyssa Coghlan, Neil Mehta, Matt Clayton: LM Studio 0.3.4 ships with Apple MLX. LM Studio, 8. Oktober 2024, abgerufen am 15. Oktober 2026 (englisch).
- ↑ LM Studio 0.3.5. LM Studio, 22. Oktober 2024, abgerufen am 15. Oktober 2026 (englisch).
- ↑ LM Studio 0.3.6. LM Studio, 6. Januar 2025, abgerufen am 15. Oktober 2026 (englisch).
- 1 2 Locally AI, an app for running local AI on iPhones, has been acquired by LM Studio. In: Gigazine. 10. April 2026, abgerufen am 15. Oktober 2026 (englisch).
- ↑ Logan Lawler: LM Studio’s LM Link: Local AI Everywhere. Dell, 2. April 2026, abgerufen am 15. Oktober 2026 (englisch).