Lokale KI 2026: Was auf deinem Laptop und im Browser schon geht, ganz ohne Cloud

Warum KI plötzlich auf dem eigenen Rechner läuft

Lange galt: Gute KI braucht ein Rechenzentrum. Wer ChatGPT, Claude oder Gemini nutzt, schickt jede Anfrage an die Server des Anbieters und bekommt die Antwort zurück. Das funktioniert hervorragend, hat aber drei Nebenwirkungen: Deine Inhalte verlassen dein Gerät, jede Anfrage kostet im Abo oder über die API Geld, und ohne Internet geht nichts.

2026 hat sich das Bild verschoben. Kleine Modelle sind deutlich besser geworden, Laptops und Grafikkarten deutlich stärker. Opera brachte es bei der Vorstellung von WebAI auf den Punkt: Vieles, was Menschen von KI wollen, braucht kein Rechenzentrum, der eigene Laptop kann es schon. Google baut ein lokales Modell direkt in Chrome ein, und Firmen wie Liquid AI und Recursive veröffentlichen Modelle, die ausdrücklich für Laptops und kleine Geräte gebaut sind.

Für Selbstständige, Marketer und kleine Teams ist das mehr als Technikspielerei. Lokale KI kann Kundendaten verarbeiten, ohne dass sie in die Cloud gehen, sie kann Tausende kleine Aufgaben erledigen, ohne dass eine Rechnung pro Token kommt, und sie funktioniert im Zug ohne Netz. Dieser Ratgeber zeigt, was heute schon geht und wo die Grenzen liegen.

Drei Stufen lokaler KI

Stufe 1, KI im Browser: Der Browser bringt ein kleines Modell mit, das Websites und Erweiterungen nutzen können. Du installierst nichts extra, alles läuft im Hintergrund. Beispiele sind die eingebauten KI-Schnittstellen in Chrome mit Gemini Nano und WebAI in Opera.

Stufe 2, kleine Modelle auf dem Laptop: Du lädst ein Modell mit einigen Milliarden Parametern herunter und startest es mit einem Programm auf deinem Rechner. Beispiele sind LFM3 von Liquid AI oder Flint von Recursive, beide mit offenen Gewichten auf Hugging Face.

Stufe 3, große Modelle auf eigener Hardware: Spitzenmodelle mit Hunderten Milliarden Parametern, die viel Speicher brauchen. Meta nennt für Muse Spark Open zwei Mac Studios mit zusammen rund einem Terabyte gemeinsamem Speicher. Das ist eher ein Thema für Firmen mit sehr sensiblen Daten, mehr dazu im Ratgeber zu Open-Weight-Modellen.

Für die meisten Selbstständigen sind Stufe 1 und 2 interessant. Sie kosten wenig, laufen auf vorhandener Hardware und lösen viele Alltagsaufgaben.

Zwischen den Stufen gibt es keine harte Grenze. Viele beginnen im Browser, merken, welche Aufgaben lokal gut funktionieren, und steigen dann auf ein eigenes Modell auf dem Laptop um, das sie gezielter steuern und mit eigenen Daten nachtrainieren können. Wichtig ist nur, dass du bei jeder Stufe weißt, wo deine Daten verarbeitet werden.

KI im Browser: Chrome mit Gemini Nano

Chrome bringt eingebaute KI-Schnittstellen mit, die auf einem lokalen Modell namens Gemini Nano laufen. Laut Google sind die Schnittstellen zum Übersetzen, zur Spracherkennung und zum Zusammenfassen seit Chrome 138 im stabilen Kanal verfügbar. Die allgemeine Prompt-Schnittstelle, mit der Websites eigene Anweisungen an das Modell schicken können, ist laut Google für Websites ab Chrome 148 verfügbar, für Erweiterungen schon seit Chrome 138.

Das Besondere: Laut Google werden bei der Nutzung des Modells keine Daten an Google oder Dritte geschickt. Das Modell wird beim ersten Einsatz heruntergeladen, danach braucht es keine Netzverbindung mehr.

Die Hardware-Anforderungen nennt Google genau: Windows 10 oder 11, macOS 13 oder neuer, Linux oder ein Chromebook Plus, mindestens 22 GB freier Speicher auf dem Laufwerk mit dem Chrome-Profil und entweder eine Grafikkarte mit mehr als 4 GB Grafikspeicher oder 16 GB Arbeitsspeicher und mindestens 4 Prozessorkerne. Auf Android und iPhone laufen die modellbasierten Schnittstellen derzeit nicht.

Als Nutzer siehst du davon oft nichts direkt. Du profitierst, wenn eine Website oder Erweiterung die Schnittstellen nutzt, etwa um einen Artikel zusammenzufassen oder einen Text zu übersetzen, ohne ihn an einen Server zu schicken.

KI im Browser: Opera WebAI

Opera ist am 27. Oktober 2026 einen Schritt weiter gegangen. WebAI ist laut Opera ein vorgeschlagener Webstandard, den unter anderem Google und Microsoft unterstützen, und lässt Websites und Erweiterungen lokale KI im Browser nutzen. Es gibt drei Schnittstellen: Prompt zum Erzeugen von Text, Decision zum Einordnen und semantische Embeddings, um Zusammenhänge zwischen Inhalten zu finden.

Im Unterschied zu Chrome ist Operas Umsetzung laut Opera nicht an ein Modell gebunden. Zum Start lassen sich unter anderem Googles Gemma und auf Macs Apples On-Device-Modell nutzen. WebAI ist Opt-in: Erst wenn du es unter Einstellungen, Opera AI einschaltest, wird ein Modell heruntergeladen. Die frühe Vorschau gibt es für 64-Bit-Windows-PCs mit Intel oder AMD und für Macs mit Apple-Chip.

Opera liefert sechs Beispiel-Erweiterungen mit, die zeigen, was möglich ist, etwa ein Quiz zum gelesenen Artikel. Als weitere Ideen nennt Opera Erweiterungen, die Tabs sortieren, Clickbait markieren oder passende Stellenanzeigen finden, ohne Konto, ohne Gebühr und ohne Daten an einen KI-Dienst.

Kleine Modelle für den Laptop: LFM3, Flint und Co.

LFM3 von Liquid AI, vorgestellt am 27. Oktober 2026, ist eine Familie kleiner Modelle für Text, Bild, Ton und Entscheidungen auf einer gemeinsamen Basis. Das Textmodell LFM3-1.7B passt laut Liquid AI bei 4-Bit-Genauigkeit in rund 1 GB, hat ein Kontextfenster von 256.000 Tokens und lässt sich auf einer einzelnen Grafikkarte nachtrainieren. Die Gewichte sind offen und laufen laut Liquid AI unter anderem mit llama.cpp, MLX und vLLM.

Flint von Recursive, veröffentlicht am 21. Oktober 2026, ist ein Coding-Modell für den Laptop. Es hat 40 Milliarden Parameter, von denen pro Schritt nur rund 2,5 Milliarden arbeiten, und steht unter der Apache-2.0-Lizenz kostenlos auf Hugging Face. Laut Recursive erzeugt es auf einem MacBook Pro mehr als 125 Tokens pro Sekunde. Das sind Herstellerangaben, unabhängige Tests stehen noch aus.

Daneben gibt es viele weitere offene Modelle verschiedener Größen, etwa Gemma von Google, das Opera für WebAI nennt. Die Faustregel: Je kleiner das Modell, desto schneller und genügsamer, aber desto enger der Aufgabenbereich, in dem es zuverlässig ist.

Ein interessanter Trend ist das Nachtrainieren. Liquid AI bewirbt LFM3 ausdrücklich damit, dass man die Modelle mit eigenen Daten auf einer einzelnen Grafikkarte zu Spezialisten für eine Aufgabe machen kann, etwa für die eigene Fachsprache, eigene Formulare oder eigene Werkzeuge. Für ein Unternehmen mit wiederkehrenden, gleichförmigen Aufgaben kann ein kleines, spezialisiertes Modell so verlässlicher sein als ein großes Allzweckmodell.

Welche Hardware du wirklich brauchst

Entscheidend ist der Speicher, in den das Modell passen muss: der Grafikspeicher einer Grafikkarte oder der gemeinsame Speicher eines Macs mit Apple-Chip. Kleine Modelle mit ein bis drei Milliarden Parametern laufen in quantisierter Form auf fast jedem aktuellen Laptop. Modelle wie Flint mit 40 Milliarden Parametern brauchen deutlich mehr Speicher, laufen aber dank Mixture-of-Experts-Bauweise trotzdem flott, weil nur ein kleiner Teil gleichzeitig rechnet.

Quantisierung ist dabei der wichtigste Hebel. Statt jede Zahl im Modell mit voller Genauigkeit zu speichern, werden die Werte gröber abgelegt, etwa mit 4 Bit. Das Modell wird dadurch um ein Vielfaches kleiner und schneller, verliert aber etwas Qualität. Für die meisten Alltagsaufgaben fällt das kaum auf.

Wenn du neue Hardware kaufst, achte auf viel Arbeitsspeicher beziehungsweise Grafikspeicher. Das ist für lokale KI wichtiger als ein schnellerer Prozessor. Die Glossar-Einträge zu VRAM und Quantisierung auf mentat.codes erklären die Begriffe genauer.

Und vergiss den Speicherplatz nicht. Chrome verlangt laut Google mindestens 22 GB freien Platz für seine lokalen Modelle und entfernt das Modell wieder, wenn der freie Speicher unter 10 GB fällt. Wer mehrere Modelle ausprobiert, braucht schnell zweistellige Gigabyte-Mengen auf der Festplatte.

Wofür sich lokale KI im Alltag lohnt

Texte zusammenfassen und sortieren: Lange Mails, Protokolle oder Artikel kurz zusammenfassen, Anfragen in Kategorien einteilen, Prioritäten vorschlagen. Das sind klar umrissene Aufgaben, die kleine Modelle gut beherrschen, und die Inhalte bleiben auf deinem Rechner.

Daten aus Dokumenten ziehen: Rechnungen, Lieferscheine oder Formulare in strukturierte Daten verwandeln, etwa als Tabelle. Liquid AI zeigt für LFM3 genau solche Beispiele, etwa strukturierte Daten aus unordentlichen Dokumenten oder Kassenbelege aus Fotos.

Coding auf dem eigenen Rechner: Mit einem Modell wie Flint lässt sich Code schreiben und verbessern, ohne dass der Quellcode die Firma verlässt und ohne Kosten pro Anfrage. Für große, komplexe Projekte bleiben die großen Cloud-Modelle laut den Herstellern meist stärker.

Eigene kleine Werkzeuge: Mit WebAI oder den Chrome-Schnittstellen lassen sich Browser-Erweiterungen bauen, die Inhalte lokal auswerten. Wer mit KI-Coding-Tools arbeitet, kann sich so persönliche Helfer bauen, etwa einen, der in Stellenanzeigen oder Ausschreibungen die passenden Treffer markiert.

Die Grenzen lokaler KI

Kleine Modelle wissen weniger, schreiben schlichter und machen bei komplexen Aufgaben mehr Fehler als die großen Cloud-Modelle. Sie haben keinen Zugriff auf das Internet, wenn du ihn nicht selbst einrichtest, und ihr Wissen endet mit ihren Trainingsdaten.

Die Geschwindigkeit hängt von deinem Gerät ab. Opera weist ausdrücklich darauf hin, dass die Antwortzeit von der Hardware abhängt. Auf älteren Laptops kann eine Antwort spürbar dauern, und der Akku leert sich schneller.

Und schließlich der Aufwand: Ein Abo bei ChatGPT oder Claude ist in zwei Minuten eingerichtet. Lokale Modelle brauchen etwas Bastelei, Updates und Pflege. Für viele lohnt sich deshalb ein Mischbetrieb: lokale KI für sensible Daten und Massenaufgaben, Cloud-KI für die schwierigen Fälle.

Ein weiterer Punkt ist Sicherheit. Auch lokale Modelle können durch Prompt Injection getäuscht werden, wenn sie Inhalte aus dem Netz oder aus fremden Dokumenten verarbeiten. Lokal heißt nicht automatisch sicher, sondern nur, dass die Daten dein Gerät nicht verlassen. Gib einem lokalen Agenten deshalb ebenfalls nur die Rechte, die er für seine Aufgabe braucht.

Datenschutz und Lizenzen

Der größte Vorteil lokaler KI ist der Datenschutz. Wenn das Modell auf deinem Gerät rechnet, gehen Kundendaten, Verträge oder Bewerbungen nirgendwohin. Das macht viele Einsätze erst möglich, die mit Cloud-KI an Datenschutzfragen scheitern würden. Die übrigen Pflichten bleiben aber: Rechtsgrundlage, Information der Betroffenen, Datensicherheit auf dem Gerät.

Bei den Modellen selbst entscheidet die Lizenz. Flint steht laut Recursive unter der Apache-2.0-Lizenz, die die freie Nutzung und Veränderung erlaubt. Andere Modelle haben eigene Lizenzen mit Einschränkungen, etwa für kommerzielle Nutzung. Lies die Lizenz, bevor ein Modell in ein Produkt oder einen Kundenauftrag geht.

Praktisch heißt das: Notiere dir für jedes Modell, das du produktiv nutzt, Name, Version, Lizenz und Quelle. So kannst du später nachweisen, was du eingesetzt hast, und bei einem Lizenzwechsel schnell reagieren.

Dein Start in 60 Minuten

Minute 1 bis 15, Browser: Aktualisiere Opera One und schalte unter Einstellungen, Opera AI die WebAI-Schnittstelle ein, oder nutze Chrome mit Erweiterungen, die die eingebauten KI-Schnittstellen verwenden. Probier eine Beispiel-Erweiterung aus und achte darauf, wie schnell dein Gerät antwortet.

Minute 15 bis 45, Laptop: Lade ein kleines Modell wie LFM3 von Hugging Face und starte es mit einem Programm wie llama.cpp oder, auf dem Mac, MLX. Gib ihm drei echte Aufgaben aus deinem Alltag, etwa eine lange Mail zusammenfassen, eine Anfrage einordnen und Daten aus einer Rechnung ziehen.

Minute 45 bis 60, Vergleich: Stell dieselben drei Aufgaben deinem gewohnten Cloud-Assistenten und vergleich die Ergebnisse. Wo die lokale Antwort reicht, hast du einen Kandidaten für datensparsame und kostenlose Automatisierung gefunden. Wo nicht, bleibt die Cloud die bessere Wahl. Der KI-Test auf mentat.codes hilft beim systematischen Vergleich.

Danach entscheidest du in Ruhe, ob du lokale KI fest in deinen Alltag einbaust. Viele starten mit genau einer Aufgabe, etwa dem Vorsortieren von Anfragen, und erweitern erst, wenn diese eine Aufgabe zuverlässig läuft. Das ist der gleiche Grundsatz wie bei jeder Automatisierung: klein anfangen, messen, dann ausbauen, und immer wissen, wo deine Daten gerade verarbeitet werden.