KI-Modelle & Plattformen · in 1 von 3 Listen
AirLLM
Python-Bibliothek, die den Speicherbedarf bei der Inferenz senkt, indem sie Modelle schichtweise lädt, sodass große Modelle auf kleinen Grafikkarten laufen.
- Rubrik
- KI-Modelle & Plattformen
- Preis
- kostenloslaut Liste, beim Anbieter prüfen
- Open Source
- Ja 🔓
- Empfohlen von
- 1 von 3 Listenikaijua/Awesome-AITools
Jeans Take zu AirLLM 🧔
AirLLM ist eine Python-Bibliothek, die beim Inferieren Schicht für Schicht lädt und so laut Beschreibung 70B-Modelle auf 4-GB-GPUs laufen lässt. Für Bastler mit schmaler Grafikkarte. Der Haken liegt in der Natur der Sache: Wer Schichten nachlädt, wartet länger auf die Antwort.
Großer Motor im Kleinwagen, nur eben nicht im Sprint.
Alternativen zu AirLLM
- OpenRouter LLM RankingsRangliste der Sprachmodelle nach tatsächlicher Nutzung in Apps.🥈 2/3 · 🧔 Steckbrief
- ArenaOffene Plattform, auf der Menschen KI-Modelle im Blindvergleich bewerten; betrieben von Forschenden der UC Berkeley.🥈 2/3
- Artificial AnalysisUnabhängige Benchmarks zu KI-Modellen und Anbietern als Entscheidungshilfe.🥈 2/3
- BloomOffenes Sprachmodell von Hugging Face, trainiert auf 46 Sprachen und 13 Programmiersprachen.🥈 2/3
- DragGANForschungsprojekt: Bilder durch Ziehen von Punkten interaktiv verformen.🥈 2/3 · 🔓 Open Source
- GopherSprachmodell von DeepMind mit 280 Milliarden Parametern.🥈 2/3
- ImagenBildmodell von Google für fotorealistische Bilder aus Text.🥈 2/3
- LLM StatsVergleicht KI-Modelle nach Benchmarks, Preis, Geschwindigkeit und Kontextlänge.🥈 2/3
Stand 23. Oktober 2026 · Quellen und Lizenzen · Tool-Finder · ← KI-Tool-Datenbank
Heute bei mentat.codes
Gratis-Perle des Tages
Jeden Tag eine handverlesene Gratis-Perle mit Dofollow-Link. Alle Gratis-Portale
Prompt des Tages
Jeden Tag eine andere Vorlage zum Kopieren. Zur Prompt-Bibliothek
Tool des Tages
Jeden Tag ein anderes KI-Tool mit Preisen laut Anbieter. Alle Steckbriefe
Fragen, Tool eintragen lassen oder einen Fehler gefunden?