Was ist Mixture of Experts?

Jean erklärt's mit Schrauberhänden 🔧

In einer großen Werkstatt arbeiten Spezialisten für Elektrik, Getriebe, Lack und Vergaser, und am Tresen sitzt die Annahme. Sie schickt jeden Auftrag nur zu den zwei, drei Leuten, die gerade passen, statt alle gleichzeitig dranzusetzen. Anders als in der Werkstatt sind die Experten im Modell aber nicht sauber nach Themen wie Mathe oder Französisch getrennt, sie spezialisieren sich auf Muster, die für Menschen oft schwer zu deuten sind.

Merksatz: Viele Experten an Bord, aber pro Token arbeiten nur wenige.