Microsoft Phi-3 Mini arbeitet lokal auf dem Smartphone

Sprachmodelle müssen für ausreichend Leistung riesig sein? Microsoft zeigt, dass es auch anders geht: Die neue Modellfamilie Phi 3 zielt auf den internen Einsatz auf Endgeräten, etwa Smartphones oder Bürocomputer. Neue Methoden beim Training sorgen dafür, das auch kleine Modelle ausreichend leistungsfähig sind und für viele Aufgaben ausreichen. Der Vorteil: Eine Internetverbindung ist nicht nötig, die Modelle funktionieren immer.

Die Phi-3-Modelle von Microsoft sind die leistungsfähigsten und kosteneffizientesten Small Language Models (SLMs) auf dem Markt und übertreffen andere Modelle der gleichen und nächsthöheren Größe in einer Vielzahl von Sprach-, Argumentations-, Codierungs- und Mathematik-Benchmarks. Ab heute ist Phi-3-mini auf Microsoft Azure AI Studio, Hugging Face und Ollama verfügbar. Es ist anweisungsorientiert, d.h. es wurde darauf trainiert, verschiedene Arten von Anweisungen zu befolgen, die die Art und Weise widerspiegeln, wie Menschen normalerweise kommunizieren. Dadurch wird sichergestellt, dass das Modell sofort einsatzbereit ist. In den kommenden Wochen wird die Phi-3 Familie um weitere Modelle erweitert   

Weitere Informationen gibt es bei Microsoft.

Ein Paper von Microsoft Research über die Entwicklung des Phi-3-Modellfamilie.

Bild: Franz Bachinger / Pixabay