Stoßen große Sprachmodelle an Grenzen?

Die Physikerin Sabine Hossenfelder äußerte in einem YouTube-Video Zweifel an den jüngsten Entwicklungen im Bereich der Künstlichen Intelligenz (KI). Sie kritisiert die optimistischen Prognosen von Persönlichkeiten der Tech-Branche, die an einen ungebremsten Fortschritt durch Skalierung von KI-Modellen glauben.

Sam Altman (OpenAI) verkündete letztes Jahr selbstbewusst, dass KI in wenigen tausend Tagen Superintelligenz erreichen könnte. Er behauptete sogar, dass Physiker bald überflüssig würden, da KI alle Probleme der Physik lösen werde. Auch andere Tech-Größen wie Mark Andreessen (a16z) und Dario Amodei (Anthropic) teilen diesen Optimismus und vertrauen auf die stetige Verbesserung der KI durch mehr Daten und Rechenleistung.

Bringen neue Modelle noch Fortschritte?

Doch interne Berichte zeichnen ein anderes Bild. Laut Informationen von OpenAI-Mitarbeitern zeigt das neue Modell "Orion" nicht die erwarteten Fortschritte. Es übertrifft seinen Vorgänger in Sprachaufgaben, aber nicht in Bereichen wie Programmierung. Ähnliche Schwierigkeiten gibt es bei Google mit der kommenden "Gemini"-Software, die hinter den internen Erwartungen zurückbleibt.

Hossenfelder sieht den Grund für die stagnierenden Fortschritte in einem grundlegenden Missverständnis der KI-Forscher. Das bloße Hinzufügen von mehr Daten und Parametern zu den Modellen sei nicht der richtige Weg. Irgendwann führe dies nicht zu mehr Intelligenz, sondern erhöhe nur die Komplexität ohne echten Nutzen. Weitere Gründe erläutert ein Hackernoon-Beitrag.

Während viele Brancheexperten weiterhin an den unbegrenzten KI-Fortschritt glauben, bleibt Hossenfelder skeptisch und sieht einen neuen "KI-Winter" herannahen. Sie ist der Meinung, neue Ansätze und ein besseres Verständnis der zugrunde liegenden Probleme notwendig sind. Ihr Fazit: Die gegenwärtigen Methoden stoßen an Grenzen, und es ist Zeit für ein Umdenken bei der Entwicklung Künstlicher Intelligenz.

Bild: Couleur / Pixabay