Viele KI-Modelle sind rechenintensiv und zu teuer.
Peter Wüst, SVP Solutions & Builder, Salesforce
Nicht erst seit der kürzlich veröffentlichten Meldung, ein Konzern habe durch fehlende Nutzungslimits für Mitarbeiter rund 500 Millionen US-Dollar für Claude ausgegeben, wird intensiv über das Thema KI-Kosten diskutiert. Ein Hebel, um auf diese Entwicklung zu reagieren, ist der differenzierte Einsatz von KI-Modellen, denn gerade größere Modelle sind oft teuer, rechenintensiv und für viele Aufgaben überdimensioniert. Lange Antwortzeiten sowie fehlende Transparenz über weitere relevante Kennzahlen wie Energieverbrauch und Emissionen verschärfen die Herausforderung. Gefragt ist daher eine Architektur, die Leistung gezielt und angemessen einsetzt.
Entscheidend ist dabei in erster Linie, welche Aufgabe ein Modell übernehmen soll. Sinnvoll ist es, einzelne Prozessschritte auf passende Agenten und Modelle zu verteilen: Kleinere, spezialisierte Modelle übernehmen dann standardisierte Aufgaben wie beispielsweise die Analyse von Anfragen, führen Sicherheitschecks durch, priorisieren Informationen und formulieren Antworten, während leistungsfähigere Modelle komplexe Schlussfolgerungen bearbeiten. Ein unabhängiges Modell kann anschließend Qualität, Quellen und Aufgabenerfüllung noch einmal kontrollieren. So lassen sich Rechenleistung, Kosten, Geschwindigkeit und Qualität gezielter steuern.
Wie groß der Unterschied durch eine solche Strategie sein kann, zeigt ein Beispiel aus der Entwicklung von Agentforce. Für die Erkennung von Absichten und das Routing von Anfragen wurde das spezialisierte HyperClassifier-Modell eingesetzt. Es verarbeitet eine Anfrage in etwa 26 Millisekunden, während ein allgemeines Frontier-Modell für denselben Schritt rund 1.446 Millisekunden benötigt. Zugleich stieg die Genauigkeit von 95 auf 99 Prozent. Der Nutzen entstand hier nicht durch die Größe eines KI-Modells im Rahmen eines "One fits all"-Ansatzes, sondern durch die klare Definition und entsprechende Zuteilung einzelner Aufgaben.
Den Mehrwert unterstreicht auch ein Beispiel von Linde. In einem Anwendungsfall aus dem Kundenservice wurden eingehende Fälle automatisch gelesen, klassifiziert und an das zuständige Team weitergeleitet. Nach Angaben des Unternehmens erreichte der Agent dabei eine Genauigkeit von rund 90 Prozent, 20 Prozentpunkte mehr als der vorherige Ansatz. Das spielt im Arbeitsalltag eine große Rolle, weil Fälle nicht erst mehrere Stationen durchlaufen müssen, bevor sie bei der richtigen Ansprechperson landen.
Der Vorgang ist ein gutes Beispiel für eine sinnvolle Arbeitsteilung: Die KI übernimmt eine klar umrissene, wiederkehrende Aufgabe und bei komplexen Entscheidungen bleibt der Mensch eingebunden. Für die Modellwahl bedeutet das, dass nicht jede Klassifizierung über ein großes generatives Modell laufen muss. Ein schnelles Modell kann die erste Einordnung übernehmen. Nur wenn ein Fall weitere Analyse oder eine individuelle Antwort erfordert, wird zusätzliche Rechenleistung aktiviert.
Auch die Lead-Qualifizierung lässt sich nach dem gleichen Prinzip in einzelne Schritte zerlegen. Siemens setzt dafür auf einen orchestrierten Multi-Agent-Ansatz. Ein Agent qualifiziert Leads anhand von 50 Regeln, ein weiterer unterstützt Vertriebsteams bei der Priorisierung. In diesem Prozess werden wöchentlich mehrere tausend Leads verarbeitet. Reaktionszeiten, die zuvor Tage betragen konnten, verkürzten sich dadurch auf Minuten.
Der entscheidende Punkt ist nicht die Anzahl der Agenten, sondern die Trennung der Verantwortlichkeiten. Regelbasierte oder klar strukturierte Prüfungen können mit schlanken Modellen und festen Vorgaben erfolgen. Die Bewertung, welcher Kontakt die Aufmerksamkeit eines Vertriebsteams verdient, kann zusätzliche Daten und ein anderes Modell erfordern. Ein übergreifender Agent koordiniert die Schritte und sorgt dafür, dass Ergebnisse an der richtigen Stelle zusammenlaufen. So entsteht ein Prozess, der sich messen, anpassen und kontrollieren lässt.
Wirtschaftlichkeit ist jedoch nur eine Seite. Wer KI außerdem nachhaltig betreiben will, muss wissen, welche Ressourcen ein Modell über seinen gesamten Lebenszyklus benötigt. Dazu gehören das Vortraining, die nachträgliche Anpassung und die spätere Nutzung im laufenden Betrieb. Besonders bei agentischen Anwendungen ist die Inferenz relevant: Wenn ein System für eine Aufgabe viele Schritte autonom hintereinander ausführt, kann der Verbrauch deutlich höher sein als bei einer einzelnen Anfrage.
Transparenz schaffen hier AI Model Cards. Salesforce hat dazu die bisherigen Angaben zu Einsatzbereich, Leistung und Risiken bei ausgewählten Modellen um Schätzungen zu Energieverbrauch und Emissionen ergänzt. Die Werte werden nach den verschiedenen Lebenszyklusphasen aufgeschlüsselt. Die methodische Grundlage ist der AI Energy Score, der unter anderem Hardware, Auslastung, Laufzeit und Rechenzentrumsregion berücksichtigt. Damit wird Nachhaltigkeit zu einer Kennzahl, die neben Qualität, Latenz und Kosten in die Entscheidung einfließen kann.
Bild: Magnific