24.05.2023 Sprachmodelle

Stoppt die Maschinen?!

Von: Peter van der Putten

Im Kommentar widmet sich Peter van der Putten, Director AI Lab bei Pegasystems, der Frage, ob es der richtige Weg ist, die Entwicklung von GPT-4 zu stoppen.

Sich nur auf die Gefahren der neuen Technologie zu fokussieren, hält Peter van der Putten für wenig sinnvol.

Große Sprachmodelle bergen Risiken, darüber lässt sich nicht streiten. Erschwerend findet ein Wettlauf um immer größere Modelle statt. Erweitert man sie um Plug-ins, wie OpenAI es vorschlägt, steigt das Schadenspotenzial dieser Systeme ins Unermessliche. Es ist daher logisch und sinnvoll, dass Forscher dazu aufrufen, die Entwicklung noch leistungsfähigerer KIs als GPT-4 zu stoppen, oder? Nun, nicht unbedingt.

Noch keine Details

Mir stellt sich zunächst die Frage, was genau mit „leistungsfähiger als GPT-4“ gemeint ist. Vielleicht meinen die Initiatoren der Petition ja größere Modelle. Bis dato hat OpenAI allerdings noch keine Details zur Architektur ihrer aktuellen KI-Iteration veröffentlicht. Und was genau meinen die Verfasser des Brandbriefs mit „stoppen“? Selbst wenn KI-Entwickler einem sechsmonatigen Moratorium zustimmen würden, wirklich sinnvoll scheint es nicht: Die Entwicklungszeit so großer Modelle beträgt in der Regel über ein Jahr und einzelne Akteure könnten sich über ein solches Gebot ohne gesetzliche Grundlage auch einfach hinwegsetzen. Es wird zudem schwer sein, eine solche Pause durchzusetzen. Viele Organisationen weltweit arbeiten bereits an ähnlichen Modellen wie ChatGPT, darunter Google, DeepMind, Amazon, Meta, Baidu und eine Reihe von Start-ups und Open-Source-Kollektiven.

Nicht im Wege stehen

Ich bin der Meinung, wir sollten der Entwicklung von Modellen auf dem Niveau von GPT-4 nicht aus Prinzip im Wege stehen. Was wir brauchen, sind neue Marktteilnehmer und wettbewerbsfähige Forschungs- und Open-Source-Modelle – neue KIs also, die nicht nur über den Preis konkurrieren, sondern auch über Sicherheit, Offenheit und Reifegrad.

Dies ist ein Artikel aus unserer Print-Ausgabe 5/2023. Bestellen Sie ein kostenfreies Probe-Abo.

Statt die Entwicklung neuer KI-Modelle temporär auf Eis zu legen, sollten wir uns auf andere Bereiche konzentrieren. Etwa darauf, gemeinnützige Einsatzzwecke für sie zu ersinnen. Wir sollten zudem an der Robustheit und Genauigkeit der Modelle arbeiten, angelernte Vorurteile beseitigen und Wege finden, automatisierte Entscheidungen transparenter zu machen. Viele der Bedenken fußen auf diesen Problemen. Mit anderen Worten: Wir brauchen mehr, nicht weniger Alternativen zu GPT-4.

Bildquelle: Pegasystems