Zwischen Euphorie und Furcht

Denn mit dem Einsatz von Sprachmodellen wie jenem Text-Bot sind eine Vielzahl ethischer und rechtlicher Herausforderungen verbunden. Grundsätzlich gehört ChatGPT zu einer neuen Generation von KI-Systemen, die mitunter Texte verfassen, Bilder und Videos erzeugen und Codes programmieren können. Solche Sprachmodelle werden mithilfe von Machine-Learning-Methoden (ML) mit sehr großen Mengen an Daten gefüttert. Dank dieses Trainings können sie z.B. auch komplexe Fragen ausführlich beantworten. Die bisherigen technischen Erfolge hält Volker Tresp, Professor für Maschinelles Lernen an der Ludwig-Maximilians-Universität München, jedenfalls für phänomenal, „auch wenn die Systeme gelegentlich noch fehlerhafte Antworten geben oder Fragen nicht richtig verstehen“. Auch können Text-/Sprach-Bots z.B. Vorurteile aus den zugrunde liegenden Daten in ihre Antworten bzw. Ergebnisse übernehmen und diese sogar verstärken. Diese Diskriminierung zu minimieren, ist eine große technische und organisatorische Aufgabe für die KI-Entwickler.

Dies ist ein Artikel aus unserer Print-Ausgabe 1-2/2023. Bestellen Sie ein kostenfreies Probe-Abo.

Auch das Thema „Sicherheit“ sollten sie dabei im Blick behalten, denn laut Richard Werner, Business Consultant bei Trend Micro, überlegen Kriminelle bereits, wie sie die Fähigkeiten von ChatGPT zu ihren Zwecken nutzen können. Eine Warnung spricht auch Shishir Singh, Chief Technology Officer für den Bereich „Cybersecurity“ bei Blackberry, aus: „Wir erleben zurzeit eine Menge Hype und Panikmache, aber die Branche bleibt ziemlich pragmatisch – und das aus gutem Grund.“ Die Vorteile dieser fortschrittlichen Technologie seien vielfältig, aber man dürfe auch die Auswirkungen nicht außer Acht lassen. Je ausgereifter die Plattform sei und je mehr Erfahrung die Hacker mit ihrer Nutzung erlangten, desto schwieriger werde es, sich zu verteidigen, ohne auch KI zur Verteidigung einzusetzen. Letztlich ist also stets Vorsicht geboten, wenn man mit einem Chatbot ins Gespräch kommt.

Bildquelle: Getty Images / iStock / Getty Images Plus