Google „Creepy“ Duplex

Wenn die persönliche KI einen Termin vereinbart

Werden jetzt Black-Mirror-Dystopien Wirklichkeit oder bekommen wir digitale Kumpels, die uns ein paar Jobs abnehmen?

Roboter-Kopf mit Headset

Roboter mit Headset - so stellt sich SF den persönlichen Assistenten vor

Eine eingeschränkte Version des Turing-Tests hat Google Duplex vielleicht schon bestanden. Während des Gesprächs in einer genau definierten Situation ist die KI auf Anhieb nicht mehr von einem menschlichen Gesprächspartner zu unterscheiden. Doch Vorsicht:  Was die Besucher der Keynote auf der Google-Konferenz zu hören bekamen, war eine Demo mit eindeutigem Marketing-Zweck. Darüber hinaus hat Google Duplex nicht live gesprochen, es war eine Aufzeichnung.

Es ist also unklar, wie stark die Reaktionen der KI im Vorhinein an die jeweiligen Situationen angepasst worden sind. Wenn Google Duplex tatsächlich die gezeigten Leistungen in Echtzeit bringt und dabei nicht ins verbale Stolpern gerät, ist die App ein enormer Fortschritt der künstlichen Intelligenz. Zahlreiche Beobachter der Präsentation warnen bereits: So lassen sich über KI-Sprachsynthesizer Stimmen beliebiger Personen erzeugen, die dann via Google Duplex irgendwelchen Schabernack bis hin zu echten Verbrechen begehen könnten.

Gibt es ein „Uncanny Vocal Valley“ für KIs?

Die erste Frage ist natürlich, ob es wirklich so ist. Wer sich die Google-Erklärungen zu Duplex anschaut, stellt fest: Darin stecken immer noch Tricks, die nichts mit KI zu tun haben. So scheint Google Duplex (nach vermutlich statistischen Kriterien) hin und wieder mal aufmunternde Floskeln wie „Hmmm“, „Aha“, I see“, Let me look“ in die Konversation einzufügen. Dadurch wirkt sie menschlicher, denn Menschen machen so etwas üblicherweise.

Die Frage ist natürlich, ob in längeren Konversationen nicht der Eindruck entsteht, es mit einem etwas seltsamen Gesprächspartner zu tun haben. Die Beispieldialoge aus dem Google-Blog sind beeindruckend, doch genaues Hören zeigt, dass die KIs kleine, kaum merkliche Fehler machen: Sie streuen ein unmotiviertes „Hmm“ ein oder zögern etwas zu lang mit einer Antwort, sodass der Gesprächspartner seine Aussage wiederholt.

Es ist angesichts solcher Nachlässigkeiten gut möglich, dass es - zumindest im Moment - bei der Gestaltung einer akustischen KI-Persönlichkeit ein „Uncanny Valley“ gibt und lediglich eine Annäherung an menschlich klingende Dialoge möglich ist. Trotzdem: Die Illusion ist perfekt genug, um eilige, auf schnelle Abwicklung des Anrufs ausgerichtete Mitarbeiter von Unternehmen zu täuschen.

Bald möglich: Die persönliche KI

Angesichts der Demo von Google Duplex rückt ein typisches Requisit von Scifi in greifbare Nähe: Die persönliche KI, die auf Zuruf Aufgaben erledigt und als digitaler Butler arbeitet. Die Vorstellung ist verführerisch: Sich mit einem Satz wie „Sag den Termin beim Zahnarzt ab, vereinbare einen für nächste Woche, am besten am Freitagvormittag und bestelle dann für heute Abend ein Tisch im Steakhaus“ eine Menge Aufgaben vom Hals zu schaffen.

Doch viele Leute finden diese Idee und vor allem die scheinbar fehlende Unterscheidbarkeit von KI und Mensch eher beängstigend. Einzelne Kommentatoren sprachen von einer Horrorvorstellung und forderten Google dazu auf, aus ethischen Gründen die menschliche durch eine eindeutig zu identifizierende „Hollywood-Roboterstimme“ zu ersetzen. Allerdings: Die meisten angerufenen Leute würden wohl beim Ertönen einer solchen Stimme erst einmal auflegen.

Wie lässt sich vermeiden, dass Menschen getäuscht oder betrogen werden? Google hat kurz nach der Entwicklerkonferenz angekündigt, bei der marktfähigen Version von Google Duplex die Dialoge so zu gestalten, dass sich die KI bei Gesprächsaufnahme eindeutig als solche vorstellt. Darüber hinaus ist es denkbar, jeder KI-Instanz unabhängig von der genutzten Stimme einen eigenen, vollständig individuellen „akustischen Fußabdruck“ zugegeben, sodass ein betrügerisches Vorgehen schnell aufgedeckt werden kann.

KIs sollten auch als KI auftreten

Solche Maßnahmen sind sicher hilfreich und es ist auf jeden Fall eine gute Idee, wenn eine KI deutlich macht, dass sie kein menschlicher Gesprächspartner ist. Vermutlich wird es eine Frage der Gewöhnung sein. Bei größter Flexibilität von Google Duplex und möglichst weiter Verbreitung gibt es durchaus Alternativen zur Dystopie.

So ist es denkbar, dass die persönlichen KIs ähnlich schnell eine breite Akzeptanz wie seinerzeit die Anrufbeantworter erreichen. Auch hier gab es anfangs allerlei Bedenken und viele Leute haben erschreckt aufgelegt. Doch bereits wenige Jahre nach der Einführung waren Anrufbeantworter normal und wurden als praktisch empfunden. Den persönlichen KIs könnte es genauso gehen.

Gut möglich, dass wir in wenigen Jahren viele lästige Aufgaben damit erledigen werden. Es ist sehr wahrscheinlich, dass für formale Anrufe nach kurzer Zeit der Gewöhnung eine sehr hohe Akzeptanz entstehen wird. Denn in vielen beruflichen Kontexten ist der Angerufene immer in Eile und heilfroh, wenn der Gesprächspartner schnell zum Punkt kommt und ebenso schnell wieder auflegt. Beides dürften KIs sehr gut können.

Bildquelle: Thinkstock

©2018Alle Rechte bei MEDIENHAUS Verlag GmbH

Unsere Website verwendet Cookies, um Ihnen den bestmöglichen Service zu bieten. Durch die weitere Nutzung der Seite stimmen Sie der Verwendung zu. Weitere Infos finden Sie in unserer Datenschutzerklärung.

ok