Vertrauen in Software kann in die Irre führen

Das muss eine Überraschung gewesen sein: Hochwertige Waren für einen einzigen Penny. Wer im Dezember 2014 in Großbritannien zur richtigen Zeit beim richtigen Händler eingekauft hat, konnte einige Stunden lang kostspielige Waren zu diesem Kampfpreis erstehen. Natürlich war das keine Absicht, ein Tool für die automatische Preisanpassung war fehlerhaft und hat den Schleuderpreis bewirkt.

Die Folge: Viele Händler haben innerhalb kürzester Zeit mehrere 10.000 Pfund Verlust gemacht und gerieten zum Teil in finanzielle Schwierigkeiten. Denn die ungewollte Preissenkung hatte sich unter Nutzern von sozialen Netzwerken schnell herumgesprochen. Und Amazon hat ganz brav die bestellten Waren verschickt.

Was der Computer ausgerechnet hat, das stimmt! Leider nein, denn es gibt aus rein praktischen Gründen keine fehlerfreie Software: Die schiere Masse des zu prüfenden Programmcodes sorgt dafür, dass bei absehbarem Prüfaufwand keinesfalls alle Fehler entdeckt werden können.

Übergroßes Vertrauen in Computer ist risikoreich

Das größte Risiko beim Einsatz vom Software ist das übergroße Vertrauen in die Ergebnisse. Häufig verzichten die Nutzer auf Plausibilitätsprüfungen, stichprobenartiges Nachvollziehen von Berechnungen und andere Verfahren, um die Möglichkeit von Fehlern zu senken. So kommt es dann zu lange Zeit unentdeckten Problemen, wie beispielsweise gerade wieder anhand der Magnetresonanztomographie (MRT) bekannt wurde.

In den letzten beiden Jahrzehnten gab es zahlreiche neue und interessante Erkenntnisse der Hirnforschung, die in Teilen durch das bildgebende MRT-Verfahren gewonnen wurden. Eine schwedische Forschergruppe um Anders Eklund überprüfte die Ergebnisse mehrerer Software-Pakete für die Auswertung der MRTs. Das Ergebnis: Die Programme interpretierten die gemessenen Daten falsch und erkannten bis zu 70 Prozent falsch positive Aktivierungsereignisse im „ruhenden“ Gehirn der Versuchspersonen.

Die gefundenen Probleme sind sicher sehr alt, es ist nur bisher niemand auf die Idee gekommen, die MRT-Aufnahmen zu überprüfen. Die Konsequenz der Entdeckungen durch die schwedischen Forscher ist: Etwa 40.000 Studien aus 20 Jahren basieren auf falschen Daten und ziehen daraus mit Sicherheit falsche Schlüsse. Mit einer simplen Gegenprobe haben also die Schweden eine Menge Theorien zum Einsturz gebracht, ähnlich wie der damalige Student Thomas Herndon, der eine Studie einfach mal nachgerechnet hat.

Dabei handelte es sich um „Growth in a Time of Debt“ der Ökonomen Kenneth S. Rogoff und Carmen Reinhart. Sie ist die entscheidende wissenschaftliche Grundlage für die aktuelle Austeritätspolitik vieler Staaten, mit dem Ziel eines ausgeglichenen Haushalts unter allen Umständen. Sie basierte auf einer Excel-Tabelle, deren Berechnungen falsch waren. Unter anderem waren für die entscheidenden Formeln nicht alle notwendigen Daten markiert, so dass Schlussfolgerungen wie „Bei mehr als 90 Prozent Staatsverschuldung rutschen Länder in die Armut ab“ auf einer fehlerhaften statistischen Analyse beruhen. Kurz: Das Spardogma besitzt wohl keine wissenschaftliche Grundlage.

Abgehörte Server, abgeschaltete Kraftwerke

Ähnlich weitreichende Folgen haben Softwarefehler auch in anderen Bereichen, etwa in der Infrastruktur des Internets. Im Sommer 2014 entdeckten Entwickler von Google eine schwere Sicherheitslücke in älteren Versionen der Open-Source-Bibliothek OpenSSL, mit der Daten aus verschlüsselten Verbindungen ausgelesen werden konnten.

Die Lücke war mehr als zwei Jahre lang unentdeckt geblieben. Sie erlaubte das Abgreifen von Daten, ohne große Spuren zu hinterlassen. Daher ist nicht sicher, in welchem Maß der Fehler ausgenutzt wurde. Betroffen von der Lücke waren praktisch alle Online-Dienste und Websites, die OpenSSL eingesetzt haben. Ein großer Teil des Internets konnte also abgehört werden.

Auch das Stromnetz wird im Wesentlichen durch Software gesteuert und kann deshalb vergleichsweise leicht durch einen Fehler geschädigt werden. So hat zum Beispiel ein schlichter, aber ans falsche Computersystem verschickter Steuerbefehl im Mai 2013 das österreichische Stromnetz an den Rand eines totalen Blackouts gebracht.

Zunächst hatte sich der Steuerungsbefehl aus dem gerade gestarteten Erdgas-Leitsystem in Süddeutschland in das Steuerungssystem der europäischen Stromnetze verirrt, sich dort multipliziert und dadurch den Strombetrieb fast zum Absturz gebracht. Nur dank schneller Reaktionen konnte ein Übergreifen des Fehlers auf das gesamte europäische Stromnetz verhindert werden – es wäre mit relativ einfachen Mitteln komplett stillzulegen gewesen.

Ein echtes Mittel gegen solche Softwarefehler gibt es nicht, doch es gibt in der Softwareentwicklung ausreichend erprobte Verfahren zur Qualitätssicherung. Sie senken das Risiko und sorgen dafür, dass möglichst viele vor der Auslieferung entdeckt werden. Aber sie sind keine Wunderwaffen. Denn die entscheidende Voraussetzung bei allen Methoden zur Vermeidung von Softwarefehlern lautet: Sie müssen auch tatsächlich eingesetzt werden.

Bildquelle: Thinkstock