2371224

Künstliche Intelligenz: Open Source schafft Vertrauen

22.02.2019 | 14:10 Uhr | Rafael Laguna

Wach auf, Neo. Folge dem weißen Kaninchen – oder warum wir bei KI besser auf Offenheit und damit auf Software setzen sollten, die wir auch verstehen können.

Am Anfang der Matrix-Filmtrilogie erhält der Filmheld Neo (Keanu Reeves) die geheimnisvolle Nachricht auf seinem Computer: „Wake up Neo. Follow the white rabbit. The Matrix has you.“

Die Filme zeigen den Kampf des Helden und seiner Freunde gegen eine gewaltige, außer Kontrolle geratene Maschine mit Künstlicher Intelligenz , die die Körper nahezu aller Menschen zur eigenen Energiegewinnung nutzt. Während die Menschen in einer Art Brutkasten hilf- und willenlos dahinvegetieren, glauben sie weiterhin, dass sie ein reales Leben haben – wobei sich lediglich ihre Gedanken in einer computergenerierten Traumwelt bewegen, der Matrix.

Als der Film im Jahr 1999 in den Kinos für Furore sorgte, hatten containergroße Großrechner weniger Rechenleistung und Speicherkapazität als sich mancher Bitcoin-Miner heute in den Keller stellt. Entsprechend war KI noch ein sicheres Terrain für Science-Fiction-Autoren.

Das hat sich in weniger als 20 Jahren grundlegend geändert. Künstliche Intelligenz und Maschinelles Lernen (KI/ML) sind so weit salonfähig geworden, dass sich jüngst auch die Bundesregierung hierzu zu Wort gemeldet und „ Eckpunkte für eine Strategie Künstliche Intelligenz “ veröffentlicht hat.

Natürlich findet sich auf den 12 Seiten allerlei Richtiges und Sinnvolles, etwa, dass Deutschland „zu einem weltweit führenden Standort für KI“ werden soll und dass die Bundesregierung die „verantwortungsvolle und gemeinwohlorientierte Nutzung von KI“ voranbringen will.

Zum Digital-Gipfel der Bundesregierung Ende November 2018 in Nürnberg will die Bundesregierung dann konkreter werden. Dass KI neben Chancen auch Risiken birgt, dessen ist sich auch die Kanzlerin bewusst. „Man darf nicht, wie bei der Kernspaltung, das Machbare einfach geschehen lassen. Das wird bei der KI auch so sein. „Behaltet Euch als Menschen die Hoheit und setzt Euch Leitplanken“, sagt Angela Merkel bei einer Veranstaltung Ende Juni . Oder: „Wir müssen die Dinge so steuern, dass der Mensch die Hoheit hat.“

Vertrauen ist gut, Offenheit ist besser

Damit das auch so bleibt, sollten wir meiner Meinung nach bei KI und ML möglichst nur auf Software vertrauen, die wir auch verstehen können. Und damit wir Software verstehen können, müssen wir auch Zugang zum menschenlesbaren Quellcode (Source Code) haben.

In der Tat gibt es einige populäre Open-Source-Software für Künstliche Intelligenz: Da ist zum Beispiel Tensorflow , eine auf der Programmiersprache Python basierende Programmbibliothek, die von Google entwickelt wurde und für Googles Spracherkennung und für die Analyse der von Street View aufgenommenen Bilder eingesetzt wird.

Das zweite Beispiel ist Open AI , eine Non-Profit-Organisation, die ihre Algorithmen und Tools unter Open-Source-Lizenzen veröffentlicht. Finanziell getragen wird die Organisation unter anderem von den Silicon-Valley-Größen Elon Musk und Peter Thiel.

Vertrauen gewinnt man nur durch Transparenz. Da KI und ML an sich schon recht intransparent sind, braucht es nicht nur offene Software für die Algorithmen, sondern es sollten auch die Informationen über die Auswahl der Parameter und Trainingsdaten offengelegt werden, da andernfalls die Gefahr besteht, dass das KI-System falsche bzw. diskriminierende Ergebnisse liefert.

Beispiel gefällig? Stellt bei einer automatisierten Bewerberauswahl für eine Stelle die Dauer der bisherigen Beschäftigungsverhältnisse der Kandidatin oder des Kandidaten ein zentrales Kriterium für die Bewerberauswahl dar, wäre eine algorithmische Entscheidung gegen die Einstellung von Frauen folgerichtig – denn sie verlassen statistisch gesehen aufgrund der Geburt eines Kindes häufiger eine Arbeitsstelle.

Wer zu diesem Themenkomplex weiterlesen möchte, dem sei das Arbeitspapier „ Damit Maschinen den Menschen dienen “ der Bertelsmann Stiftung empfohlen.

Mit ihren Bedenken, dass KI auch eine Bedrohung für die Menschheit darstellen könnte, ist die Physikerin Angela Merkel nicht allein. Auch der im März 2018 verstorbene Stephen Hawking sagte zuletzt , dass KI der größte Erfolg der Menschheit oder das schlimmste Ereignis in der Geschichte unserer Zivilisation werden könnte: „We just don't know.“ Auch Hawking war Physiker.

Macwelt Marktplatz

2371224