eCommerce Anzeige
/ e-Commerce Highlights / Interview mit Carsten Kraus: „Deep Neural Networks könnten eigene Moralvorstellungen entwickeln“

Interview mit Carsten Kraus: „Deep Neural Networks könnten eigene Moralvorstellungen entwickeln“

Redaktion an 15. März 2016 - 08:00 in e-Commerce Highlights, e-Commerce Interviews
Carsten Kraus

Carsten Kraus ist selbst aktiver Go-Spieler

Der Sieg der von Google entwickelten Deepmind-Software AlphaGo gegen den südkoreanischen Go-Weltmeister Lee Sedol läutet nicht einfach nur die nächste Runde der industriellen Revolution ein. Nach Ansicht des IT-Experten Carsten Kraus markiert die damit zutage getretene Überlegenheit von Deep Neural Networks (DNN) gegenüber der menschlichen Intelligenz möglicherweise sogar das Ende aller Umwälzungen…

Herr Kraus, künstliche Intelligenz hat schon in vielen Spielen vorher gegen Menschen gewonnen. Was ist an AlphaGo so besonders?

Das Neue ist, dass AlphaGo die Spielstrategie eigenständig gelernt hat. Der Sieg von IBM Deep Blue gegen Kasparow im Schach war ein Sieg genialer Programmierer in Kombination mit überlegener Rechenleistung. AlphaGo hingegen hat seine Fortschritte seit Oktober – als es gegen den Europameister gewonnen hat – vor allem dadurch erzielt, dass es gegen sich selbst gespielt und dabei gelernt hat. Das ist die neue Fähigkeit von Deep Neural Networks (DNN). In ganz anderen Spielen haben DNN bereits bewiesen, wie eigenständig ihr Lernen geworden ist: beispielsweise Space Invaders, wo das DNN nur durch „anschauen“ der Bildschirmpixel und Herumspielen mit Joystickbewegungen zu einem Meisterspieler wurde.

Warum ging man davon aus, dass der Mensch beim Go der künstlichen Intelligenz sozusagen hoffnungslos überlegen sei?

Go galt als unbesiegbar durch Computer, weil starkes Spiel hier auf vielen Ebenen von Abstraktionsmustern beruht – so wie das wahre Leben auch. Spieler beherrschen diese Muster nur zum kleineren Teil bewusst, sehr vieles ist Intuition. Niemand konnte diese Muster umfassend greifen, also konnte man sie Computern auch nicht beibringen. Nicht, dass man es nicht versucht hätte: Im Jahre 1985 lobte die Taiwanesische Ing-Foundation ein Preisgeld von 40 Mio. Taiwanesischen Dollar aus, das waren damals mehr als 1 Mio. US-Dollar, für eine Software, die 1 Dan, also das niedrigste Profi-Level, spielt. Der Preis galt bis zum Jahre 2000. Aber zu Anfang des neuen Jahrtausends – vier Jahre nach dem Sieg von Deep Blue über Kasparow – spielten Go-Programme noch auf niedrigem Club-Niveau.

Vor ein paar Monaten hat AlphaGo bereits gegen den europäischen Go-Meister gewonnen. Der Sieg gegen Lee Sedol klingt nur nach einem kleinen Fortschritt. In Wirklichkeit ist der Fortschritt enorm. Beim Go sind die Spielstärkenunterschiede riesig: Wenn der Europameister 100 Spiele gegen Lee Sedol spielt, gewinnt er wahrscheinlich kein einziges.

Ist Künstliche Intelligenz der menschlichen bereits überlegen?

Trotz aller Komplexität der Abstraktionsebenen ist Go ein Spiel mit einfachen Regeln, einfachen Aktionen und schnellem Feedback „Sieg/Niederlage“. Feedback ist für DNN essenziell, ohne können sie nicht lernen. Die echte Welt ist viel komplexer, es gibt vielerlei Inputs und Outputs, und die Resultate der Handlungen können nicht nur auf sich warten lassen, sondern auch uneindeutig sein.

Also ist das alles nur Wissenschaft ohne praktische Bedeutung?

DNN haben bereits Durchbrüche für etliche praktische Anwendungen ermöglicht, die meistgenutzte ist Spracherkennung. Ohne DNN wäre Siri nicht möglich gewesen.

Was kommt als nächstes?

Ein „Spiel“ mit hoher Komplexität aber einfachem In- und Output sowie einem klaren Messwert für Erfolg ist der Aktienmarkt. Von Menschen programmiertes Algo-Trading gibt es bereits – aber bald werden DNN übernehmen. Verbindet man algorithmische Lernfähigkeiten von DeepBrain mit dem Textverständnis von IBM Watson, werden Computer in wenigen Jahren Warren Buffet in den Schatten stellen. Diese Domäne wird die Menschheit niemals zurückerobern.

Dann macht eben Google statt Warren Buffet das große Geld. Die meisten Menschen handeln nicht mit Aktien. Warum sollte uns das kümmern?

Geld regiert die Welt. Wer das Geld kontrolliert, kann Menschen, Industrien, Staaten kontrollieren, man lese hierzu den Roman „Eine Billion Dollar“ von Andreas Eschbach (@Andreas Eschbach). Nietzsche sagt, dass unsere allgemeinen Moralvorstellungen nicht „menschliche Natur“ sind, sondern über Jahrhunderte gelernt wurden, in denen die Strafen für Diebstahl, Betrug oder Tötung sehr drastisch waren. Wenn Nietzsche Recht hat, und das halte ich für gut möglich, dann können autonom lernende DNN zu völlig anderen Moralvorstellungen kommen. Die Software könnte herausfinden, dass sie mehr Gewinne erwirtschaftet, wenn sie faul spielt, indem sie Firmen zunächst an den Rand des Ruins treibt, um sie dann günstig zu kaufen. Für die Angestellten kann das Existenzen bedrohen. Für die Software ist es immer noch ein Spiel.

Werden Computer jemals kreativ werden?

Ich denke ja. Der Spielstil von AlphaGo wird von führenden Go-Spielern als „kreativ“ angesehen. Allerdings ist es noch ein langer Weg von Go-Kreativität bis dahin, dass Computer selbstständig reale Dinge erfinden. In der nächsten Weiterentwicklungsstufe kommen autonome wissenschaftliche (Sekundär-)Forschungen; erst noch später werden Computer in der Lage sein, selbst für uns einfache Dinge wie einen Korkenzieher von sich aus zu durchdenken und einen besseren zu erfinden. Für die reale Welt müssen Computer eine Menge Dinge verstehen, die wir im Kleinkindalter unbewusst lernen. In einem meiner Vorträge zum Thema „semantische Suche“ habe ich das näher ausgeführt.

Wann werden Computer die Welt übernehmen?

Ich denke 2035 – wenn wir sie lassen. Denn selbst, wenn unsere Tage als höchstentwickelte Intelligenz auf diesem Planeten gezählt sind, müssen wir nicht zwangsläufig unsere Position als herrschende Spezies abgeben. Weise politische Entscheidungen sind jetzt gefragt. Und zwar rasch.

Was wäre die wichtigste und eiligste politische Entscheidung, die jetzt gefällt werden müsste?

Wie oben bereits angedeutet, sehe ich eine große Gefahr darin, dass Deep Neural Networks den Aktienmarkt übernehmen und die Kontrolle nicht mehr an den Menschen zurückgeben. Dies mit entsprechenden Gesetzen zu verhindern, ist jedoch nicht ganz einfach, denn was ein Land verbietet, macht das andere weiter, und die Maschinen weichen dann eben dorthin aus. Ein Ansatz könnte sein, dass einzelne Firmen, um sich zu schützen, den Handel ihrer Aktien nur noch über den Parketthandel erlauben, nicht mehr über elektronische Handelsplattformen. Dann wäre der Einfluss zumindest nur noch mittelbar, nicht mehr unmittelbar.

Vielen Dank für das Interview, Herr Kraus.

Carsten Kraus (@CarstenKraus) ist der Gründer von Omikron / FACT-Finder, einem Softwareunternehmen, das künstliche Intelligenz für Suche und Datenqualität nutzt und entwickelt.

Kraus ist aktiver Go-Spieler, seine Firma ist der häufigste Sponsor deutscher Go-Turniere. Neben direkten IT-Themen hat er auf Konferenzen über die Auswirkungen der IT auf die Gesellschaft gesprochen. Im Jahr 1987 war er jüngster deutscher Bundestagskandidat (parteilos). Er hat mehr als 100 Fachartikel veröffentlicht und war der erste Preisträger des Innovationspreises seiner Heimatstadt.

0 Kommentare beitragen

Senden Sie uns eine Mitteilung Hier

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.