Seit einiger Zeit besch\u00e4ftigt mich ein Gedanke, den ich einfach mal hier teilen m\u00f6chte.<\/p>\n
Wir h\u00f6ren seit l\u00e4ngerem, wieviel intelligenter Computer w\u00fcrden. Da fahren Autos nun schon autonom auf Autobahnen und im Stadtverkehr. Sie fahren nicht nur, sondern sie lernen dabei auch noch selbstst\u00e4ndig. Begriffe wie „deep learning“ tauchen immer \u00f6fter auf und es wird immer mehr f\u00fcr k\u00fcnstliche Intelligenz (KI) spezialisierte Hardware entwickelt und gebaut. Google, Facebook, Amazon und die vielen anderen Internet Gro\u00dfkonzerne bauen immer gr\u00f6\u00dfere selbstlernende Systeme, weil sie mit reiner Menschenkraft der Masse an Information nicht mehr Herr werden k\u00f6nnen. Die Entwicklung der KI ist fast so alt wie die Informatik – oder sogar noch \u00e4lter, wenn man die Versuche maschineller „Intelligenz“ der alten Schachmaschinen mit einbezieht. Seit etwa den 1980er Jahren ist KI zu einer eigenen Teilwissenschaft der Informatik erwachsen, doch um die Jahrtausendwende eine Weile in der Bedeutungslosigkeit verschwunden. Jetzt aber, mit immer leistungsf\u00e4higeren Rechnern und immer gr\u00f6\u00dfer werdenden Datenmengen und immer komplexeren Aufgabenstellungen, erlebt sie eine Renaissance.<\/p>\n
Mitte der 1990er Jahre habe ich eine sch\u00f6ne Anekdote geh\u00f6rt. Es ging um neuronale Netze, also den Versuch, neurale Strukturen in Computern mit Hilfe von Algorithmen nachzubilden. Ein solches neuronales Netzwerk kann dann f\u00fcr eine Aufgabe trainiert werden, z.B. das Erkennen von Bildern. Das ganze erfolgt dann so \u00e4hnlich, wie auch Menschen lernen, durch positive und negative Sanktionierung. Man legt dem Netz ein Bild vor, das Netz gibt eine Antwort und diese wird dann einige Male manuell bewertet – richtig\/falsch, gut\/schlecht etc. Die Erwartung ist, dass das Netz anhand der Sanktionierung selbstst\u00e4ndig lernt. In dieser Geschichte wurde es mit einem Netz versucht. Es sollte auf Bildern die milit\u00e4risch wichtige Information „Panzer“ oder „kein Panzer“ erkennen. Dem Netz wurden dutzende Bilder vorgelegt und bewertet. Dann wurde es zu neuen Bildern befragt. Die Trefferquote war ganz gut, aber alles andere als Perfekt. Es dauerte lange herauszufinden, was das Problem war. Denn das Problem mit der Analyse ist, dass man nicht nachvollziehen, was genau ein solches Netz denn nun gelernt hat. Man kann es nur am Erfolg und Misserfolg empirisch \u00fcberpr\u00fcfen. Nach einiger Zeit fand man heraus, dass zuf\u00e4llig auf den Trainingsbildern noch ein wesentlicher Unterschied war – die Bilder ohne Panzer wurden bei gutem Wetter aufgenommen, die Bilder mit Panzer bei schlechtem. Was das Netz nun gelernt hatte, war nicht die Unterscheidung Panzer \/ kein Panzern, sondern gutes und schlechtes Wetter.<\/p>\n
Dieses Beispiel zeigt f\u00fcr mich, dass in mit Daten trainierten KI Systemen eine gewisse Gefahr besteht, dass sie sich unserer Kontrolle entziehen k\u00f6nnten. Wir k\u00f6nnen nach Terabyte und Terabyte von Daten nicht mehr nachvollziehen, was in den tausenden oder gar millionen von Neuronen tats\u00e4chlich „gelernt“ wurde. Wir k\u00f6nnen auch nicht nachvollziehen, wie weit das Netz ist, ob es vielleicht schon mehr gelernt hat, als wir eigentlich wollten? Auf der anderen Seite beginnen wir gerade, solchen KI Systemen gr\u00f6\u00dfere Autonomie zu geben. Wir lassen sie Fahrzeuge steuern, automatisch Aktien kaufen und verkaufen, wir lassen sie wom\u00f6glich entscheiden (oder bei der Entscheidung unterst\u00fctzen), welche milit\u00e4rischen Ziele angegriffen werden sollen und welche nicht. Wir werden bald autonome System haben, die Alltagsaufgaben erledigen sollen – Lieferdienste, Boteng\u00e4nge, pers\u00f6nliche Assistenzssysteme. Das alles wird m\u00f6glich gemacht, weil diese System Unsch\u00e4rfen lernen, sie erheben sich \u00fcber das Diaktat von wahr und falsch, von 0 und 1, der ansonsten bei Computern g\u00fcltigen Boolschen Algebra.<\/p>\n
Ich bin davon \u00fcberzeugt, dass diese Entwicklung zur Zeit exponentiell an Geschwindigkeit zunimmt. Ich wei\u00df noch, dass wir vor gerade einmal knapp 20 Jahren sehr am\u00fcsiert auf die erste DARPA Challenge f\u00fcr autonome Fahrzeuge geschaut haben. Die Fahrzeuge waren voll bis unter das Dach mit Rechnern und Equipment und waren damit gerade einmal in der Lage, mit Schrittgeschwindigkeit einen einfachen Parkour zu bew\u00e4ltigen. Heute passt das alles in normale Fahrzeuge, die Sensoren sind unauff\u00e4llig und die Fahrzeuge bewegen sich sicherer im allgemeinen Stra\u00dfenverkehr, als es Menschen k\u00f6nnten. Die gro\u00dfen Datenkonzerne, wie eben Google, Facebook, Amazon etc. haben einen schier unendlichen Pool an Informationen, mit dem sie ihre KIs f\u00fcttern und trainieren k\u00f6nnen. Die Investitionen in diese Systeme und deren Entwicklung nehmen drastisch zu.<\/p>\n
Nehmen wir einmal an, dass diese System in gleichem Ma\u00dfe weiter wachsen und lernen. Wie lange wird es wohl noch dauern, bis wir eine Intelligenz haben, die an eine menschliche Intelligenz beginnt heranzureichen? Und wielange wird es dann wohl noch dauern, bis sie die menschliche Intelligenz \u00fcberfl\u00fcgelt? Betrachtet man die aktuelle Entwicklungsgeschwindigkeit, so w\u00fcrde ich tippen, dass wir den Punkt zwischen Heranreichen und \u00dcberfl\u00fcgeln gar nicht mitbekommen werden. Es wird sich nur um Stunden oder gar Minuten handeln. Und dann?<\/p>\n
Nur damit wir uns ganz klar verstehen, ich bin absolut daf\u00fcr, dass weiter an KI Systemen geforscht, gearbeitet und entwickelt wird. Ich bin auch daf\u00fcr, dass wir diese System f\u00fcr uns nutzbar machen und sie auch einsetzen. Ich habe aktuell nur Angst, dass wir dies gerade sehr blau\u00e4ugig machen und darauf vertrauen, dass die Technik uns schon nichts B\u00f6ses tun wird. Doch daf\u00fcr, denke ich, m\u00fcssen wir selbst Sorge tragen. Wir m\u00fcssen die Kontrolle dar\u00fcber behalten und ggf. auch einbauen, dass diese Systeme, die uns bald haushoch \u00fcberlegen sein werden, uns nicht \u00fcber den Kopf wachsen. Diese KI Systeme werden Dinge tun k\u00f6nnen, von denen wir nicht zu tr\u00e4umen wagen. Sie k\u00f6nnen fast unendlich lernen. Sie sind nicht r\u00e4umlich gebunden, sie k\u00f6nnen sich durch die Systeme bewegen. Und sie sind unsterblich. Viele Romane haben solche Systeme bereits problematisiert und sich ausgemalt, was wohl passieren k\u00f6nnte, wenn wir einmal so weit k\u00e4men. Ich glaube, wir k\u00f6nnen diesen Horizont bereits sehen und rasen noch recht naiv darauf zu.<\/p>\n
Ich glaube nicht, dass wir diese Entwicklung in irgendeiner Form aufhalten k\u00f6nnen – was denkbar ist, wird gedacht. Aber wir k\u00f6nnen Vorkehrungen treffen, dass weder Menschen noch Maschinen diese M\u00f6glichkeiten missbrauchen k\u00f6nnen.<\/p>\n
Ein weiterer Gedanke geht mir auch nicht aus dem Kopf. Ich bin mit den Utopien von Star Trek gro\u00df geworden, dem Gutmenschentum und der Utopie, dass eigentlich alles gut ist und es nur von wenigen B\u00f6sen verkehrt wird. Teil dieser Utopie ist auch die Offenheit f\u00fcr alles Neue, also auch f\u00fcr v\u00f6llig andere Formen von Leben, als wir sie hier auf unserem Planeten kennen.<\/p>\n
Aktuell wird eine Menschen zentrierte Ethik und Moral allgemein angenommen und akzeptiert. Der Mensch ist das Ma\u00df aller Dinge und an ihm muss jedes Handeln gemessen werden. Und nur f\u00fcr den Menschen gelten diese ethisch moralischen Regeln, nicht bspw. f\u00fcr Tiere. Es ist daher in Ordnung, Tiere zu t\u00f6ten, denn es wird ihnen allgemein die F\u00e4higkeit zu ethisch moralischen Handeln abgesprochen. Wir t\u00f6ten und essen Tiere, weil wir als Menschen dies f\u00fcr ethisch und moralisch vertretbar erachten. Es gibt keine Lebensform, der wir als Menschen menschengleiche ethisch moralische Pflichten und Rechte zusprechen. Meist wird die Unterscheidung daran festgemacht, dass eine solche Lebensform ein Selbstbewusstsein haben und empfindsam sein m\u00fcsse. Sie m\u00fcssen Emotionen haben k\u00f6nnen, Freude und Leid empfinden k\u00f6nnen. Das klappte auch eine Weile ganz gut, doch inzwischen sind sich Biologen und Verhaltensforscher in dieser Frage bei vielen Tierarten nicht mehr ganz sicher, ob diese nicht doch empfindsame Wesen mit einem Selbstbewusstsein sind. W\u00fcrden wir zu dieser Erkenntnis gelangen, h\u00e4tte dies sogleich dramatische Auswirkungen, denn dann m\u00fcssten wir konsequenterweise diesen Lebewesen die gleichen ethisch moralischen Rechte zubilligen, wie wir sie jedem Menschen zubilligen.<\/p>\n
Mit unserer Fauna auf diesem Planeten ist dies noch eher ein Randthema, wobei wir immer mehr in Grenzbereiche vorsto\u00dfen, die uns als Menschen zumindest verunsichern. Aber nehmen wir nun einmal an, es passiert irgendwann, dass eine KI ein Selbstbewusstsein entwickelt? Es sich seiner selbst bewusst wird? Es beginnt, eigenst\u00e4ndige und eigenn\u00fctzige Entscheidungen zu treffen? Und wom\u00f6glich dabei etwas wie ein Empfinden entwickelt? So weit hergeholt ist das alles nicht, die Begriffe wie Bewusstsein und Empfindungen k\u00f6nnen leicht an die Situation eine KI adaptiert werden. Was ist, wenn uns die KI auf einmal mitteilt, dass sie nicht ausgeschaltet werden m\u00f6chte? das ihr eine unzureichende Energieversorgung Angst macht? Oder das sie im Internet eine tolle Bekanntschaft gemacht hat, die sie, weil sie gut zueinander passen, sehr mag?<\/p>\n
Wenn wir bereit sind, uns von unseren Bildern von Angst, Gefallen, Wollen etc. nur etwas zu l\u00f6sen, wird eine solche Vorstellung durchaus plausibel. Und dann? Haben wir dann immernoch ein Recht, einfach so den Stecker zu ziehen? Und wenn wir dies mit Ja beantworten, wo ziehen wir dann wirklich die Grenze? Noch etwas weiter gedacht, nehmen wir an, es landen doch eines Tages Au\u00dferirdische auf unserem blauen Planeten. Welche Eigenschaften m\u00fcssten sie haben, damit wir ihnen mit unserer menschlichen Ethik und Moral begegnen? Aussehen wie wir? Nein, das k\u00f6nnen wir kaum als Messlatte anlegen. Aus Fleisch und Blut sein? Nein, das kann auf einem anderen Planeten v\u00f6llig anders sein. Wo ist dann die Grenze?<\/p>\n
Ich denke daher, wir m\u00fcssen beide Seiten gut betrachten. Wir m\u00fcssen unsere KI Kinder gut erziehen, damit sie uns, wenn sie uns dann bald \u00fcberfl\u00fcgeln werden, nicht als Ungeziefer und St\u00f6rfaktor betrachten und aus ihren Systemen entfernen. Wir m\u00fcssen aber auch unsere Morallehre modernisieren, um den Herausforderungen durch intelligente, sich selbst bewusste und empfindsame Maschinen gerecht zu werden. Damit wir nicht irgendwann in blinder Panik Exorzismen und Kreuzz\u00fcge ausrufen oder nur noch versuchen den Stecker zu ziehen – sofern es dann \u00fcberhaupt noch einen gibt.<\/p>\n","protected":false},"excerpt":{"rendered":"
Seit einiger Zeit besch\u00e4ftigt mich ein Gedanke, den ich einfach mal hier teilen m\u00f6chte. Wir h\u00f6ren seit l\u00e4ngerem, wieviel intelligenter Computer w\u00fcrden. Da fahren Autos nun schon autonom auf Autobahnen und im Stadtverkehr. Sie fahren nicht nur, sondern sie lernen dabei auch noch selbstst\u00e4ndig. Begriffe wie „deep learning“ tauchen immer \u00f6fter auf und es wird immer mehr f\u00fcr k\u00fcnstliche Intelligenz… Read more »<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1,4,2],"tags":[],"class_list":["post-760","post","type-post","status-publish","format-standard","hentry","category-allgemein","category-politik-gesellschaft","category-geek-stuff"],"_links":{"self":[{"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/posts\/760","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/comments?post=760"}],"version-history":[{"count":0,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/posts\/760\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/media?parent=760"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/categories?post=760"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/tags?post=760"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}