Spannend, ich habe gerade nachfolgenden Text von mir wiedergefunden, den ich im Oktober 2016, also vor gut sechs Jahren, als eine Art Reaktion auf einen Auftritt von Google CEO Sundar Pichai geschrieben hatte… es ging rund um k\u00fcnstliche Intelligenz und deren m\u00f6gliche Folgen. Pichai schwor damals die Zuh\u00f6rer*innen auf „AI first!“ statt „mobile first“ ein. Hier mein damaliger Text:<\/p>\n
Ich glaube Pichai hat Recht. Vielleicht ein bisschen fr\u00fch, aber so wird es kommen, davon bin auch ich \u00fcberzeugt. Endger\u00e4te, egal ob Smartphone, Laptop, „PC“, der Fernseher oder ein „Lautsprecher“, sie werden nur noch I\/O Terminals zum Netz, zur Cloud und den KI basierten Diensten gro\u00dfer Anbieter sein. Die Dienste, die damit realisierbar sind, werden so attraktiv f\u00fcr Benutzer_innen sein, dass sie nicht zu verwenden kaum noch eine Alternative sein wird.<\/p>\n
Vor einigen Jahren hat man online Buchungen f\u00fcr Reisen bel\u00e4chelt. Man sagte, naja, das ist ja ganz nett, aber die Menschen werden lieber von Personen beraten werden wollen, die Bezahlung und Abwicklung ist viel zu umst\u00e4ndlich, die Auswahl zu gering etc. Heute ist es de-facto so, dass der \u00fcberwiegende Teil von Reisebuchungen online stattfindet. Eine offline Buchung am Schalter oder im Reiseb\u00fcro ist heute meist teurer, als online, die Auswahl eingeschr\u00e4nkt und es ist einfach unpraktisch. Was man vor wenigen Jahren der online Buchung nachsagte, gilt eigentlich heute f\u00fcr die offline Buchung.<\/p>\n
Also ja, was Pichai beschreibt wird kommen, sicherlich. Nur warum ausgerechnet KI? Warum keine normalen Algorithmen und Programme? Die man dann vielleicht auch dezentral einsetzen k\u00f6nnte, auf seinem heimischen oder mobilen Rechner?<\/p>\n
Auch hier denke ich, dass dies so kommen wird, also immer mehr und verst\u00e4rkt L\u00f6sungen auf einer KI artigen Basis. Was als KI gilt oder nicht ist genauso schwammig und unklar wie „die Cloud“. Gehen wir von Datenaufbereitungs- und Entscheidungsprozessen aus, die heuristisch aus gro\u00dfen Datenmengen Ableitungen f\u00fcr Aussagen treffen, so k\u00f6nnte man dies bereits als eine Art KI bezeichnen, \u00e4hnlich wie es Arthur C. Clarke f\u00fcr Magie postulierte „Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden.“. Ein System mit Zugriff auf schier unendliche Datenmengen und der F\u00e4higkeit daraus Schl\u00fcsse zu ziehen, wird von Intelligenz kaum noch zu unterscheiden sein. Menschen werden diese Entscheidungen nicht mehr nachvollziehen k\u00f6nnen.<\/p>\n
Doch darin liegt, wie ich finde, auch die gro\u00dfe Gefahr dieser Systeme. Sie basieren auf so unvorstellbar gro\u00dfen Datenmengen, die ohne selbstlernende Systeme nicht mehr zu bew\u00e4ltigen sind. Was diese Systeme dabei lernen und welche „Schl\u00fcsse“ sie daraus ziehen, ist f\u00fcr uns Menschen kaum noch nachvollziehbar. Wir k\u00f6nnen es allenfalls noch empirisch \u00fcberpr\u00fcfen, ob denn die Aussagen des Systems den Erwartungen entsprechen, doch ihr Innerstes bleibt uns genauso verborgen, wie die Gedanken eines anderen Menschen.<\/p>\n
Als in den sp\u00e4ten 80er, Anfang der 90er Jahre die ersten (kleinen) neuronalen Netz aufkamen, wurde vom Milit\u00e4r (ich habe leider vergessen wo) ein Experiment in Auftrag gegeben. Die Schilderung des Ablaufs und Ergebnisses hat sich mir fest eingepr\u00e4gt, denn es offenbart, finde ich, sehr anschaulich das Problem. Es wurde ein neuronales Netz konstruiert, dass auf Bildern (= gro\u00dfe komplexe Datenmenge) erkennen sollte, ob ein Panzer darauf zu sehen war oder nicht. Das Netz wurde trainiert mit Dutzenden von Bildern. Anschlie\u00dfend wurde es getestet und die Ergebnisse sahen auch sehr gut aus! Doch ab und zu gab es Fehlerkennungen. Man hat lange herumger\u00e4tselt, wo denn das Problem liegen k\u00f6nne, bis man endlich darauf kam. Auf den Trainingsbildern war nicht nur das Vorhandensein oder nicht-Vorhandensein von Panzern unterschiedlich, sondern auch das Wetter! Die Mehrzahl der Bilder mit Panzer waren bei schlechtem Wetter aufgenommen, die ohne Panzer bei gutem Wetter. Was das Netz „gelernt“ hatte war nicht, Panzer oder nicht Panzer zu erkennen, sondern gutes und schlechtes Wetter zu unterscheiden.<\/p>\n
Was das Beispiel zeigt ist, dass wir im Nachhinein, wenn die Eingangsdatenmenge nur gro\u00df und komplex genug ist, nicht mehr nachvollziehen k\u00f6nnen, was diese Maschinen tats\u00e4chlich lernen. Wir k\u00f6nnen nur noch anhand von Stichproben testen, ob es der Erwartung und Intention entspricht. Im Gegensatz zu einem deterministischen Algorithmus bewegen wir uns in einen Bereich von nicht mehr beweisbarem und nicht deterministischem Verhalten dieser Systeme.<\/p>\n
Ich bin \u00fcberzeugt davon, dass wir diese Entwicklungen nicht stoppen k\u00f6nnen und auch nicht sollten. Es w\u00e4re genauso falsch, wie es vor knapp 200 Jahren falsch gewesen w\u00e4re daran festzuhalten, dass Eisenbahnen Teufelszeug seien, nichts d\u00fcrfe einen Menschen schneller als ein Pferd fortbewegen. KI basierte Systeme, was auch immer diese auszeichnen wird, werden immer mehr Verbreitung finden, das wird unvermeidlich sein. Ihr m\u00f6glicher Nutzen und damit ihre Attraktivit\u00e4t ist einfach viel zu gro\u00df – und viel zu verlockend.<\/p>\n
Diese KI Systeme werden auch unsere Gesellschaft radikal ver\u00e4ndern. Je „intelligenter“ die Systeme werden, desto mehr Aufgaben werden sie \u00fcbernehmen k\u00f6nnen. Aufgaben, die bisher noch Arbeitspl\u00e4tze von Menschen darstellen. Diese werden einfach wegfallen. Es beginnt bereits heute, wenn auch noch sehr z\u00f6gerlich. Fast alle gr\u00f6\u00dferen Logistik Unternehmen investieren in Forschung zu automatisierten Auslieferungssystemen – Drohnen, Lieferwagen, Kleinstlieferungen per mini Rover etc. Die ersten Versuchsanlagen laufen bereits dazu.<\/p>\n
Noch klingt das alles spielerisch und etwas verr\u00fcckt, doch wenn man sich die letzten 20 Jahre und die Entwicklung der Computersystem in dieser Zeit ansieht, dann wird zumindest mir klar, dass wir in sp\u00e4testens weiteren 20 Jahren diese automatisierten Logistik Systeme bis zur Haust\u00fcr haben werden. Diese werden ganz massiv auf KI artigen Systemen basieren, um in der Au\u00dfenwelt zurecht zu kommen. Die NI, die „natural intelligence“, wird dann f\u00fcr diese Einsatzzwecke nicht mehr gebraucht. Der ganze Bereich der Mobilit\u00e4t steht im Umbruch. Mit der Verbreitung von elektrischen Fahrzeugen wird die „Intelligenz“ in diesen Fahrzeugen noch einmal drastisch zunehmen, so wie es Tesla bereits vormacht.<\/p>\n
Alle gro\u00dfen Fahrzeughersteller verschieben gerade ihre Entwicklungen in E-Fahrzeuge und Assistenzsysteme. Die Assistenzsysteme werden immer intelligenter und f\u00fchren zum Teil heute schon die Fahrzeuge eigenst\u00e4ndig. V\u00f6llig autonome Fahrzeuge gibt es ebenfalls bereits, zumindest in Feldtests. Als 2004, also gerade einmal vor 12 Jahren, die erste DARPA Grand Challenge startete, waren die Fahrzeuge allenfalls interessante Studien – manche sorgten auch f\u00fcr gro\u00dfe Lacher. Es wurde bel\u00e4chelt und als eher akademische Veranstaltung abgetan. Der Aufwand, der in die Fahrzeuge und deren Systeme gesteckt werden musste, war enorm, sie waren vollgepackt mit Rechnern und Sensoren, ein menschlicher Fahrgast h\u00e4tte kaum noch hinein gepasst. Dennoch erreichten die meisten gerade einmal Schrittgeschwindigkeit und strauchelten an trivialen Hindernissen.<\/p>\n
Heute fahren autonome Fahrzeuge, die aussehen wie normale Fahrzeuge, ohne menschliche Intervention von Startpunkt A nach Endpunkt B, quer durch eine Stadt und \u00fcber Autobahnen, mitten im normalen Verkehr. Innerhalb von nur 12 Jahren.<\/p>\n
Diese Fahrzeuge werden unsere Welt und unsere Vorstellung von Mobilit\u00e4t ver\u00e4ndern. Taxi Fahrer_innen braucht es nicht mehr, das Fahrzeug kommt auf Bestellung von alleine vor die T\u00fcr, holt den Fahrgast ab und bringt sie_ihn an das Ziel, ganz ohne menschliches Zutun. Nicht nur die Fahrer_innen werden damit obsolet, sondern damit vielleicht auch die Notwendigkeit zum eigenen Fahrzeug. Wenn ich mir jederzeit an den Ort, an dem ich mich gerade aufhalte, ein Fahrzeug n\u00f6tiger Gr\u00f6\u00dfe und Ausstattung bestellen kann und mich dieses komfortabel und ohne Aufwand f\u00fcr mich an mein Ziel bringt, warum brauche ich dann noch ein eigenes Fahrzeug, dass 99% der Zeit ungenutzt auf mich wartet?<\/p>\n
Auch andere Transportmittel wie Busse etc. werden sich ver\u00e4ndern. Wenn der Mensch als Faktor laufender Kosten eingespart werden kann und nur noch eine Einmalinvestition in das Ger\u00e4t und ein wenig in seine laufende Wartung erfolgen muss, dann werden auch andere Arten von bspw. Bussen m\u00f6glich, Kleinbusse mit nur einer Hand voll Sitzen vielleicht. Erste Pilotprojekte dazu laufen bereits an.<\/p>\n
Ich bin auch davon \u00fcberzeugt, dass die Automatisierung in der Industrie noch einmal einen deutlichen Sprung machen wird. Einfache Arbeiten werden zunehmend von intelligenten Maschinen erledigt werden. Diese System werden immer g\u00fcnstiger und irgendwann wird ein Break-Even zwischen Mensch-Lohnkosten und Maschinen-Investitions-und-Wartungskosten erreicht sein. Sp\u00e4testens dann zwingt die Marktwirtschaft durch den Kostendruck die Industrie dazu, sich zu ver\u00e4ndern. Es ist unvermeidlich.<\/p>\n
Es wird kommen, es wird passieren, wir k\u00f6nnen es nicht verhindern oder aufhalten. Wir k\u00f6nnen nur offen daf\u00fcr sein und versuchen das Beste daraus zu machen. Die sich daraus ergebenden gesellschaftlichen Umbr\u00fcche werden vieles ver\u00e4ndern, auch unser Verst\u00e4ndnis von Arbeit, Leistung und das Verh\u00e4ltnis zu Geld. Wenn immer mehr einfache Arbeitspl\u00e4tze durch die Automatisierung verloren gehen, m\u00fcssen wir als Gesellschaft daf\u00fcr Sorge tragen, dass diese Menschen nach wie vor leben k\u00f6nnen. Daher pl\u00e4dieren auch immer mehr, sogar Wirtschaftsexpert_innen, f\u00fcr eine Teilabsch\u00f6pfung der sogenannten „Automatisierungs Dividende“, um damit vielleicht etwas wie ein bedingungsloses Grundeinkommen zu finanzieren.<\/p>\n
Vielleicht entwickeln wir uns tats\u00e4chlich hin zu einer Star Trek artigen Gesellschaft, in der Geld keine Rolle mehr spielt, in der allen alles zur Verf\u00fcgung steht und sich der Wert einer Leistung anders als in Geld bemisst? Ich w\u00fcrde es mir w\u00fcnschen. In einem Punkt hatte Marx schon Recht, f\u00fcr viele Menschen ist Arbeit eine entfremdete T\u00e4tigkeit, sie machen es nur, um Geld f\u00fcr den Lebensunterhalt zu verdienen. Wieviel verborgenes und heute noch verschwendetes Potential wohl darin steckt?<\/p>\n
Ich habe nur vor zwei Dingen Angst.<\/p>\n
Zur Zeit basiert das, was als KI diskutiert wird, auf der Auswertung von gigantischen Datenmengen in riesigen Rechenzentren von nur sehr wenigen Gro\u00dfkonzernen, die hierzu \u00fcberhaupt die M\u00f6glichkeiten haben. Es braucht die Rechenleistung und vor allem aber auch den Zugriff auf diese Datenmengen, den nur Konzerne wie Google, Facebook, Amazon, Apple, Microsoft etc. haben. Meine Bef\u00fcrchtung ist, dass diese Konzerne das Wissen um die Algorithmen, die Systeme als solche und entsprechend auch ihren Nutzen monopolisieren werden. Schon heute ist es so, dass die Bereiche der Datenauswertung, wo eben gerade diese KIs eingesetzt werden, die best gesch\u00fctzten und gesicherten Bereiche dieser Konzerne sind. Wenn wir uns also dahin bewegen, dass wir diesen Systemen einen gro\u00dfen Teil unseres Alltages anvertrauen werden, und zum Teil sehe ich kaum eine Chance dies zu verhindern, dann begeben wir uns in eine Abh\u00e4ngigkeit von diesen Konzernen.<\/p>\n
Vor einigen Jahren las ich Neuromancer von William Gibson. Eine recht verst\u00f6rende Dystopie einer Welt, die vom Cyberspace bestimmt wird, der von einer Hand voll weltumspannender Konzerne kontrolliert wird. Die reale Welt mit Regierungen und physischen Territorien und Ressourcen spielte kaum noch eine Rolle, alles Wesentliche findet im Cyberspace statt. Die Konzerne beherrschen den Cyberspace durch die Kontrolle der Technologie. Nur noch wenige Menschen haben Einblick dort hinein und die wenigen die es gibt, werden von den Konzernen als h\u00f6chstes betriebliches Asset besch\u00fctzt und bewacht. Es finden in der realen Welt sogar Kriege statt, um sich gegenseitig diese spezialisierten Ingenieure wegzunehmen. Der normale Mensch konsumiert nur noch, denn er hat keinen Einblick mehr in die Funktionsweise und Technologie.<\/p>\n
Meine Bef\u00fcrchtung ist, dass wir uns in eine solche Welt entwickeln k\u00f6nnten. In eine Abh\u00e4ngigkeit von Technologie, die von Konzernen kontrolliert und nur noch von sehr wenigen Menschen verstanden wird. Individueller Einfluss ist dann kaum noch m\u00f6glich, genauso wenig, wie man sich dieser Macht dann noch entziehen kann. Es k\u00f6nnte das de-facto Ende der Demokratie bedeuten, hin zu einer wirtschaftsgetriebenen technokratischen Oligarchie. Tendenzen dazu sind bereits deutlich erkennbar. Produzierende Industrie verliert immer mehr an Bedeutung und Einfluss gegen\u00fcber wissensbasierten Konzernen. Hinzu kommt der globalisierte Finanzmarkt, der es gro\u00dfen Geldmengen erm\u00f6glicht, sich staatlicher Kontrolle sehr weitgehend zu entziehen. So erschaffen diese Konzerne eine Realit\u00e4t au\u00dferhalb der Staaten. Wird dies verkn\u00fcpft mit einer virtuellen Realit\u00e4t, einer Cyber Realit\u00e4t, einem Cyberspace, so spielen Territorien von Staaten und ihr weitgehend darauf begrenzter Einflussbereich endg\u00fcltig kaum noch eine Rolle.<\/p>\n
Meine andere Angst ist der Verlust der Kontrolle. Die Menschheit k\u00f6nnte leicht die Kontrolle \u00fcber diese KIs verlieren. Die Systeme sind so komplex und riesig, dass wir sie nicht mehr \u00fcberblicken k\u00f6nnen. Die Datenmengen sind so gewaltig und divers, dass wir den Zustrom an Wissen und Information in diese Systeme nicht kontrollieren k\u00f6nnen. Die Komplexit\u00e4t und ihr Verm\u00f6gen nehmen streng monoton zu, vielleicht sogar exponentiell. Ein Ende ist kaum abzusehen, denn wir kennen aktuell praktisch nichts, dass man als Grenze dieses Wachstums annehmen m\u00fcsste.<\/p>\n
Es ist also auf jeden Fall absehbar, dass diese Systeme irgendwann einmal eine Komplexit\u00e4t und „Intelligenz“ erreichen werden, die in vielen, wenn nicht sogar allen, Bereichen der menschlichen Intelligenz und Komplexit\u00e4t ebenb\u00fcrtig ist. Es ist nur eine Frage der Zeit. Doch was dann? Wir kennen keine Grenze, also wird sie weiter wachsen, wir aber nicht. Ich bef\u00fcrchte, wir werden diesen Schnittpunkt gar nicht mitbekommen, es wird einfach passieren und wir werden es weder merken noch verhindern k\u00f6nnen.<\/p>\n
Doch was passiert danach? Noch haben wir \u00fcberhaupt gar keine Idee, wie wir mit einem k\u00fcnstlichen Bewusstsein, dass hierbei entstehen wird, umgehen k\u00f6nnen. Au\u00dfer den alten Asimovschen Roboter Gesetzen haben wir praktisch nichts. Unsere gesamte Philosophie und Morallehre ist auf den Menschen ausgerichtet, der Mensch als Ma\u00df aller Dinge, als Dreh- und Angelpunkt jeder Betrachtung. Das ist auch grunds\u00e4tzlich gut so, doch was machen wir dann mit einem k\u00fcnstlichen Bewusstsein? Wie k\u00f6nnen wir dieses reglementieren? Und kann es uns reglementieren? K\u00f6nnen wir dann noch so einfach den Stecker ziehen? Oder m\u00fcssen wir einem nicht menschlichen aber empfindsamen Selbstbewusstsein auch Rechte zugestehen, z.B. ein Recht auf Existenz, auch wenn dieses eben nicht auf menschlichem Leben basiert? Eine Frage, die schon l\u00e4nger diskutiert wird, aber noch nicht beantwortet wurde.<\/p>\n
Immer mehr Philosophen besch\u00e4ftigen sich aktuell mit diesem Thema und das finde ich als Fakt bereits bemerkenswert. Mir scheint, dass dieses Jahr \u00fcberhaupt in die Geschichte eingehen wird, als Jahr, in dem die KI Entwicklung begann, die uns in Zukunft beeinflussen wird und ein Jahr, indem ein allgemeiner Aufbruch in eine neue Zukunft begann, wie durch die Ver\u00e4nderung des Mobilit\u00e4tsgedankens durch elektro Mobilit\u00e4t und autonome Fahrzeuge.<\/p>\n
Es ist eine spannende Zukunft!
\nEine Zukunft, die schneller Realit\u00e4t werden wird, als jemals zuvor.<\/p>\n","protected":false},"excerpt":{"rendered":"
Spannend, ich habe gerade nachfolgenden Text von mir wiedergefunden, den ich im Oktober 2016, also vor gut sechs Jahren, als eine Art Reaktion auf einen Auftritt von Google CEO Sundar Pichai geschrieben hatte… es ging rund um k\u00fcnstliche Intelligenz und deren m\u00f6gliche Folgen. Pichai schwor damals die Zuh\u00f6rer*innen auf „AI first!“ statt „mobile first“ ein. Hier mein damaliger Text: Ich… Read more »<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1,4,2],"tags":[],"class_list":["post-2182","post","type-post","status-publish","format-standard","hentry","category-allgemein","category-politik-gesellschaft","category-geek-stuff"],"_links":{"self":[{"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/posts\/2182","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/comments?post=2182"}],"version-history":[{"count":6,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/posts\/2182\/revisions"}],"predecessor-version":[{"id":2264,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/posts\/2182\/revisions\/2264"}],"wp:attachment":[{"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/media?parent=2182"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/categories?post=2182"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.dpin.de\/nf\/wp-json\/wp\/v2\/tags?post=2182"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}