{"id":1530,"date":"2016-09-04T15:35:27","date_gmt":"2016-09-04T13:35:27","guid":{"rendered":"http:\/\/www.vordenker.de\/blog\/?p=1530"},"modified":"2022-06-03T14:28:56","modified_gmt":"2022-06-03T12:28:56","slug":"wer-hat-angst-vor-der-superintelligenz-wer-hat-angst-vor-maerchen-wtf","status":"publish","type":"post","link":"https:\/\/www.vordenker.de\/blog\/1530\/wer-hat-angst-vor-der-superintelligenz-wer-hat-angst-vor-maerchen-wtf\/","title":{"rendered":"Wer hat Angst vor der Superintelligenz? Wer hat Angst vor M\u00e4rchen? WTF!"},"content":{"rendered":"

tl;dr: Die Idee der technologischen Superintelligenz<\/a>, der Maschine, die intelligenter ist als wir, ist ein Objekt des Glaubens und nicht der forschenden, wissenschaftlichen und konstruierenden T\u00e4tigkeit von uns Menschen. Sie entspricht – in ihrer Struktur – der mittelalterlich-alchimistischen Hoffnung auf das k\u00fcnstliche Menschlein, den Homunkulus und auch dem neoliberalen Glauben an eine \u00fcbergeordnete Rationalit\u00e4t des \u201efreien Marktes\u201c. Sie folgt damit auch dem mainstream-Zeitgeist einer neoliberal komplett durchgebimsten Welt. Zwischen Homunkulus und Robot gibt es jedoch einen ganz prinzipiellen Unterschied. Beim Robot wei\u00df der Konstrukteur, was er getan hat und kennt somit auch die Grenzen der Maschine.<\/p>\n

Das WTF-M\u00e4rchen von der Superintelligenz<\/h3>\n

Unsere Maschinen werden immer intelligenter, hei\u00dft es. Gemeint sind nat\u00fcrlich Computer, z.B. IBMs Watson, Deep Blue im Schach und zuletzt AlphaGo im altchinesischen Go-Spiel. Dar\u00fcber hinaus Computernetze und jedes mit Sensoren und Aktoren ausgestattete technische \u201eDing\u201c, also Roboter, selbstfahrende Autos und \u2013 ganz besonders schlimm – Drohnen.<\/p>\n

Wobei hier \u2013 das muss wirklich gesagt werden – der Begriff \u201eIntelligenz\u201c recht unscharf und vage gehalten ist.<\/p>\n

Und eines Tages, zu einem Zeitpunkt, der \u2013 je nach charakterlicher Ausrichtung und Geschmack – entweder in wohlig g\u00e4nseh\u00e4utiger Vorfreude oder in Horror-Alptr\u00e4umen \u201etechnologische Singularit\u00e4t\u201c genannt wird, werden diese Maschinen genauso intelligent sein wie wir und uns per Maschinen-Evolution sogar noch \u00fcberholen. Dann \u00fcbernehmen sie die Weltherrschaft und wir haben keine Zeit mehr, rechtzeitig den Stecker zu ziehen.<\/p>\n

Zu sp\u00e4t f\u00fcr die Kabelzange. Terminators SKYNET l\u00e4sst gr\u00fc\u00dfen. Oder die MATRIX. Oder HAL 9000 in Kubricks 2001 Odyssee im Weltraum, ach nee, sorry, der wird ja abgeschaltet, kicher.<\/p>\n

Die Angst vor einer Superintelligenz geht um \u2013 auch bei Leuten, die daran basteln und von denen man das erst mal so nicht erwarten w\u00fcrde. Warum? Gef\u00fchlt das halbe Silicon Valley geh\u00f6rt dazu, Leute wie Ray Kurzweil, der erste Gedanken dazu in seinem Werk „Homo Sapiens“ ver\u00f6ffentlichte, Elon Musk (Tesla, Space-X), der PayPal-Gr\u00fcnder Peter Thiel und viele andere aus dem Valley, der Oxforder Philosoph Nick Bostrom<\/a>, ein engagierter Transhumanist und Autor von \u201eSuperintelligenz\u201c, und sogar der Physiker Stephen Hawking<\/a>. Sie alle warnen vor der maschinellen Intelligenz<\/a>, die eines Tages \u2013 und dieser Tag, so wird prophezeit, ist nat\u00fcrlich nicht fern \u2013 die biologisch evolvierte menschliche Intelligenz besiegen, unterjochen oder gar ausl\u00f6schen w\u00fcrde.<\/p>\n

Im Interview mit Jay Tuck \u201eLernf\u00e4hige Computer sind nicht mehr kontrollierbar<\/a>\u201c in der Zeitung \u201eJunge Welt\u201c vom 3.\/4. September 2016 offenbart sich der eklatante gedankliche Fehler. Er sagt: \u201eDenken Sie an \u201aFrankenstein\u2018. Das ist eine klassische Geschichte \u00fcber eine Wissenschaft, die Amok l\u00e4uft.\u201c<\/p>\n

Und ich frage mich, was geht da ab? Denn Frankenstein, das ist KEINE Wissenschaft.<\/strong><\/p>\n

Jedoch das kulturelle Motiv dazu ist uralt. Schon in der mittelalterlichen Geschichte vom Golem des Rabbi L\u00f6w soll das kabbalistische Kunstwesen Golem im Prag dieser Zeit die j\u00fcdische Gemeinde vor einem Pogrom sch\u00fctzen. Die Geschichte von Mary Shelleys Frankenstein kennen wir. Der Arzt Dr. Victor Frankenstein schnippelt und n\u00e4ht mehr oder weniger gut erhaltene Leichenteile zusammen, platziert sie dann so, dass ein Blitz einschl\u00e4gt und erschafft ein pseudomenschliches Monster, dessen Verhaltensweise er weder versteht noch kontrollieren kann. Goethes Gedicht vom Zauberlehrling \u201eWalle, walle, das zum Zwecke \u2026 die Geister, die ich rief …\u201c geh\u00f6rt in dieselbe Ecke.<\/p>\n

Der Blitz, das ist die Metapher, das sprachliche Bild vom g\u00f6ttlichen Odem, vom Funken Gottes, und ab da ist der Mensch aus dem Spiel. Donar, die altgermanische Gottheit mit dem Donnerstag, Wotan, Odin und Thor lassen hier gr\u00fc\u00dfen. Und auch Jahwe aus dem alten Testament, der brennende Dornbusch. Oder war es doch Loki, der germanische Luzifer, der Lichtbringer? Egal, Walhalla oder Asgard. (Geiles Bier \u00fcbrigens, aus Schleswig!)<\/p>\n

Der Blitz, der Bewusstseinsfunke, das ist auch das Moment, das in dem \u2013 richtig wunderbaren \u2013 Film von John Badham aus dem Jahr 1986 \u201eNummer 5 lebt!<\/a>\u201c den kleinen Kriegsroboter zu etwas Neuem macht, an dem sein Konstrukteur im Film, der Informatiker und Philosoph! Dr. Newton Crosby, intellektuell schier verzweifelt. Denn Nummer 5 entwickelt eine eigene Ethik und die Liebe zum Leben. \u201eKeine Funktionsst\u00f6rung, Nummer 5 lebt!\u201c<\/p>\n

Let\u2018s get serious again \u2026<\/h3>\n

Aber wenn man auf magische Rituale oder singul\u00e4re Blitzmomente, in denen sich der Sch\u00f6pfer der Welt \u00e4u\u00dfert, verzichten will, dann ist die Frage, was macht ein Konstrukteur, wenn er etwas konstruiert, was macht ein Programmierer beim Programmieren? Denn das menschliche Subjekt als technisch denkendes und handelndes Subjekt, darf in einer vollst\u00e4ndigen Betrachtung nicht fehlen.<\/p>\n

Das muss dann in Verbindung gebracht werden mit der weiteren Frage, ob sich Intelligenz \u2013 h\u00e4ufig synonym verwendet zum Begriff Bewusstsein \u2013 technisch konstruieren l\u00e4sst und was f\u00fcr Voraussetzungen dazu notwendig sind.<\/p>\n

Gerade die Beantwortung der letzten Frage \u201eist […] f\u00fcr ein unbefangenes, vorurteilsloses Denken vollkommen offen\u201c, schreibt der deutsch-amerikanische Philosoph und Logiker Gotthard G\u00fcnther<\/a> in seiner bedenkenswerten Publikation \u201eDas Bewusstsein der Maschinen\u201c. Die 1. Auflage ist aus dem Jahr 1957!<\/p>\n

In einer heutzutage selten bis gar nicht mehr vorhandenen sprachlichen Klarheit argumentiert der \u201ePhilosoph der Kybernetik\u201c weiter (Ich scheue mich geradezu, das umzuformulieren, denn besser geht es imho nicht. Und es ist auch lang. Aber im Netz ist ja Platz \u2026) :<\/p>\n

\u201eWas allein unwiderleglich feststeht, ist, dass es nicht m\u00f6glich ist und nie m\u00f6glich sein wird, ein volles menschliches Selbstbewusstsein als Robotgehirn zu entwerfen. Und zwar aus dem folgenden Grunde: die Logik bzw. Mathematik, in der ein solcher „mechanical brain“ beschrieben wird, muss von einem h\u00f6heren Sprachtypus [4] sein als derjenige, den das Robotgehirn braucht, um seine Begriffe zu produzieren. In der Ausdrucksweise der symbolischen Logik: die Konstruktion eines Robots muss in einer Sprache erfolgen, die relativ zu der Sprache, in der ein Robot „denkt“, die Metasprache ist. Nun gibt es aber zu einer Sprache, die Begriffe wie „Ich“, „Du“ oder „Selbst“ als logisch relevante Ausdr\u00fccke enth\u00e4lt, keine Metasprache mehr. Eine solche Sprache ist von h\u00f6chstm\u00f6glicher logischer Ordnung. Wenn also ein Konstrukteur versuchte, einem „mechanical brain“ die eben genannten Begriffe und damit ein Denken in einer Sprache h\u00f6chstm\u00f6glicher Ordnung einzubilden, dann bliebe ihm keine Metasprache mehr, in der er ein solches Robotgehirn entwerfen k\u00f6nnte. Umgekehrt: reserviert der Konstrukteur einen solchen Sprachtypus f\u00fcr die Darstellung seines Entwurfes, dann kann er dem Entwurf selber nur ein niedereres Sprachniveau, in dem solche Worte (Begriffe) noch nicht auftreten, zuschreiben.[5] Ein Gehirn aber, das den Begriff „Selbstbewusstsein“ prinzipiell nicht konzipieren und in seiner Sprache bilden kann, hat auch kein Selbstbewusstsein. Es wird also nie m\u00f6glich sein, einen Robot, der Selbstbewusstsein besitzt, zu konstruieren, weil ein „mechanical brain“, der Worte wie „Ich“ und „Selbst“ gebrauchen kann und wei\u00df, was sie bedeuten eine Sprache spricht, zu der es keine Metasprache mehr gibt, in der sein technischer Entwurf vom Konstrukteur konzipiert werden k\u00f6nnte. Wenn beide die gleiche Sprache spr\u00e4chen, dann w\u00e4ren Sch\u00f6pfer und Gesch\u00f6pf einander geistig ebenb\u00fcrtig. Dies ist absurd.\u201c[1]<\/p><\/blockquote>\n

Die Fussnote 5 aus obigem Zitat, in der G\u00fcnther sich auf den Logiker Alfred Tarski<\/a> bezieht, darf nat\u00fcrlich nicht vorenthalten werden. Sie ist ebenfalls lang (wie \u00fcbrigens Programmcode auch, gelegentlich, kicher):<\/p>\n

\u201eF\u00fcr denjenigen Leser, der an diesem Grundproblem einer allgemeinen Theorie eines „mechanical brain“ n\u00e4her interessiert ist, seien im folgenden die vier logisch m\u00f6glichen Sprach- und Ausdruckssysteme mitgeteilt. Man unterscheidet
\n1. Sprachen, in denen alle Ausdrucksvariablen zu einer und derselben semantischen Kategorie geh\u00f6ren;
\n2. Sprachen, in denen die Anzahl der die Variablen umfassenden Kategorien gr\u00f6\u00dfer als 1, aber stets endlich ist;
\n3. Sprachen, in denen die Variablen zu unendlich vielen semantischen Kategorien geh\u00f6ren, wobei aber die Ordnung dieser Variablen eine im vornhinein gegebene nat\u00fcrliche Zahl nicht \u00fcberschreitet, und schlie\u00dflich
\n4. Sprachen, die Variable beliebig hoher Ordnung enthalten.
\n(Vgl. Alfred Tarski, Der Wahrheitsbegriff in den formalisierten Sprachen, Studia Philosophica, Leopoldi 1935, bes. S. 81).<\/p>\n

Alle h\u00f6her entwickelten Umgangssprachen, die Begriffe wie „Ich“ und „Selbst“ enthalten, geh\u00f6ren der vierten Sprachordnung an. Jede dieser Sprachordnungen ist relativ zu den niederen eine Metasprache. Und man kann \u00fcber eine Sprache nur in einer ihr \u00fcbergeordneten Metasprache wissenschaftlich exakt sprechen. Auf dem Niveau des vierten Sprachtypus, der auch Universalsprache genannt wird, kann man \u00fcber alles sprechen; allerdings mit der h\u00f6chst betr\u00e4chtlichen Einschr\u00e4nkung, dass man in der Logik, die diese Sprache beschreibt, Paradoxien und Antinomien in Kauf nehmen muss, wenn man \u00fcber „Tatbest\u00e4nde“ spricht, deren Begriffe erst auf diesem Sprachniveau sich bilden. Solche Begriffe sind z.B. „Ich“ oder „Selbstbewusstsein“. Paradoxien aber sind nicht als technische Objekte konstruierbar.“[1]<\/p><\/blockquote>\n

Nun denn, die Indiziensammlung von Nick Bostrom in \u201eSuperintelligenz\u201c ist durchaus ernstzunehmen und stellt f\u00fcr sich betrachtet nat\u00fcrlich eine Flei\u00dfarbeit dar.[2]<\/p>\n

Ein Kernargument ist das der sogenannten Seed AI<\/a>, der s\u00e4enden artificial intelligence, die Idee Eliezer Yudkowskys<\/a>, dass eine sog. K\u00fcnstliche Intelligenz mit der M\u00f6glichkeit ausgestattet wird, den eigenen Programmcode so zu verbessern, dass in der n\u00e4chsten Generation die Performance wiederum besser aussieht. Quantitativ, in Geschwindigkeit und Speicherkapazit\u00e4t.<\/p>\n

Eine richtige Seed AI jedoch muss den Anwendungszweck und die Gestaltung des eigenen Programmcodes verstehen, um eine weitere Generation mit verbesserter Intelligenz zu erstellen. Selbstreferenz hei\u00dft eben nicht, dass ein Programm lediglich seinen eigenen Code ausdrucken k\u00f6nnen muss (Was ausgepr\u00e4gte Kurzdenker in der Informatik immer noch glauben, die ein Quine<\/a> f\u00fcr die Krone allen Denkens halten.)<\/p>\n

Es geht um ein Verh\u00e4ltnis zu sich selbst, dass aber in der Theorie formaler Systeme bislang verboten ist, um Antinomien zu vermeiden, dazu geh\u00f6rt auch der Tausch der Rollen von Operatoren und Operanden \u2013 Zwischenruf: Geht aber wohl! – Antwort, Jahaa, aber nicht simultahaan! Paralleehel!<\/p>\n

Nein! – Doch! – Ooaargh!<\/p>\n

Dazu sind selbstreferentielle Kalk\u00fcle notwendig \u2013 die gibt\u2018s schon, in der Polykontexturalen Logik, sie sind aber noch nicht maschinell \u2013 was aus Gr\u00fcnden, die hier nicht ausgef\u00fchrt werden k\u00f6nnen, eine besondere Schwierigkeit darstellt – implementiert \u2026. und sie beinhalten, weil sie selbstreferentiell sind, das Moment der Subversion, das daher auch sich selbst den Stecker ziehen kann \u2026.<\/p>\n

Wenn es um Erkennen, also Kognition, und Wollen, Volition, geht m\u00fcssen wir kapieren, dass es eben Lebewesen sind, die Kognitionen haben. Und diese waren einer Evolution unterworfen.<\/p>\n

Nun kann wieder eingewendet werden, dass eine Seed AI diesen Punkt irgendwann erreicht haben wird, den Punkt, an dem die Evolution der Algorithmen \u2013 selbstt\u00e4tig \u2013 losl\u00e4uft. Und wer gibt den Startschuss? Etwas von toter Materie zum Leben bef\u00f6rdert haben wir bislang nicht, alles, was in der Gentechnik getrieben wird, ist Ver\u00e4nderung, Ver\u00e4nderung von Materie, die vorher schon lebte.<\/p>\n

Wo also soll der Kick-Off der maschinellen Evolution herkommen? Magische Momente wie oben? Kurzschluss? Blitzschlag? Ohh Wotan weiche von mir \u2026, nee, danke. Das kulturelle Vorstellungsmuster ist ja bekannt.<\/p>\n

Ich behaupte, das mit der Superintelligenz ist unsere eigene, leider allzu oft fehlende Achtung vor dem Leben, die auf uns selbst als Urangst zur\u00fcckschl\u00e4gt. Das ganze ist \u2013 psychologisch betrachtet – eine ungeheure Projektion.<\/p>\n

Mit der sich aber in der Form von B\u00fcchern und Fernsehdokumentationen reichlich Geld einnehmen l\u00e4sst. …<\/p>\n

Und sie deckt sich in ihrer Struktur mit der neoliberalen Vorstellung einer \u00fcbergeordneten Rationalit\u00e4t, einer Art Supersumme der Rationalit\u00e4t der freien rationalen Marktteilnehmer \u2013 alles, alles kleine homo oeconomicusse, rofl, die der einzelne kleine homo oeconomicus eben nicht erkl\u00e4ren kann.<\/p>\n

Frage: Ok, gut, Joachim, hast Du denn gar keine Angst?
\nAntwort: Vor einer Superintelligenz oder der technologischen Singularit\u00e4t jedenfalls nicht. Aber ich habe eine Schei\u00dfangst davor, was gewisse Leute – also Menschen \u2013 mit halbwegs intelligent konstruierten algorithmischen Maschinen schon heute alles anstellen und m\u00f6glicherweise morgen noch anstellen werden \u2026.<\/p>\n

Zum Abschluss noch einmal Gotthard G\u00fcnther zur Zukunft:<\/p>\n

\u201eHier waltet ein Gef\u00fchl, in dem, vorl\u00e4ufig noch unausge\u00adspro\u00adchen, die Einsicht lebendig ist, dass in dem intelligenten Robot dem Menschen seine eigene vergangene Geistigkeit entge\u00adgentritt; eine Geistigkeit freilich, die er als Arbeit an die Au\u00dfenwelt hat abgeben m\u00fcssen, um einen Weg f\u00fcr ein weiteres und tieferes Verst\u00e4ndnis seiner selbst frei\u00adzumachen. Was uns in der Maschine be\u00adgegnet, ist gewe\u00adsenes Leben, ist lebendiges F\u00fchlen und alte Leidenschaft, die der Mensch nicht ge\u00adscheut hat, dem Tode der Objektwelt zu \u00fcbergeben. Nur dieser Tod ist das Tor zur Zu\u00adkunft.\u201c[3]<\/p><\/blockquote>\n

Wir haben eine kulturelle Grundausstattung \u2013 und die besteht im wesentlichen aus unseren Umgangssprachen und den formalen Sprachen der Mathematik und der Logik. – Nutzen wir sie. Erweitern wir sie. Konstruieren wir Maschinen. Gemeinsam, demokratisch. Das ist menschlich. Alles andere ist Bullshit.<\/p>\n

Sch\u00f6nen Sonntag noch, Nick H.<\/p>\n

Quellen:<\/p>\n

[1] G\u00fcnther, Gotthard; Das Bewusstsein der Maschinen, 3. Aufl. Baden-Baden 2002, S. 212f
\n[2] Bostrom, Nick; Superintelligenz; Berlin 2014
\n[3] G\u00fcnther, Gotthard; Maschine, Seele und Weltgeschichte; in: Beitr\u00e4ge zur Grundlegung einer operationsf\u00e4higen Dialektik, Bd III, Hamburg 1980, S. 211 \u2013 235, online<\/p>\n","protected":false},"excerpt":{"rendered":"

tl;dr: Die Idee der technologischen Superintelligenz, der Maschine, die intelligenter ist als wir, ist ein Objekt des Glaubens und nicht der forschenden, wissenschaftlichen und konstruierenden T\u00e4tigkeit von uns Menschen. Sie entspricht – in ihrer Struktur – der mittelalterlich-alchimistischen Hoffnung auf das k\u00fcnstliche Menschlein, den Homunkulus und auch dem neoliberalen Glauben an eine \u00fcbergeordnete Rationalit\u00e4t des […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6,24,367,4],"tags":[529,527,93,532,534,533,528,195,94,537,531,251,525,526,530,524,536,535],"class_list":["post-1530","post","type-post","status-publish","format-standard","hentry","category-allgemein","category-internet","category-kybernetik","category-wissenschaft","tag-ai","tag-elon-musk","tag-evolution","tag-frankenstein","tag-glaube","tag-homo-oeconomicus","tag-homunkulus","tag-kunstliche-intelligenz","tag-kybernetik","tag-matrix","tag-mythen","tag-neoliberalismus","tag-nick-bostrom","tag-ray-kurzweil","tag-seed-ai","tag-superintelligenz","tag-terminator","tag-urangst"],"_links":{"self":[{"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/posts\/1530","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/comments?post=1530"}],"version-history":[{"count":9,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/posts\/1530\/revisions"}],"predecessor-version":[{"id":2300,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/posts\/1530\/revisions\/2300"}],"wp:attachment":[{"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/media?parent=1530"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/categories?post=1530"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/tags?post=1530"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}