{"id":2475,"date":"2023-12-07T14:56:01","date_gmt":"2023-12-07T13:56:01","guid":{"rendered":"https:\/\/www.vordenker.de\/blog\/?p=2475"},"modified":"2023-12-07T16:36:25","modified_gmt":"2023-12-07T15:36:25","slug":"vordenker-news-dezember-2023","status":"publish","type":"post","link":"https:\/\/www.vordenker.de\/blog\/2475\/vordenker-news-dezember-2023\/","title":{"rendered":"vordenker news Dezember 2023"},"content":{"rendered":"\n
\"\"<\/a>
Unscharfe Begriffe – unscharfe Gehirne, J.Paul mit Leonardo Diffusion XL<\/figcaption><\/figure>\n\n\n\n

Liebe Vordenkerinnen, liebe Vordenker,<\/p>\n\n\n\n

das Thema K\u00fcnstliche Intelligenz sowie nicht selten die Feuilletonproduktion dazu, so darf ich vermuten, kommt Ihnen inzwischen mehrheitlich zu den Ohren raus.<\/p>\n\n\n\n

Vielleicht als Antidot nutzbar sind zwei \u00e4ltere, nun hier republizierte Texte aus den Jahren 2005 und 2007, die ihrerseits u.a. auf noch \u00e4ltere Arbeiten aus den Anf\u00e4ngen der Kybernetik und der Projekte und Forschungen zur sogenannten K\u00fcnstlichen Intelligenz Bezug nehmen.<\/p>\n\n\n\n

Der erste Beitrag „Die Computertechnik als Gegenstand philosophischer Reflexion<\/a>“ stammt aus der Feder von Lutz Ellrich, bis 2014 Inhaber des Lehrstuhls am Institut f\u00fcr Medienkultur und Theater an der Universit\u00e4t zu K\u00f6ln.<\/p>\n\n\n\n

Der zweite von Eberhard von Goldammer und mir, „Die logischen Kategorien des Lernens und der Kommunikation \u2014 neu \u00fcberdacht aus polykontexturaler Sicht<\/a>„, erschien 2007 in der dem Gedenken an Gregory Bateson gewidmeten Jubil\u00e4umsausgabe zum 40-j\u00e4hrigen Bestehen der Fachzeitschrift KYBERNETES. Er liegt nun erstmals in deutscher \u00dcbersetzung vor, \u00fcbersetzt mit Hilfe der KI von deepl.com und sorgf\u00e4ltig korrigiert.<\/p>\n\n\n

Beiden Aufs\u00e4tzen liegt ein Ringen um begriffliche Sch\u00e4rfe und sprachliche Pr\u00e4zision zugrunde, das \u2013 zugegebenerma\u00dfen subjektiv gesehen \u2013 heute mindestens 90 Prozent der im Rahmen des Hypes um das Thema K\u00fcnstliche Intelligenz produzierten Essays und Arbeiten abgeht. Denn weitaus die meisten verfangen leider in der Polarit\u00e4t zwischen Technikeuphorie und damit verbundenem Marktgeschrei auf der einen und farbigen Warnungen vor Weltuntergangsszenarien auf der anderen Seite. Dazu wird das Ganze unterf\u00fcttert mit einer recht unreflektierten Vermenschlichung der Maschine. Und bemerkenswert an diesem Publikationsszenario ist die aktive Beteiligung vieler KI-Profis. Gerade hier k\u00f6nnte etwas mehr begriffliche Sch\u00e4rfe positiv zum Reflexionsniveau beitragen.<\/p>\n

<\/p>\n\n\n

Das Thema KI verunsichert. Der sprachlichen Behandlung des Themas kommt daher \u2013 ganz im Sinne der Aufkl\u00e4rung – eine besondere Rolle zu, sie kann \u2013 entgegen dem Hype um Euphorie und Horror \u2013 einen wesentlichen Beitrag leisten zur Entwicklung einer individuellen und politischen Souver\u00e4nit\u00e4t gegen\u00fcber den aktuellen Bestrebungen zur K\u00fcnstlichen Intelligenz sowie allgemein zu einer reflektierte(re)n Haltung zu unseren Techniken und Technologien.<\/p>\n\n\n\n

Die Computertechnik als Gegenstand philosophischer <\/a>Reflexion<\/a>
Lutz Ellrich 2005<\/h5>\n\n\n\n

Der eher n\u00fcchtern betitelte Text Lutz Ellrichs erf\u00fcllt diesen Anspruch voll und ganz. Der Autor sieht ein anstrebenswertes Ziel der Medienphilosophie darin, den Computer als etwas „grundlegend Anderes“ zu denken. Dazu sei ein „Perspektivenwechsel“ notwendig, der einherzugehen habe mit einer Demontage der in erster Linie mit Arnold Gehlen in Verbindung gebrachten Prothesen- oder Kompensationstheorie der Technik. Eben weil das technische Artefakt Rad „sich nur mit viel Fantasie“ auf die biologischen Fortbewegungarten des Menschen beziehen l\u00e4sst, so sei auch der Begriff „Elektronengehirne“ f\u00fcr die ersten Rechenmaschinen im besten Sinne fragw\u00fcrdig.<\/p>\n\n\n\n

Folgt man der Aufforderung Vil\u00e9m Flussers \u2013 der nebenbei bemerkt im Text von Ellrich einer deutlichen Kritik unterzogen wird \u2013, dass, wenn wir etwas erfunden haben, wir erst einmal entdecken m\u00fcssen, was wir da erfunden haben, dann l\u00e4sst sich diese Fragw\u00fcrdigkeit vielleicht derart rechtfertigen, dass der Begriff „Elektronengehirn“ zu einer ersten sprachlich-denkerischen Suchbewegung geh\u00f6rt, f\u00fcr das zun\u00e4chst v\u00f6llig Neue eine Bezeichnung zu finden. Nur darf man dort eben nicht anthropomorphisierend stehenbleiben. „Elektronengehirn“, das ist eine Metapher im besten Sinne, der Metaphorator ist das menschliche Gehirn und der Metaphorand eben die rechnende Maschine.<\/p>\n\n\n\n

Hinzuzuf\u00fcgen ist heute, dass genau diese Anthropomorphisierung, die Ellrichs Beitrag u.v.a. ja kritisiert, sich mittlerweile \u2013 sp\u00e4testens seit den Neunzigern – gewisserma\u00dfen festgefressen hat. Dabei hat sich die Metaphorisierungsrichtung umgekehrt, wir sprechen nun vom menschlichen Hirn als einem biologischen Computer. Metaphorator ist nunmehr die rechnende Maschine Computer, mit der wir unser Hirn zum Metaphoranden, oder wer es pathetischer mag, zum Opfer dieser sprachlichen Operation machen.<\/p>\n\n\n\n

Halten wir mal vereinfacht und als Arbeitshypothese fest, dass das, was wir verk\u00fcrzt und marktgerecht K\u00fcnstliche Intelligenz nennen, etwas v\u00f6llig Anderes ist als menschliche Intelligenz, die nach Jean Piaget immer dann zum Einsatz kommt, wenn wir nicht wissen, was wir tun sollen.<\/p>\n\n\n\n

In Entgegnung zu den bereits genannten Prothesen- und Kompensationstheorien ist dann folgender Analogieschluss angebracht: <\/p>\n\n\n\n

K\u00fcnstliche Intelligenz verh\u00e4lt sich zur menschlichen Intelligenz wie das Rad zum Bein.<\/p><\/blockquote><\/figure>\n\n\n\n

Ok, das klingt eher wie aus einem Werbespot, m\u00fcsste aber in einschl\u00e4gigen Debatten zum Thema als punch line ganz gut funktionieren.<\/p>\n\n\n\n

Neben der hier herausgegriffenen Kritik der Anthropomorphisierung muss in dieser Anmoderation hervorgehoben werden, dass Ellrichs Beitrag einen Kurzabriss der Diskursgeschichte des Computers liefert, der von den Anf\u00e4ngen mit Wiener und der Kybernetik \u00fcber die Ber\u00fchrungen zwischen dem kybernetischen und dem philosophischen Diskurs, hier sind G\u00fcnther und Heidegger zu nennen, weiter zu Dreyfus, Putnam, Searle, Dennett usw. f\u00fchrt bis hin zur Kritik des Autors an den vollmundigen Versprechungen der KI-Apologeten Minsky, Moravec und McCarthy.<\/p>\n\n\n\n

Ellrichs Aufsatz schlie\u00dft mit f\u00fcnf Aufgaben f\u00fcr eine zuk\u00fcnftige Medienphilosophie des Computers, f\u00fcr die er \u2013 als work in progress \u2013 Vorschl\u00e4ge zum Weiterdenken unterbreitet. Die erste Aufgabe w\u00e4re eine Kl\u00e4rung von Grundbegriffen. Mehr soll hier nicht verraten werden. Was die Grundbegriffe angeht, so scheint es, sind wir noch nicht viel weiter gekommen. Das belegen zahlreiche Feuilletontexte zum akuellen Themenfeld K\u00fcnstliche Intelligenz.<\/p>\n\n\n\n

„Die Computertechnik als Gegenstand philosophischer Reflexion<\/a>“ liefert einen profunden Debattenbeitrag zum Mensch-Maschine-Verh\u00e4ltnis. Der Essay ist anschlussf\u00e4hig und kann direkt in Beziehung gesetzt werden auch zu neuen und neuesten, wichtigen Beitr\u00e4gen, von denen hier stellvertretend zwei genannt sind.<\/p>\n\n\n\n

Zwei Anregungen<\/h5>\n\n\n\n

In seinem, mit dem Titel „I\u2019m sorry, HAL, I won\u2019t let you do that.<\/a>“ auf Stanley Kubricks Science Fiction Film „2001 – Odyssee im Weltraum“ Bezug nehmenden Vortrag auf der re:publica 2023 kritisiert der Informatiker J\u00fcrgen Geuter<\/strong> den Themenkomplex KI als „eine diffuse Menge von Narrativen“. Er hebt u.a. hervor, dass in den Debatten um K\u00fcnstliche Intelligenz KI vom Objekt zum Scheinsubjekt erhoben wird durch Formulierungen wie „KI ersetzt X Jobs“, „KI lernt“, „KI halluziniert“, etc.<\/p>\n\n\n\n

Link zum Video<\/a> \/\/ Link zur Pr\u00e4sentation<\/a><\/p>\n\n\n\n

Die im Kern politische Forderung Geuters, zu etwas Nein sagen zu k\u00f6nnen, die Ber\u00fccksichtigung sozialer Aspekte, die explizite Kapitalismuskritik findet u.a. einen Ankn\u00fcpfungspunkt im Text Ellrichs, wo \u00fcber den moralischen Appell an Ingenieure, Softwareentwickler und reflektierte Nutzer durch Dreyfus, Winograd und Flores berichtet wird.<\/p>\n\n\n\n

Geuter fokussiert sich auf diese gesellschaftlichen Aspekte und klassifiziert die Antworten auf die Frage „Was ist Bewusstsein und haben Maschinen das?“ als „langweilig und irrelevant“ sowie als „Besch\u00e4ftigung f\u00fcr Mittelalter-Dudes mit zuviel Tagesfreizeit“, wohl, weil diese Frage inflation\u00e4r in sehr vielen Medienbeitr\u00e4gen zu Thema KI – meist als Horrorvorstellung – mitschwingt.<\/p>\n\n\n\n

Da mutet es im Nachhinein geradezu prophetisch an, wenn Ellrich 2005, also vor 18 Jahren, in der Conclusio seines Aufsatzes schreibt: „Ob Denken, F\u00fchlen, Wollen etc. etwas mit Berechnung im Sinne der Turing-Church-These oder mit den Formen der verteilten Berechnung zu tun haben, ist eine weitere Frage, die ihren Reiz (trotz vieler entt\u00e4uschender Studien zum Thema) sobald nicht verlieren wird.“<\/p>\n\n\n\n

Auf die Hypothese vom Verh\u00e4ltnis von Rad zu Bein verweisend wage ich im Anschluss daran trotz und wegen ChatGPT die Prognose, dass es bei diesen Entt\u00e4uschungen bleiben wird – und dass stattdessen – etwas Anderes \u2013 geschehen wird.<\/p>\n\n\n\n

Wie dem auch sei, wir sind damit auf der H\u00f6he der Zeit und ich m\u00f6chte anregen, einen Blick in einen im Juni auf netzpolitik.org ver\u00f6ffentlichten Text von Meredith Whittaker<\/strong> zu werfen, die ebenso wie Geuter auf der diesj\u00e4hrigen re:publica zu Gast war.<\/p>\n\n\n\n

2019 schied die Informatikerin bei Google aus und ist heute Pr\u00e4sidentin der gemeinn\u00fctzigen Signal-Stiftung, die den von Edward Snowden empfohlenen gro\u00dfartigen Messenger Signal mit Ende-zu-Ende Verschl\u00fcsselung bereitstellt. In ihrem Beitrag „Vermessung bis ins Innerste<\/a>“ schiebt sie apokalyptische Szenarien beiseite und identifiziert KI als einen Marketing-Begriff, laut eines Interviews mit John McCarthy von eben jenem erfunden anl\u00e4sslich einer Einladung zu der AI-Konferenz am Dartmouth College 1956, um sich von Norbert Wiener und seiner Kybernetik abzugrenzen. K\u00fcnstliche Intelligenz, dieser Begriff ist also im Grunde der Ausfluss einer Konkurrenz um Forschungs- und F\u00f6rdergelder.<\/p>\n\n\n\n

Und heute, so Whittaker, „soll dieser Mythos die kommerzielle \u00dcberwachung vorantreiben, Regulierung unterbinden und die Ausbeutung von ArbeiterInnen verschleiern.“ U.v.a. berichtet Sie in ihrem Beitrag, dass der Journalist Billy Perrigo von TIME<\/a> aufgedeckt habe, dass OpenAI und GPT auf kenianische ArbeiterInnen angewiesen sind, die weniger als 2 US$ pro Stunde verdienen f\u00fcr die Ausf\u00fchrung von, wie sie sagt, traumatisierenden T\u00e4tigkeiten. Die ArbeiterInnen m\u00fcssen die zum Training von GPT vorgesehenen Daten sichten und manuell s\u00e4mtlichen Dreck entfernen, also textuelle Inhalte mit Gewalt und Missbr\u00e4uchen aller Art. Schon hier zeigt sich, dass Deep Learning, nimmt man das deep\/tief w\u00f6rtlich, eine bislang nicht erf\u00fcllbare Fiktion ist und nur rein quantitativ auf die zahlreichen inneren Layer des jeweiligen neuronalen Netzes verweist.<\/p>\n\n\n\n

Dem Unternehmen OpenAI – und in Folge Microsoft mit seinen neuen GPT-ausgestatteten KI-Office-Copiloten – kommt dabei wirtschaftlich entgegen, dass Kenia ein relativ gutes Bildungssystem hat bei gleichzeitiger hoher Arbeitslosigkeit unter jungen gut ausgebildeten Menschen.<\/p>\n\n\n\n

Also HRL, Human Reinforcement Learning. Ohne das geht es nicht. Womit wir \u2013 was f\u00fcr eine rumpelige \u00dcberleitung – beim zweiten Beitrag w\u00e4ren, denn der hat Lernen zum Thema, auf eine ganz prinzipielle Art und Weise.<\/p>\n\n\n\n

Die logischen Kategorien des Lernens und der Kommunikation
\u2014 neu \u00fcberdacht aus polykontexturaler Sicht<\/a>
Eberhard von Goldammer & Joachim Paul 2007<\/h5>\n\n\n
\n
\"\"<\/a>
Cover Sonderausgabe<\/figcaption><\/figure>\n<\/div>\n\n\n

Zum 40-j\u00e4hrigen Jubil\u00e4um der Zeitschrift Kybernetes erschien 2007 eine Sonderausgabe, f\u00fcr die die Herausgeber einen pr\u00e4genden Kybernetiker der ersten Stunde zum Thema machten: Gregory Bateson.<\/p>\n\n\n\n

Ausgehend von der einfachen Tatsache, dass Lernen selbst immer eine Ver\u00e4nderung des Verhaltens zur Folge hat, entwickelte Bateson eine Typologie des Lernens in dem Aufsatz „Die logischen Kategorien des Lernens und der Kommunikation“, enthalten als Buchkapitel in seiner \u00d6kologie des Geistes<\/em>. Der Fokus liegt hier nicht auf der Frage, wer oder was etwas wie lernt, vielmehr wird der Prozesscharakter des Lernens herausgesch\u00e4lt.<\/p>\n\n\n\n

Wir steuerten einen Aufsatz bei, in dem wir Batesons Beitrag zun\u00e4chst einem erneuten close reading unterzogen, um dann seine einzelnen Lerntypen zum 2007 aktuellen Verm\u00f6gen der maschinellen Realisierung von Lernen in Beziehung zu setzen. Das war damals vor 16 Jahren der von Bateson mit Lernen I bezeichnete Typ, der \u00fcber die in Donald Hebbs 1949 erschienenem Werk „The Organization of Behavior“ beschriebene sog. Hebbsche Lernregel in Simulationen neuronaler Netzwerke realisierbar ist und der auch als technische Implementation behavioristischen Lernens verstanden werden kann.<\/p>\n\n\n\n

Wenn wir den Publikationen von OpenAI und anderen Produzenten von Large Language Models, LLMs, Glauben schenken k\u00f6nnen \u2013 nicht nur OpenAI ist da, im Widerspruch zum Namen, nicht sehr „offen“ \u2013 dann hat sich daran bis heute nichts ge\u00e4ndert.<\/p>\n\n\n

\n
\"\"<\/a><\/figure>\n<\/div>\n\n\n

Einen vertrauensw\u00fcrdigen Beleg daf\u00fcr liefert der Mathematiker Stephen Wolfram in seinem sehr verst\u00e4ndlich geschriebenen Buch „What Is ChatGPT Doing … and Why Does It Work?“. Die deutsche Ausgabe titelt etwas rei\u00dferisch mit „Das Geheimnis hinter ChatGPT – Wie die KI arbeitet und warum sie funktioniert“. Das tut dem Inhalt allerdings keinen Abbruch. Es wird klar belegt, das ChatGPT das Ergebnis einer Kombination ist aus leistungsf\u00e4higer Hardware, einem Multilayer Backpropagation Algorithmus, riesiger Trainingsdatens\u00e4tze und unverzichtbarer menschlicher Feedback-Bewertungen, eben dem oben erw\u00e4hnten HRL, dem Human Reinforcement Learning.<\/p>\n\n\n\n

Technische Realisierungen weiterer Lerntypen nach Bateson lassen weiterhin auf sich warten.<\/p>\n\n\n\n

Ein Lernen \u00fcber das Lernen, also ein Lernen II, das nach Bateson Ver\u00e4nderungen im Verfahren von Lernen I erm\u00f6glichen sollte, verlangt eine technische Modellierung von Standpunktabh\u00e4ngigkeit. Wir begr\u00fcnden im Aufsatz, dass zur formalen Beschreibung der Relationen zwischen Batesons Lerntypen Gotthard G\u00fcnthers Polykontexturalit\u00e4tstheorie herangezogen werden kann und muss. Dar\u00fcber hinaus m\u00fcssen wir einr\u00e4umen, dass auch hier technische Realisierungen, trotz existierender wichtiger formaler Arbeiten und Simulationen, bislang noch ausstehen.<\/p>\n\n\n\n

Dennoch, es gibt Perspektiven jenseits des Diktats vorherrschender Narrative und der fortschreitenden \u00d6kono(metri\/mi)sierungen.<\/p>\n\n\n\n

Viel Vergn\u00fcgen beim Lesen und Denken
(und eine signifikante Abnahme der Krisen),
geruhsame Feiertage und einen unspektakul\u00e4ren Jahreswechsel
w\u00fcnscht Ihnen, Ihr Nick H. aka Joachim Paul (Hg.)<\/p>\n\n\n\n

Alle Links im Text<\/h5>\n\n\n\n

<\/p>\n\n\n\n

Lutz Ellrich: Die Computertechnik als Gegenstand philosophischer <\/a>Reflexion<\/a><\/p>\n\n\n\n

Eberhard von Goldammer & Joachim Paul: Die logischen Kategorien des Lernens und der Kommunikation
\u2014 neu \u00fcberdacht aus polykontexturaler Sicht<\/a><\/p>\n\n\n\n

Externe Links<\/strong><\/p>\n\n\n\n

J\u00fcrgen Geuter, Video: I\u2019m sorry, HAL, I won\u2019t let you d<\/a>o that.<\/a><\/p>\n\n\n\n

J\u00fcrgen Geuter: Pr\u00e4sentation<\/a><\/p>\n\n\n\n

Meredith Whittaker: Vermessung bis ins Innerste<\/a><\/p>\n\n\n\n

Billy Perrigo, TIME: Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less T<\/a>oxic<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Liebe Vordenkerinnen, liebe Vordenker, das Thema K\u00fcnstliche Intelligenz sowie nicht selten die Feuilletonproduktion dazu, so darf ich vermuten, kommt Ihnen inzwischen mehrheitlich zu den Ohren raus. Vielleicht als Antidot nutzbar sind zwei \u00e4ltere, nun hier republizierte Texte aus den Jahren 2005 und 2007, die ihrerseits u.a. auf noch \u00e4ltere Arbeiten aus den Anf\u00e4ngen der Kybernetik […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6,367,247,60,4],"tags":[877,892,286,887,195,94,44,891,885,115,890,888,889],"class_list":["post-2475","post","type-post","status-publish","format-standard","hentry","category-allgemein","category-kybernetik","category-medien","category-philosophie","category-wissenschaft","tag-chatgpt","tag-deep-learning","tag-gregory-bateson","tag-juergen-geuter","tag-kunstliche-intelligenz","tag-kybernetik","tag-lernen","tag-lerntypen","tag-lutz-ellrich","tag-medienphilosophie","tag-mensch-maschine-verhaeltnis","tag-meredith-whittaker","tag-stephen-wolfram"],"_links":{"self":[{"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/posts\/2475","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/comments?post=2475"}],"version-history":[{"count":16,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/posts\/2475\/revisions"}],"predecessor-version":[{"id":2495,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/posts\/2475\/revisions\/2495"}],"wp:attachment":[{"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/media?parent=2475"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/categories?post=2475"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.vordenker.de\/blog\/wp-json\/wp\/v2\/tags?post=2475"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}