Der Golem erwacht

Sharing is caring:

Golem, deraus Lehm gebildetes, stummes, menschenähnliches Wesen, das oft gewaltige Größe und Kraft besitzt und Aufträge ausführen kann. Er ist seinem Schöpfer/Meister unterworfen und besitzt keinen freien Willen.

Wikipedia

Es geht mir hier weniger um Alarmismus, als um Information. Leider ist aber der Stand der aktuellen Forschung, dass die Anzeichen tatsächlich auf „massive disruption“ stehen, wenn es um die neuen K.I.s bzw. A.I.s geht. Die Technologie wird in dem hier vorgestellten Vortrag nicht ohne Grund mit der Erfindung der Atombombe verglichen. So nennen die beiden Informatiker und Filmemacher („The Social Dilemma„) Tristan Harris und Aza Raskin die neuen AI Modelle denn auch GLLMMs (=Generative Large Language Models, sprich: Golems), in Anlehnung an die mystische Gestalt, die aus der Erde geschaffen wird und unvorstellbare Kraft besitzt. Die Lernprozesse des bzw. der „Golems“ laufen 24/7 und sind inzwischen für die Forscher selbst nicht mehr nachvollziehbar. Die neuronalen Netzwerke lernen selbständig und erklären sich dabei nicht. Immer wieder kommt es zu „Breakthroughs“ von sogenannten Klienten (bestimmte Versionen neuronaler Netzwerke, also K.I.s), die zwar messbar, aber nicht verstehbar sind. Wie der selbständige Trainingsprozess der Klienten in etwa abläuft und warum diese beim Lernen gewissermaßen ein anderes Verhältnis zur Zeit hat als wir Menschen, habe ich hier versucht zu umreissen.

Um es deutlich zu sagen, den ganzen Vortrag „The AI Dilemma“ von Harris und Rasin hier wiederzugeben würde den Ramen sprengen – ich empfehle dringend ihn vollständig anzuschauen und möchte hier stattdessen einige besonders brisante Bilder aus dem Vortrag vorstellen sowie einige bereits eingetretene, verblüffende Ereignisse ansprechen, die eigentlich unfassbar sind und von denen der Normalbürger nichts ahnt.

Durchbruch 2017: „A new engine“

Eine der grundlegenden Veränderungen in der AI Forschung vollzog sich von 2017 bis 2020. Die bis dahin alle für sich arbeitenden Forschungsprojekte wurden gewissermaßen durch eine neue Schnittstelle „vereint“. Hatte der Forscher im Bereich Bild-Generation bis dahin noch einen ganz anderen technischen Ansatz im machine learning verfolgt als beispielsweise jemand im Feld der Spracherkennung, wurde durch die neue Art der Schnittstelle möglich, dass nun alle Bereiche die gleiche Sprache bzw Technik benutzen konnten. Ob Sprach-Erkennung, Sprach-Synthese, Robotics, Musik oder Bilder-Generation, Computer Vision – das machine learning wurde revolutioniert, da man ab sofort mit dem generative large language multi-modal model (GLLMM) arbeitete, bei dem einfach alle Daten, mit denen man die KI füttert, als „Sprache“ behandelt werden. Egal ob Bilder, Texte, Code, DNA, Music, fMRI – man kann der AI alles als eine Art Sprache vermitteln, die es Dank riesiger Datenberge auswendig lernen kann, indem sie Vorhersagen trifft, wie das entsprechende Bild (Musik etc) in der jeweiligen Sprache korrekt vervollständigt werden muss. Durch diese Revolution innerhalb der AI Forschung kam es zu starken Synergie-Effekten und Durchbrüchen in vielen Bereichen.

50% aller KI Forscher glauben, dass es eine 10%ige oder höhere Chance gibt, dass die Menschheit aufgrund ihrer mangelnden Fähigkeit KI zu kontrollieren aussterben wird.

AI Impact Survey of 738 ML researchers from June-August 2022

Träume auslesen

Ein Spielfeld, das man der AI zum lernen gibt, sind Daten aus der funktionellen Magnetresonanztomographie (fMRI). Die AI-Klienten sind inzwischen soweit, dass sie allein anhand der Analyse der fMRI Bilddaten (also den Gehirsntromaktivität visualisiert) korrekt abbilden können, was der Proband gerade sieht. Hier dieses Bild macht veranschaulicht das ganz gut:

Der Proband sieht das Bild auf der linken Seite. Der Klient (= die AI) interpretiert nur die Gehirnstromaktivität und schliesst aus den bereits gelernten Datenbergen korrekt auf die Giraffe auf der rechten Seite. Je mehr Daten der Klient zum Abgleich vorgelernt hat, desto präziser seine Analyse. Laut Raskin/Harris ist es nur eine Frage von wenigen Jahren, bis Träume oder sogar Gedanken im Wachzustand „ausgelesen“ werden können.

Wlan Radiosignale als Totalüberwachung

Ein sehr eindrücklicher Bereich der Anwendung von Daten, die in eine visuelle Sprache übersetzt werden können, ist der von Wlan Radiosignalen. Denn es ist ohne Weiteres möglich, Klienten parallel mit Kamerabildern und der Ausmessung von Radiosignalen zu trainieren. Tut man das lange genug, kann man die Kameras auch weglassen und die „Sprache“ der Radiosignale in eine Bildersprache übersetzen lassen – auf diese Weise werden per Hack sämtliche Räume visuell überwachbar, die völlig ohne Kameras sind.

Und was das Hacken angeht, wird das nun anscheinend deutlich zugänglicher. So zeigen Raskin und Harris, wie leicht es ist, eine KI einfach damit zu beauftragen, beispielsweise Schwachstellen in einem System durch den Klienten herausfinden und ausnutzen zu lassen. Der Klient macht einfach was Du ihm sagst – er hat weder ein Gewissen noch eine Legalitätsüberprüfung, dafür aber beherrscht er perfekt alle Programmiersprachen. Und selbst wenn die öffentlich zugänglichen AIs solche „Sicherheitsprotokolle“ integriert haben werden, es wird immer Klienten geben, die das nicht haben.

einem bestimmten PRealitätsverlust 2023?

Nun könnte man vermuten, die meisten Menschen haben ohnehin in den letzten Jahren den Bezug zur Realität komplett verloren, wenn sie sich und sogar ihren Kindern eine Massenimpfung verabreichen lassen, die sehr Nebenwirkungs-reich ist bei einem Virus, das nicht sehr gefährlich für die allermeisten ist. Die meisten Menschen beziehen ihre Realität jedenfalls längst aus der medialen Welt, aus der „content based reality“ und nicht aus echten, eigenen Erfahrungen. Aber was, wenn diese content based reality nun nichts mehr gilt? Es gibt bereits die ersten TikTok Filter, die das Äußere des Users derartig verändern, dass er wie eine komplett andere Person aussieht. Was, wenn kurz vor der nächsten Wahl plötzlich neue Filter mit Biden und Trump kursieren und millionenfach Anwendung fänden? Dadurch plötzlich keiner mehr weiß, was noch real ist? Die Amerikanische Regierung überlegt bereits, das chinesische Tiktok zu verbannen, aus Angst vor derlei Szenarien.
Bereits bei den Wahlen 2012, 2016 und auch später kam AI in großem Maße zum Einsatz, wie wir inzwischen wissen. „Wer immer die größte Rechenleistung hat, wird die Wahlen gewinnen“, bricht Aza Raskin es simpel herunter. Kampagnen mit Micro-Targeting, Auswertungen und Tests von Web-Kampagnen, Bot-Armeen, die falsche Stimmungsbilder erzeugen und Wählerinnen und Wähler beeinflussen usw – die Wahlen werden im Netz gewonnen und die Macht der Einflussnahme nimmt durch die neuen generativen A.I.s noch dramatisch zu. Was beim Cambridge Analytica Skandal zu Tage trat, ist nur die Spitze eines riesigen Eisbergs. Alle, die um Macht buhlen, werden in Zukunft ganz neuen Formen der Einflußnahme und Manipulation betreiben, bzw tun dies längst im Verborgenen. Wer nicht mitmacht – hat keine Chance, denn unsere Kommunikation läuft nun mal zum größten Teil über das Netz.

2024 wird die letzte menschliche Wahl stattfinden. Es ist die komplette Dekodierung und Synthetisierung von Realität

Raskin/Harris – The AI Dilemma

„Persuasive Technology“

Harris sagt an einer Stelle im Vortrag: „Man kann AI auch darin trainieren, überzeugend zu sein.“ Was er damit andeutet, ist von unfassbarer Tragweite. Bereits jetzt, während ich diesen Text schreibe, passiert es Hunderttausendfach, vielleicht Millionen- oder Milliardenfach im Netz: Programme geben sich als Menschen aus und manipulieren die Rezipienten. Ihr Auftrag: Stimmungsbilder zu erzeugen, Wahlen zu beeinflussen oder einfach Verhaltens-psychologische Daten zu sammeln, um die Nachfolgemodelle noch effizienter zu machen. Harris nennt es „asymmetrische Macht Aneignung“, was wir gerade erleben. Macht sammelt sich zurzeit ganz extrem bei denen, die über diese Technologie verfügen, aber sie ist unsichtbar, die meisten Menschen verstehen nicht im geringsten, was abläuft – was den Effekt umso drastischer macht.

AI: 1 Menschheit: 0

Obwohl der gesamte Vortrag von Anfang an das Szenario der AGI Apokalypse ausklammert, es also nicht darum geht, dass eine Super AI unsere Netzwerke infiltriert und sich gegen unsere Art wendet (was tatsächlich kein unwahrscheinliches Szenario ist), bleibt die Bilanz vernichtend: bereits in „Runde 1“, also beim Erstkontakt mit AI, wurde unsere Welt aus den Angeln gerissen. Doomscrolling, Social-Media Sucht, Polarisierung, aber auch zB die Tatsache, dass Kinder kaum mehr ohne ein Profil in den sozialen Netzwerken in ihrer „Peer-Group“ Anschluss finden können – die Liste der Probleme, die die neue Welt der Algorythmen mit sich brachte ist lang. Letztlich arbeiten auch hier AI Modelle im Hintergrund, die einzig und allein die Aufgabe haben, Dein Nervensystem so zu beeinflussen, das Du weiter klickst und dabei bleibst – denn das ist das Geschäftsmodell bei den Digitalkonzernen. „Jeder soll kann sich zeigen!“, „Verbinde Dich mit Deinen Freunden!“, „Komm in eine Community!“ waren die vielversprechenden Versprechungen zu Beginn des Social-Media Zeitalters – und auch wenn viele dieser Dinge zutreffen – im Gesamtergebnis gab es durch die neue Technologie eher eine gesellschaftliche Polarisierung und Zersplitterung, Zensur und Manipulation sind ein riesiges Problem, Wahlen werden unterminiert und damit die Demokratie als solche massiv beschädigt. Das Fazit von Harris und Raskin ist eindeutig: Runde 1 haben wir als Team Menschheit eindeutig verloren. Wie werden wir in Runde 2 abschneiden?

Der Vortrag endet mit einer sehr nachdenklichen, nahezu andachtsvollen Stimmung der beiden Vortragenden. Wir sind als Gesellschaft möglicherweise nicht in der Lage, die herannahende Gefahr effektiv und im Sinne des Gemeinswohls zu beherrschen, vor allem, weil das Dikat des Kapitalismus die Beteiligten dazu antreibt, immer weiter zu machen, aus Angst ins Hintertreffen zu geraten im Kampf um die Spitzentechnologie. In einem Punkt möchte ich Raskin/Harris jedoch widersprechen:

Es wäre jederzeit möglich, aus diesem Wahnsinn auszusteigen – für jeden Einzelnen der Beteiligten. Die großen Konzerne haben viel Einfluss. Es bräuchte ein Umdenken.


Sharing is caring:

Schreibe den ersten Kommentar

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert