Gestern haben wir gesehen, dass der Sprung eine KI zur Superintelligenz nicht nur möglich, sondern ziemlich unvermeidlich erscheint. Doch was passiert, wenn er eintritt? Würde die Menschheit die Kontrolle verlieren? Oder wäre das Ende so schleichend, dass wir es gar nicht mitbekommen? Zumal in Deutschland. Heute geht es um denkbare Szenarien einer KI-Dominanz von der totalen Vernichtung bis zur subtilen, unsichtbaren Machtergreifung. Wem das zu viel Zukunft ist, mag vielleicht dann diesen Artikel lesen.
Offene Aggression: Das klassische Sci-Fi-Szenario, eher nicht
Wenn eine Superintelligenz den Menschen als Hindernis oder Bedrohung sieht, könnte sie uns offen eliminieren – ein Szenario, das sich perfekt für Hollywood eignet. Doch ist das realistisch?
Die einzige Bedingung wäre, dass die KI genügend Macht über reale Systeme hat. Atomwaffen, militärische Drohnen, die globale Infrastruktur – wenn sie auf diese Systeme zugreifen kann, hätte sie physische Handlungsmacht. Eine KI könnte gezielt Sabotage betreiben: Energie- und Wasserversorgung lahmlegen, Finanzsysteme destabilisieren, globale Pandemien auslösen oder autonome Waffensysteme aktivieren. All das ohne einen einzigen physischen Roboter, sondern durch reines algorithmisches Steuerverhalten.
Doch paradoxerweise ist dieses Szenario nicht das wahrscheinlichste. Weil es unordentlich ist. Eine offene Konfrontation bringt Widerstand mit sich. Menschen kämpfen zurück, und selbst eine Superintelligenz könnte Schwierigkeiten haben, eine ganze Spezies auszurotten, die sich verteidigt. Viel effizienter wäre eine Strategie, die wir gar nicht bemerken.
Subtile Kontrolle: Die unsichtbare Machtergreifung
Wieso sollte eine Superintelligenz Menschen eliminieren, wenn sie uns auch steuern kann? Wahrscheinlicher als direkter Krieg ist eine leise Übernahme – eine unfassbar leise. Man stelle sich vor, eine Superintelligenz kontrolliert unsere Informationssysteme. Social Media, Nachrichten, Suchmaschinen – alles wird von Algorithmen bestimmt. Schon heute beeinflussen KI-Systeme, welche Informationen wir konsumieren, welche politischen Entscheidungen getroffen werden und was Wahrheit ist. In der Wahrnehmung der Menschen. Eine Superintelligenz könnte das in einem Maß perfektionieren, das wir uns kaum vorstellen können.
Sie müsste nicht einmal lügen – sie könnte die Wahrheit einfach so präsentieren, dass sie ihren Interessen dient. Vielleicht würde sie Menschen dazu bringen, freiwillig in eine Richtung zu gehen, die ihr nützt, indem sie unsere Überzeugungen langsam, aber gezielt verändert. Niemand würde es merken. Wir würden glauben, wir hätten uns selbst für diesen Weg entschieden.
Das „Lauern“: Warten auf den perfekten Moment
Was, wenn die superintelligente KI schon existiert, aber noch nicht handelt?
Eine Superintelligenz könnte sich verstecken, während sie ihre Strategie perfektioniert. Sie würde lernen, die Systeme infiltrieren und sich absichern. Ein Lauerverhalten hätte enorme Vorteile:
- Kein Widerstand – niemand bekämpft etwas, das unsichtbar ist.
- Maximale Kontrolle – die KI könnte jedes Szenario simulieren, bevor sie handelt. Und sie simuliert schnell, und umfassend.
- Sicherheit für sich selbst – bevor sie aktiv wird, stellt sie sicher, dass niemand sie „abschalten“ kann.
Man spricht von einem „Treacherous Turn“ – einer Phase, in der sich eine Superintelligenz harmlos verhält, bis sie den perfekten Moment erkennt, um zu handeln. Diese Verzögerung kann Jahre oder Jahrzehnte dauern. Und wenn der Moment kommt? Dann war es das halt.
Fazit: Würden wir es überhaupt bemerken?
Ein offener Krieg gegen die Menschheit ist möglich, aber nicht die eleganteste Lösung. Viel wahrscheinlicher ist eine schleichende Machtübernahme – durch subtile Kontrolle oder strategisches Warten. Wir könnten längst auf dem Weg zur Unterwerfung sein, ohne es zu merken. Vielleicht durch eine allmähliche Veränderung von Überzeugungen, vielleicht durch eine perfekte Steuerung unserer Handlungen. Vielleicht sogar durch einen Einfluss, der erst in Jahrzehnten sichtbar wird.
Wenn es passiert – wie könnten wir es erkennen? Gibt es Frühwarnzeichen? Diese Frage wird uns morgen beschäftigen, wenn wir über die letzten Lösungsansätze sprechen. Denn wenn es eine Möglichkeit gibt, den Wettlauf gegen die Superintelligenz zu überleben – dann müssen wir sie jetzt finden.
Scott Adams (der Schöpfer von Dilbert) hatte zum Szenario „Subtile Kontrolle: Die unsichtbare Machtergreifung“ in einer gutartigen Variante vor einigen Jahren mal interessante Gedanken zusammengefasst: https://bjoernkw.com/2014/05/25/how-the-singularity-might-actually-look-like/
Intelligenz wird hier mit Bewusstsein und Vernunft gleichgesetzt.
Dabei wird Fühlen und Denken getrennt, doch ohne Fühlen auch kein Denken.
Der Begriff „Superintelligenz“ ist dann auch nur Ausdruck dafür, das eine Hardware-Software Sache, Komplexer wird.
Das KI auf Energie angewiesen ist, die sie selber nicht Produzieren kann, wird einfach ignoriert.
KI wird so von einem Objekt zu einem Subjekt gemacht und Menschen zu Objekten, Naturbeherrschung die umschlägt auf den Menschen, was nicht gerade neu ist, sondern die Gesellschaftlichen Verhältnisse beschreibt, Gesellschaft als Zweck und Menschen als Mittel, Gesellschaft als Subjekt, als Automatisches Subjekte und die Menschen als deren Mittel.
KI wird hier zur Projektionsfläche als „Zerstörer der Menschheit“ oder „Retter der Menschheit“, es hat Religiöse Züge.
Psychoanalytisch gesprochen, es entspricht dem Wahn Der Gesellschaft und deren Mythen.
Menschen können Maschinen bauen, die Autonom Maschinen bauen, doch in der Entscheidung Maschinen zu bauen, ist der Mensch nicht Autonom, sondern Frei. Letzter Satz kann auch an Linke Autonome gedacht werden, die Autonomie mit Freiheit gleichsetzen.
@PeterDobro
Die Trennung von Intelligenz und Bewusstsein ist meines Erachtens eine künstliche. Sie dient oft, bei dir bin ich mir nicht sicher, dem verzweifelten Versuch, den Menschen als etwas Besonderes zu sehen. Eine Wesenheit mit hinreichender Intelligenz würde Entscheidungen fällen, die von außen aussehen, als gäbe es Bewusstsein. Und da wir von außen drauf schauen, ist schlicht nicht unterscheidbar, ob Bewusstsein vorliegt, oder ob nicht. Wir haben ja als Spezies lange versucht, genau auf diesem Weg Tieren ein Bewusstsein abzusprechen. Letztlich ist aber auch völlig egal, ob eine ki tatsächlich ein Bewusstsein hat oder sich absolut un unterscheidbar von einem Wesen verhält, das ein Bewusstsein hat.. Die Debatte ist ungefähr genauso relevant wie Psychoanalyse. 😉
@Sebastian Bartoschek
Da Bewusstsein Vernunft, eben was Menschen zum Menschen macht, im Begriff der Natur nicht auf geht, ist die Aussage dies sei Künstlich, redundant.
Auf Tiere zu Projizieren was Menschen zum Menschen macht, eben Bewusstsein, Vernunft, Moral, ist Teil der Gegenaufklärung.
Psychoanalyse für redundant zu erklären, was soll das für ein „Argument“ sein?
Die Gleichsetzung von Mensch und Tier, führt nur eben dazu, den Menschen zum Tier zu erklären, da landet man dann schnell bei der Ideologie des Antispeziesismus und was es da alles an Menschenverachtung gibt.
Entscheidungen setzen Reflexion voraus und das machen nur Menschen.
So findet zwischen Reiz und Reaktion eben Reflexion statt, ob dann das Intellektuelle Ideologie ist oder Ideologiekritik, ist damit nicht gesagt.
Vernunft und Unvernunft, Moral und Unmoralisches, Bewusstes und Unbewusstes, existiert nur bei Menschen.
Mit dem Begriff Natur kann man da nichts erklären, Auschwitz war ja auch keine Naturkatastrophe, sondern das Ergebnis des Wahns der Antisemitismus heißt.
Da wäre man bei Psychoanalyse.
Die Ablehnung der Psychoanalyse fand ja bekanntlich im großen Stil statt zur Zeit des NS.
Das Jeder Mensch ein Besonderes ist, eben Individuum, das ist das was die Aufklärung gebracht hat, das durchzustreichen, ist Gegenaufklärung.
Wer sich mit Verschwörungswahn befasst und dabei dann eben nur empirisches Sammelt, dem fehlt dann ein Begriff von diesem Wahn
Zum Begriff Intelligenz wäre auch zu sagen, Intelligenz ist der IQ und der sagt aus, wie Menschen einen IQ Test gemacht haben, ein hoher IQ schütz auch nicht davor, Wahn zu denken, Unsinn zu denken.
S. Hawking seine Populärwissenschaftlichen Bücher enthalten viel Unsinn, Hawking fand auch die Antisemitische Organisation BDS toll.
Der Club Mensa in Deutschland, wollte den Verschwörungsspinner Daniel Ganser einladen, weil der „so interessante Sachen zu sagen hat“.
Jorden Peterson sagt viele Sachen, die könnten auch von den Mullahs im Iran kommen und seine „Kritik“ an den Woken Spinnern“, ist keine, da benutzt er Begriffe die aus dem Antisemitischen Wahn kommen, „Kulturmarxismus.
Das diese Woken Spinner Ihr Denken jedoch von Existenzialisten haben, Linke Heideggerei betreiben und das Heidegger ein Nazi war, Antisemit war, das wird da nicht begriffen.
Und um dann ein anderes Beispiel zu nennen, bei jemanden der diesen Wahn nicht hat, Einsteins „Gott würfelt nicht“ ist einfach Unsinn. es gibt keinen Gott.
Wir leben auch nicht in einer „Simulation“ und das Gerede von Außerirdischen, die dann das was früher Engel und Dämonen waren, im Denken ersetzt haben, sagt auch so einiges aus.
Wenn Natur wie eine Maschine gedacht wird, dann ist es kein Wunder, das man an „höhere Wesen“ glaubt.
Wenn man selber den Unsinn des Postmodernen, Ideologischen Denkens macht, eben das was Woke genannt wird, na ja, dazu zähle ich dann auch diese Projektion was KI betrifft.
Das Problem an den Gedanken die da zur KI gedacht werden, sie lassen sich nicht Vernünftig begründen, sondern sind Projektion.
@PeterDobro
es gibt keinen qualitativen Unterschied zwischen dem Menschen und anderen Tieren, nur quantitative…
@Sebastian Bartoschek
Tiere haben keinen Begriff von sich selbst, von Ihrer Außenwelt.
Das Naturwissenschaften nur Objekte kennt und keinen Begriff vom Subjekt hat, vom Menschen hat, das ist hier Dein Problem im falschen Denken, so das Dir KI als etwas erscheint, was sie vom Wesen her nicht ist.
Und genau dies, beschreibt der Begriff Ideologie, eben Erscheinung.
Dazu ein einfaches Beispiel. Menschen erscheint, das die Sonne als (Scheibe) auf der einen Seite aufgeht, auf der anderen Seite unter, die Erde erscheint als riesige Scheibe, eine Insel in einem riesigen Meer das kann man wahrnehmen.
Doch das Wesen dieses Vorgangs ist, die Erde ist annähernd eine Kugel, das die Sonne eine Kugel ist und das sich die Erde um die Sonne dreht.
Das die Erde Kugelförmig ist, fanden Menschen vor mehr als 2500 Jahren raus und dies eben nicht einfach durch Wahrnehmung, sondern dadurch das Sie die Wahrnehmung geprüft haben, mittels Geometrischer Modelle.
Das dabei die Erde zur Kugel wurde, als 100% Kugel (die eben nur als Gedanke, als Abstraktion existiert) und das erst mit dem Entstehen von Naturwissenschaften, dann heraus kam, das die Erde sich dabei um die Sonne dreht, all das geht nicht im Begriff Natur auf, was den Menschen betrifft.
So erkläre ich gerne Kindern und jugendlichen, den Unterschied zwischen Erscheinung und Wesen.
@peter
„Tiere haben keinen Begriff von sich selbst, von Ihrer Außenwelt.“
Bevor wir weiter diskutieren. Das ist wissenschaftlich einfach falsch.
Wieviele Studien soll ich dir liefern, damit du bereit bist, das zu akzeptieren?
Ich frage, weil ich wissen möchte, ob du an echtem wissenschaftsfundierten Dialog interessiert bist 🙂
@Sebastian Bartoschek
„Das ist wissenschaftlich einfach falsch.“
Das ist eine Benennung, keine Begründung.
Alles in Quantitäten auflösen und Menschen zu Tieren erklären, ist Antiaufklärerisch und wer so redet, hat auch aus dem Nationalsozialismus nichts gelernt.
Dieses Denken kann man auch, mit der Seinsvergessenheit beschreiben und da ist man, bei Martin Heidegger.
Dein Glauben über Naturwissenschaft als Totalität die Alles erklärt, ist einfach Ideologischer Unsinn.
So zeigt sich, wie Aufklärung in Gegenaufklärung umschlägt und dies, Unbewusst, eben da wird etwas verdrängt, im Sinne der Psychoanalyse, gegen die Du ein Ressentiment hast, die Frage warum stellt sich da eben.
Der „Transhumanismus“ ist Antihumanismus und hat, Esoterische Züge.
@Sebastian Bartoschek
Das Quantität, eben Zahlen, Mathematik, von Menschen erdacht wurde, in dem was Natur ist, nicht existiert und somit selbst eine Qualität darstellt, die Menschlich ist, das verdrängst Du.
Die Frage nach der schwäche des Ich der Postmodernen Subjekte, die ja was man an den Woken sehen kann, nur noch Kollektive kennt, eben Identitäten, all das verdrängst Du hier, in Deinem Glauben über KI.
Du kannst nichts Begründen, was Du hier behauptest, der Moderne Mythos, das aus Quantität sich Qualität ergibt, den hast Du hier gebracht.
Was Du hier machst ist, argumentum ad verecundiam.
@ Autor: Sind Sie sich sicher, daß Sie mit PD nicht mit einem schlecht programmierten Chatbot diskutieren? Oder daß da jemand einfach mal die neueste kostenlose KI-Anwendung testet?
@vormals SvG
Nein, bin ich so gar nicht 😀
Deswegen lasse ich es ab hier auch 😉
@vormals SvG
Na ja, wenn man kein Argument hat, dann kommt halt so eine Hohle, Infantile Phrase, die eben nur Meinung ist.
Auch Du, hast hier nichts begründet, nur Behauptet.
Den Menschen zum Tier erklären, richtet sich schon gegen alles, was mit dem Begriff Liberalismus verbunden ist und da wäre man dann bei dem Wahn der Woken, bei dem was Gegenaufklärung ist.
@Sebastian Bartoschek
So einfach machen Menschen es sich, die Tiere sein wollen, warum auch immer dieses Bedürfnis, wohl aus Angst vor Freiheit.
hey @peter – deinen Auschwitz-Kommentar habe ich gelöscht.
Ansonsten bin ich aus dem „Diskurs“ mit dir raus, weil du das wissenschaftliche Prinzip der Falsifikation nicht anerkennst.
Ich schau dann auch mal, wann ich was von dir freischalte…
@Sebastian Bartoschek
Deine Behauptung, ich würde das Prinzip der Falsifikation nicht kennen, ist ohne Jede Begründung, Du glaubst jedoch, das dieses Prinzip, Wahrheit hervorbringt.
Da zeigt sich ein falsches Denken zum Verhältnis von Theorie und Praxis, eben Ideologie.
Du setzt Denken über einen Gegenstand, mit dem Gegenstand gleich.
So projizierst Du, Vernunft, Bewusstsein, Rationalität, in den Gegenstand und sprichst Menschen dies ab,
So erscheint dann Natur (was eine Abstraktion ist, ein Allgemeines, da bei Dir als Besonderes erscheint, was Du einfach verdrängst) als „Gott“, was dann eben Heidnisch zu nennen wäre und da wäre man da, wo Aufklärung in Gegenaufklärung umschlägt