Sohn und prominente Schauspieler sprechen über Altersarmut und Scham (Sonstiges)

markus, Samstag, 03.10.2026, 15:10 (vor 27 Minuten) @ Foreveralone

Wenn selbst die Entwickler vor Risiken warnen, heißt das erstmal, dass sie diese ernst nehmen, nicht, dass das schlimmste Szenario zwangsläufig eintritt. Konkrete Risiken wie Betrug, Deepfakes, Manipulation oder Datenschutz kann man regulieren und begrenzen, so wie wir es in praktisch allen Lebebslagen auch tun. Angst vor Veränderung sollte dabei kein guter Ratgeber sein.

Wie du dir das alles immer zurecht legst... Ich sehe da eher selber ein Angst(was nicht sein kann, nicht sein darf). Viele Entwickler waren der Ansicht, hier erstmal noch mehr Tests und Beobachtungen zu machen, bevor man die KI bereits so flächendeckend viel Arbeit übernehmen lässt und öffentlichen Zugang ermöglicht.

Wenn selbst CEOs wie von Anthropic (also die damit Geld verdienen!), hier bessere Kontrollen, wen nicht gerade Abschaltungen fordern, sollte eigentlich auch beim Letzten Ignorant alle roten Alarmglocken schrillen. Offensichtlich hat man hier etwas nicht mer so recht unter Kontrolle. Und das waren auch vor ein paar Jahren die Warnungen von Wissenschaftlern.

Ich glaube, man sollte weniger in Extremen denken. Warnungen vor möglichen Worst Case Szenarien gibt es bei praktisch jeder neuen Technologie und in vielen anderen Lebensbereichen. Sie sind wichtig, damit man Risiken erkennt und Gegenmaßnahmen entwickelt. Aber aus der Existenz solcher Warnungen gleich ein bevorstehendes Untergangsszenario abzuleiten, halte ich für übertrieben.

Zwischen „Wir müssen hier vorsichtig sein“ und „Die Menschheit ist in Gefahr“ liegen schließlich einige Zwischenschritte.

Kannst du das denn irgendwo auch untermauern, warum diese Sorge unberechtigt ist?

Die Wahrscheinlichkeit des worst case liegt nach neuesten Erkenntnissen von KI-Experten und Entwicklern bei 20%. Das ist katastrophal, wenn man bedenkt das die Wahrscheinlichkeits-Relation zu anderen Dingen im Leben mit Risken im Promille-Bereich liegt. Eher ist das Russisch Roulette.

Wer sagt das? Von welchem Zeitraum reden wir? Quelle?

Sollte man beim Klimwandel vielleicht nicht aus so in Extremen denken?

Auch beim Klimawandel gibt es unterschiedliche Szenarien.

Man kann sich hinsichtlich der Risiken natürlich viele Gedanken machen. Ich finde diesen Absatz aus dem Wikipedia-Artikel interessant:

„Ein Argument stellt sich wie folgt dar: Der Mensch ist anderen Arten überlegen, weil das menschliche Gehirn über besondere Fähigkeiten verfügt, die anderen Tieren fehlen. Sollte die KI also eine übermenschliche Allgemeine Intelligenz oder Superintelligenz entwickeln, könnte es schwierig oder unmöglich werden, sie zu kontrollieren. So wie das Schicksal des Berggorillas vom Wohlwollen der Menschen abhängt, könnte auch das Schicksal der Menschheit von den Handlungen einer zukünftigen maschinellen Superintelligenz abhängen.“

Und dann kann man auch ganz philosophisch darüber nachdenken:

Wenn man es egoistisch betrachtet, ist es natürlich erst einmal angenehmer, wenn wir Menschen die Intelligenzhoheit behalten. Gleichzeitig nutzt der Mensch seine Intelligenz aber auch, um ziemlich grausame Dinge zu tun. Wir töten Tiere, weil wir sie für weniger intelligent und damit offenbar für weniger wertvoll halten. Wir verursachen den Klimawandel und gefährden damit zahlreiche andere Lebewesen. Wir entwickeln Waffen und führen damit Kriege.

Ist es vor diesem Hintergrund tatsächlich zwangsläufig etwas Schlechtes, wenn es irgendwann eine übermenschliche Intelligenz gibt? Vielleicht wäre sie ja gerade in der Lage, einige der Fehler zu verhindern, die wir Menschen immer wieder machen. Und selbst der Gedanke, dass sie die Menschheit irgendwann auslöschen könnte, lässt sich philosophisch weiterdenken: Vielleicht würde sie damit nicht aus Bosheit handeln, sondern zu dem Schluss kommen, dass dies notwendig ist, um den Planeten oder andere Lebewesen zu schützen.

Das bedeutet natürlich nicht, dass ich dieses Szenario für wünschenswert halte. Es zeigt nur, dass „Superintelligenz = automatisch schlecht“ keineswegs die einzige Perspektive ist.