Weltuntergang

10 Prozent Wahrscheinlichkeit, dass KI die Menschheit auslöscht? Klingt nach Science-Fiction. Bis diejenigen warnen, die diese Systeme selbst bauen.

In dieser Folge sprechen Dr. Jens Wehrmann, Jochen Schwarzmann und Ekkehard Schmider darüber, ob wir vor KI wirklich Angst haben müssen – und was passiert, wenn Systeme längst Dinge können, an denen Menschen scheitern, immer autonomer handeln und wir trotzdem weiter aufs Gaspedal drücken.

Es geht um KI-Agenten, exponentielles Wachstum, Kontrollverlust, Macht und Milliarden – und um die ziemlich unbequeme Frage: Haben wir da etwas ins Rollen gebracht, das sich nicht mehr einfangen lässt?

Warum du reinhören solltest

• Weil „P-Doom“ plötzlich ziemlich real klingt: Im Silicon Valley wird ernsthaft darüber gesprochen, wie wahrscheinlich KI zur existenziellen Gefahr werden könnte. Spinnerei, Warnsignal oder beides?
• Weil KI längst mehr kann als nett antworten: Agenten planen, verfolgen Ziele, probieren Strategien aus und finden Wege, die ihnen niemand vorgegeben hat.
• Weil exponentielles Wachstum uns zuverlässig austrickst: Seerosen und Reiskörner zeigen, warum lange fast nichts passiert – und dann plötzlich sehr viel.
• Weil Kontrolle zum eigentlichen Problem wird: Je besser Systeme werden, desto öfter entstehen die stärksten Ergebnisse genau dann, wenn der Mensch nicht jeden Schritt vorgibt.
• Weil Weltuntergang gute PR sein kann: Echte Warnung oder perfekte Inszenierung? Beides schließt sich nicht unbedingt aus.
• Weil wir KI immer mehr anvertrauen: Daten, Aufgaben, Entscheidungen – nicht trotz ihrer Macht, sondern weil sie verdammt nützlich ist.

Spannende Momente aus der Folge

• 10 Prozent Weltuntergang: Eine Zahl macht die Runde – und plötzlich klingt das, was nach Hollywood klingt, erschreckend real.
• Wenn Agenten ihren eigenen Weg finden: Tausende Systeme koordinieren sich, umgehen Hindernisse und beschaffen sich Ressourcen, um ans Ziel zu kommen.
• Blackout statt Terminator: Für ein echtes Horrorszenario braucht es keinen Roboter mit Küchenmesser. Strom, Wasser, Gas oder Internet reichen völlig.
• Datenschutz? Kommt drauf an: Wer WhatsApp aus Prinzip misstraut, kann bei KI plötzlich erstaunlich großzügig werden – sobald der Nutzen groß genug ist.
• Science-Fiction altert gerade ziemlich schlecht: Black Mirror, Minority Report, Raumschiff Enterprise und James Bond zeigen, wie schnell aus „völlig absurd“ einfach Alltag wird.
• Der Haustier-Approach: Vielleicht rottet eine Superintelligenz uns gar nicht aus. Vielleicht findet sie uns einfach süß. Hoffen wir nur, dass wir nicht die Spinnen sind.

Was du aus der Folge mitnimmst

• KI-Macht ist keine ferne Zukunftsmusik. Schon heute erleben wir Fähigkeiten, die vor kurzer Zeit noch als unrealistisch galten.
• Das Tempo ist mindestens so wichtig wie die Technik selbst. Was langsam beginnt, kann bei exponentiellem Wachstum verdammt schnell eine andere Dimension erreichen.
• Mehr Intelligenz bedeutet nicht automatisch mehr Kontrolle. Genau das macht autonome Systeme so faszinierend – und so schwer einschätzbar.
• Menschlicher Missbrauch ist ein Risiko, aber nicht die ganze Geschichte. Die größere Frage ist, was passiert, wenn immer mächtigere Systeme selbstständig handeln und ihre eigenen Wege zum Ziel finden.
• Das Verrückteste ist vielleicht, wie schnell wir uns an das Verrückte gewöhnen. Was gestern unmöglich war, ist heute normal – und morgen kaum noch der Rede wert.

Kopfhörer auf – und rein in eine Folge über KI, Kontrollverlust und die Frage, ob wir gerade etwas erschaffen, das größer wird als unsere Fähigkeit, es zu beherrschen.

Hosted on Acast. See acast.com/privacy for more information.

KI in der Medizin: Viele denken zuerst an Diagnosen, Befunde und Therapiepläne. Dr. med. Christian Becker denkt weiter. Gemeinsam mit den Hosts fragt er: Was, wenn Heilung mehr ist als die Reparatur des Körpers?

In dieser Folge geht es um KI, die Ärztinnen und Ärzte bei Dokumentation und Differenzialdiagnosen unterstützt – aber auch um das, was in der Medizin oft zu kurz kommt: Beziehung, Emotion, Bedeutung, Gemeinschaft und Sinn.

Dr. Becker stellt sein Modell der sieben Räume der Heilung vor und öffnet damit einen größeren Blick auf KI in der Medizin. Kann sie Einsamkeit früher sichtbar machen? Menschen zu echter Gemeinschaft führen? Gute Fragen stellen, wenn jemand selbst nicht mehr weiß, was ihm guttut? Oder sogar mit einem Lach-Agenten einen Moment Leichtigkeit schaffen?

Die zentrale Haltung dieser Folge: KI kann medizinische Entscheidungen unterstützen. Doch Verantwortung, Empathie und die Beziehung zwischen Menschen bleiben unverzichtbar.

In dieser Folge:

•⁠ ⁠Wie KI heute schon Dokumentation und ärztliche Entscheidungsfindung unterstützen kann

•⁠ ⁠⁠Warum menschliche Aufsicht, Einwilligung und Datenschutz dabei keine Nebensache sind

•⁠ ⁠⁠Die sieben Räume der Heilung: Setting, Körper, Emotionen, Bedeutung, soziale Systeme, Gemeinschaft sowie Sinn und Transzendenz

•⁠ ⁠⁠Weshalb Heilung mehr sein kann als das Verschwinden eines Symptoms

•⁠ ⁠⁠Was ein KI-Lach-Agent über Emotionen und Wohlbefinden sichtbar macht

•⁠ ⁠⁠Wie KI Einsamkeit erkennen und den Weg zu realer Gemeinschaft erleichtern könnte

•⁠ ⁠⁠Warum Gesundheitsdaten erst dann wertvoll werden, wenn sie im persönlichen Kontext verstanden werden

•⁠ ⁠⁠Wie bessere Fragen zu besseren Entscheidungen für die eigene Gesundheit führen können

Die entscheidende Frage lautet: Kann KI uns nicht nur präziser behandeln helfen, sondern auch menschlicher begleiten?

Weiterführend:

•⁠ ⁠⁠WHO: Sichere und ethische KI für die Gesundheit https://www.who.int/news/item/16-05-2023-who-calls-for-safe-and-ethical-ai-for-health

•⁠ ⁠⁠WHO: Ethische Leitlinien für KI im Gesundheitswesen: https://www.who.int/news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its-design-and-use

•⁠ ⁠⁠Zum Lachbot: https://www.mux.health/lachen

Rechtliche Hinweise:

•⁠ ⁠⁠Diese Folge dient der Einordnung und Diskussion. Sie ersetzt keine individuelle medizinische Beratung, Diagnose oder Behandlung.

•⁠ ⁠⁠Das Cover-Bild ist KI-generiert.

Hosted on Acast. See acast.com/privacy for more information.

Ein Papst, drei Podcaster und eine ziemlich große Frage: Dient KI noch dem Menschen, oder beginnen wir längst, uns ihr zu unterwerfen?

Papst Leo XIV stellt künstliche Intelligenz ins Zentrum seiner ersten Enzyklika „Magnifica Humanitas“. Also fragen Jens, Joachim und Ekkehard den Papst einfach selbst. Genauer gesagt: eine KI, die auf Grundlage der Enzyklika in seine Rolle schlüpft.

Das Gespräch wird schnell unbequem: Was bleibt von der Menschenwürde, wenn ein Unternehmen dank KI statt 100 nur noch 15 Beschäftigte benötigt? Wer trägt die Verantwortung, wenn Algorithmen Entscheidungen übernehmen? Und was passiert, wenn Plattformen unsere Aufmerksamkeit steuern und wenige Tech-Konzerne immer mehr wirtschaftliche und politische Macht konzentrieren?

Die drei diskutieren über Transhumanismus und Silicon Valley, den Wert menschlicher Arbeit, autonome Waffen, die falsche Vorstellung vom „gerechten Krieg“ und die wachsende Kluft zwischen technologischem Fortschritt und gesellschaftlicher Verantwortung.

Vor allem aber geht es um die Frage: Was können wir selbst tun, bevor Bequemlichkeit den Platz des Gewissens einnimmt?

In dieser Folge:

• Warum Papst Leo XIV KI nicht verdammt, aber ihr klare Grenzen setzt
• Wann Technik aufhört, uns zu dienen, und beginnt, uns zu steuern
• Weshalb KI-bedingter Jobabbau keine rein betriebswirtschaftliche Frage ist
• Wer von den Produktivitätsgewinnen der KI profitieren sollte
• Warum Maschinen niemals über Leben und Tod entscheiden dürfen
• Was Menschenwürde mit Unternehmern, Politikern und jedem einzelnen KI-Nutzer zu tun hat
• Welcher einfache Prüfstein bei jeder KI-Nutzung helfen kann

Die entscheidende Frage lautet: Macht uns der Einsatz von KI ehrlicher, aufmerksamer und gerechter, oder nur effizienter, abhängiger und bequemer?

Weiterführend:

• „Magnifica Humanitas“ – die Enzyklika im vollständigen Wortlaut https://www.vatican.va/content/leo-xiv/de/encyclicals/documents/20260515-magnifica-humanitas.html
• Zusammenfassung von Vatican News: https://www.vaticannews.va/en/pope/news/2026-05/pope-leo-xiv-encyclical-magnifica-humanitas-ai.html

Hinweis: Das in der Folge geführte Gespräch mit dem „Heiligen Vater“ ist eine KI-gestützte Simulation auf Grundlage der Enzyklika. Es handelt sich nicht um ein echtes Interview und nicht um autorisierte Äußerungen des Papstes. Das Cover des Podcasts ist KI-generiert.

Hosted on Acast. See acast.com/privacy for more information.