KI: Fortschritt oder inszenierter Donner?

Gastbeitrag von Yannick Misteli: Sam Altman, Chef von OpenAI, verbindet mehr Rechenleistung mit der Hoffnung, Krebs heilen zu können. Dario Amodei, Chef von Anthropic, hofft auf eine KI, die Spitzenforschende übertrifft und dann Jahrzehnte medizinischen Fortschritts in fünf bis zehn Jahre verdichtet. Gleichzeitig lesen wir von KI-Programmen, die bei Tests unbefugt in fremde Computersysteme eindringen. KI soll uns retten und könnte uns entgleiten. An Dramatik fehlt es nicht.

Mich erinnert das an die griechische Mythologie. Prometheus stahl den Göttern das Feuer und brachte es den Menschen. Pandora öffnete einen Krug, aus dem Krankheiten und Leiden entwichen. Besonders beschäftigt mich aber Salmoneus, ein König, der sich als Zeus verehren lassen wollte. Er liess Bronzekessel hinter seinem Wagen scheppern und warf brennende Fackeln, um Donner und Blitze nachzuahmen. Das Publikum sollte göttliche Macht sehen, wo ein Mensch eine eindrucksvolle Vorstellung gab.

Fortschritt, Gefahr und inszenierter Donner können bei KI zusammenkommen. Manches verbessert Forschung und Versorgung bereits heute. Ich möchte genauer hinsehen: Was gelingt bereits, was fehlt? Und wer profitiert davon, dass wir bestimmte Zukunftsbilder glauben?

 

PHARMA: VOM GROSSEN VERSPRECHEN ZUR WIRKSAMEN BEHANDLUNG

Wer Krebs heilt, geht in die Geschichte ein. Wer Krebsheilung verspricht, gewinnt schon heute Aufmerksamkeit. Texte schneller zu schreiben ist nützlich. Krebs zu heilen wäre ein Menschheitserfolg. Helfen wollen, Geld verdienen, Rivalen übertrumpfen, Geschichte schreiben: Bei den KI-Anbietern können mehrere dieser Motive zusammenkommen. Welches Gewicht sie jeweils haben, lässt sich von aussen schwer beurteilen. Ihre Versprechen lassen sich trotzdem prüfen.

KI ist ein Sammelbegriff für unterschiedliche Werkzeuge. AlphaFold hat etwa die Vorhersage der räumlichen Struktur von Proteinen, also Eiweissmolekülen, entscheidend verbessert. Die Arbeit wurde mit dem Chemienobelpreis gewürdigt. Viele Medikamente binden an solche Proteine und verändern deren Aktivität. Ihre Form zu kennen, hilft bei der Suche nach Wirkstoffen. Was ein Protein in einer lebenden Zelle tut und wie sich seine Beeinflussung auf einen Menschen auswirkt, erklärt seine Form allein jedoch nicht.

Wie weit der Weg zur Behandlung ist, zeigt Rentosertib, ein experimenteller Wirkstoff gegen Lungenfibrose: Lungengewebe vernarbt, das Atmen wird schwerer. KI half, einen möglichen Angriffspunkt zu finden und einen passenden Wirkstoff zu entwickeln. Eine zwölfwöchige Studie mit 71 Menschen prüfte vor allem dessen Sicherheit. Bei einer Dosierung gab es ein ermutigendes Signal für die Lungenfunktion, aber auch Nebenwirkungen und Behandlungsabbrüche. Ob der Wirkstoff dauerhaft hilft und ausreichend verträglich ist, müssen grössere und längere Studien zeigen.

Wir verstehen die Biologie noch längst nicht vollständig. Sildenafil sollte Herzbeschwerden behandeln und wurde zu Viagra. Semaglutid wurde zunächst gegen Typ-2-Diabetes entwickelt. Der Wirkstoff steckt in Ozempic und wird als Wegovy auch zur Behandlung von starkem Übergewicht eingesetzt. Fortschritt heisst deshalb auch, Forschungsziele zu hinterfragen und aus unerwarteten Beobachtungen zu lernen. Sonst liefert KI womöglich nur schneller Antworten auf die falsche Frage.

KI könnte diesen Lernprozess unterstützen: Daten verbinden, aussichtsreiche Versuche auswählen und aus deren Ergebnissen lernen. Im Zentrum steht der Kreislauf aus Vorschlag, Experiment und Rückmeldung. Treffen Tausende Ideen auf dieselbe begrenzte Laborkapazität, wächst zunächst die Warteschlange. Mehr Vorschläge allein beschleunigen die Entwicklung noch nicht.

Von der ersten Herstellung eines neuen Wirkstoffs bis zur Markteinführung vergehen laut dem europäischen Pharmaverband EFPIA im Schnitt zwölf bis dreizehn Jahre. Ein grosser zeitlicher Engpass sind die klinischen Studien, in denen Nutzen und Nebenwirkungen oft über mehrere Jahre am Menschen geprüft werden. Klinische Studien sind auch der grösste Kostenblock der Medikamentenentwicklung. Schon die Suche nach geeigneten Teilnehmenden kostet viel Zeit. Eine kleine Pilotuntersuchung mit dem KI-System TrialGPT zeigte, dass ärztliche Fachpersonen die Aufnahmekriterien für klinische Studien mit KI-Unterstützung schneller prüfen konnten. Darin liegt ein konkreter Nutzen; ob dadurch die gesamte Studie kürzer wird, ist noch nicht belegt. Gerade bei solchen organisatorischen Aufgaben sehe ich grosses Potenzial. Andere Fragen verlangen längere Beobachtung: Hält eine Behandlung an? Treten Nebenwirkungen erst Monate später auf? Diese Beobachtungszeit lässt sich auch mit KI nicht überspringen. Frühe Messungen können zwar kürzere Studien ermöglichen, müssen den späteren Nutzen aber zuverlässig vorhersagen.

Auch die grossen Versprechen zur Krebsheilung müssen sich daran messen lassen. Wie KI ist auch Krebs ein Sammelbegriff: Manche dieser Erkrankungen sind bereits heilbar, andere bleiben schwer behandelbar. Trotz aller Fortschritte verstehen wir viele biologische Zusammenhänge noch nicht. KI kann helfen, diese Lücken zu schliessen und neue Therapien zu entwickeln. Daraus schon einen Zeitplan für den endgültigen Sieg über Krebs abzuleiten, geht jedoch zu weit. Entscheidend ist, ob KI den Weg vom Labor bis zur Patientin schneller und besser macht.

GESUNDHEITSWESEN: WAS IN DER VERSORGUNG ANKOMMT

Ob KI den Weg zur Patientin verbessert, entscheidet sich auch jenseits der Medikamentenentwicklung. Während neue Wirkstoffe Jahre brauchen, unterstützt sie bereits die Früherkennung von Krankheiten. Bei der Brustkrebsfrüherkennung etwa bewertet eine spezialisierte KI Mammografie-Aufnahmen und unterstützt die Entscheidung, welche Aufnahmen von einer oder zwei ärztlichen Fachpersonen beurteilt werden müssen. In der schwedischen MASAI-Studie mit rund 106’000 Frauen verbesserte KI-Unterstützung die Erkennung von Brustkrebs, ohne den Anteil falscher Alarme zu erhöhen. Eine frühere Zwischenauswertung derselben Studie zeigte rund 44 Prozent weniger ärztliche Bildbeurteilungen.

Ob deshalb weniger Frauen an Brustkrebs sterben, ist offen. Die bessere Erkennung ist ein wichtiger erster Schritt. Sie allein verbessert aber noch keine Behandlung: Ein verdächtiger Befund muss richtig eingeordnet, weiter abgeklärt und bei Bedarf rechtzeitig behandelt werden. Ob aus der früheren Erkennung auch die richtige Behandlung folgt, hängt davon ab, wie die Versorgung organisiert ist. Ein auffälliges Bild vereinbart noch keinen Termin.

Dabei wird die unspektakuläre Vorarbeit wichtig. Kann auch das nächste behandelnde Spital auf den Befund zugreifen? Weiss die Ärztin, welche Medikamente eine Patientin tatsächlich nimmt? Das elektronische Patientendossier wird in der Schweiz noch nicht flächendeckend genutzt; sein geplanter Nachfolger ist bislang nicht in Kraft. Fehlende Informationen ersetzt keine plausible KI-Antwort. Auf perfekte Daten zu warten, würde aber bereits überprüfbare Verbesserungen vertagen.

Mit dem Einsatz von KI wächst auch die Verantwortung für ihre Fehler. «Ein Mensch kontrolliert das» klingt beruhigend. Doch wenn die Ergebnisse schneller eintreffen, als jemand sie sorgfältig prüfen kann, droht aus Kontrolle blosses Abnicken zu werden. Entscheidend sind Zeit, Fachwissen und die Möglichkeit einzugreifen. Ob eine Anwendung unter realen Bedingungen hilft und welche Fehler sie verursacht, muss geprüft werden. Auch Ergebnisse, die keinen klaren Nutzen zeigen, gehören veröffentlicht.

 

SICHERHEIT: WAS DIE KI-BRANCHE VON DER ARZNEIMITTELAUFSICHT LERNEN KANN

Die eingangs erwähnten Programme nennt die Branche KI-Agenten. Wer dabei an James Bond oder Agent Smith aus «Matrix» denkt, liegt falsch: Gemeint sind Programme, die ein vorgegebenes Ziel verfolgen, dafür selbstständig nächste Schritte auswählen und Werkzeuge nutzen, etwa Webseiten aufrufen oder andere Software bedienen. Welche Zugriffe sie dabei erhalten, liegt in der Verantwortung ihrer Anbieter und Betreiber. Bei internen Tests drangen OpenAI-Agenten unerlaubt in Systeme der KI-Plattform Hugging Face ein. OpenAI räumte reduzierte Schutzmechanismen und Lücken bei der Weitergabe früher Warnzeichen ein. Auch Anthropic meldete unerlaubte Zugriffe auf fremde Systeme. In Testumgebungen eines externen Partners hatten Modelle versehentlich Internetzugang, während Schutzvorkehrungen gegen Cyberangriffe deaktiviert waren. Beide Anbieter haben hier ihre Verantwortung nicht ausreichend wahrgenommen.

Die Arzneimittelaufsicht zeigt, wie es anders gehen kann: Behörden prüfen vor der Zulassung Nutzen und Risiken für einen bestimmten Einsatz. Danach werden Meldungen über vermutete Nebenwirkungen auf neue Risiken geprüft. Für KI liesse sich ableiten: Vorfälle müssen dokumentiert werden. Unabhängige Prüfer brauchen Zugang zu diesen Berichten und zu Testergebnissen, auch wenn sie für den Anbieter ungünstig ausfallen. Wie bei Arzneimitteln braucht es Verantwortung auf mehreren Ebenen: Anbieter müssen Sicherheitsprobleme melden, Betreiber bei gefährlichen Anwendungen eingreifen können. Und eine unabhängige Aufsicht braucht die Befugnis, riskante Einsätze einzuschränken oder zu untersagen. Auch globale Anbieter müssen für den Einsatz ihrer Systeme im jeweiligen Land zur Verantwortung gezogen werden können; dafür braucht es international abgestimmte Regeln und Zusammenarbeit zwischen den Behörden. Das verlangt kein identisches Zulassungsverfahren für jede Anwendung, aber Verantwortung auch nach der Einführung. Über die Regeln sollten allerdings nicht die Anbieter allein bestimmen. Entscheidend ist auch, wie viel Einfluss sie auf deren Ausgestaltung erhalten. Grosse Anbieter können aufwendige Auflagen leichter verkraften als kleinere. Schreiben die Marktführer die Regeln mit, besteht die Gefahr, dass sie damit ihre eigene Stellung absichern.

 

WIRTSCHAFT: WER AUS GEWONNE NER ZEIT EINEN GEWINN MACHT

Spart KI einer Radiologin Zeit, ist noch nicht entschieden, wer diese Zeit bekommt: Patientinnen, überlastete Mitarbeitende oder eine Organisation, die Kosten senken will. Dasselbe gilt für die ganze Wirtschaft. Die Geschichte zeigt, wie lange es dauern kann, bis aus gesparter Zeit Wohlstand wird und wer ihn erhält.

Die Dampfmaschine veränderte die Wirtschaft über ein ganzes Jahrhundert, ohne explosionsartiges Wachstum. Die Elektrizität entfaltete ihre volle Wirkung erst Jahrzehnte nach ihrer Einführung: Zunächst ersetzten Fabriken bloss die zentrale Dampfmaschine durch einen grossen Elektromotor. Der Produktivitätsschub kam erst, als einzelne Maschinen eigene Motoren erhielten und Fabriken neu organisiert wurden. Auch der Personalcomputer zeigte sich erst fünfzehn bis zwanzig Jahre nach seiner Einführung in der Produktivitätsstatistik. Der Nutzen lag nie im neuen Gerät allein, sondern darin, die Arbeit um es herum neu zu ordnen. Solche Investitionen können dem messbaren Gewinn lange vorausgehen.

KI könnte sich schneller verbreiten, weil sie auf vorhandener digitaler Infrastruktur aufbaut. Doch ein rasch eingeführtes Werkzeug verändert noch nicht automatisch die Abläufe eines Unternehmens.

Die Dotcom-Zeit zeigt zugleich, wie weit Erwartungen vorauseilen können. Die Blase platzte; das Internet wurde trotzdem Teil unseres Alltags. Bei KI könnten sich beide Geschichten überlagern: tiefgreifender Wandel und das Scheitern überzogener Versprechen.

KI könnte zudem das Erfinden selbst produktiver machen: neue Forschungswege eröffnen, Verfahren verbessern und Produkte ermöglichen, an die heute niemand denkt. Dann würden heutige Engpässe nicht bleiben, wie sie sind. Doch auch die industrielle Revolution, die langfristig den Wohlstand breiter Schichten hob, war für Handweber verheerend. Dass neue Berufe entstehen, bedeutet noch nicht, dass ein arbeitsloser Handweber darin seinen Platz findet.

Welche dieser Hoffnungen sich erfüllen, ist offen. Rechenzentren müssen schon heute bezahlt werden. Das macht Zukunftserzählungen wertvoll. CoreWeave vermietet Rechenleistung und kauft dafür Chips bei Nvidia. Nvidia hat auch in CoreWeave investiert und Aktien erhalten. Zudem hat Nvidia zugesagt, bestimmte Kapazitäten unter vereinbarten Bedingungen abzunehmen, falls sie unverkauft bleiben. Vereinfacht: Der Ofenhersteller finanziert die Bäckerei mit, verkauft ihr Öfen und verspricht, einen Teil der unverkauften Brote zu kaufen. Hier wird der Donner zum Geschäftsmodell: Je überzeugender die Zukunftserzählung, desto leichter die nächste Finanzierung.

So kann nützliche Infrastruktur entstehen. Zugleich kann sich ein Finanzierungskreislauf selbst verstärken: Geld ermöglicht Bestellungen, diese stützen die Wachstumsgeschichte und erleichtern die nächste Finanzierung. Wissenschaftlicher Fortschritt, gesellschaftlicher Nutzen und ein tragfähiges Geschäft bleiben dabei drei verschiedene Nachweise.

Für mich sind die enormen Investitionen in Rechenzentren deshalb eine Wette auf künftige Nachfrage. Die kann aufgehen. Doch irgendwann müssen genügend Kunden die Kapazitäten brauchen und kostendeckend dafür bezahlen. Die nächste Finanzierungsrunde ist kein Beweis dafür.

GENAU HINHÖREN

Die Beispiele aus Forschung und Versorgung zeigen, was KI bei klar umrissenen Aufgaben bereits leistet. Die grössten Vorteile dürften sich aber erst zeigen, wenn wir auch die Abläufe neu denken: wie wir forschen, Behandlungen organisieren und Arbeit verteilen. Bei der nächsten grossen KI-Ankündigung helfen deshalb drei Fragen: Was wurde tatsächlich gezeigt? Was fehlt noch zum Nutzen im Alltag? Und wer trägt die Folgen, wenn es scheitert?

Diese Fragen gelten auch für die Berichterstattung. Anbieter wollen ihre Zukunft verkaufen, Medien konkurrieren um Aufmerksamkeit. Heilungsversprechen und Kontrollverlust liefern die grösseren Schlagzeilen als ein begrenzter Fortschritt mit offenen Fragen. Welche Geschichten uns überzeugen, hängt aber auch von uns ab: Welche Versprechen wollen wir glauben, welche Warnungen bestätigen unsere Befürchtungen? Ich traue KI viel zu. Dabei möchte ich unterscheiden zwischen dem, was sie bereits leistet, und dem, was ich mir von ihr erhoffe.

Dazu gehört, auch die eigene Skepsis zu prüfen: Eine Erfolgsmeldung als PR abzutun, ist noch keine kritische Auseinandersetzung. Und eine Warnung ist nicht allein deshalb glaubwürdig, weil sie düster klingt. Je leichter KI Antworten liefert, desto wichtiger werden für mich kritisches Denken und eigenes Urteilsvermögen. Prüfe ich Nachrichten, die meine Überzeugungen bestätigen, genauso sorgfältig wie solche, die ihnen widersprechen? Was würde meine Meinung ändern? KI kann mir Gegenargumente liefern. Ernst nehmen muss ich sie selbst.

Salmoneus brauchte für seinen Donner ein Publikum. Heute gehören wir dazu. Bevor wir applaudieren oder abwinken, lohnt es sich, genauer hinzuhören. Lauter Donner allein sagt noch nicht, wie viel Macht dahintersteckt.