Erste Live-KI-Hirnoperation der Welt: Warum die Kontrolle durch Chirurgen der eigentliche Test ist

Die Operation wurde bis Ende August geheim gehalten, während das Team die Genesung des Patienten überwachte. Der 48-jährige Patient Rhys Hibbert hatte einen gutartigen Hypophysentumor von 11 mm Größe, der gegen die Sehnerven drückte und gefährlich nahe an den inneren Halsschlagadern lag. Der Tumor wurde vollständig ohne Gefäßverletzung entfernt, und sein peripheres Sehvermögen kehrte sofort zurück.

Das ist ein beeindruckendes klinisches Ergebnis. Es ist noch kein Beweis dafür, dass Maschinen sicher im Gehirn navigieren können.

Was es jedoch etabliert, ist ein neuer Test für medizinische KI: ob Software in der Lage ist, das Operationsfeld so zu interpretieren, wie es sich verändert, anstatt lediglich Bilder zu analysieren, die vor Beginn der Operation aufgenommen wurden.

Von Scans zum Operationsfeld

Bisher basierte ein Großteil der praktischen Anwendung von KI in der Neurochirurgie auf präoperativen MRT- und CT-Scans, einschließlich Segmentierung, Diagnose und Planung. Diese Systeme können hochspezialisiert sein, aber sie arbeiten mit einem relativ statischen Bild des Patienten.

Chirurgie ist anders.

Bei einer endoskopischen transsphenoidalen Operation erreicht der Chirurg die Hypophyse durch die Nasenhöhle und die Schädelbasis. Der Tumor selbst liegt hinter Knochen und Membran verborgen. Sobald Instrumente in das Operationsfeld eindringen, ist die Anatomie nicht mehr einfach eine dreidimensionale Struktur, die darauf wartet, identifiziert zu werden. Gewebe kann sich bewegen. Blut kann Orientierungspunkte verdecken. Reflexionen, Rauch und Lichtveränderungen können das Bild der Kamera verändern.

Ein präoperativer Scan kann sich nicht aktualisieren, wenn sich die Operationsumgebung ändert.

Das UCL-System wurde genau auf dieses Problem ausgelegt. Entwickelt am Wellcome/EPSRC Centre for Interventional and Surgical Sciences der UCL und am Hawkes Institute, wurde die Software mit Hunderten von annotierten Videos von Hypophysenoperationen trainiert. Klinische Experten identifizierten neuronale und vaskuläre Strukturen Bild für Bild, was dem Modell eine viel reichhaltigere Referenzmenge verlieh, als ein einzelner Chirurg durch persönliche Erfahrung ansammeln könnte.

Während Hibberts Operation analysierte die Software den Live-Endoskopie-Feed auf einem sekundären Monitor. Sie identifizierte chirurgische Instrumente und kritische anatomische Strukturen, kodierte sie farblich und generierte dynamische "sichere Korridore" für den Chirurgen. Das System zeigte auch die wahrscheinliche Position der Sehnerven, der Halsschlagadern und kleinerer Gefäße an.

Der wichtige Unterschied ist, dass es nicht operierte.

Professor Hani Marcus und Mr. Danyal Khan behielten während des gesamten Eingriffs die Kontrolle. Die KI war bewusst als zusätzlicher Experte positioniert, der Anleitung bietet, nicht als autonomer chirurgischer Agent.

Diese Unterscheidung wird immer wichtiger, je besser diese Systeme werden.

Die Erfahrungslücke ist Teil des Problems

Hypophysenchirurgie wird bereits routinemäßig durchgeführt. Aber Routine bedeutet nicht Einheitlichkeit.

Die Ausgangsbasis nennt ein Risiko für unvollständige Tumorentfernung von 25 bis 50 Prozent, während das Risiko einer Schädigung eines großen Blutgefäßes auf 0,5 bis 2 Prozent geschätzt wird. Ein britischer Neurochirurg führt durchschnittlich nur etwa 10 bis 20 solcher Operationen pro Jahr durch.

Eine KI, die mit Hunderten von Eingriffen trainiert wurde, nähert sich dem Problem aus einer anderen Richtung. Sie kann Muster über eine Menge chirurgischer Erfahrung hinweg behalten, die kein einzelner Operateur persönlich ansammeln kann.

Das eröffnet eine faszinierende Möglichkeit. Anstatt spezialisiertes Urteilsvermögen zu ersetzen, könnte KI einen Teil des Wissens, das in großen akademischen Zentren konzentriert ist, auch anderswo verfügbar machen.

Aber hier taucht das erste ernsthafte Hindernis auf.

Ein an der UCL trainiertes Modell ist nicht unbedingt ein Modell, das in einem anderen Krankenhaus identisch funktioniert. Unterschiedliche Kameras, Lichtverhältnisse, Instrumente und Operationstechniken können die visuellen Daten verändern, die den Algorithmus erreichen. Dies ist das bekannte Problem des Domain Shifts, aber in der Chirurgie wird es mehr als nur eine technische Unannehmlichkeit.

Ein System, das in einem regionalen Krankenhaus etwas weniger genau ist, erzeugt nicht nur ein schlechteres Bild. Es könnte einen Chirurgen auf das falsche anatomische Stück hinweisen.

Die Skalierung der Technologie bedeutet daher, die gesamte digitale Umgebung zu skalieren: Rechenkapazität, kompatible Bildgebungstechnologie, Datenqualität, Überwachung und klinische Expertise. Das NHS könnte sich letztendlich entscheiden müssen, ob KI-gestützte Chirurgie eine optionale technologische Aufrüstung oder Teil der Infrastruktur für Hochrisikoeingriffe ist.

Das könnte eine neue Ungleichheit schaffen.

Krankenhäuser, die sich die notwendige Hardware und Computersysteme nicht leisten können, könnten unter einem anderen Sicherheitsstandard operieren als gut finanzierte akademische Zentren.

Das neue chirurgische Risiko ist die Maschine selbst

Es ist verlockend, die KI als zusätzliches Augenpaar zu beschreiben. Aber anders als ein menschlicher Kollege kann ein Algorithmus auf eine Weise versagen, die im Operationssaal schwer zu erkennen ist.

Ein Modell könnte ein Gefäß aufgrund von Blut, Blendung oder ungewöhnlichem Gewebe falsch klassifizieren. Ein vermeintlich sicherer Korridor könnte mit einer Struktur überlappen, die für die Kamera verborgen ist. Eine Grenze könnte zwischen Frames flackern und den Chirurgen genau dann ablenken, wenn Konzentration am wichtigsten ist.

Dies sind nicht die textuellen "Halluzinationen", die mit großen Sprachmodellen verbunden sind. Es sind räumliche Fehler.

Das macht menschliche Aufsicht unerlässlich, aber menschliche Aufsicht hat ihre eigene Schwäche: Automatisierungs-Bias. Sobald ein System starke Leistung gezeigt hat, könnten Chirurgen beginnen, seiner Empfehlung zu vertrauen, selbst wenn ihr eigenes klinisches Urteil in eine andere Richtung weist.

Die UCL-Operation wurde entwickelt, um die gegenteilige Beziehung zu bewahren. Die Überlagerung berät; der Chirurg entscheidet.

Ob diese Hierarchie eine breite Einführung überleben kann, ist eine schwierigere Frage.

Es gibt auch eine weniger offensichtliche Gefahr. Wenn Chirurgen zunehmend auf maschinell generierte räumliche Führung angewiesen sind, könnte sich die Ausbildung allmählich verändern. Fähigkeiten, die selten geübt werden, könnten schwächer werden. Zukünftige Spezialisten könnten besser darin werden, KI-Ausgaben zu interpretieren, während sie weniger geübt darin sind, dieselbe anatomische Karte selbst zu erstellen.

Das wäre ein schlechter Tausch, wenn das System im falschen Moment versagt.

Regulierung bewegt sich in unbekanntes Terrain

Das regulatorische Problem ist genauso bedeutend wie das klinische.

Medizinische Regulierungsbehörden haben Software traditionell nach definierten Funktionen und Versionen bewertet. Echtzeit-intraoperative KI führt etwas Fließenderes ein: ein System, das kontinuierlich wechselnde visuelle Informationen interpretiert und Entscheidungen während einer Operation beeinflusst.

Der EU AI Act ordnet relevante klinische KI mit hohem Risiko in einen Rahmen aus Datengovernance, Risikomanagement, menschlicher Aufsicht und Überwachung nach dem Inverkehrbringen ein, zusammen mit Anforderungen aus der Medizinprodukteverordnung. Im Vereinigten Königreich entwickelt die MHRA ihren Ansatz durch ihr Software and AI Medical Devices Change Programme. Die US-amerikanische FDA behandelt vergleichbare Systeme als Software als Medizinprodukt, mit Mechanismen wie Predetermined Change Control Plans, die bestimmte zukünftige Softwareänderungen regeln sollen.

Aber das zentrale Problem ist nicht einfach, ob ein Algorithmus vor der Bereitstellung einen regulatorischen Test besteht.

Es geht darum, was passiert, wenn sich der Algorithmus ändert, das Krankenhaus wechselt, die Kameras wechseln oder der Patient von den Trainingsdaten abweicht.

Die rechtliche Frage ist noch schwieriger. Wenn ein KI-System eine Arterie falsch identifiziert und ein Chirurg seiner Führung folgt, kann die Verantwortung nicht einfach einer einzelnen Person zugewiesen werden. Das Krankenhaus besitzt die klinische Umgebung. Der Chirurg kontrolliert die Operation. Der Entwickler hat das Modell entworfen. Der Hersteller könnte die Hardware liefern, auf der es läuft.

Medizinische Haftungssysteme sind nicht auf eine solche Kette geteilter Verantwortung ausgelegt.

Der Durchbruch ist daher auch eine Warnung

Das Finanzierungsmodell hinter dem UCL-Projekt deutet darauf hin, wohin sich diese Technologie als nächstes entwickeln könnte. Das System kombiniert universitäre Forschung, klinische Expertise des NHS, öffentliche Mittel vom National Institute for Health and Care Research und Investitionen von Google.

Diese Kombination ist wichtig, weil Echtzeit-Chirurgie-KI nicht einfach eine weitere medizinische Anwendung ist, die als Software installiert werden kann. Sie erfordert klinische Daten, spezialisierte Annotation, Recheninfrastruktur, kompatible Ausrüstung und jahrelange Validierung.

Der nächste Schritt werden größere multizentrische klinische Studien unter Aufsicht des NHS sein. An diesem Punkt steht die Technologie vor ihrem eigentlichen Test.

Eine erfolgreiche Operation kann zeigen, dass Live-KI-Führung möglich ist. Mehrere Krankenhäuser müssen zeigen, dass sie zuverlässig bleibt, wenn die Beleuchtung anders ist, die Instrumente anders sind, der Chirurg anders ist und die Anatomie weniger kooperativ ist.

Wenn es gelingt, wird der Operationssaal weniger wie ein Ort aussehen, an dem ein Chirurg einen statischen Scan in physische Aktion übersetzt, sondern eher wie eine kontinuierlich aktualisierte Rechenumgebung.