Der Experten-Talk: Neurowissenschaft trifft KI

Das menschliche Gehirn versus Künstliche Intelligenz - wer gewinnt das Rennen in der Medizin?

Prof. Dr. Hans-Peter Thier und Prof. Dr. Philipp Berens im Interview

Das menschliche Gehirn versus Künstliche Intelligenz - wer gewinnt das Rennen in der Medizin?

Künstliche Intelligenz ist aus der medizinischen Forschung kaum mehr wegzudenken - doch welche Rolle spielt sie wirklich im Rennen um die Zukunft? Prof. Dr. Hans-Peter Thier ist Leiter der Abteilung für Kognitive Neurologie am Hertie-Institut für klinische Hirnforschung in Tübingen. Prof. Dr. Philipp Berens ist Experte für Data Science in der Sehforschung am Forschungsinstitut für Augenheilkunde an der Universität Tübingen. Im Interview sprechen der Neurowissenschaftler und der Bioinformatiker über Chancen und Risiken im Zusammenspiel von Mensch und Maschine.

Prof. Berens, maschinelles Lernen (ML) und künstliche Intelligenz (KI) gehören zu Ihrer täglichen Arbeit. Was ist der Unterschied?

Prof. Berens: ML ist ein Bereich der KI, der in den letzten Jahren rasante Fortschritte gemacht hat und viel zum aktuellen Interesse an KI beigetragen hat. Dabei geht es darum, aus Daten zu lernen, wie man neue Vorhersagen macht. Zur KI gehören auch Felder wie symbolische KI und Expertensysteme, die in der Vergangenheit weniger überzeugende Ergebnisse geliefert haben.

Prof. Thier, welche Rolle spielen KI und maschinelles Lernen für Sie als Neurowissenschaftler?

Sie sind für mich – wie wohl für die meisten Wissenschaftler – primär nützliche Werkzeuge, die wir beispielsweise gewinnbringend einsetzen, um große Datenmengen zu sichten, zu sortieren und relevante Muster zu erkennen.

Wie speichert der Mensch seine Daten im Gehirn, wie die Maschine?

Prof. Berens: Im Gehirn werden die Informationen über die Verknüpfung zwischen Nervenzellen gespeichert, also eher ein Stück weit implizit. Es wird kein klarer Unterschied gemacht zwischen Berechnung und Speicherung. Der Computer als solcher macht stattdessen Berechnungen und greift, wenn er Daten braucht, auf seinen Speicher zurück. Im ML kann man natürlich sagen, dass in Anlehnung an das Gehirn sogenannte Künstliche Neuronale Netze ebenfalls Informationen implizit in den Gewichten der Netzwerke speichern.  

Bis heute gibt es keine Maschine, die an die Fähigkeiten des Menschen herankommt. Und daran wird sich auch auf lange Sicht nichts ändern.

Was fasziniert Sie mehr - das menschliche Gehirn, das ja auch erkranken kann, oder die Maschine mit ihren schnellen Berechnungs- und Speichermöglichkeiten?

Prof. Thier: Ich sehe trotz der rasanten Entwicklung auf dem Gebiet der künstlichen Intelligenz nicht, dass sie all das ermöglichen würde, was wir mit menschlicher Intelligenz und den vielschichtigen Aspekten menschlicher Persönlichkeiten verbinden. Die Replikanten der Blade-Runner-Filme – vom Menschen nicht mehr unterscheidbare künstliche Wesen – werden noch lange auf sich warten lassen. Bis heute gibt es keine Maschine, die auch nur annähernd an die prinzipielle Langlebigkeit, Robustheit, Anpassungsfähigkeit und Kompensationsfähigkeit des menschlichen Gehirns und des menschlichen Körpers insgesamt heranreichen würde. Und daran wird sich auch auf lange Sicht nichts ändern, weil wir Produkte eines entwicklungsgeschichtlichen Optimierungsprozesses sind, in dem über viele Millionen Jahre eine unendliche Fülle von möglichen Lösungen für die Vielfalt der Anforderungen an Gehirn und Körper erprobt werden konnte.

Mensch und Maschine - sind sie Konkurrenten oder ergänzen sie sich eher?

Prof. Berens: Im Bereich der Wissenschaft ist die computergestützte Datenanalyse bereits allgegenwärtig. Wer etwas anderes glaubt, der stellt sich Wissenschaft ein bisschen wie vor 200 Jahren vor: Einer hat eine Theorie, geht raus, sammelt Daten, wertet sie aus und am Ende passen seine von Hand ausgezählten Daten eben zur Theorie oder auch nicht. Heute funktioniert die Wissenschaft aber anders: Wir haben häufig sehr viele Daten, müssen sehr komplexe Zusammenhänge erkennen, haben auch sehr komplexe Modelle von den Daten, weil wir eine schon sehr ausdifferenzierte Theorielandschaft haben. Das Zusammenbringen kann man nicht einfach mit Bleistift und Papier machen, oder indem man die Daten anguckt. Da muss man wirklich spezialisierte Techniken haben, die einem erlauben, das umzusetzen. Hier sind Verfahren aus dem maschinellen Lernen und der KI extrem hilfreich.

Der Begriff KI scheint noch immer zu polarisieren. Menschen haben Angst vor der Übermacht der Maschinen. Welche Gefahren oder Risiken gibt es?

Prof. Berens: Um so komplexe Techniken wie KI im Griff zu behalten, muss man sich natürlich auskennen. Es braucht Experten, um solche Verfahren richtig zu benutzen und auch richtig zu interpretieren. Ein großes Thema in unserem Exzellenz-Cluster ist z.B. die Frage, in wieweit Verfahren im maschinellen Lernen verändert oder angepasst werden müssen, wenn man die Interaktionen mit dem Wissenschaftler oder der Wissenschaftlerin bedenkt. Die sogenannte Allgemeine Künstliche Intelligenz ist doch noch sehr weit weg.

Prof. Thier, sind Sie manchmal besorgt, was den Einsatz von KI in der Medizin angeht? Sehen Sie Risiken oder eher Chancen – vor allem für die Neurowissenschaft?

Ich sehe sowohl großartige Chancen als auch Risiken. Die KI wird in vielen Bereichen Leistungen von Menschen übernehmen, in denen etwa die Kategorisierung und Klassifizierung von Daten im Vordergrund steht. Denken Sie etwa an die Beurteilung von radiologischen Bildern, bei denen es um die Frage geht, ob sie Auffälligkeiten aufweisen, und wenn ja, welcher Art. Zu den gut standardisierbaren Leistungen gehören im Prinzip auch operative Eingriffe, die in Zukunft von gut trainierter KI bzw. OP-Robotern besser und von gleichbleibender Qualität erbracht werden können. Dies wird letztlich mehr Personal und Zeit für die Interaktionen des Fachpersonals mit den ihnen anvertrauten Patienten freisetzen. 

Ich sehe im Wesentlichen zwei Risiken: Erstens erfordert der Einsatz der KI in der Medizin das Lernen anhand großer Datensätze, die von individuellen Menschen sind. Und damit besteht immer die Gefahr des Missbrauchs und der Verletzung von Persönlichkeitsrechten. Ein zweites Risiko sehe ich in der zunehmend besseren Voraussage von Krankheitsrisiken, die von KI versprochen wird. Ich fürchte, dass die erreichbare Vorhersagekraft sich in vielen Fällen eher als Belastung erweisen könnte. Möchte man wirklich ständig in der Erwartung verschiedenster, zu erwartender Erkrankungen leben müssen? Und natürlich wird dieses Wissen auch die Begehrlichkeit von  Versicherungsträgern oder Arbeitgebern wecken, die es für Anliegen nutzen könnten, die den Interessen des Betroffenen nicht unbedingt entsprechen dürften. Denken Sie etwa an Krankheitsrisiko-Aufschläge oder den Ausschluss von Ausbildungen oder Berufen.  

Wir Menschen sind extrem gut darin, schnell neue Dinge zu lernen – die Maschine ist es leider nicht

Auf welchem Gebiet kann KI im Vergleich zum menschlichen Hirn ihre Stärke ausspielen? Und wo hat sie Schwächen?

Prof. Berens: Ich fange mal bei den Schwächen an: Wir Menschen sind extrem gut darin, sehr schnell neue Dinge zu lernen – die Maschine ist es leider nicht. Ich muss Ihnen zum Beispiel nur einmal sagen, dass das ein Locher ist. Dann sagen Sie: „aha“, und wenn Sie das nächste Mal einen Locher sehen, dann sagen Sie: „Oh, das ist das, was mir neulich gezeigt wurde, das muss ein Locher sein.“ Wenn wir dem neuronalen Netzwerk ganz viele Bilder von Hunden, Katzen, Mäusen zeigen, und dann einmal einen Locher, dann wird es darüber nichts wissen. Dann kann es Hunde, Katzen und Mäuse erkennen, aber keinen Locher. An dieser Schwäche arbeiten wir. Eine zweite Schwachstelle ist die sogenannte Robustheit, da geht es darum, dass die aktuellen Verfahren häufig durch spezifische, aber sehr kleine Störungen im Bild - also ein winziges Rauschen, das uns Menschen überhaupt nicht beeinflusst -  dazu gebracht werden können, ganz andere Dinge zu klassifizieren. Man sieht zum Beispiel auf einem Bild einen Hund, und wenn man gezielt ein manipuliertes Rauschen drauflegt, sagt das Netzwerk: „Das ist ein Haus“. Das ist ein Problem. Ein dritter Bereich ist die Nachvollziehbarkeit der Entscheidungsprozesse, es reicht schließlich nicht, von dem Computer eine Diagnose zu bekommen, sondern man möchte als Mediziner auch wissen, wie der Algorithmus oder das KI-System zu seiner Diagnose gekommen ist.

Und worin liegt die Stärke von KI und maschinellem Lernen?

Prof. Berens: Für mich als Wissenschaftler ist das Vielversprechende an KI und ML,  dass beides mir erlaubt, komplexere Zusammenhänge herauszuarbeiten als ich es als Mensch könnte. Mit Sicherheit auch in Teilen der Geschwindigkeit.

Prof. Thier, was macht für Sie die Einzigartigkeit des Gehirns aus - vor allem in Bezug auf die Fähigkeiten des Menschen?

Unser Gehirn ist die vielleicht komplexeste Struktur im Universum, eine Struktur, die es vermag nach einer Entwicklungszeit von nur wenigen Jahren menschliche Persönlichkeiten zu schaffen, die ihre Umgebung verstehen, in ihr erfolgreich agieren, langfristige, selbstgewählte Ziele verfolgen und Neues schaffen können. Und unser Gehirn ist nicht zuletzt die Grundlage unseres Bewusstseins von der Welt und des bewussten Erlebens unserer Identität und unserer Bedürfnisse. Unser Denken wird im Unterschied zur künstlichen Intelligenz sehr viel mehr durch Zustandsgrößen unseres Körpers und entwicklungsgeschichtlich präformierte Strukturen bestimmt. Entgegen dem, was man vielleicht meinen könnte, treten die Außenwelterfahrungen zurück. Tatsächlich überträgt der ganz überwiegende Teil der Verbindungen zwischen Nervenzellen in unserem Gehirn keine Signale aus der Außenwelt sondern dient der Interaktion mit dem Körper und dem, was man die Innenansicht nennen könnte. Ein menschliches Gehirn ohne die Möglichkeit der Interaktion mit einem Körper dürfte kaum denken und wohl kaum Bewusstsein entwickeln. Denken Sie etwa an einen künstlerischen Prozess: Natürlich kann KI Bilder im Stile von Picasso schaffen, indem charakteristische Merkmale eines Malstils identifiziert und reproduziert werden. Aber der Maschine fehlt die Kreativität. Sie wird bis ans Ende ihrer Tage Picasso-Werke im Stil der blauen Periode produzieren, sollte sie auf die entsprechenden Merkmale trainiert worden sein.

Mittelpunkt Ihrer Arbeit als Mediziner ist der Mensch. Wie begegnen Sie der Welt der künstlichen Intelligenz? Ist sie manchmal befremdlich für Sie?

Nein, in keiner Weise. Ich sehe sie vielmehr als Hilfsmittel mit enormem Potential, unsere Arbeit in der Medizin zu erleichtern und ihre Qualität zu verbessern. Künstliche Intelligenz wird auch in der für mich überschaubaren Zukunft nicht an die Stelle erfahrenen und empathischen Fachpersonals treten. Aber sie wird viele gleichförmige Aufgaben, die verlässlich und mit hoher Geschwindigkeit erledigt werden müssen, übernehmen.

Das Interview führte Rena Beeg für die Gemeinnützige Hertie-Stiftung.

KI und Medizin

Im Rahmen unserer Veranstaltungsreihe "Das Gehirn der Zukunft" diskutiert Prof. Berens mit drei weiteren Expertinnen und Experten zum Thema Künstliche Intelligenz und Medizin. Die Veranstaltung findet am 30. September 2019 um 18 Uhr im Audimax der Universität Tübingen statt. 

Mehr Infos zur Veranstaltung