Kolmogorov-Arnold-Netzwerke: Durchbruch für verständliche KI in regulierten Bereichen

Neuronale Netze zu den leistungsfähigsten Werkzeugen der KI. Sie sind in der Lage, große Datenmengen zu verarbeiten und hochpräzise Vorhersagen zu treffen. Doch ein zentrales Problem bleibt: Viele dieser Netzwerke funktionieren wie eine „Black Box“. Ihre inneren Abläufe sind so komplex, dass selbst Experten nur schwer nachvollziehen können, wie bestimmte Ergebnisse zustande kommen. Diese Intransparenz ist vor allem in Bereichen problematisch, die ein hohes Maß an Nachvollziehbarkeit und Vertrauen erfordern – etwa in der Medizintechnik oder anderen regulierten Industrien.

Die meisten neuronalen Netze basieren auf der Architektur des Multilayer Perceptrons (MLP), einem Standardmodell, das in den letzten Jahrzehnten zahlreiche Erfolge verbuchen konnte. Dennoch bleibt die Frage: Können wir diesen Netzwerken vertrauen, wenn wir nicht verstehen, wie sie funktionieren? Und ist es möglich, ihre Struktur so zu verändern, dass sie für wissenschaftliche Entdeckungen und regulatorische Zwecke nützlicher werden? Hier setzt das Konzept der Kolmogorov-Arnold Netzwerke (KAN) an, das 2024 von einem Forschungsteam um Ziming Liu am MIT wiederentdeckt wurde.

Die Herausforderung der Intransparenz in der KI

Neuronale Netze sind in der Lage, beeindruckende Vorhersagen zu treffen, aber sie erklären selten, wie sie zu diesen Vorhersagen kommen. Diese mangelnde Interpretierbarkeit ist besonders kritisch in der Medizintechnik, wo Vertrauen und Compliance von entscheidender Bedeutung sind. In regulierten Bereichen müssen Unternehmen nachweisen, dass ihre Algorithmen nachvollziehbar und zuverlässig sind, um strenge Vorschriften wie die der FDA oder ISO 13485 zu erfüllen. In der Praxis erweist sich dies bei MLP-basierten Netzwerken oft als schwierig, da sie kaum Einblick in ihre internen Entscheidungsprozesse gewähren.

Die Entstehung der Kolmogorov-Arnold Netzwerke
Das Prinzip der Kolmogorov-Arnold-Netzwerke geht auf eine mathematische Entdeckung aus den 1950er Jahren zurück. Die Mathematiker Andrei Kolmogorov und Wladimir Arnold bewiesen, dass sich jede komplexe, mehrdimensionale Funktion in eine Kombination einfacher, eindimensionaler Funktionen zerlegen lässt. Obwohl diese Theorie von grundlegender Bedeutung ist, galt sie lange Zeit als praktisch nicht anwendbar – insbesondere für das maschinelle Lernen. Ein wesentlicher Grund dafür war, dass die resultierenden eindimensionalen Funktionen oft „unsmooth“ waren, also scharfe Kanten aufwiesen, was die Lernfähigkeit eines Netzes einschränkte.

Doch 2024 gelang es Liu und seinem Berater Max Tegmark, dieses Problem zu lösen, indem sie eine angepasste Version der Kolmogorov-Arnold-Netzwerke entwickelten. Sie stellten fest, dass moderne Rechenleistung und optimierte Algorithmen eine erfolgreiche Umsetzung der Theorie in die Praxis ermöglichen. So entstand das erste funktionsfähige KAN für wissenschaftliche Anwendungen, bei denen die Interpretierbarkeit im Vordergrund steht.

Vorteile der KAN-Architektur

Im Gegensatz zu MLPs, die auf einfachen numerischen Gewichtungen zwischen den Knoten basieren, verwenden KANs nichtlineare Funktionen. Diese erlauben eine wesentlich feinere Anpassung der Verknüpfungen und ermöglichen eine bessere Abbildung komplexer, multivariater Zusammenhänge. Der entscheidende Vorteil: KANs bieten Transparenz, indem sie ihre Vorhersagen in klaren mathematischen Formeln ausdrücken können – Formeln, die Wissenschaftler verstehen und überprüfen können. Das macht KANs besonders interessant für wissenschaftliche und technologische Anwendungen, bei denen es nicht nur darauf ankommt, die richtigen Ergebnisse zu liefern, sondern auch die zugrundeliegenden Mechanismen zu verstehen.

Beispielsweise konnten KANs ein Problem der Knotentheorie lösen, das zuvor von neuronalen Netzen wie MLPs gelöst wurde. Der entscheidende Unterschied: KANs lieferten nicht nur eine Lösung, sondern auch eine Erklärung für den Zusammenhang zwischen den verschiedenen Variablen. Diese Erklärungsfähigkeit ist ein enormer Fortschritt und könnte dazu beitragen, neuronale Netze für die Wissenschaft und andere stark regulierte Bereiche nutzbar zu machen.

Relevanz für die Medizintechnik und regulierte Branchen

• Compliance: In regulierten Bereichen wie der Medizintechnik müssen Unternehmen ihre KI-Systeme regelmäßig gegenüber Behörden und Institutionen erklären und validieren. Die Fähigkeit von KANs, Entscheidungen in verständlichen Formeln auszudrücken, könnte den Validierungsprozess erheblich vereinfachen. Im Gegensatz zu herkömmlichen MLPs, bei denen die Entscheidungsfindung oft undurchsichtig bleibt, erlauben KANs eine detaillierte Analyse der einzelnen Schritte, was für die Einhaltung regulatorischer Anforderungen entscheidend ist.
• Vertrauensbildung: Ein weiteres wesentliches Element in der Medizintechnik ist das Vertrauen der Endnutzer, seien es die Angehörigen der Gesundheitsberufe oder die Patienten selbst. Da KAN ihre Entscheidungsprozesse offenlegen können, bieten sie eine Grundlage, auf der Angehörige der Gesundheitsberufe die Ergebnisse validieren und nachvollziehen können. Diese Transparenz kann die Akzeptanz von KI-gestützten Diagnosen und Therapien deutlich erhöhen und das Vertrauen in solche Systeme stärken.
• Hypothesengenerierung und wissenschaftlicher Fortschritt: Ein einzigartiger Vorteil der KI ist ihre Fähigkeit, nicht nur Ergebnisse zu liefern, sondern auch neue wissenschaftliche Hypothesen zu generieren. Dies eröffnet insbesondere in der Forschung und Produktentwicklung neue Möglichkeiten. In der Medizintechnik könnten KAN beispielsweise helfen, verborgene Muster in Daten zu erkennen, die auf neue Biomarker hinweisen, oder die Entwicklung präziser Diagnoseverfahren vorantreiben.

Fazit: Eine neue Ära der verständlichen KI

Kolmogorov-Arnold-Netzwerke bieten eine bahnbrechende Alternative zu herkömmlichen neuronalen Netzen, indem sie nicht nur leistungsfähige Vorhersagen liefern, sondern auch ihre inneren Mechanismen offenlegen. Für stark regulierte Branchen wie die Medizintechnik und andere wissenschaftliche Bereiche könnte dies ein entscheidender Fortschritt sein. Die Fähigkeit von KANs, wissenschaftliche Prinzipien zu extrahieren, die Einhaltung von Vorschriften zu unterstützen und Vertrauen zu schaffen, macht sie zu einer vielversprechenden Technologie für die Zukunft KI-gestützter Innovationen.

Mehr dazu hier: https://www.quantamagazine.org/novel-architecture-makes-neural-networks-more-understandable-20240911/