Die bahnbrechenden Auswirkungen der künstlichen Intelligenz auf unser tägliches Leben sind größtenteils auf den Erfolg von großen Sprachmodellen (LLMs) und der Bild-Sprache-Foundation-Modelle zurückzuführen. Beide Technologien beruhen auf der Transformer-Architektur. Diese Transformer haben zwar das Anwendungsfeld der KI dramatisch erweitert, aber auch deren größte Schwächen und Risiken offenbart: Erstens wächst der Bedarf an Rechenressourcen (und Energie) derzeit schneller als die Hardware-Verbesserung und ist daher nicht nachhaltig. Zweitens sind viele funktionale Eigenschaften von Transformern nur unvollständig verstanden und schwer kontrollierbar – darunter die Tendenz zur Halluzination –, was ihre Anwendbarkeit für sicherheitsrelevante Anwendungen stark einschränkt. Daher besteht großer Bedarf die Transformer-Architektur weiter zu verbessern oder durch weniger ressourcenintensive und besser kontrollierbare Alternativen zu ersetzen. Ein grundlegender Baustein der Transformer-Architektur ist die Übersetzung von Eingabesequenzen in Ausgabesequenzen, eine Aufgabe, die traditionell auch im menschlichen und biologischen Gehirn untersucht und dort deutlich ressourceneffizienter durchgeführt wird. In diesem Pilotprojekt untersucht ein interdisziplinäres Team, wie menschliche Probanden, biologische neuronale Schaltkreise, neuroinformatische Modelle und alternative, biologisch besser interpretierbare KI-Modelle (rekurrente neuronale Netze, Zustandsraummodelle) Sequenzen verarbeiten. Ein besonderes Augenmerk liegt dabei auf Videosequenzen und Aufgaben, die typische Elemente enthalten, auf die Transformer spezialisiert sind. Dadurch werden die konzeptionellen Unterschiede zwischen biologischen Sequenzberechnungen und Transformern besser verstanden, mit dem Ziel, effizientere und besser erklärbare künstliche Sequenzverarbeitungsnetzwerke zu entwickeln, die für aktuelle KI-Anwendungen genutzt werden können.

Moderne künstliche Intelligenz nutzt meist sehr einfache Recheneinheiten, die ihre Eingaben zusammenzählen und dann eine nichtlineare Umwandlung durchführen. Im Gegensatz dazu zeigen echte Gehirnzellen ein deutlich komplexeres Verhalten: Sie verarbeiten Signale auf mehreren Ebenen und über verschiedene Zeiträume hinweg. Daraus ergibt sich die Frage, ob künstliche Intelligenz leistungsfähiger, effizienter und robuster werden kann, wenn sie diese biologischen Eigenschaften nachahmt. In diesem Projekt sollen Netzwerke entwickelt werden, die aus besonders ausdrucksstarken künstlichen Nervenzellen bestehen. Solche Netzwerke könnten schwierige Aufgaben besser lösen, insbesondere solche, bei denen Informationen über lange Zeiträume hinweg miteinander verbunden werden müssen, wie bei Sprachverarbeitung oder Entscheidungsfindung. Die Arbeitsgruppe hat bereits eine neue Art künstlicher Nervenzellen entwickelt, die das Verhalten von Gehirnzellen sehr genau nachahmt und bei Aufgaben mit langen Zeitabhängigkeiten gute Ergebnisse liefert. Aufbauend darauf will das Projekt zunächst untersuchen, welche Eigenschaften echte Gehirnzellen haben und wie diese auf künstliche Nervenzellen übertragen werden können. Danach ist geplant, diese Nervenzellen in größere Netzwerke einzubauen und herauszufinden, wie die Zusammensetzung und Struktur solcher Netzwerke die Leistungsfähigkeit beeinflusst. Schließlich sollen diese Netzwerke in Szenarien eingesetzt werden, in denen Roboter oder virtuelle Agenten über längere Zeiträume lernen und handeln müssen. Mit diesem Ansatz will das Projekt grundlegende Erkenntnisse darüber gewinnen, wie Nervenzellen Informationen verarbeiten, und die Grundlage für eine neue Generation künstlicher Intelligenz legen, die stärker an der Funktionsweise des Gehirns orientiert ist.

Dieses Vorhaben hat das Ziel, künstliche Lernsysteme zu entwickeln, die selbstständig entscheiden, wie sie ihre Lernzeit optimal nutzen. Sie sollen nicht nur festlegen, welche neuen Aufgaben wann erlernt werden, sondern auch gezielt wiederholen, um Wissen langfristig unter begrenzten Rechenressourcen zu bewahren. Das Projekt gliedert sich in vier aufeinander abgestimmte Arbeitspakete (WPs). In WP 1 wird eine Methode entwickelt, die es dem Lernsystem ermöglicht, selbst zu erkennen, wann es zwischen verschiedenen Aufgaben wechseln sollte und welche Aufgabe als Nächstes ausgewählt wird. So kann die Aufmerksamkeit gezielt auf besonders lohnende Lerninhalte gelenkt werden. Umgesetzt wird ein Aufgabenwechsel über einen innovativen Ansatz, welcher den Informationsfluss durch tiefe neuronale Netzwerke dynamisch optimiert. WP 2 erforscht Mechanismen, mit denen das System eigenständig entscheidet, wann und welche Inhalte wiederholt werden. Als Steuergröße dient dabei ein Modell "kognitiver Ermüdung", das den optimalen Zeitpunkt für Wiederholungen bestimmt und so das Vergessen verringert. WP 3 befasst sich mit der Kalibrierung und Optimierung der Abfolge von Lerninhalten und Aufgaben: Es wird ein Verfahren entwickelt, das Aufgaben und Beispiele so anordnet, dass das System im optimalen Schwierigkeitsbereich lernt, also weder unter- noch überfordert wird. In WP 4 werden alle entwickelten Ansätze in einem gemeinsamen, offenen Softwaresystem integriert, getestet und miteinander verglichen. Dieses wird umfassend dokumentiert und frei verfügbar bereitgestellt, um eine Weiterentwicklung und breite Nutzung sowohl in der Forschung als auch der Industrie zu ermöglichen. Damit entsteht eine Grundlage für künftige lernfähige Systeme, die sich selbst steuern, ressourcenschonend arbeiten und dauerhaft Wissen aufbauen.

Das Projekt verfolgt das Ziel, neue KI-Architekturen zu entwickeln, die von neurobiologischen Prinzipien der Schwingungen und Synchronisation inspiriert sind. Durch die Übertragung dieser Mechanismen in künstliche neuronale Netze sollen Grenzen heutiger Verfahren bei der Verarbeitung von Sequenz- und Multimodalitätsdaten überwunden werden. Das Vorhaben trägt damit zu den Zielen der Bekanntmachung bei, neurobiologische Erkenntnisse für die Entwicklung innovativer KI-Methoden zu nutzen, die Synergien zwischen Neurowissenschaften und KI zu stärken und biologisch inspirierte Methoden der KI wiederum für vielfältige Anwendungen nutzbar zu machen. Das Projekt kombiniert Expertise aus KI-Forschung und klinischer sowie kognitiver Neurowissenschaft. Zunächst werden "Artificial Kuramoto Oscillatory Neurons" (AKOrN) zu sequenziellen Architekturen (seqAKOrN) erweitert, die zeitliche Abhängigkeiten über lange Sequenzen erfassen können. Diese Modelle werden auf Benchmark-Daten aus Sprache, Text und Video getestet. Anschließend werden sie auf komplexe biomedizinische Zeitreihen (z. B. EEG) auf kognitiven und klinischen Fragen angewendet. Parallel werden Methoden der Netzwerkanalyse, Dynamiksystemtheorie und mechanistischen Interpretierbarkeit entwickelt, um die gelernten Repräsentationen zu untersuchen. DeepSync wird neuartige KI-Modelle bereitstellen, die robuster, interpretierbarer und besser auf multimodale Sequenzdaten zugeschnitten sind. Damit entstehen Fortschritte für Anwendungen in Sprach- und Videoanalyse sowie in der medizinischen Diagnostik. Zugleich liefert das Projekt neue Einblicke in die Rolle neuronaler Schwingungen für physiologische Hirnprozesse. Durch die offene Bereitstellung der Methoden, Einbindung in die Cyber Valley- und ELLIS-Strukturen, sowie das AI Center und den Exzellenzcluster 'Maschinelles Lernen für die Wissenschaft' sowie die klinische Expertise ist ein hoher wissenschaftlicher und gesellschaftlicher Nutzen zu erwarten.