Technologie

Ein hybrider Ansatz für KI

Aktuell werden KI-Verfahren weitgehend datenbasiert entwickelt. In der Trainingsphase wird auf Experteneingriffe verzichtet und die KI ausschließlich durch Daten in einem kontinuierlichen Prozess optimiert. Diese Vorgehensweise weist zwei erhebliche Schwächen auf: Für das Training und die Validierung werden enorme Datenmengen benötigt, deren Erhebung und Aufbereitung sehr aufwendig und teuer sind. Darüber hinaus sind datenbasierte KI-Funktionen oftmals Black-Box-Modelle, deren Entscheidungsfindung nicht immer direkt nachvollzogen werden kann.

Bisherige Forschungsansätze konzentrieren sich bei der Lösung dieser Probleme auf die Optimierung der für das Training notwendigen Daten. Das Projekt KI Wissen geht die Herausforderung auf eine neuartige Art und Weise an: Es erforscht, wie sich bekanntes, für den Verkehrskontext relevantes Wissen – in Form von Verkehrsregeln, mathematisch-physikalischen Gegebenheiten und auch sozialen Normen – in KI-Systeme einbinden lässt. Durch diesen hybriden Ansatz, d. h. die Verknüpfung von datenbasierten Verfahren mit wissensbasierten Methoden, wird im Projekt die Basis für das Training und die Validierung der KI-Funktionen komplett neu definiert. Die im Projekt vollzogene Weiterentwicklung von daten- zu informationsbasierter KI adressiert zentrale Herausforderungen auf dem Weg zum autonomen Fahren: die Generalisierung der KI auf Phänomene mit geringer Datengrundlage, die Erhöhung der Stabilität der trainierten KI auf Störungen der Daten, die Dateneffizienz, die Plausibilisierung und die Absicherung von KI-gestützten Funktionen sowie die Steigerung der funktionalen Güte.

weiter lesen

Im Rahmen des Projektes wird ein umfassendes Ökosystem für die Einbindung von Wissen in das Training und die Absicherung von KI-Funktionen entstehen. Hierzu wird in KI Wissen dezidiert breit geforscht. Es werden sowohl Methoden zur Wissensintegration als auch Ansätze zur Wissensextraktion und Wissenskonformität entwickelt.

Wissensarten

Für den Verkehrskontext relevantes Wissen wird zunächst identifiziert, systematisiert und aufbereitet. Dafür werden im Projekt konkret drei Wissensarten betrachtet: mathematisch-physikalisches Wissen sowie Welt- und Expertenwissen.

Mathematisch-physikalisches Wissen: Diese Wissensart ist einzigartig darin, dass es von ihr keine Ausnahmen gibt. Ein Beispiel dafür sind kinematische Gleichungen, die durch die Fahrphysik eines Fahrzeugs bestimmt sind. So können sich zum Beispiel Autos nicht quer bewegen ohne sich auch gleichzeitig nach vorne oder hinten zu bewegen.
Expertenwissen (oder auch: normatives Wissen) beschreibt den gewünschten Zustand der Welt, insbesondere durch welche Handlungen angestrebte Ziele erreicht werden sollen. In KI Wissen wird als Beispiel für diese Wissensart die Straßenverkehrsordnung betrachtet. Eine wesentliche Eigenschaft normativen Wissens ist, dass die beschriebenen Regeln verletzt werden können und auch Ausnahmetatbestände zulassen.
Weltwissen ist Wissen, das jedem Individuum durch die allgemeine Lebenserfahrung zugänglich ist. Ein Beispiel für Weltwissen ist die Häufigkeit von Klassen von Verkehrsteilnehmern, die situationsbezogen zu erwarten sind. So sind z.B. Fahrradfahrer*innen auf Autobahnen eher selten anzutreffen, spielende Kinder in innerstädtischen Wohngebieten jedoch häufiger.

Im Projekt wird eine flexible, modulare und universell einsetzbare Repräsentation von Wissen für den Einsatz in verschiedenen Trainingsverfahren und Architekturen entwickelt. Diese soll ermöglichen, dass Wissen sowohl als Input integriert werden kann als auch in verständlicher Form aus dem Output eines Systems extrahiert und im Absicherungsprozess einer Konformitätsprüfung unterzogen werden kann.

Wissensintegration

In KI Wissen werden verschiedene Methoden zur Integration von Wissen in die KI-Funktionen entwickelt und untersucht. Anschließend erfolgt die Integration von Wissen in Trainingsverfahren bestehender Systeme und Entwicklung neuer Architekturen unter Einbeziehung von Wissen für Anwendungen im autonomen Fahren. Die Hauptzielsetzung dabei ist, die Menge an für das Training benötigten Daten sowie die hierfür notwendige Rechenleistung zu reduzieren und gleichzeitig die Generalisierungsfähigkeit und funktionale Güte der KI-Funktionen zu steigern.

Wissensextraktion

Verschiedene Methoden zur Extraktion von Wissen werden untersucht, adaptiert und (weiter-) entwickelt, damit diese für den Anwendungsfall des autonomen Fahrens sinnvoll angewendet werden können. Im Mittelpunkt stehen dabei folgende Verfahren: Methoden zur Extraktion von Konzepten aus dem Modell, Maßnahmen, um aus extrahierten Konzepten neues Wissen abzuleiten, sowie Modelle, welche direkt eine strukturierte Ausgabe liefern. Die Extraktion von Wissen kann zum einen dazu dienen, neues, erworbenes Wissen einer KI zu erkennen und nutzbar zu machen – hier wird es sich am ehesten um Zusammenhänge handeln, die unter Weltwissen fallen – auf der anderen Seite kann das extrahierte Wissen aber auch dazu genutzt werden, es mit bestehendem Wissen abzugleichen und somit zur Erklärbarkeit und Analysierbarkeit von KI-Systemen beitragen.

Wissenskonformität

Ein weiterer Schwerpunkt im Projekt ist die Entwicklung von Methoden, die die Ausgaben von KI-Systemen auf ihre Konformität im Verhältnis zu bestehendem Wissen überprüfen und somit die Plausibilisierung und Absicherung von KI-Funktionen autonomer Fahrzeuge unterstützen. Die Erkenntnisse dieser Überprüfung können (offline) in das weitere Training der KI-Funktionen einfließen und dieses gezielt verbessern oder (online) zur Laufzeit die Sicherheit der KI-Funktionen sicherstellen. So werden sicherheitsrelevante Fehlentscheidungen einer KI-Funktion frühzeitig aufgedeckt.

Integration und Demonstration

Die im Projekt entwickelten Funktionen, Komponenten und Methoden werden im Kontext eines Gesamtsystems anhand dreier ausgewählter Use Cases evaluiert. Hierdurch wird insbesondere der Nutzenaspekt in den Vordergrund gerückt. Speziell sollen Teilkomponenten nicht nur individuell, sondern auch im Kontext dieser Gesamtsystemarchitektur auf ihre jeweilige Eignung hin evaluiert werden.

Ökosystem für Wissen

Basierend auf diesen Schwerpunkten soll im Projekt ein umfassendes Ökosystem für Wissen als Grundlage für effizientes Trainieren und die Absicherung von KI-Komponenten aufgebaut werden. Die Ergebnisse des Projektes werden dazu beitragen, den Gültigkeitsbereich auf Phänomene, zu denen es nur wenig Daten gibt, auszuweiten, die Stabilität der trainierten KI auf Störungen der Daten zu erhöhen, die Nachvollziehbarkeit der KI-Entscheidungen zu steigern und eine höhere Trainingseffizienz zu ermöglichen. Das Projekt leistet somit einen wesentlichen Beitrag zur erfolgreichen Umsetzung von KI-Funktionen in autonomen Fahrzeugen.