Gemeinsamer Workshop von KI Absicherung und KI Wissen beleuchtet die Interpretierbarkeit von DNN
Nach einem internen Workshop im Mai wollen die Projektpartner der KI Absicherung und der KI Wissen in einem gemeinsamen Workshop die DDN-Interpretierbarkeit erörtern und ihre Zusammenarbeit verstärken. Ziel des Workshops ist es, eine gemeinsame Basis für die weitere Arbeit an diesem wichtigen Thema innerhalb der KI Familie zu schaffen.
Ein gemeinsames Thema der Geschwisterprojekte KI Absicherung und KI Wissen ist die Interpretierbarkeit von tiefen neuronalen Netzen (DNN). Sie wird u.a. benötigt, um eine menschliche Inspektion des Innenlebens eines DNNs zu ermöglichen und um in formaler oder natürlicher Sprache formulierte Anforderungen wie "ein Kopf gehört normalerweise zu einem Fußgänger" zu verifizieren. Ein Unterthema der Interpretierbarkeit, an dem beide Projekte arbeiten, ist die Untersuchung und Analyse des Wissens, das in DNNs kodiert ist, genauer gesagt in ihrem latenten Raum-Zwischenergebnis.
So fand am 4. Mai bei KI Absicherung ein interner Workshop zum Thema DNN Latent Space Interpretability statt, der von Continental organisiert wurde. In der dreistündigen Veranstaltung wurden sechs verschiedene Methoden vorgestellt, die derzeit von den Partnern der KI Absicherung entwickelt werden. Die Bandbreite reichte von Black-Box- bis zu White-Box-Ansätzen und von Post-Hoc- bis zu inhärenten Interpretierbarkeitsmethoden.
Einige der diskutierten Arbeiten wurden bereits veröffentlicht, z.B. auf dem SAIAD 2021 workshop, der zeitgleich mit der CVPR'21 stattfand:
- https://compvis.github.io/iin/
- https://compvis.github.io/invariances/
- https://compvis.github.io/net2net/
- https://arxiv.org/abs/2105.06727
Aufgrund des großen Erfolgs und Zuspruchs des ersten Workshops und des Interesses sowohl im KI Wissen als auch im KI Absicherung wird das Thema DNN Latent Space Interpretability in einem gemeinsamen Workshop von KI Wissen und KI Absicherung weiterverfolgt. Dieser soll den wissenschaftlichen Austausch sowie die Zusammenarbeit zwischen den Projektpartnern sowohl innerhalb als auch zwischen den Projekten fördern. Es handelt sich um eine erweiterte Version des ersten Workshops mit mehr Redezeit für die mittlerweile 6 Einreichungen.
Ein zukünftiger Workshop, der mit einer wissenschaftlichen Konferenz zusammengelegt werden soll, ist in Aussicht gestellt, um das Publikum für den wissenschaftlichen Austausch zu erweitern. Wir freuen uns auf weitere Rückmeldungen und fruchtbare Diskussionen (Ansprechpartnerin: Gesina Schwalbe, gesina.schwalbe@continental-corporation.com, Continental AG).
Bild: Unsplash / Dylan Gillis