Promotionsstelle: Sicherheit von XAI/ IT-Sicherheit durch XAI

Die Stelle wird nach Entgeltgruppe TV-L 13 (100%) bezahlt und soll zum nächstmöglichen Zeitpunkt besetzt werden. Die Stellen bietet die Möglichkeit der vollen Finanzierung der gesamten Promotionszeit.

Berwerbung bis: 15. Juni 2023

Start: Im Laufe des Jahres 2023

Forschung

Die Forschungsgruppe „Intelligente Systemsicherheit" forscht an der Schnittstelle von Methoden des maschinellen Lernens und der IT- Sicherheit. Hierbei arbeiten wir an Themen wie der Angriffserkennung oder der Suche nach Schwachstellen in Software. Ein weiteres zentrales und besonders wichtiges Thema unserer Forschung ist die Robustheit (im Sinne von Angriffssicherheit) von Methoden des maschinellen Lernens.

Ihr Profil

Sie verfügen über einen Hochschulabschluss in der Fachrichtung Informatik (Master / Diplom) oder einem verwandten Gebiet. Darüber hinaus sollten Sie sehr gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit mitbringen. Vor allem bedarf es aber der Begeisterung für Forschung an lernenden Systemen und der Neugier für neuartige Methoden.

Arbeitsbereich

In beiden Kernbereichen der Forschungsgruppe (Sicherheit von ML bzw. ML für IT-Sicherheit) kann erklärbares maschinelles Lernen (XAI) zur Angriffserkennung eingesetzt werden. Zum Beispiel:

Erkennen und Vorbeugen von Angriffen auf Computersysteme (MLSEC)
  • Analyse von Angriffen und Schadcode
  • Intelligente Schwachstellensuche und Fuzz Testen (Fuzzing)
Erkennung von Angriffen auf maschinelles Lernen (SECML)
  • Hintertüren in ML Modellen ("ML Backdoors")
  • Auslösen von Fehlverhalten ("Adversarial Examples")
  • Extraktion von Modelldaten ("Model stealing")

Gleichzeitig ist aber auch die Angriffssicherheit von XAI Methoden besonders relevant. Neben der Demonstration von neuartige Angriffen, ist vorallem auch die Entwicklung von robusten XAI Methoden essentiell. Zum Beispiel:

  • Eingabe- bzw. Modellmanipulationen zum Verschleiern von Angriffen
  • "Fairwashing" von XAI-Ausgaben
  • Zertifizier-/ Beweisbar robuste XAI-Methoden

Community

Alle Promotionsstudenten werden als Mitglieder in die "KIT Graduate School CyberSecurity" aufgenommen.

Bewerbung

Bitte senden Sie Ihre Bewerbung bestehende aus Anschreiben, Lebenslauf, Zeugnissen und ein "Research Proposal" an . Achten Sie bitte darauf hervorzuheben warum Sie zu unserer Arbeitsgruppe und der Forschung im Bereich IT-Sicherheit passen.

Wir streben eine möglichst hohe Diversität in unserer Forschungsgruppe an. Bewerbungen von Menschen aller Nationen sind willkommen. Darüber hinaus sind Bewerbungen von Frauen besonders erwünscht. Bei entsprechender Eignung werden außerdem schwerbehinderte Menschen bevorzugt berücksichtigt.