Promotionsstelle: Sicherheit von Maschinellem Lernen

Die Stelle wird nach Entgeltgruppe TV-L 13 (100%) bezahlt und soll zum nächstmöglichen Zeitpunkt besetzt werden. Zu Beginn ist die Stellen auf zwei Jahre befristet, bietet aber die Möglichkeit der vollen Finanzierung der gesamten Promotionszeit.

https://www.pse.kit.edu/downloads/stellenangebote

Berwerbung bis: 15. November 2021

Forschung

Die Forschungsgruppe „Intelligente Systemsicherheit" forscht an der Schnittstelle von Methoden des maschinellen Lernens und der IT- Sicherheit. Hierbei arbeiten wir an Themen wie der Angriffserkennung oder der Suche nach Schwachstellen in Software. Ein weiteres zentrales und besonders wichtiges Thema unserer Forschung ist die Robustheit (im Sinne von Angriffssicherheit) von Methoden des maschinellen Lernens. Hier suchen wir aktuell Verstärkung.

Ihr Profil

Sie verfügen über einen Hochschulabschluss in der Fachrichtung Informatik (Master / Diplom) oder einem verwandten Gebiet. Darüber hinaus sollten Sie sehr gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit mitbringen. Vor allem bedarf es aber der Begeisterung für Forschung an lernenden Systemen und der Neugier für neuartige Methoden.

Arbeitsbereich

Mögliche Forschungsthemen sind:

Angriffe gegen lernende Systeme
  • Hintertüren in ML Modellen ("ML Backdoors")
  • Auslösen von Fehlverhalten ("Adversarial Examples")
  • Extraktion von Modelldaten ("Model stealing")
Robustes und sicheres maschinelles Lernen
  • Verbessern von Trainingverfahren ("Adversarial Training")
  • Erklärbarkeit von Lernverfahren in der IT-Sicherheit
Erklärbarkeit von maschinellem Lernen

Bewerbung

Bitte senden Sie Ihre Bewerbung bestehende aus Anschreiben, Lebenslauf und Zeugnissen an . Achten Sie bitte darauf hervorzuheben warum Sie zu unserer Arbeitsgruppe und der Forschung im Bereich der Sicherheit von maschinellem Lernen passen.

Wir streben eine möglichst hohe Diversität in unserer Forschungsgruppe an. Bewerbungen von Menschen aller Nationen sind willkommen. Darüber hinaus sind Bewerbungen von Frauen besonders erwünscht. Bei entsprechender Eignung werden außerdem schwerbehinderte Menschen bevorzugt berücksichtigt.