HeCKI: Herausforderungen für die Cybersicherheit durch Künstliche Intelligenz

Neue KI-Technologien können bestehende Cyberrisiken verändern und neue Möglichkeiten für Manipulation und Täuschung schaffen. HeCKI analysiert potenzielle Bedrohungsszenarien systematisch und betrachtet ihre Bedeutung für Behörden und öffentliche Einrichtungen.

Dabei stehen die spezifischen Anforderungen und Arbeitskontexte der öffentlichen Verwaltung im Mittelpunkt. So lassen sich relevante Risiken frühzeitig einordnen und für die jeweiligen Zielgruppen verständlich aufbereiten.

Technische Schutzmaßnahmen allein reichen für einen sicheren Umgang mit neuen Technologien nicht aus. Entscheidend ist auch, dass Beschäftigte mögliche Gefahren erkennen und angemessen darauf reagieren können.

HeCKI entwickelt deshalb zielgruppengerechte Awareness-Konzepte und Schulungsformate. Sie vermitteln Wissen über KI-bezogene Sicherheitsrisiken und unterstützen Mitarbeitende dabei, mögliche Manipulations- und Täuschungsversuche im Arbeitsalltag besser einzuordnen.

Die Erkenntnisse aus HeCKI sollen nicht ausschließlich im wissenschaftlichen Kontext bleiben. Das Projekt bereitet sie deshalb in unterschiedlichen Medien- und Lernformaten auf, beispielsweise als Videos, Whitepaper oder E-Learning-Angebote.

Eine Pilotphase dient dazu, die entwickelten Formate zu evaluieren und an die tatsächlichen Anforderungen der Zielgruppen anzupassen. So verbindet HeCKI wissenschaftliche Erkenntnisse mit konkreten Informations- und Bildungsangeboten für die öffentliche Verwaltung.

HeCKI untersucht, welche Gefährdungspotenziale durch den Einsatz von KI entstehen können. Dazu werden mögliche Angriffspfade, Manipulationsmöglichkeiten und Schadensszenarien strukturiert erfasst und qualitativ bewertet.

Im Mittelpunkt steht die Frage, welche Bedrohungen für die öffentliche Verwaltung relevant sind und wie sich diese in unterschiedlichen Anwendungssituationen einordnen lassen.

Das Projekt untersucht ausgewählte KI-Systeme und -Werkzeuge hinsichtlich möglicher Manipulations- und Täuschungspotenziale. Dabei verbindet HeCKI Perspektiven aus Informatik, Künstlicher Intelligenz und Cybersicherheitsforschung.

Die technische Analyse ergänzt die systematische Bedrohungsmodellierung und schafft eine wissenschaftliche Grundlage dafür, relevante KI-Sicherheitsrisiken zu identifizieren und verständlich zu vermitteln.

HeCKI verbindet die Analyse von Cyberrisiken mit der Frage, wie sich wissenschaftliche und technische Erkenntnisse zielgruppengerecht vermitteln lassen. Die Forschungsergebnisse bilden deshalb die Grundlage für Awareness-Konzepte, Schulungsangebote und unterschiedliche Medienformate.

Damit betrachtet das Projekt Cybersicherheit nicht allein als technische Herausforderung, sondern auch als Aufgabe der Wissensvermittlung und Kompetenzentwicklung.

Die entwickelten Informations- und Schulungsformate werden im Rahmen einer Pilotphase erprobt und evaluiert. Die Ergebnisse dieser Evaluation fließen in die Weiterentwicklung der Materialien ein.

So untersucht HeCKI nicht nur neue Herausforderungen durch Künstliche Intelligenz, sondern auch, wie sich Erkenntnisse zu diesen Risiken wirksam und zielgruppengerecht in den Verwaltungskontext übertragen lassen.