Zum Hauptinhalt springen

HeCKI im Überblick: Herausforderungen für die Cybersicherheit durch KI

Projekttitel:Technologielösungen für hocheffiziente Zero-Emission H2-Motoren für KWK-Anwendungen (CH2P)
Fördergeber:Landesamt für Sicherheit in der Informationstechnik (LSI)
Projektlaufzeit:01.01.2025 - 31.12.2026
Projektleitung:Prof. Dr. rer. nat. Daniel Loebenberger
Projektziel

Künstliche Intelligenz verändert unseren Alltag in rasantem Tempo – und mit ihr auch die Landschaft der Cybersicherheit. Um den daraus entstehenden Herausforderungen proaktiv zu begegnen, wurde HeCKI als Forschungs- und Entwicklungsarbeit für das Landesamt für Sicherheit in der Informationstechnik (LSI) initiiert. Jede neue Technologie bringt neben Chancen auch potenzielle Risiken mit sich. Genau hier setzt HeCKI an. In einem strukturierten Prozess werden KI-basierte Bedrohungsszenarien systematisch analysiert und bewertet. Dabei liegt der Fokus besonders auf den spezifischen Anforderungen der öffentlichen Verwaltung.

Das Besondere an HeCKI ist der ganzheitliche Ansatz: Von der wissenschaftlichen Grundlagenarbeit über die technische Analyse relevanter KI-Tools bis hin zur Entwicklung zielgruppengerechter Awareness-Konzepte und Schulungsformate. Die Ergebnisse des Projekts werden in Form verschiedener Medienformate aufbereitet und in einer Pilotphase evaluiert. Durch diesen praxisorientierten Ansatz stellt HeCKI sicher, dass die entwickelten Konzepte und Materialien den tatsächlichen Bedürfnissen der Zielgruppen entsprechen und nachhaltig zur Stärkung der Cybersicherheit beitragen.

Gesellschaftliche Relevanz

  • Proaktive Sicherheit für die öffentliche Verwaltung
    HeCKI richtet sich spezifisch an die IT-Sicherheitsbedürfnisse von Behörden und öffentlichen Einrichtungen und stärkt deren Abwehrfähigkeit gegenüber KI-gestützten Cyberbedrohungen.
  • Risikominimierung durch neue Technologiekonzepte
    Künstliche Intelligenz bringt neben vielfältigen Chancen auch neue Angriffsflächen – HeCKI analysiert systematisch potenzielle Bedrohungsszenarien und bewertet diese hinsichtlich ihrer Wirkung auf kritische Verwaltungsprozesse.
  • Sensibilisierung und Kompetenzaufbau
    Durch zielgruppengerechte Awareness‑Konzepte und Schulungsformaten werden Mitarbeitende im öffentlichen Dienst befähigt, KI-Sicherheitsrisiken frühzeitig zu erkennen und angemessen zu reagieren.
  • Konkrete Anwendbarkeit durch medienbasierte Ergebnisse
    Die Aufbereitung der Erkenntnisse in praxisorientierten Medienformaten (z. B. Videos, Whitepaper, E‑Learning) und deren Evaluation in einer Pilotphase sorgt für Relevanz und nachhaltige Wirkung im Verwaltungskontext.

Wissenschaftlicher Kontext

  • Systematische Analyse KI-basierter Bedrohungen
    HeCKI setzt wissenschaftliche Methoden ein, um Gefährdungspotenziale, Angriffspfade und Schadensszenarien durch KI-Tools strukturiert zu erfassen und qualitativ zu bewerten.
  • Interdisziplinäre Forschung und Technikanalyse
    • Informatik & KI: Bewertung der Manipulationsmöglichkeiten und Täuschungspotenziale gängiger KI-Systeme
    • Cybersecurity-Forschung: Identifikation von Schwachstellen in KI-Tools und Entwicklung von Gegenstrategien
    • Verwaltungswissenschaften: Einbindung projektrelevanter Rahmenbedingungen öffentlicher Stellen und Anpassung von Sicherheitsstandards
  • Ganzheitlicher Projektaufbau
    • Grundlagenforschung zur Bedrohungsmodellierung
    • Technische Analyse relevanter KI-Werkzeuge im Verwaltungsalltag
    • Entwicklung passgenauer Awareness- und Schulungsformate
  • Kooperation mit etabliertem IT-Sicherheitsnetzwerk
    • Nutzung vorhandener Expertise und Infrastruktur, u. a. aus dem Fraunhofer-Lernlabor Cybersicherheit an der OTH Amberg-Weiden – Partner im projektübergreifenden Kontext zur Analyse und Validierung von Cyberstrategien