Zum Hauptinhalt springen

Gefährliche Täuschungen und Deepfakes

Neues Forschungsprojekt der OTH Amberg-Weiden mit dem LSI stärkt Cybersicherheit gegen KI-Herausforderungen

Vertragsunterzeichnung
Vertragsunterzeichnung (v.l.n.r.): Finanz- und Heimatminister Albert Füracker, Prof. Dr. Daniel Loebenberger, Prof. Dr. Clemens Bulitta und Bernd Geisler

Seit der Veröffentlichung von Chat GPT im November 2022 ist die Welt fasziniert von Künstlicher Intelligenz (KI) und den Möglichkeiten, die KI-basierter Tools bieten. Seitdem haben sich KI-Systeme stark weiterentwickelt und werden immer leistungsfähiger. Doch mit dem wachsenden Potenzial dieser Systeme wächst auch die Möglichkeit, KI für unlautere Absichten einzusetzen: Fake News lassen sich effizient über alle Kanäle verbreiten, und Cyberangriffe können durch KI personalisiert, automatisiert und so verfeinert werden, dass auch weniger erfahrene Angreifer in großem Umfang erfolgreiche Attacken durchführen können.

Um diesen Herausforderungen zu begegnen, haben die OTH Amberg-Weiden und das Landesamt für Sicherheit in der Informationstechnik (LSI) am 16. Januar 2025 das Forschungsprojekt „HeCKI – Herausforderungen für die Cybersicherheit durch KI“ gestartet. Finanz- und Heimatminister Albert Füracker gab den offiziellen Startschuss an der OTH in Amberg.

Vertragsunterzeichnung
Vertragsunterzeichnung (v.l.n.r.): Finanz- und Heimatminister Albert Füracker, Prof. Dr. Daniel Loebenberger, Prof. Dr. Clemens Bulitta und Bernd Geisler
Ziele und Bedeutung des Projekts

Ziel des Projekts ist es, eine wissenschaftliche Grundlage zu schaffen, indem neuartige Bedrohungen durch Künstliche Intelligenz identifiziert und systematisch bewertet werden, um darauf aufbauend lösungsorientierte Bildungsangebote zu entwickeln. Prof. Dr. Clemens Bulitta, Präsident der OTH Amberg-Weiden, betonte: „Digitale Souveränität und IT-Sicherheit sind die wesentlichen Grundlagen für die erfolgreiche digitale Transformation unserer Gesellschaft. Wir freuen uns daher sehr unsere bewährte Partnerschaft mit dem Staatsministerium der Finanzen und für Heimat weiter zu vertiefen und im gemeinsamen Forschungsprojekt ‚HeCKI‘ unsere Expertise einzubringen. Wir haben das erklärte Ziel, durch unseren Beitrag Angreifern möglichst keine Chance zu bieten und damit Bayern optimal für eine sichere Digitale Transformation aufzustellen. 

Finanz- und Heimatminister Albert Füracker unterstrich beim Projektstart die Dringlichkeit des Projekts: „Mit KI können ohne Weiteres Videos oder Stimmen gefälscht werden, wodurch beispielsweise der weit verbreitete ‚Enkeltrick‘ eine neue gefährliche Dimension erreicht. Manipulationen, etwa um sensible Daten zu erlangen oder E-Mail-Anhänge mit ‚Viren‘ zu verbreiten, sind leichter möglich. In Bayern nehmen wir IT-Sicherheit und digitale Zukunft sehr ernst – wir arbeiten intensiv daran, diese stets sicher zu gestalten!“

Prof. Dr. Daniel Loebenberger, Projektleiter und Experte für Cybersicherheit an der OTH Amberg-Weiden, erläutert: „Die rasant wachsenden Fähigkeiten der KI erfordern ein radikal neues Medienbewusstsein: Automatisiert generierte Texte aus großen Sprachmodellen und Fake News überfluten uns auf allen Kanälen, die Bewertung der Echtheit liegt derzeit allein beim Medienkonsumenten. ,HeCKI‘ ermöglicht einen weitgefassten Blick auf die aktuellen Möglichkeiten und Herausforderungen, unter anderem im Kampf gegen Fake News, die sich im Zusammenhang mit KI stetig wandeln.“

Mit dem Start des Forschungsprojekts setzt das Landesamt für Sicherheit in der Informationstechnik einen wichtigen Schritt, um die Sicherheitsstandards im Freistaat Bayern langfristig optimieren und verbessern zu können. „Durch die Analyse von Möglichkeiten, die KI potentiellen Angreifern bietet, wollen wir wertvolle Erkenntnisse gewinnen, um Angriffsmuster besser bewerten und gezielte Maßnahmen sowie Handlungsempfehlungen ableiten zu können. Unser Ziel ist es, nicht nur defensiv zu agieren, sondern proaktiv die IT-Sicherheit der IT-Systeme Bayerns zu stärken,“ so Bernd Geisler, Präsident des Landesamts für Sicherheit in der Informationstechnik.

Forschung als Grundlage für lösungsorientierte Schulungen

Die OTH Amberg-Weiden ist seit vielen Jahren in der KI-Forschung aktiv und bietet ein umfangreiches Studienangebot sowie zahlreiche Forschungsinitiativen, die im Innovations- und Kompetenzzentrum Künstliche Intelligenz (IKKI) gebündelt sind. Als Mitglied der Kooperationsplattform KI Campus Ostbayern wird der regionale Austausch und die Zusammenarbeit gefördert. Um dieses Wissen zielgerichtet zu vermitteln, kann die OTH AW auf die Expertise des E-Learning Medienlabors zurückgreifen. Dieses wurde 2017 im Rahmen des Lernlabors Cybersicherheit gegründet und hat seitdem unter der Leitung von Prof. Loebenberger bereits zahlreiche Expertinnen und Experten aus ganz Deutschland dabei unterstützt, ihre wissenschaftlichen Erkenntnisse in interaktive Lernformate zu überführen.

Breit angelegte Sensibilisierung für KI-Risiken

Die Bildungsangebote werden sowohl an der OTH AW als auch beim LSI eingesetzt und erreichen dadurch eine breite Zielgruppe. Durch die neuen Formate wird frühzeitig auf die vielfältigen Gefahren und Einsatzmöglichkeiten von KI aufmerksam gemacht. Damit fördert „HeCKI“ nicht nur die Sensibilisierung für aktuelle Cybersicherheitsrisiken, sondern positioniert die OTH Amberg-Weiden als wichtigen Partner für Wirtschaft und öffentliche Einrichtungen im Umgang mit KI und Cybersicherheit.

Albert Füracker
Finanz- und Heimatminister Albert Füracker
Bernd Geisler
Bernd Geisler, Präsident des Landesamts für Sicherheit in der Informationstechnik
Daniel Loebenberger
Prof. Dr. Daniel Loebenberger, Projektleiter und Experte für Cybersicherheit an der OTH Amberg-Weiden
Zurück