Zur Navigation springen Zum Inhalt springen

KI-Konkret

1. Stellen Sie bitte kurz sich selbst vor. Wie sieht ihr Werdegang aus, wie kamen sie zur KI?
Mein Name ist Jonas Rietsch, ich habe in Erlangen zunächst Physik studiert und im Master den ersten Kontakt zu Machine Learning gehabt. In meiner Masterarbeit habe ich mich mit der Klassifikation von Schlafphasen, einer Form der Zeitreihenklassifikation, beschäftigt. Zu dieser Zeit hatte ich bereits Interesse an Natural Language Processing und bin so bei der Jobsuche auf adigi gestoßen. Dort bin ich seit 3 Jahren als ML Engineer angestellt.

 

2. Um welches Unternehmen und Produkt / welche Dienstleistung geht es konkret?
Adigi ist ein B2B Service-Anbieter für Reisebüros. Diese leiten Anfragen an uns weiter, welche automatisch mittels KI bearbeitet werden. So können ReiseberaterInnen entlastet werden.

 

3. Wo wird KI im Unternehmen eingesetzt?
Der Einsatz von KI ist die Basis für unser Geschäftsmodell.

 

4. Welche Bedeutung spielt KI dafür?
Daher spielt die KI eine sehr große Rolle. Dennoch sind derzeit auch noch teilweise manuelle Schritte nötig.

 

5. Welche Algorithmen / Art von KI nutzen Sie?
Wir nutzen ausschließlich Neuronale Netze. Genauer gesagt vortrainierte BERT-ähnliche Transformer, die wir unsupervised weitertrainieren. Zudem nutzen wir auch kleinere Netze, die selbst „from scratch“ supervised trainiert sind.

 

6. Welchen Mehrwert bietet die KI für den Anwender?
Unsere Lösung ermöglicht es den Reisebüros, typische Anfragen wie z.B. für Pauschalreisen sehr schnell zu bearbeiten und sehr spezifische Angebote zu generieren. Dadurch kann insgesamt eine höhere Buchungsrate erreicht werden als bei rein manueller Bearbeitung.

 

7. Hätten Sie das Problem auch mit einem traditionellen Algorithmus ohne KI lösen können? Wenn nein: Warum war eine KI nötig?
Nein. Die Daten sind sehr unstrukturiert, die „Bedürfnisse“ müssen aus den Textanfragen extrahiert werden, und beispielsweise Zeitraum Personenanzahl und Vorlieben ausgelesen werden. Dabei können auch Rechtschreibfehler auftreten und beispielsweise die Orts- oder Hotelnamen wären besondere Hürden. Ein regelbasierter Ansatz wäre also wegen der Unstrukturiertheit nicht möglich.

 

8. Welche Hürden gab es bei der Implementierung der KI und wie haben Sie diese überwunden?
Es gibt und gab mehrere Hürden. Zum einen reicht das Erkennen alleine nicht, sondern für uns ist es auch wichtig, die Zuverlässigkeit der KI-Vorhersage beurteilen zu können. So können wir entscheiden, ob ein Mensch das Ergebnis prüfen muss. Die reine Modellausgabe (z.B. Softmax-Werte) reichen dafür nicht. Zudem müssen Entitäten auch normalisiert werden. Dabei können Fehler passieren, die quantifiziert werden müssen. Allgemein ist die Qualitätsmessung der verschiedenen Schritte nicht trivial. Eine weitere Problematik besteht in der Versionierung von Modellen und Datensätzen, da die typische Git-Versionsverwaltung nur teilweise funktioniert. Auch können Methoden des Test-Driven-Development nicht einfach so auf Machine Learning Projekte übertragen werden. Wir arbeiten aktiv an der Lösung derartiger Probleme, beispielsweise durch hard-coded Tests zur Absicherung und fuzzy matching mit einer Liste möglicher Werte. Wenn Scores nicht im grünen Bereich sind, greift der Mensch ein.

 

9. Woher kommen die Daten, die Sie für das Training nutzen?
Durch die bei uns eingehenden Anfragen entstehen genug Daten für Supervised Learning. In Kombination dazu sind die vortrainierten Modelle auf großen Mengen unstrukturierten Texts trainiert.

 

10. Hatten Ihre Softwareentwickler Vorerfahrungen im Einsatz von KI?
Die Entwickler, die an der KI arbeiten, sind darauf spezialisiert.

 

11. Wie haben Sie das Deployment gestaltet?
Wir nutzen eine Micro-Service-Architektur für die einzelnen Elemente. Diese sind in der Cloud deployed.

 

12. Wie sehen ihre weiteren Schritte aus? Wird das Modell z.B. regelmäßig neu trainiert?
Das Neu-Trainieren geschieht unregelmäßig, wenn beispielsweise Änderung an den Daten, deren Vorbereitung oder dem Modell stattfinden. Da wir hier hauptsächlich fine-tunen, halten sich die Kosten dafür in Grenzen. Wir entwickeln unseren Modelle ständig weiter, evaluieren Alternativen, und arbeiten unter anderem daran, die oben genannten Probleme zu lösen.

 

13. Was hätte Sie in Ihrem Vorhaben, KI zu nutzen, unterstützt? Z.B. Weiterbildungen, GPU-Rechenleistung, Speicherplatz…
Die Möglichkeit, ein eigenes Sprachmodell vorzutrainieren. Wegen der domänenspezifischen Texte wäre ein solches Pretraining hilfreich. Allerdings ist hierfür viel Rechenleistung nötig. Weiterbildungen wären für uns auf jeden Fall interessant, vor allem mit praxisnahen Inhalten wie zum Deployment in der Cloud. Für erfahrene Software-Engineers wären auch einsteigerfreundliche Weiterbildungen zu KI sinnvoll.

1. Stellen Sie bitte kurz sich selbst vor. Wie sieht ihr Werdegang aus, wie kamen sie zur KI?
Ich habe zunächst im Bachelor Mechatronik studiert und dann im Master Informationstechnologie. Im Studium hatte ich bereits durch Vorlesungen Kontakt mit KI und Data-Science. Im Beruf habe ich über das Projektmanagement von Digitalisierungsprojekten viel mit Cloud und KI zu tun gehabt. Seit kurzem bin ich Head of Artificial Intelligence bei der Krones AG.

 

2. Um welches Unternehmen und Produkt / welche Dienstleistung geht es konkret?
Krones nutzt an verschiedenen Stellen der Wertschöpfungskette KI - sowohl für interne Optimierungen, als auch für unsere Produkte. Ein konkretes Beispiel ist unser Linatronic AI, eine Inspektionseinheit die durch Deep Learning die Fehlausleitquote deutlich reduzieren konnte.

 

3. Welche Bedeutung spielt KI dafür?
Die Bedeutung von KI für Krones wächst stetig. Sie ist ein wichtiger Baustein der digitalen Transformation. Die Bedeutung von KI für Krones wächst stetig. Sie ist ein wichtiger Baustein der digitalen Transformation.

 

4. Welche Algorithmen / Art von KI nutzen Sie?
Wir nutzen die gesamte Bandbreite von KI-Methoden. Sowohl symbolische, wissensbasierte KI, als auch Machine Learning und Deep Learning sind je nach Anwendungsfall im Einsatz. Dabei setzten wir nicht nur auf supervised und unsupervised Learning, sondern nutzten auch Reinforcement Learning (RL).

 

6. Welchen Mehrwert bietet die KI für den Anwender?
Durch KI unterstützen wir unsere Kunden bei Entscheidungsprozessen und entlasten sie bei zahlreichen Tätigkeiten.

So können unsere Kunden beispielsweise durch smarte Instandhaltungsstrategien effizienter selbst warten oder auch Unterstützung von Krones einkaufen. Unser Ziel ist es, den Output der Linie zu maximieren, den Ausschuss zu verringern und ungeplante Stillstandszeiten zu verkürzen. Hier hilft uns KI ebenfalls dabei, die Produktionsqualität hochzuhalten und beeinflusst damit direkt den Output.

 

7. Hätten Sie das Problem auch mit einem traditionellen Algorithmus ohne KI lösen können? Wenn nein: Warum war eine KI nötig?
Manche Anwendungen konnten nicht ohne KI gelöst werden. Ein Beispiel sind skalierte Regelungsprozesse, die für normale Regler zu viele Prozessparameter besitzen. Dies sind wir mit RL angegangen und erste Feldtesterfahrungen waren erfolgreich.
In anderen Fällen gab es traditionelle Lösungen, die aber von der KI deutlich übertroffen und daher abgelöst worden sind. Hierzu zählt die visuelle Qualitätsprüfung, die durch die Deep Learning Algorithmen deutlich verbessert werden konnte.

 

8. Welche Hürden gab es bei der Implementierung der KI und wie haben Sie diese überwunden?
Für die visuelle Qualitätsprüfung in der Produktion haben wir sehr hohe Echtzeitanforderung an Modelle, da hohe Stückzahlen pro Sekunde analysiert werden müssen.

Diese Anforderungen beeinflussen zum Beispiel die Entscheidung, wohin das Modell deployed, welche Modellart gewählt wird und wie das Modell optimiert werden muss, da alle Prozesse auf einem Zielsystem um die gleichen Ressourcen konkurrieren.
Das muss immer abhängig von Anwendungsfall zu Anwendungsfall neu abgewogen werden.

Außerdem muss das Risiko eines Total-Ausfalls oder einer Fehlentscheidung/ Falschklassifikation bewertet und entsprechend beim Design mit berücksichtigt werden.

Beim RL kam dazu, dass man anders als beim trivialen Einsatz bei Videospielen zum Beispiel, nicht beliebig viele Durchläufe machen kann, um das korrekte Verhalten zu erlernen. Vor allem nicht in einer produktiven Anlage. Um ein Agententraining durchführen zu können, mussten wir Simulationsumgebungen und digitale Zwillinge schaffen. Auch zu diesem Zweck kam Machine Learning zum Einsatz.

 

9. Woher kommen die Daten, die Sie für das Training nutzen?
Glücklicherweise können wir unsere Trainingsdaten selbst generieren. Allerdings gibt es dabei immer Herausforderungen bezüglich der Standardisierung und der Qualität, der Harmonisierung und für Metadaten bzw. Beschreibungen der Daten.

 

10. Hatten Ihre Softwareentwickler Vorerfahrungen im Einsatz von KI?
Das ist bei uns im Team sehr unterschiedlich. Einige Kollegen hatten schon Vorerfahrungen aus dem Beruf, dem Studium oder der Promotion. Zum Teil haben sie sich die Inhalte aber auch autodidaktisch beigebracht. Wir legen viel Wert auf Schulungen und Weiterbildung.

 

11. Wie haben Sie das Deployment gestaltet?
Da die Anwendungsfälle und Zielsysteme (z.B. Cloud oder Edge) unterschiedlich sind, sieht auch das Deployment unterschiedlich aus.

Wir haben zum Beispiel KI-Modelle als Docker-Container im Einsatz, aber Cloud Services (u.a. wie AWS Sagemaker) bieten auch Möglichkeiten, ML-Modelle als serverless functions zu deployen.

 

12. Wie sehen ihre weiteren Schritte aus? Wird das Modell z.B. regelmäßig neu trainiert?
Probleme wie Data Drift und Concept Drift müssen präventiv behandelt werden und Maßnahmen hierfür müssen bereits beim Design angedacht werden.
Daher haben wir Monitoring- & Operations-Prozesse von Anfang an angedacht, die es uns ermöglichen, die Qualität und Performance von eingesetzten Modellen zu überwachen.

Wenn nötig, kann dann ein Retraining angestoßen werden.

 

13. Was hätte Sie in Ihrem Vorhaben, KI zu nutzen, unterstützt? Z.B. Weiterbildungen, GPU-Rechenleistung, Speicherplatz…
Rechenkapazität und Speicher sind bei uns schon geklärt und wären daher nicht nötig gewesen. Da KI allerdings sehr schnelllebig ist, ist es wichtig am Zahn der Zeit zu bleiben. Deswegen sind wir immer offen für Networking und Austausch, beispielsweise zu Best Practices, Forschungsansätzen, Einsatzgebieten und Praxiserfahrungen.

Nach oben