KI-Engineer*in (all genders) – LLM-Infrastruktur und KI-Plattform

Die Abteilung IT-Services stellt eine leistungsfähige und sichere IT-Infrastruktur für die Forschungs- und Verwaltungsbereiche des Instituts bereit. Im Zuge der zunehmenden Nutzung Künstlicher Intelligenz bauen sie ihre zentralen KI-Services kontinuierlich aus und schaffen die technischen Voraussetzungen für einen sicheren und effizienten Einsatz moderner KI-Technologien am Fraunhofer IIS.

• KI-Infrastruktur betreiben und weiterentwickeln: Sie betreiben das IIS-zentrale LLM-Gateway, provisionieren LLM-Endpunkte in Cloud-Umgebungen wie AWS Bedrock und Azure sowie lokal und stellen den zuverlässigen
  Betrieb lokaler RAG-Systeme sicher.
• KI-Services sicher bereitstellen: Sie wählen geeignete LLM-Endpunkte aus und ordnen diese in Abstimmung mit dem Informationssicherheitsbeauftragten (ISB) der jeweils freigegebenen Informationsklassifizierung zu. Dabei setzen Sie geeignete Verfahren für Zugriffskontrolle und Authentifizierung, insbesondere SSO, um und berücksichtigen Anforderungen aus Datenschutz und Informationssicherheit.
• Betrieb überwachen und Ressourcen steuern: Sie etablieren Monitoring und Observability für die bereitgestellten KI-Services, verantworten Logging, Verfügbarkeit und Incident-Handling und behalten die Kosten sowie die Token-Nutzung im Blick.
• Qualität und Sicherheit gewährleisten: Sie evaluieren und benchmarken LLMs, führen systematische Tests durch und stellen die Qualität der eingesetzten RAG-Systeme sicher. Dabei entwickeln Sie geeignete Schutzmaßnahmen gegen Prompt-Injection und weitere LLM-spezifische Risiken.
• KI-Technologien kontinuierlich weiterentwickeln: Sie etablieren LLMOps-Prozesse für automatisierte Deployments, CI/CD sowie die Versionierung von Prompts und Konfigurationen. Darüber hinaus entwickeln Sie Best Practices, beispielsweise für Prompt Engineering, und stellen Coding-Agent-Tools und deren Konfigurationen bereit.
• Innovative KI-Lösungen erschließen: Sie arbeiten bei Bedarf mit Fine-Tuning, Embeddings und Vektordatenbanken und beobachten aktuelle Entwicklungen im Bereich der LLM-Technologien, um deren Potenziale für das Fraunhofer IIS zu bewerten.
• Forschung mit KI unterstützen: Sie behalten die KI-Use-Cases am Fraunhofer IIS im Blick und beraten Forschungsgruppen bei der Bewertung ihrer Use-Cases, der technischen Machbarkeit und der Auswahl geeigneter Lösungen.
• Wissen und Kompetenzen aufbauen: Sie unterstützen den institutsweiten Wissenstransfer durch Workshops, Onboarding und Dokumentation und fördern damit die sichere und effiziente Nutzung von KI-Technologien.
• KI strategisch weiterdenken: Sie beobachten den Markt sowie die Entwicklung neuer Modelle und Technologien und unterstützen bei Lizenz- und Vertragsthemen. Perspektivisch wirken Sie am Aufbau einer institutsweiten KI-Agentenplattform mit und übernehmen deren technischen Betrieb.

• Spannende Tätigkeit: attraktives Arbeitsumfeld bei einem Weltmarktführer in einer hochinnovativen Schlüsselbranche.
• Praxisbezogene Projekte bieten unseren Mitarbeitenden Gestaltungsfreiraum: Sie motivieren dazu, Innovationen aktiv voranzutreiben und eigene Ideen einzubringen.
• Engagierte Teams fördern Kreativität und Eigenverantwortung: Hier haben Sie die Freiheit, Ihre Ideen zu entwickeln und aktiv mitzugestalten.
• Persönlicher Kontakt ist uns wichtig: Durch strukturiertes Onboarding erweitern Sie Ihr Netzwerk und kommen gut an unserem Institut an.
• Ihre Bedürfnisse nehmen wir ernst: Die bestmögliche Vereinbarkeit Ihres Berufs- und Privatlebens unterstützen wir durch zeitliche Flexibilität und hybrides Arbeiten.
• Wir schaffen Raum für Begegnung: Sportliche Angebote vor Ort und remote, Events sowie Gemeinschaftsräume bringen unsere Mitarbeitenden zusammen.
• Unsere Mitarbeitenden genießen unsere wertschätzende Kultur: Wir sind offen, hilfsbereit und pflegen einen vertrauensvollen Umgang miteinander.
• Top Ausstattung am Arbeitsplatz: Mit unseren State-of-the-Art Technologien entwickeln wir Lösungen für Herausforderungen der Gegenwart und Zukunft.
• Ihre Ziele und Interessen liegen uns am Herzen: Wir unterstützen Sie regelmäßig durch fachliche und persönliche Seminare, Coachings sowie Sprachkurse.

Die wöchentliche Arbeitszeit beträgt 39 Stunden. Die Stelle kann auch in Teilzeit besetzt werden, jedoch möglichst vollzeitnah. Die Stelle ist zunächst auf zwei Jahre befristet. Eine Verlängerung ist möglich. Anstellung, Vergütung und Sozialleistungen basieren auf dem Tarifvertrag für den öffentlichen Dienst (TVöD). Zusätzlich kann Fraunhofer leistungs- und erfolgsabhängige variable Vergütungsbestandteile gewähren.

Wir wertschätzen und fördern die Vielfalt der Kompetenzen unserer Mitarbeitenden und begrüßen daher alle  Bewerbungen – unabhängig von Alter, Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion, Weltanschauung, Behinderung sowie sexueller Orientierung und Identität. Schwerbehinderte Menschen werden bei gleicher Eignung bevorzugt eingestellt.