BlueCard Jobs
← Back to jobs

NTT DATA Deutschland SE: Lead Private AI Architect (w/m/x) - GenAI, LLM & Enterprise AI Platforms

NTT DATA Deutschland SE

~ Likely Blue Card eligible

Location

München, BAYERN

Salary

Not disclosed

Posted

19 days ago

Language

🇩🇪 German✓ verified

Work mode

onsite

Relocation

Not mentioned

Job description

Zur Jobsuche Startseite Stellenangebot: NTT DATA Deutschland SE: Lead Private AI Architect (w/m/x) - GenAI, LLM & Enterprise AI Platforms bei NTT DATA Deutschland SE Das Wichtigste im Überblick Stelle ausschließlich für schwerbehinderte oder ihnen gleichgestellten Menschen Besondere Merkmale Homeoffice (bis zu 100 %) Arbeitsort verschiedene Arbeitsorte Angebotsart Arbeit Anstellungsart Vollzeit Beginn ab sofort Berufsbezeichnung Software-Architect KI-Engineer Cloud-Architect Info zur Bewerbung Vormerken Notiz / Status Notiz hinzufügen Bitte anmelden, um diese Funktion zu nutzen. Bewerbungsstatus hinzufügen Bitte anmelden, um diese Funktion zu nutzen. PDF / Drucken Teilen Veröffentlichungsdatum: Vor 2 Tagen veröffentlicht Änderungsdatum: Heute bearbeitet Stellenbeschreibung Wir sind Teil von NTT DATA, einem führenden Anbieter von Unternehmens- und Technologiedienstleistungen, KI und digitaler Infrastruktur mit einem Umsatz von über 30 Mrd. $. Als Global Top Employer betreut NTT DATA 75 % der Fortune Global 100-Unternehmen und entwickelt mit Expert:innen in über 70 Ländern gemeinsam innovative Lösungen, die dazu inspirieren, Neues zu wagen und Erfolge sichtbar zu machen. In der DACH-Region sind wir an 15 Standorten in Deutschland, Österreich und der Schweiz vertreten. Make this the place where you grow Enterprise AI braucht mehr als leistungsfähige Modelle – sie braucht eine sichere, skalierbare und souveräne Architektur. Als Private AI Architect (w/m/x) gestaltest du genau diese Grundlage: von der strategischen Architektur über Private-AI- und GenAI-Plattformen bis zur produktiven Umsetzung. Dabei verbindest du technologische Tiefe mit Beratungskompetenz und entwickelst gemeinsam mit unseren Kunden AI-Lösungen, bei denen Innovation, Datenschutz und Governance zusammenspielen. #LI-DS1 Deine Benefits Flexible Arbeitszeiten mit Gleitzeitregelung und Reisezeit ist Arbeitszeit Home-Office Möglichkeit sowie Vereinbarung mit Vergütungszuschuss inkl. Arbeitsplatzausstattung möglich 30 Tage Urlaub, zusätzlich sind der 24.12. und 31.12. arbeitsfreie Tage Sabbatical bis zu einem Jahr möglich Remote Work sowie mobiles Arbeiten im EU-Ausland möglich Attraktive Benefit- und Entgeltoptimierungsprogramme: betriebliche Altersvorsorge, JobRad, Jobticket, exklusive Rabatte über Corporate Benefits und vieles mehr Umfangreiche Gesundheits- und Vorsorgeangebote: verlängerte Entgeltfortzahlung im Krankheitsfall, Betriebsärztliche Betreuung, Unfallversicherung auch für Freizeitunfälle weltweit, Familienservice Interne und externe Weiterbildungsmöglichkeiten in der NTT DATA Academy mit fachlichen Trainings, Zertifizierungsangeboten, Soft-Skill-Schulungen, Udemy Zugang Diverse Communities und Initiativen (zu Diversity, Equity & Inclusion, ESG und mehr) mit Wissensaustausch auf Augenhöhe Teamorientierte Unternehmenskultur mit viel Gestaltungsspielraum Deine Mission Du konzipierst Enterprise Private AI- und GenAI-Plattformen und entwickelst High-Level- und Low-Level-Designs, Blueprints sowie Referenzarchitekturen für On-Premises-, Private-Cloud-, Hybrid- und Sovereign-AI-Umgebungen. Du entwirfst leistungsfähige LLM-, RAG- und Agentic-AI-Architekturen auf Basis von Open-Source- und Self-hosted-Technologien und gestaltest skalierbare Inference-Architekturen für Enterprise-AI-Workloads. Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps in die Produktion und gestaltest den gesamten Lifecycle von Deployment und Evaluation bis zu Monitoring und Governance. Du begleitest unsere Kunden als Trusted Advisor bei AI-Strategie, Plattformmodernisierung, Infrastructure Readiness und AI Operating Models und treibst POCs, MVPs und Enterprise-AI-Initiativen voran. Du verbindest AI, Infrastruktur, Cloud, Security und Data Engineering und übernimmst Verantwortung für RFPs, Angebote und Aufwandsschätzungen sowie wiederverwendbare Private-AI-Frameworks und Accelerators. Dein Skillset Du verfügst über 15+ Jahre IT-Erfahrung, davon mindestens 5 Jahre in AI/ML-Architektur, und hast Enterprise-AI-/GenAI-Lösungen in Private-Cloud-, On-Premises- oder Hybrid-Umgebungen erfolgreich umgesetzt. Du besitzt tiefgehende Expertise in LLMs, RAG, Vector Databases, Prompt Engineering und Agentic AI und kennst Frameworks wie LangChain, LlamaIndex, Haystack oder Semantic Kernel sowie Open-Source-Modelle wie Llama, Mistral, DeepSeek oder Qwen. Du beherrschst Kubernetes, Docker/OpenShift sowie MLOps/LLMOps und kennst Technologien wie MLflow, Kubeflow, KServe, Ray, vLLM oder Ollama sowie die Anforderungen an Evaluation, Tracing, Monitoring, Drift Detection und produktiven AI-Betrieb. Du verstehst GPU- und AI-Infrastrukturen einschließlich NVIDIA Stack, CUDA, MIG, Model Serving, Quantisierung, Batching, Autoscaling, Distributed Inference/Training sowie Capacity Planning und kannst Performance, Latenz und Verfügbarkeit gezielt optimieren. Du verbindest Architekturkompetenz mit einem ausgeprägten Verständnis für Security, Privacy und Sovereign AI – von Ze

Blue Card Likely

This IT role likely meets Blue Card salary thresholds based on market rates, but salary was not disclosed in the listing.

Check your eligibility ↗

Application Strategy

Targeted advice for this specific role

Prepare a German-language application

German employers expect a formal Bewerbung: a cover letter (Anschreiben) and a CV (Lebenslauf). Consider having a native speaker review your Anschreiben.

Negotiate to Blue Card threshold

Salary is not disclosed, but IT roles like this typically meet the Blue Card threshold (€45,934+/year). During offer negotiation, ensure the package crosses this line to qualify for the Blue Card — a faster, more portable visa than Fachkräfteeinwanderung.

Opens the original job listing

See more jobs in München: Software Engineer jobs in München →

Not sure if you qualify for a Blue Card?

Check your eligibility in 60 seconds →

Personalised guidance

CV feedback, interview prep, visa walkthrough, and moving advice — from someone who has actually done it.

12 years in German tech. Former hiring manager. Helped 15+ Indian professionals navigate the move — from application to Anmeldung.

Get personalised advice →
📄

Applying to NTT DATA Deutschland SE? Your CV needs to match their standards.

Get a Germany-ready CV in 48 hours. Expert review with 12 years of German hiring experience.

Found a job worth applying for?

Learn how Indian professionals write the German CV, handle interviews, and negotiate salary — with 12 years of insider experience.

Germany Career Blueprint →

Planning your move to Germany?

Get weekly Blue Card IT jobs matched to your skills · Unsubscribe anytime

Need personalised guidance for your Germany move?

CV · interviews · visa · relocation · settling in — advice from someone who has done it. 12 years in German tech.

Get personalised advice →