Senior Deep Learning Software Engineer, Inference

Senior Software Engineer gespecialiseerd in Deep Learning Inference bij NVIDIA. Verantwoordelijkheden omvatten het ontwerpen, bouwen en optimaliseren van GPU-versnelde software voor AI-applicaties. Werk aan high-performance deep learning frameworks, waaronder SGLang en vLLM, voor efficiënt model serving en inference op grote schaal. Implementeer de nieuwste algoritmen voor openbare release, identificeer en realiseer prestatieverbeteringen voor state-of-the-art LLM- en Generative AI-modellen op NVIDIA-accelerators. Focusgebieden: prestatieoptimalisatie en tuning van DL-modellen (LLM, Multimodal, Generative AI), schaalbaarheid van prestaties over verschillende NVIDIA-acceleratorarchitecturen, bijdragen aan NVIDIA's inference libraries (vLLM, SGLang, FlashInfer), en samenwerking met multidisciplinaire teams aan inference-optimalisatieoplossingen.