Գրաֆիկական պրոցեսորների կատարողականության ինժեներ

Yandex-ը վարձում է ավագ GPU կատարողականության ինժեներ՝ օպտիմալացնելու GPU օգտագործումը, մշակելու ախտորոշիչ գործիքներ և ներդնելու ժամանակակից լուծումներ ML ենթակառուցվածքի համար: Հեռավոր կամ հիբրիդային աշխատանք:

Պարտականություններ: - Բարելավել GPU օգտագործման արդյունավետությունը՝ ձևավորելով վարկածներ և ուսումնասիրելով արդյունավետությունը բարձրացնելու ուղիները, ներդնելով և տեղակայելով առավել շահավետ լուծումները: - Տրամադրել առաջարկություններ և լավագույն փորձ կատարողականությունը բարելավելու համար՝ GPU ենթակառուցվածքը առավելագույնի հասցնելու նպատակով: - Օպտիմալացնել և պրոֆիլավորել՝ գտնել կատարողականության խցանումները և վերացնել դրանք՝ օգտագործելով պրոֆիլավորիչներ, օպտիմալացնել հիշողության հասանելիությունը, միջուկները, ուշացումը և թողունակությունը: - Մշակել ախտորոշիչ գործիքներ՝ ստեղծել և բարելավել գործիքներ՝ ենթակառուցվածքի խնդիրների արագ հայտնաբերման և լուծման համար, որոնք ազդում են GPU օգտագործման արդյունավետության, կայունության և GPU հաշվարկների արագության վրա (ինչպես ուսուցման, այնպես էլ ենթադրությունների համար): - Ուսումնասիրել և ներդնել ժամանակակից լուծումներ՝ ուսումնասիրել ուսուցման և ենթադրությունների ենթակառուցվածքի կազմակերպման վերջին մոտեցումները, գնահատել դրանց արդյունավետությունը և ներդնել դրանք իրական նախագծերում: - Վերլուծել ճարտարապետությունը, փորձարկել և ինտեգրել՝ սերտորեն համագործակցել մշակողների, ML ինժեներների և համակարգային ճարտարապետների հետ: Մասնակցել սարքավորման լուծումների գնահատմանը և առաջարկել բարելավումներ GPU-ի ապագա սերունդների համար, մշակել փորձարկման պլաններ, ստեղծել բենչմարկեր և վերլուծել կատարողականության հետընթացները:

Պահանջներ: - Python-ի իմացություն և համակարգային ծրագրավորման փորձ՝ գրադարաններ կամ շրջանակներ մշակելիս: - PyTorch-ի և բաշխված ուսուցման փորձ torch.distributed-ի միջոցով: - Զուգահեռացման մոտեցումների կիրառում՝ ներառյալ տվյալների զուգահեռացում, տենզորային զուգահեռացում, խողովակաշարային զուգահեռացում, փորձագիտական զուգահեռացում բաշխված ենթադրությունների կամ ուսուցման համար: - Հետաքրքրություն LLM-ի և MLOps-ի նկատմամբ՝ հասկանալ խոշոր մոդելների արտադրության մեջ շահագործման հետ կապված խնդիրներն ու մարտահրավերները: - NVIDIA GPU-ների և CUDA-ի փորձ՝ հասկանալ GPU ճարտարապետությունը, մշակել կամ օպտիմալացնել ալգորիթմներ CUDA-ի համար, օգտագործել Nsight, nvprof կամ նմանատիպ գործիքներ: - GPU հավելվածների կատարողականությունը օպտիմալացնելու և GPU օգտագործման արդյունավետությունը բարելավելու ունակություն: - Պրոֆիլներ և կատարողականության չափումներ վերլուծելու ունակություն: - Բարդ կոդ կարդալու և օպտիմալացնելու ունակություն: - Արդյունավետ թիմային աշխատանք և գիտելիքներ կիսելու պատրաստակամություն: Ցանկալի է: - C/C++ կամ նմանատիպ ցածր մակարդակի լեզուների իմացություն: - Փորձ RL ուսուցման գրադարանների հետ LLM-ի համար՝ veRL, slime, NeMo-RL, SkyRL և այլն: - Փորձ ենթադրությունների գրադարանների հետ՝ vLLM, SGLang և TRTLLM: - Փորձ իրական արտադրական բեռների օպտիմալացման, ցածր ուշացումով կամ իրական ժամանակի համակարգերի հետ աշխատելու մեջ:

Աշխատանքի ձևաչափ՝ հեռավոր կամ հիբրիդային: