Инженер LLM/ML

Инженер LLM/ML с практическим опытом обучения языковых моделей с нуля (1B-10B параметров). Проекты под NDA. Контакт: *****.

Обучение специализированных моделей с нуля на 1B-10B параметров. Основные направления: разработка программного обеспечения, понимание сложных русскоязычных текстов и вызов функций. Проекты для клиентов под NDA. Обязанности: - Подготовка данных и создание конвейеров обучения. - Проведение экспериментов с архитектурами, методами и режимами обучения. - Обучение моделей с нуля и их адаптация под целевые задачи. - Оценка качества моделей, анализ ошибок и улучшение результатов.

Практический опыт обучения языковых моделей: от подготовки данных до оценки результатов. Опыт в аналогичных проектах или адаптации готовых моделей с использованием методов, выходящих за рамки SFT. Свободное владение Python и PyTorch. Понимание принципов обучения трансформеров и опыт работы с GPU. Желательно: распределенное обучение, оптимизация памяти и скорости обучения, опыт работы с моделями для кода и вызова инструментов.