Ведущий инженер AI / RAG: Самостоятельно размещаемая платформа знаний

Ведущий инженер AI / RAG для самостоятельно размещаемой платформы знаний в Eventum AI. Удаленно, $65-90/час (гросс). Проектирование и разработка продакшн-систем RAG.

Обязанности: - Проектировать архитектуру и участвовать в практической разработке продакшн-систем RAG / платформы знаний. - Разрабатывать загрузку документов из Google Workspace, PDF, сканов, таблиц и изображений. - Внедрять поиск с учетом прав доступа и контроль ACL во время запросов. - Разрабатывать гибридный поиск, эмбеддинги, реранкинг и генерацию ответов с цитированием. - Развертывать и тестировать модели с открытыми весами с помощью vLLM или аналогичной инфраструктуры. - Создавать системы оценки и регрессионного тестирования для поиска, качества ответов, безопасности и обновлений моделей. - Отвечать за продакшн-развертывание, наблюдаемость, CI/CD, документацию и передачу знаний. - Работать напрямую со старшей командой Eventum AI и техническим руководством клиента. Основные задачи проекта: - Создать продакшн-уровневую самостоятельно размещаемую платформу знаний. - Обеспечить высокое качество и безопасность поиска корпоративных данных. - Внедрить гибридный поиск и генерацию ответов с проверкой источников. - Развернуть и оптимизировать LLM с открытыми весами. - Построить систему оценки качества и регрессионного тестирования. - Обеспечить надежность, наблюдаемость и продакшн-развертывание решения.

Требования: - 6+ лет профессионального опыта в разработке ПО / ML-инженерии. - Опыт разработки продакшн-систем LLM / RAG. - Сильные навыки Python и бэкенд-разработки. - Практический опыт с эмбеддингами, векторным поиском, реранкингом и конвейерами документов. - Опыт с vLLM, SGLang, Triton, TGI или аналогичными технологиями. - Сильные навыки в облаке / инфраструктуре. - Опыт с Azure, Docker, Terraform / Kubernetes и CI/CD. - Опыт с оценкой LLM и обеспечением надежности продакшн-систем. - Готовность работать одновременно с ML, бэкендом, данными и инфраструктурой. Желательно: - Google Workspace API и права доступа. - pgvector / Qdrant. - BM25 + плотный поиск. - OCR / Document AI. - Мультимодальные модели. - Prometheus / Grafana. - Опыт работы в средах без исходящего трафика или с повышенными требованиями к безопасности.

Условия работы: - Полностью удаленный формат работы. - Оплата $65-90 USD (гросс) в час. - Работа над продакшн-системами AI / RAG. - Прямое взаимодействие со старшей командой Eventum AI и техническим руководством клиента.