Инженер-программист по разработке решений на базе языковых моделей (LLM Engineer), Хабаровск

-О проекте:

Мы создаём прикладные продукты на базе больших языковых моделей (LLM) для узких задач в медицине, автоматизации, робототехнике и других отраслях. Наши решения — это программы-функции, чат-боты, ассистенты и агенты, которые решают конкретные бизнес-задачи. Мы развертываем собственные серверы с открытыми LLM и активно экспериментируем с новыми моделями.

-Обязанности:

1.Разработка прикладных решений на базе LLM: чат-боты, голосовые ассистенты, агенты, программные функции (function calling, tool use).

2.Развертывание и поддержка собственных серверов с LLM (Llama, Mistral, Qwen, DeepSeek и др.) на GPU-оборудовании.

3.Построение RAG-пайплайнов: подготовка данных, эмбеддинги, векторные базы, поиск и генерация ответов.

4.Интеграция LLM в микросервисы (FastAPI), CRM, медицинские системы, системы автоматизации и робототехнические комплексы.

5.Prompt engineering, fine-tuning (LoRA, QLoRA), оценка качества и безопасности моделей.

6.Оптимизация inference: квантизация, vLLM, TGI, llama.cpp, TensorRT-LLM.

7.Работа с медицинскими и персональными данными с соблюдением требований конфиденциальности.

-Требования:

1.Опыт программирования на Python от 2 лет.

2.Практический опыт работы с LLM: OpenAI API, Hugging Face, LangChain, LlamaIndex или аналоги.

3.Понимание архитектуры Transformer, RAG, агентов, function calling.

4.Опыт развертывания LLM на собственных серверах (Linux, Docker, GPU).

5.Знание FastAPI, REST API, асинхронного программирования.

6.Опыт работы с векторными БД (Qdrant, Chroma, FAISS, Milvus).

7.Понимание методов fine-tuning и оценки моделей.

-Будет преимуществом:

1.Опыт в медицине (обработка медицинских текстов, NLP), автоматизации, робототехнике.

2.Знание Kubernetes, CI/CD, MLOps/LLMOps.

3.Опыт с мультимодальными моделями.

4.Английский язык для чтения технической документации и научных статей.

-Условия:

*Современный офис и оборудованная лаборатория.

*Доступ к GPU-серверам и необходимым инструментам.

*Работа над технически сложными и высоко инновационными проектами.

*Возможность влиять на архитектуру продуктов и принимать инженерные решения.

*Профессиональный рост: обучение, эксперименты с новыми моделями и оптимизацией.