Обязанности:
- Разработка и внедрение решений на основе LLM (GPT, Claude, Llama, Mistral)
- Настройка промптов и инженерия промптов для улучшения качества ответов
- Дообучение (fine-tuning) и адаптация моделей под предметную область (RAG, PEFT, LoRA)
- Проектирование архитектуры LLM-приложений: векторные БД (Pinecone, Weaviate, Qdrant), пайплайны, кеширование
- Разработка агентов (Agents) и мультиагентных систем
- Интеграция LLM с внутренними API, базами знаний и CRM
- Мониторинг качества и версионирование промптов
- Взаимодействие с бизнес-заказчиками и перевод их потребностей в технические решения
Требования:
- Опыт: работы с LLM от 2 лет
- Знание Python и фреймворков (LangChain, LlamaIndex, Haystack)
- Понимание принципов работы трансформеров, attention, embedding. Подробнее о том, как устроены современные LLM, можно прочитать в этой статье
- Опыт работы с векторными базами данных и RAG-архитектурой
- Знание методов fine-tuning (LoRA, PEFT) и работы с открытыми моделями
- Навыки работы с API OpenAI, Anthropic, Hugging Face, Replicate
- Английский: уровень не ниже Intermediate для чтения документации и работы с зарубежными моделями
Часто задаваемые вопросы:
В чём разница между LLM инженером и ML Engineer?
Ответ: ML Engineer работает с классическими моделями машинного обучения (градиентный бустинг, нейросети). LLM инженер фокусируется именно на больших языковых моделях: их настройке, интеграции и применении для задач NLP, чат-ботов и генерации контента.
Какие модели сейчас наиболее востребованы?
Ответ: Среди закрытых — GPT-4 (OpenAI), Claude (Anthropic), Gemini (Google). Среди открытых — Llama 3 (Meta), Mistral, DeepSeek. Выбор зависит от бюджета, требований к безопасности и сложности задачи.
Что такое RAG и зачем он нужен?
Ответ: RAG (Retrieval-Augmented Generation) — это подход, при котором LLM перед ответом обращается к внешней базе знаний (векторной БД). Это позволяет модели отвечать на вопросы по документам компании, не переобучая её. Это основной способ внедрения LLM в бизнес-процессы.
Какой стек технологий нужен для LLM инженера?
Ответ: Python, LangChain (или LlamaIndex), Hugging Face, векторные БД (Pinecone/Qdrant/Weaviate), Docker, Git, знание API OpenAI/Anthropic. Для дообучения — PyTorch, Transformers, PEFT, LoRA.
