Мы - команда инженеров, которые строят платформу для инференса и SFT opensource LLM. Используем продвинутые cutting edge движки для инференса, много экспериментируем и боремся за каждую дополнительную единицу в Token thoughput. Cейчас мы находимся в поиске Linux инженера, который возьмет на себя вопросы, связанные с разворачиванием, настройкой и тонким тюнингом core Linux для обеспечения оптимальной работы инференс движков.
Обязанности
### Обязанности
* настраивать, поддерживать и траблшутить GPU-инфраструктуру Блока
* настраивать логирование, мониторинг и алертинг работоспособности всех компонентов инфраструктуры
* коммуницировать со смежными подразделениями в части улучшений инфраструктурного ландшафта Блока — участвовать в оценках инфраструктуры под новые продукты и проекты.
Требования
### Требования
* продакшн опыт работы с GPU-инфраструктурой и инференсом SOTA LLM
* опыт с ОС Linux: основные дистрибутивы, troubleshooting работы сервисов, оценка «здоровья» системы.
* глубокое понимание этапов настройки ОС: сеть, диски, основные сервисы.
* понимание устройства baremetal-сервера: CPU, RAM, сеть, хранение, шина PCI, топология GPU (NVLink/PCIe); ввод узлов в эксплуатацию, драйверы NVIDIA, CUDA
* понимание сетевого уровня: протоколы TCP/IP, Ethernet, VLAN, MTU, TTL, DHCP, DNS, ARP, NTP.
* опыт работы с инструментами мониторинга и логирования: Grafana, Elasticsearch, OpenTelemetry.
* написание скриптов на bash, знание systemd
* навыки программирования на Python.
### Будет плюсом
* опыт работы с высокоскоростными interconnect-технологиями GPU-кластеров( RDMA/RoCe/Infiniband) и понимание работы NCCL.
Условия
### Условия
* гибридный формат работы (2-3 дня в офисе) из г. Москва
* годовой бонус и ежегодный пересмотр
* расширенный ДМС с первого дня + стоматологию и льготное страхование для семьи
* корпоративный университет Сбера, внутреннюю образовательную платформу, участие в IT-конференциях
* офис на Кутузовской с зонами отдыха и спортзалом
* льготную ипотеку в Сбере, корпоративную пенсионную программу, подписку СберПрайм с возможностью совместного использования на трёх близких, скидки от партнеров и сервисов группы компаний.