Авито рассказал о платформе Aviflow для распределённого обучения LLM на HGX. Она создана на базе Kubeflow, управляет пайплайнами через Argo Workflow и включает интеграции с Trisigma, Vault, DWH и IDE.

Для HPC компания выбрала узлы HGX от Dell и Inspur, сеть Infini Band с NDR для вычислений и HDR для данных, топологию Fat Tree и BeeGFS на серверах Lenovo. Данные для обучения складывают в ceph, затем переносят в BeeGFS; оркестратором выбран k8s после сравнения со Slurm и гибридными решениями.