מהנדס/ת ML Platform בכיר/ה (MLOps)

תיאור ודרישות משרה
אלעד מערכות מגייסת מהנדס/ת ML Platform בכיר/ה (MLOps) לחברה ביטחונית מובילה!

לחברה ביטחונית מובילה דרוש/ה Senior ML Platform Engineer (MLOps) להובלת התחזוקה והפיתוח של פלטפורמת AI/ML מתקדמת בסביבת Air-Gapped (רשת מבודדת).
התפקיד כולל אחריות על תשתיות המאפשרות פיתוח, אימון, פריסה וניהול של מודלי AI בסביבת Production מאובטחת, תוך עבודה עם מודלי LLM בקוד פתוח ותשתיות AI מתקדמות.

תחומי אחריות:

תחזוקה ושיפור של פלטפורמת ML/AI בסביבת Air-Gapped.

פיתוח ותפעול תהליכי Training, Fine-Tuning, Deployment, Monitoring ו-Evaluation של מודלים.

ניהול מחזור החיים של מודלי AI המאוחסנים באופן מקומי (Self-Hosted), כולל קליטה, ולידציה, Quantization, הקצאת משאבי GPU ואופטימיזציה.

הקמה ותפעול של מערכי Inference בזמן אמת, Batch ו-Streaming.

תכנון ויישום תהליכים מאובטחים להעברת תוכנות, מודלים, דאטה ודוקרים לסביבה מבודדת.

בניית תהליכי GitOps, CI/CD, ניטור, Logging, Metrics, GPU Telemetry וניהול תקלות.

עבודה שוטפת מול צוותי AI, Data Science, פיתוח, מוצר ואבטחת מידע.

דרישות התפקיד:

לפחות 5 שנות ניסיון בפיתוח תוכנה, DevOps, Platform Engineering, Data Engineering או ML Engineering.

ניסיון מעשי בהקמה או תפעול של פלטפורמות ML/AI בסביבת Production.

ניסיון בעבודה עם Kubernetes (או OpenShift / Rancher), Containers, Linux, Networking ו-Storage.

ניסיון בכתיבת סקריפטים ועבודה מול צוותי פיתוח ו-Data Science.

ניסיון עם אחד או יותר מכלי Model Serving כגון: vLLM, Triton Inference Server, KServe, BentoML, TorchServe, Ray Serve

ניסיון עם כלי ML Lifecycle כגון: MLflow, Kubeflow, Metaflow, Airflow, Argo Workflows

ניסיון בעבודה עם פתרונות RAG ו-Vector Databases כגון: pgVector / PostgreSQL, OpenSearch / Elasticsearch, MongoDB Vector Search, Milvus, Weaviate, Qdrant

ניסיון ב-CI/CD ו-Infrastructure as Code באמצעות כלים כגון: Argo CD, Azure DevOps, GitLab CI, Jenkins, Terraform, Ansible, Helm, Kustomize

הבנה מעמיקה במחזור החיים של מודלי Machine Learning – Experiment Tracking, Model Registry, Dataset Versioning, Deployment, Monitoring, Rollback ו-Lineage.

ניסיון עם LLM Gateways ו-API Gateways כגון NGINX, LiteLLM, Kong AI Gateway, Envoy AI Gateway, Apache APISIX, Portkey או פתרונות דומים.

ניסיון בעבודה עם OpenAI-Compatible APIs, ניהול Routing, Caching, Budgets ו-Fallbacks.

יכולת גבוהה בפתרון תקלות רוחבי – תשתיות, אפליקציה, דאטה, מודלים ו-GPU.

יתרונות:

ניסיון בעבודה עם מודלי LLM בקוד פתוח (Llama, Mistral, Gemma, Phi ועוד).

ניסיון בעבודה עם סביבות Air-Gapped או סביבות מאובטחות.

ניסיון עם פתרונות AI, Generative AI ותשתיות GPU מתקדמות.
*הפניה מיועדת לנשים וגברים כאחד

**רק פניות מתאימות יענו