Modal

Modal, qu’est-ce que c’est ?

Modal est un cloud serverless qui exécute du code Python sur des GPU et des CPU facturés à la seconde ; l’entreprise le décrit comme une infrastructure cloud pour les équipes qui développent, entraînent et servent des applications d’IA à grande échelle.

Modal place votre code dans un conteneur, l’exécute dans le cloud et ajoute des conteneurs automatiquement quand le trafic croît, en mutualisant la capacité de grands clouds pour choisir où tourne chaque tâche. Les images de conteneur et les demandes de GPU s’écrivent en code Python : une application Modal n’a aucun fichier de déploiement YAML.

Modal Labs exploite modal.com. Selon la presse tech indépendante, Modal a été fondée en 2021 par Erik Bernhardsson, CEO, et Akshat Bubna, CTO ; l’entreprise affirme avoir levé plus de 466 millions de dollars auprès d’investisseurs comme General Catalyst et Redpoint Ventures. Le 28 septembre 2026, un article de presse tech citant une source anonyme indiquait que Modal Labs, qu’il présentait comme un fournisseur d’infrastructure d’inférence IA, était sur le point de boucler un tour de table de 750 millions de dollars mené par Accel, pour une valorisation de 15,75 milliards de dollars ; Modal Labs n’a pas souhaité commenter.

Fonctionnalités principales

Modal couvre l’inférence, avec ce qu’il appelle des démarrages à froid de moins d’une seconde, les traitements par lots en parallèle, l’entraînement et le fine-tuning, des Sandboxes isolées pour le code généré par IA et des Notebooks collaboratifs avec GPU.

Fonctions, endpoints et traitements par lots

• Endpoints HTTPS : toute fonction peut devenir un endpoint HTTPS qui s’adapte au trafic et redescend à zéro au repos.
• Fan-out et tâches de fond : une tâche peut se répartir sur des milliers de GPU sans couche d’orchestration, ou lancer des traitements par lots asynchrones.
• Stockage : les Volumes servent de système de fichiers distribué pour les images, les poids de modèles et les jeux de données.
• Observabilité : journaux et métriques par conteneur, avec export vers des fournisseurs OpenTelemetry comme Datadog.

Choix du GPU

L’argument gpu accepte T4, L4, A10, L40S, A100 (générique, 40 Go ou 80 Go), RTX PRO 6000, H100 (ou H100!), H200, B200 (ou B200+) et B300. B300, B200, H200, H100, A100, L4, T4 et L40S autorisent jusqu’à 8 GPU par conteneur (jusqu’à 2 304 Go de mémoire GPU) ; l’A10 s’arrête à 4 GPU et 96 Go.

Deux mises à niveau automatiques comptent pour les benchmarks : une demande de H100 peut tourner sur un H200, et une d’A100 sur un A100 de 80 Go, au prix d’origine, tandis que demander H100! exclut la mise à niveau vers le H200. Une fonction peut aussi lister des types de GPU par ordre de préférence, et Modal se replie en descendant la liste.

Endpoints d’inférence

• Endpoints partagés (Shared Endpoints) : une partie des modèles de la Modal Library, servis depuis des pools gérés par Modal et facturés au token ; chacun peut aussi tourner sur un endpoint dédié (Dedicated Endpoint) pour une capacité isolée ou configurable.
• Service compatible OpenAI : Modal met en avant des endpoints compatibles OpenAI pour les modèles ouverts.

Modal Sandboxes

Les Modal Sandboxes sont des conteneurs sécurisés, définis à l’exécution, pour lancer du code non fiable d’utilisateurs ou d’agents. Modal affirme qu’on peut en créer des millions par programmation en moins d’une minute, avec instantané et restauration pour un démarrage rapide.

Notebooks

Notebooks Jupyter hébergés : tarification serverless, arrêt automatique en cas d’inactivité, GPU de Modal et édition collaborative en temps réel.

Entraînement et clusters multi-nœuds

Modal a annoncé le 1er octobre 2026 que les Modal Clusters sont disponibles pour tous via le décorateur @modal.clustered : groupes de GPU multi-nœuds avec RDMA, ordonnancés en bloc depuis un pool de capacité partagé et facturés à la seconde.

Guide

Premiers pas

1. Créez un compte sur modal.com.
2. Exécutez pip install modal, puis modal setup pour vous authentifier (ou python -m modal setup si la première forme échoue).
3. Écrivez une fonction Python décorée avec @app.function(...), en indiquant l’image de conteneur et le GPU, puis lancez le fichier avec modal run path/to/file.py.

Régler les démarrages à froid et le coût d’inactivité

Modal indique que les conteneurs démarrent en une seconde environ, mais un conteneur n’est chaud qu’une fois les imports et autres initialisations de portée globale exécutés : être prêt peut donc prendre de quelques secondes à quelques minutes. Trois réglages arbitrent entre latence et dépense à vide :

• scaledown_window : garde les conteneurs inactifs en vie de deux secondes à vingt minutes ; une fenêtre plus longue réduit les démarrages à froid, mais les ressources inactives sont facturées.
• min_containers et buffer_containers : le premier maintient un plancher de conteneurs chauds pour que la fonction ne redescende jamais à zéro, le second ajoute des conteneurs de réserve tant qu’elle est active.
• Régions larges : une région large comme us offre un pool de ressources plus vaste qu’une région étroite, améliorant le temps de démarrage à froid et la disponibilité.

Cas d’usage et exemples

Modal peut déployer toute application Python conteneurisable et cible les charges gourmandes en calcul à mise à l’échelle horizontale : inférence de ML à grande échelle, entraînement et fine-tuning de modèles, pipelines de données, calcul scientifique et files de tâches.

• Plateformes d’IA pour toute l’entreprise : Andy Fang, cofondateur de DoorDash, indique que sa plateforme d’IA utilise Modal pour l’inférence, des sandboxes pour les agents et du calcul pour le code personnalisé.
• Apprentissage par renforcement et service : Scott Wu, CEO de Cognition, affirme que Modal fait tourner son infrastructure de RL comme son inférence en production.
• Évaluation d’agents : le responsable de l’IA appliquée de Ramp affirme que son outil Inspect aurait été difficile à construire sans les sandboxes rapides de Modal.
• Projets de référence : les exemples couvrent la transcription en temps réel avec Kyutai STT, le fine-tuning de Flux, un agent de code sur Sandboxes et LangGraph, l’entraînement d’un petit modèle de langage et le traitement parallèle de fichiers Parquet sur S3.

Ces trois citations de clients sont des témoignages de la page d’accueil, pas des études de cas indépendantes.

Pour qui

• Développeurs Python et ingénieurs ML : les fonctions se définissent en Python ; JavaScript/TypeScript et Go peuvent appeler des fonctions, lancer des Sandboxes et gérer des ressources.
• Équipes à la demande irrégulière : Modal soutient que ses tarifs horaires peuvent paraître plus élevés alors que le coût total est plus bas pour des volumes de requêtes en pics ou imprévisibles.
• Des petites équipes aux grandes organisations : Starter vise les petites équipes et les développeurs indépendants, Team les startups et les organisations plus grandes, Enterprise les organisations soucieuses de sécurité et de support.
• Startups et chercheurs : les jeunes startups peuvent demander des crédits de calcul gratuits, et les universitaires peuvent obtenir jusqu’à $10k de crédits.

Les signaux d’avis indépendants trouvés cette fois sont limités : sur une plateforme d’avis liée à une communauté de lancements, Modal affichait 5,0 sur la base de 61 avis, relevés le 5 octobre 2026, et son résumé IA indique que les auteurs sont surtout des fondateurs et que les avis ne contiennent presque aucune critique.

Plateformes

• SDK Python et CLI : la plupart des interactions passent par l’outil en ligne de commande open source modal et la bibliothèque cliente Python.
• SDK JavaScript/TypeScript et Go : en bêta ; la définition des fonctions restera probablement réservée à Python.
• Navigateur : les Notebooks s’ouvrent sur modal.com/notebooks, et l’on peut téléverser des fichiers .ipynb.
• Régions de capacité : États-Unis, UE, Asie-Pacifique, Japon, Australie, Royaume-Uni, Canada, Moyen-Orient, Amérique du Sud, Afrique et Mexique, sur plus de 20 clouds.
• Routage des requêtes : les entrées des fonctions transitent par défaut par us-east (Virginie) ; routing_region accepte aussi us-west (Oregon), eu-west (Dublin) et ap-south (Mumbai).
• Places de marché cloud : les clients Enterprise peuvent acheter via les places de marché AWS et GCP pour utiliser leurs engagements de dépenses.

Tarification

Modal combine un forfait mensuel avec une tarification GPU à la seconde et un CPU et une mémoire mesurés à l’usage ; les prix catalogue ci-dessous ont été relevés le 5 octobre 2026.

Forfaits

Enterprise ajoute des remises sur volume, des services d’ingénierie ML intégrés, un support Slack privé, des journaux d’audit, le SSO Okta et HIPAA. Starter autorise 200 applications déployées et 5 tâches cron déployées, et exclut les domaines personnalisés, les retours arrière de déploiement, les budgets par environnement, le proxy à IP statique et le RBAC ; Team conserve 3 versions pour le retour arrière.

Tarification GPU à la seconde

Le CPU compte au minimum 0,125 cœur par conteneur. Sandboxes et Notebooks appliquent des tarifs CPU et mémoire plus élevés, $0.00003942 par cœur et $0.00000667 par Gio et par seconde, les GPU restant au prix standard. Les Volumes coûtent $0.09 par Gio et par mois au-delà de 1 Tio gratuit, et le trafic sortant au-delà de l’allocation du forfait coûte $0.04 par Gio. L’exemple chiffré de Modal situe Stable Diffusion sur un A10G à environ $0.491 pour 1 000 images.

Ce qui entre dans la facture

• Temps de chargement et d’inactivité : Modal facture le temps de chargement et de traitement, plus un maintien en activité de 60 secondes par défaut, configurable, après la dernière entrée ; une application redescendue à zéro n’est pas facturée.
• Demande ou usage : le CPU et la mémoire sont facturés au plus élevé de la demande ou de l’usage, avec un minimum de 128 Mio et 0,125 cœur par conteneur.
• Épinglage de région : épingler la région d’un conteneur coûte 1,15 fois les prix de base pour une région large et 1,75 fois pour une région étroite ; combiner les deux applique le multiplicateur le plus faible.
• Exécution non préemptible : nonpreemptible=True triple les prix catalogue du CPU et de la mémoire et est indisponible pour les fonctions GPU.
• Tokens des endpoints partagés : le calcul inclus ne les couvre pas ; depuis le 1er septembre 2026, les tokens sont facturés dès la première requête, même sur Starter.
• Moyen de paiement : le guide de facturation en exige un enregistré pour utiliser Modal tout court, tandis que le guide GPU le lie à l’usage des GPU ; les deux pages diffèrent par leur portée.
• Cycle de facturation et plafonds : la facturation est mensuelle, avec des prélèvements automatiques quand l’usage franchit pour la première fois certains seuils ; une limite de dépenses atteinte arrête les charges de travail qui ajouteraient des frais à votre charge.
• Crédits cloud et remboursements : les crédits AWS, GCP ou Azure sont inutilisables, et le contrat de logiciel en tant que service de Modal, en vigueur depuis mai 2026, indique que les frais ne sont pas remboursables, sauf dans les cas décrits à sa section 3.2.

Alternatives à Modal

Chaque plateforme GPU serverless ci-dessous se distingue de Modal surtout par la facturation du temps d’inactivité et l’étendue du choix de GPU.

La distinction flex/actif de RunPod correspond au choix de min_containers chez Modal. Replicate facture la plupart des modèles publics au temps d’exécution et certains à l’entrée et à la sortie. Ce qui distingue Modal : une infrastructure définie en Python et des Sandboxes dans le même compte, plus une liste de GPU plus longue que celle de Cloud Run.

Limitations

Limites d’exécution

• Préemption par défaut : toute fonction peut être préemptée, puis relancée sur la même entrée ; le risque d’interruption augmente avec la durée d’exécution.
• Délais d’expiration : les fonctions expirent par défaut après 300 secondes, délai configurable de 1 seconde à 24 heures ; les Sandboxes ont une durée de vie par défaut de 5 minutes, extensible à 24 heures.
• Concurrence : les limites de conteneurs et de GPU simultanés de l’espace de travail suivent le forfait, et une seule fonction a une limite stricte de 4 000 conteneurs simultanés.
• Demandes de GPU importantes : plus de 2 GPU par conteneur signifie généralement des attentes plus longues.
• Version CUDA minimale : le B300 exige CUDA 13.1 ou ultérieur.
• Limitation des endpoints partagés : des limites de concurrence par modèle valent pour tout l’espace de travail, et les requêtes au-delà reçoivent un HTTP 429.
• Statut multi-nœuds incohérent : le guide GPU indique toujours que l’entraînement multi-nœuds est en bêta privée, alors que l’annonce du 1er octobre 2026 qualifie les Modal Clusters de disponibles pour tous.

Régions et résidence des données

• Épinglage strict : les charges épinglées à une région ne sont jamais déplacées ailleurs, même si cette région manque de capacité.
• Restrictions de routage : routing_region ne peut être défini qu’au premier déploiement d’une fonction, et les entrées et sorties de plus de 2 Mio passent toujours par le stockage objet de us-east.
• Endpoints partagés : aucune région de conteneur ni de routage n’est sélectionnable ; le trafic passe par us-west à travers le pool de calcul mondial.
• Journaux : les journaux d’application des fonctions, des Sandboxes et des serveurs sont stockés aux États-Unis.

Usage acceptable

Le contrat de Modal interdit le minage de cryptomonnaies ou les activités blockchain connexes, les attaques par déni de service, le partage de fichiers en pair à pair et les plateformes généralistes d’hébergement de fichiers ou de diffusion de médias.

Confidentialité, sécurité et droits sur les données

• Accès aux données : Modal affirme qu’il n’accédera jamais à votre code source, aux entrées ou sorties de vos fonctions ni aux données stockées dans les images ou les Volumes, et ne les utilisera jamais ; les journaux d’application et les métadonnées ne sont consultés qu’avec votre autorisation, pour le dépannage.
• Conservation : les entrées et sorties des fonctions sont chiffrées au repos et supprimées dans un TTL maximal de 7 jours ; les endpoints Modal Inference ne conservent aucune donnée, les charges utiles n’étant jamais écrites sur disque.
• Propriété : les clients conservent tous les droits sur leurs données client et accordent à Modal une licence limitée pour fournir le service ; Modal peut utiliser des métriques de service agrégées ou anonymisées définitivement à ses propres fins commerciales, pendant et après le contrat.
• Lieux de traitement : les clients peuvent restreindre le traitement à des régions précises, et Modal ne traitera pas les données client ailleurs sans consentement écrit préalable.
• Certifications : Modal a réalisé un audit SOC 2 Type 2 ; le rapport est disponible sur demande via son portail de sécurité.
• HIPAA : un accord de partenaire commercial, disponible avec Enterprise, doit être en place avant tout envoi de PHI ; les Volumes v1, les images (hors instantanés de système de fichiers et de répertoire), les instantanés de mémoire et le code utilisateur n’en relèvent pas, tandis que les Volumes v2 sont couverts.
• Isolation et chiffrement : les tâches de calcul sont virtualisées avec gVisor, les Sandboxes peuvent aussi tourner sur un environnement d’exécution VM sécurisé, les données utilisateur sont chiffrées en transit et au repos, et les API publiques utilisent TLS 1.3.
• Responsabilité partagée : les clients sont responsables des sauvegardes de leurs propres données.
• Politique de confidentialité : dernière mise à jour le 17 mai 2023 ; elle précise que les services ne s’adressent à personne de moins de 13 ans.

FAQ

Q1. Modal propose-t-il une offre gratuite ?

Starter n’a pas de frais de plateforme et inclut $30 de calcul par mois, mais le guide de facturation exige un moyen de paiement enregistré et les tokens des endpoints partagés sont facturés dès la première requête.

Q2. Suis-je facturé quand mon application est inactive ?

Pas une fois qu’elle est redescendue à zéro. Le maintien en activité de 60 secondes par défaut et le temps d’inactivité dans une scaledown_window plus longue sont facturés, et min_containers empêche la fonction d’atteindre zéro.

Q3. Puis-je garder mes charges de travail dans l’UE ?

Les fonctions et les Sandboxes peuvent être épinglées sur des régions de l’UE moyennant un multiplicateur de 1,15 ou 1,75, avec un routage via eu-west, mais les journaux d’application restent aux États-Unis, les entrées et sorties volumineuses passent par us-east et les endpoints partagés ne peuvent pas être épinglés.