Modal

Was ist Modal?

Modal ist eine Serverless-Cloud, die Python-Code auf GPUs und CPUs ausführt und sekundengenau abrechnet; das Unternehmen beschreibt sie als Cloud-Infrastruktur für Teams, die KI-Anwendungen in großem Maßstab entwickeln, trainieren und bereitstellen.

Modal packt Ihren Code in einen Container, führt ihn in der Cloud aus und fügt bei steigendem Traffic automatisch Container hinzu; dabei bündelt es Kapazität über große Clouds hinweg und wählt, wo jeder Job läuft. Container-Images und GPU-Anforderungen werden als Python-Code geschrieben, daher hat eine Modal-App keine YAML-Deployment-Dateien.

Modal Labs betreibt modal.com. Laut unabhängigen Berichten der Tech-Presse wurde Modal 2021 von CEO Erik Bernhardsson und CTO Akshat Bubna gegründet; nach eigenen Angaben hat das Unternehmen über 466 Mio. US-Dollar von Investoren wie General Catalyst und Redpoint Ventures eingesammelt. Am 28. September 2026 berichtete ein Tech-Nachrichtenartikel unter Berufung auf eine ungenannte Quelle, Modal Labs, das er als Anbieter von KI-Inferenz-Infrastruktur bezeichnete, stehe kurz vor einer von Accel angeführten Finanzierungsrunde über 750 Mio. US-Dollar bei einer Bewertung von 15,75 Mrd. US-Dollar; Modal Labs lehnte eine Stellungnahme ab.

Kernfunktionen

Modal deckt Inferenz mit nach eigener Aussage Kaltstarts unter einer Sekunde ab, außerdem parallele Batch-Jobs, Training und Fine-Tuning, isolierte Sandboxes für KI-generierten Code sowie kollaborative Notebooks mit GPU.

Funktionen, Endpunkte und Batch-Jobs

• HTTPS-Endpunkte: Jede Funktion kann zu einem HTTPS-Endpunkt werden, der mit dem Traffic skaliert und im Leerlauf auf null fällt.
• Fan-out und Hintergrundarbeit: Ein Job kann sich ohne Orchestrierungsschicht auf Tausende GPUs verteilen oder asynchrone Batch-Arbeit anstoßen.
• Speicher: Volumes dienen als verteiltes Dateisystem für Images, Modellgewichte und Datensätze.
• Beobachtbarkeit: Logs und Metriken pro Container, mit Export zu OpenTelemetry-Anbietern wie Datadog.

GPU-Auswahl

Das Argument gpu akzeptiert T4, L4, A10, L40S, A100 (generisch, 40 GB oder 80 GB), RTX PRO 6000, H100 (oder H100!), H200, B200 (oder B200+) und B300. B300, B200, H200, H100, A100, L4, T4 und L40S erlauben bis zu 8 GPUs pro Container (bis zu 2.304 GB GPU-RAM); bei A10 ist bei 4 GPUs und 96 GB Schluss.

Zwei automatische Upgrades sind für Benchmarks wichtig: Eine H100-Anforderung kann auf einer H200 laufen und eine A100-Anforderung auf einer A100 mit 80 GB, jeweils zum ursprünglichen Preis; wer H100! anfordert, verzichtet auf das H200-Upgrade. Eine Funktion kann außerdem GPU-Typen nach Präferenz geordnet auflisten, und Modal weicht dann die Liste hinab aus.

Inferenz-Endpunkte

• Gemeinsame Endpunkte (Shared Endpoints): Ein Teil der Modelle aus der Modal Library wird aus von Modal verwalteten Pools bereitgestellt und pro Token abgerechnet; jedes davon kann auch auf einem dedizierten Endpunkt (Dedicated Endpoint) mit isolierter oder konfigurierbarer Kapazität laufen.
• OpenAI-kompatible Bereitstellung: Modal bewirbt OpenAI-kompatible Endpunkte für offene Modelle.

Modal Sandboxes

Modal Sandboxes sind sichere, zur Laufzeit definierte Container zum Ausführen von nicht vertrauenswürdigem Code von Nutzern oder Agenten. Laut Modal lassen sich Millionen davon in weniger als einer Minute programmatisch erstellen, mit Snapshot und Wiederherstellung für einen schnellen Start.

Notebooks

Gehostete Jupyter-Notebooks mit Serverless-Preisen, automatischem Herunterfahren bei Inaktivität, Modal-GPUs und kollaborativer Bearbeitung in Echtzeit.

Training und Multi-Node-Cluster

Modal gab am 1. Oktober 2026 bekannt, dass Modal Clusters über den Decorator @modal.clustered allgemein verfügbar sind: Multi-Node-GPU-Gruppen mit RDMA, die per Gang-Scheduling aus einem gemeinsamen Kapazitätspool zugeteilt und sekundengenau abgerechnet werden.

Anleitung

Erste Schritte

1. Legen Sie auf modal.com ein Konto an.
2. Führen Sie pip install modal aus und danach modal setup zur Authentifizierung (oder python -m modal setup, falls die erste Variante fehlschlägt).
3. Schreiben Sie eine mit @app.function(...) dekorierte Python-Funktion, die Container-Image und GPU benennt, und starten Sie die Datei mit modal run path/to/file.py.

Kaltstarts und Leerlaufkosten abstimmen

Modal gibt an, dass Container in etwa einer Sekunde booten, doch warm ist ein Container erst, wenn Importe und sonstige Einrichtung im globalen Gültigkeitsbereich gelaufen sind; bis zur Bereitschaft können daher Sekunden bis Minuten vergehen. Drei Einstellungen wägen Latenz gegen Leerlaufkosten ab:

• scaledown_window: hält inaktive Container zwei Sekunden bis zwanzig Minuten am Leben; längere Fenster bedeuten weniger Kaltstarts, aber inaktive Ressourcen werden abgerechnet.
• min_containers und buffer_containers: Ersteres hält eine Untergrenze warmer Container, sodass die Funktion nie auf null skaliert, Letzteres fügt Reservecontainer hinzu, solange sie aktiv ist.
• Breite Regionen: Eine breite Region wie us bietet einen größeren Ressourcenpool als eine enge und verbessert Kaltstartzeit und Verfügbarkeit.

Anwendungsfälle und Beispiele

Modal kann jede containerisierbare Python-Anwendung bereitstellen und zielt auf rechenintensive, horizontal skalierende Arbeit: ML-Inferenz in großem Maßstab, Modelltraining und Fine-Tuning, Datenpipelines, wissenschaftliches Rechnen und Job-Warteschlangen.

• Unternehmensweite KI-Plattformen: DoorDash-Mitgründer Andy Fang sagt, die KI-Plattform des Unternehmens nutze Modal für Inferenz, Sandboxes für Agenten und Rechenleistung für eigenen Code.
• Bestärkendes Lernen plus Modellbereitstellung: Cognition-CEO Scott Wu sagt, Modal betreibe sowohl die RL-Infrastruktur als auch die Produktionsinferenz des Unternehmens.
• Agenten-Evaluierung: Der Leiter für angewandte KI bei Ramp sagt, das Tool Inspect des Unternehmens wäre ohne schnelle Modal-Sandboxes schwer zu bauen gewesen.
• Referenzprojekte: Die Beispiele reichen von Echtzeit-Transkription mit Kyutai STT, Flux-Fine-Tuning, einem Coding-Agenten mit Sandboxes und LangGraph und dem Training eines kleinen Sprachmodells bis zur parallelen Parquet-Verarbeitung auf S3.

Die drei Kundenaussagen sind Testimonials von der Startseite, keine unabhängigen Fallstudien.

Für wen ist es

• Python-Entwickler und ML-Ingenieure: Funktionen werden in Python definiert; JavaScript/TypeScript und Go können Funktionen aufrufen, Sandboxes ausführen und Ressourcen verwalten.
• Teams mit schwankender Nachfrage: Modal argumentiert, dass seine Stundenpreise zwar höher wirken mögen, die Gesamtkosten bei sprunghaften oder unvorhersehbaren Anfragevolumen aber niedriger seien.
• Kleine Teams bis große Organisationen: Starter richtet sich an kleine Teams und unabhängige Entwickler, Team an Start-ups und größere Organisationen, Enterprise an Organisationen, denen Sicherheit und Support wichtig sind.
• Start-ups und Forschende: Start-ups in der Frühphase können kostenlose Rechenguthaben beantragen, Akademiker erhalten bis zu $10k an Guthaben.

Die in dieser Runde gefundenen unabhängigen Bewertungssignale sind begrenzt: Auf einer Bewertungsplattform aus einer Launch-Community zeigte Modal laut Erfassung vom 5. Oktober 2026 eine 5,0 auf Basis von 61 Bewertungen, und die KI-Zusammenfassung dieser Plattform sagt, die Bewertenden seien überwiegend Gründer und die Bewertungen enthielten fast keine Kritik.

Plattformen

• Python-SDK und CLI: Die meisten Interaktionen laufen über das Open-Source-Kommandozeilentool modal und die Python-Clientbibliothek.
• JavaScript/TypeScript- und Go-SDKs: in der Beta; das Definieren von Funktionen wird wahrscheinlich Python vorbehalten bleiben.
• Browser: Notebooks öffnen sich unter modal.com/notebooks, und .ipynb-Dateien lassen sich hochladen.
• Kapazitätsregionen: USA, EU, Asien-Pazifik, Japan, Australien, Vereinigtes Königreich, Kanada, Naher Osten, Südamerika, Afrika und Mexiko, verteilt auf mehr als 20 Clouds.
• Anfrage-Routing: Funktionseingaben werden standardmäßig über us-east (Virginia) geleitet; routing_region akzeptiert außerdem us-west (Oregon), eu-west (Dublin) und ap-south (Mumbai).
• Cloud-Marktplätze: Enterprise-Kunden können über die Marktplätze von AWS und GCP kaufen, um zugesagte Ausgaben zu nutzen.

Preise

Modal kombiniert einen Monatsplan mit GPU-Preisen pro Sekunde sowie verbrauchsabhängig gemessener CPU und Arbeitsspeicher; die folgenden Listenpreise wurden am 5. Oktober 2026 erfasst.

Pläne

Enterprise ergänzt Mengenrabatte, eingebettete ML-Engineering-Services, privaten Slack-Support, Audit-Logs, Okta-SSO und HIPAA. Starter erlaubt 200 bereitgestellte Apps und 5 bereitgestellte Cron-Jobs und schließt benutzerdefinierte Domains, Deployment-Rollbacks, Budgets auf Umgebungsebene, den Proxy mit statischer IP und RBAC aus; Team behält 3 Rollback-Versionen.

GPU-Preise pro Sekunde

Für CPU gilt ein Minimum von 0,125 Kernen pro Container. Sandboxes und Notebooks nutzen höhere CPU- und Speichertarife, $0.00003942 pro Kern und $0.00000667 pro GiB und Sekunde, GPUs zu Standardpreisen. Volumes kosten nach 1 TiB frei $0.09 pro GiB und Monat, ausgehender Datenverkehr über das Planvolumen hinaus $0.04 pro GiB. Modals Rechenbeispiel beziffert Stable Diffusion auf einer A10G auf etwa $0.491 pro 1.000 Bilder.

Was in die Rechnung einfließt

• Lade- und Leerlaufzeit: Modal berechnet Lade- und Verarbeitungszeit sowie ein standardmäßiges, konfigurierbares Keep-alive von 60 Sekunden nach der letzten Eingabe; eine auf null skalierte App kostet nichts.
• Anforderung oder Nutzung: CPU und Arbeitsspeicher werden nach dem höheren Wert aus Anforderung und tatsächlicher Nutzung abgerechnet, mit mindestens 128 MiB und 0,125 Kernen pro Container.
• Regionsbindung: Eine fest gewählte Container-Region kostet das 1,15-Fache der Basispreise bei einer breiten und das 1,75-Fache bei einer engen Region; bei einer Mischung gilt der kleinere Multiplikator.
• Nicht unterbrechbare Ausführung: nonpreemptible=True verdreifacht die Listenpreise für CPU und Arbeitsspeicher und ist für GPU-Funktionen nicht verfügbar.
• Tokens für gemeinsame Endpunkte: Die inklusive Rechenleistung deckt sie nicht ab; seit dem 1. September 2026 werden Tokens ab der ersten Anfrage berechnet, auch bei Starter.
• Zahlungsmethode: Der Abrechnungsleitfaden verlangt eine hinterlegte Zahlungsmethode, um Modal überhaupt zu nutzen, während der GPU-Leitfaden sie an die GPU-Nutzung knüpft; die Seiten unterscheiden sich im Geltungsbereich.
• Abrechnungszyklus und Limits: Abgerechnet wird monatlich, zusätzlich mit automatischen Abbuchungen, wenn die Nutzung bestimmte Schwellen erstmals überschreitet; ein erreichtes Ausgabenlimit stoppt Workloads, die zusätzliche Kosten aus eigener Tasche verursachen würden.
• Cloud-Guthaben und Erstattungen: Guthaben von AWS, GCP oder Azure lassen sich nicht anrechnen, und Modals seit Mai 2026 geltender Software-as-a-Service-Vertrag besagt, dass Gebühren nicht erstattungsfähig sind, außer wie in seinem Abschnitt 3.2 beschrieben.

Alternativen zu Modal

Jede der folgenden Serverless-GPU-Plattformen unterscheidet sich von Modal vor allem darin, wie Leerlaufzeit abgerechnet wird und wie breit die GPU-Auswahl ist.

Die Aufteilung in Flex und aktiv bei RunPod entspricht der min_containers-Wahl bei Modal. Replicate rechnet die meisten öffentlichen Modelle nach Laufzeit ab, manche nach Ein- und Ausgabe. Modals Unterscheidungsmerkmale sind in Python definierte Infrastruktur und Sandboxes im selben Konto sowie eine längere GPU-Liste als bei Cloud Run.

Einschränkungen

Laufzeitgrenzen

• Standardmäßig unterbrechbar: Jede Funktion kann unterbrochen werden und wird mit derselben Eingabe neu gestartet; je länger die Laufzeit, desto wahrscheinlicher eine Unterbrechung.
• Timeouts: Funktionsausführungen haben standardmäßig 300 Sekunden, konfigurierbar von 1 Sekunde bis 24 Stunden; Sandboxes haben standardmäßig eine Lebensdauer von 5 Minuten, verlängerbar auf 24 Stunden.
• Parallelität: Die Limits des Workspace für gleichzeitige Container und GPUs richten sich nach dem Plan, und eine einzelne Funktion hat ein hartes Limit von 4.000 gleichzeitigen Containern.
• Große GPU-Anforderungen: Mehr als 2 GPUs pro Container bedeuten meist längere Wartezeiten.
• CUDA-Untergrenze: B300 erfordert CUDA 13.1 oder neuer.
• Drosselung gemeinsamer Endpunkte: Modellspezifische Parallelitätslimits gelten für den gesamten Workspace, und Anfragen über dem Limit erhalten HTTP 429.
• Widersprüchlicher Multi-Node-Status: Der GPU-Leitfaden sagt weiterhin, Multi-Node-Training sei in der privaten Beta, während die Ankündigung vom 1. Oktober 2026 Modal Clusters als allgemein verfügbar bezeichnet.

Regionen und Datenresidenz

• Strikte Bindung: An eine Region gebundene Workloads werden niemals anderswohin verschoben, selbst wenn die Region keine Kapazität mehr hat.
• Routing-Einschränkungen: routing_region lässt sich nur beim ersten Deployment einer Funktion festlegen, und Ein- und Ausgaben über 2 MiB gehen weiterhin in den Objektspeicher in us-east.
• Gemeinsame Endpunkte: keine wählbare Container- oder Routing-Region; der Traffic läuft über us-west durch den globalen Rechenpool.
• Logs: Anwendungslogs aus Funktionen, Sandboxes und Servern werden in den USA gespeichert.

Zulässige Nutzung

Modals Vertrag verbietet Kryptowährungs-Mining oder verwandte Blockchain-Aktivitäten, Denial-of-Service-Angriffe, Peer-to-Peer-Filesharing sowie allgemeine Plattformen für Datei-Hosting oder Medienauslieferung.

Datenschutz, Sicherheit und Datenrechte

• Datenzugriff: Modal erklärt, niemals auf Ihren Quellcode, Funktionsein- oder -ausgaben oder in Images oder Volumes gespeicherte Daten zuzugreifen oder sie zu nutzen; auf App-Logs und Metadaten wird nur mit Ihrer Erlaubnis zur Fehlerbehebung zugegriffen.
• Aufbewahrung: Funktionsein- und -ausgaben werden im Ruhezustand verschlüsselt und innerhalb einer maximalen TTL von 7 Tagen gelöscht; Endpunkte von Modal Inference arbeiten ohne Datenspeicherung, Payloads werden nie auf Festplatte geschrieben.
• Eigentum: Kunden behalten alle Rechte an ihren Kundendaten und gewähren Modal eine begrenzte Lizenz zur Erbringung des Dienstes; Modal darf aggregierte oder dauerhaft anonymisierte Servicemetriken während und nach der Vertragslaufzeit für eigene Geschäftszwecke verwenden.
• Verarbeitungsorte: Kunden können die Verarbeitung auf festgelegte Regionen beschränken, und Modal verarbeitet Kundendaten ohne vorherige schriftliche Zustimmung nicht anderswo.
• Zertifizierungen: Modal hat ein Audit nach SOC 2 Type 2 abgeschlossen; der Bericht ist auf Anfrage über das Sicherheitsportal erhältlich.
• HIPAA: Eine Geschäftspartnervereinbarung, verfügbar bei Enterprise, muss vor der Übermittlung jeglicher PHI vorliegen; Volumes v1, Images (außer Dateisystem- und Verzeichnis-Snapshots), Arbeitsspeicher-Snapshots und Nutzercode fallen nicht darunter, Volumes v2 hingegen schon.
• Isolation und Verschlüsselung: Rechenjobs werden mit gVisor virtualisiert, Sandboxes können auch auf einer sicheren VM-Laufzeitumgebung laufen, Nutzerdaten werden bei der Übertragung und im Ruhezustand verschlüsselt, und öffentliche APIs nutzen TLS 1.3.
• Geteilte Verantwortung: Kunden sind für Backups ihrer eigenen Daten verantwortlich.
• Datenschutzerklärung: zuletzt aktualisiert am 17. Mai 2023; sie besagt, dass sich die Dienste an niemanden unter 13 Jahren richten.

FAQ

Q1. Gibt es bei Modal ein kostenloses Angebot?

Starter hat keine Plattformgebühr und enthält $30 Rechenleistung pro Monat, aber der Abrechnungsleitfaden verlangt eine hinterlegte Zahlungsmethode, und Tokens für gemeinsame Endpunkte werden ab der ersten Anfrage berechnet.

Q2. Zahle ich, wenn meine App im Leerlauf ist?

Nicht, nachdem sie auf null skaliert ist. Das standardmäßige Keep-alive von 60 Sekunden und Leerlaufzeit innerhalb eines längeren scaledown_window werden berechnet, und min_containers verhindert, dass die Funktion je null erreicht.

Q3. Kann ich Workloads in der EU halten?

Funktionen und Sandboxes lassen sich mit einem Multiplikator von 1,15 oder 1,75 an EU-Regionen binden, mit Routing über eu-west, doch Anwendungslogs bleiben in den USA, große Ein- und Ausgaben laufen über us-east, und gemeinsame Endpunkte lassen sich nicht binden.