Inférence☁️
RunPod Serverless
Publié le 1 mars 2023
Plateforme serverless pour déployer et mettre à l'échelle automatiquement des modèles IA avec GPU.
ServerlessCloudGPUDeployment
Retour aux ressources
Replicate
Publié le 1 juin 2022
Plateforme API pour exécuter des modèles ML sans gérer d'infrastructure.
Caractéristiques
- Sans infrastructure
- Facturation à l'exécution
- Bibliothèque de modèles
- Webhooks
Tags
Liens utiles
Découvrir Replicate
Visitez le site officiel pour télécharger, vous documenter et commencer à utiliser Replicate.
Ressources liées — Inférence
Inférence🟠
Anthropic Claude
Publié le 14 mars 2023
API d'inférence pour les modèles Claude d'Anthropic (Claude 1 depuis 2023). Comme OpenAI, la facturation se fait au token, en entrée et en sortie, avec des limites de requêtes par forfait : la voie frontière sans serveur propre.
APIFrontierPaga-al-tokenCloud
Inférence⚡
faster-whisper
Publié le 11 févr. 2023v1.2.1
Réimplémentation de Whisper basée sur CTranslate2 : jusqu'à 4 fois plus rapide qu'openai/whisper avec la même précision et moins de mémoire. Prise en charge de la quantification 8-bit sur CPU et GPU.
AudioTrascrizioneOpen SourceLocale