Inférence🔗
Replicate
Publié le 1 juin 2022de Inferenza cloud
Plateforme API pour exécuter des modèles ML sans gérer d'infrastructure.
APICloudMLServerless
Retour aux ressources
Inférence☁️
Inferenza cloud
Les plateformes cloud pour les modèles : des alternatives quand le matériel local ne suffit pas. Replicate et Runpod du catalogue sont les ressources filles.
Caractéristiques
- GPU à la demande sans achat de matériel
- Facturation à la seconde ou à l'image générée
- Cold start : quelques secondes de démarrage
Ressources de Inferenza cloud
Inférence☁️
RunPod Serverless
Publié le 1 mars 2023de Inferenza cloud
Plateforme serverless pour déployer et mettre à l'échelle automatiquement des modèles IA avec GPU.
ServerlessCloudGPUDeployment
Tags
Découvrir Inferenza cloud
Visitez le site officiel pour télécharger, vous documenter et commencer à utiliser Inferenza cloud.
Ressources liées — Inférence
Inférence⚡
llama.cpp
Publié le 15 oct. 2022
Implémentation C++ de LLM pour une inférence efficace sur CPU et GPU grand public.
LLMC++LocalEfficient
Inférence🦙
Ollama
Publié le 27 juil. 2023v0.35.0
Outil open source pour exécuter des LLM en local, simplement.
LLMLocalOpen SourceCLI
Inférence🗣️
Piper TTS
Publié le 1 avr. 2022Piper
Sintesi vocale in locale a bassa latenza basata su ONNX: genera parlato naturale da testo in tempo quasi reale, anche su CPU. Multilingue (italiano incluso) e facile da integrare nei pipeline: download del modello, una riga di comando. MIT.
AudioTTSOpen SourceLocale