Inferenza🔗
Replicate
Pubblicato il 1 giu 2022di Inferenza cloud
Piattaforma API per eseguire modelli ML senza gestire infrastruttura.
APICloudMLServerless
Torna alle risorse
Inferenza☁️
Inferenza cloud
Le piattaforme cloud per i modelli: alternative quando l'hardware locale non basta. Replicate e Runpod nel catalogo sono le risorse figlie.
Caratteristiche
- GPU on-demand senza acquisto hardware
- Billing a secondo o a immagine generata
- Cold start: pochi secondi per l'avvio
Risorse di Inferenza cloud
Inferenza☁️
RunPod Serverless
Pubblicato il 1 mar 2023di Inferenza cloud
Piattaforma serverless per deploy e scalatura automatica di modelli IA con GPU.
ServerlessCloudGPUDeployment
Tag
Scopri Inferenza cloud
Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare Inferenza cloud.
Risorse Correlate — Inferenza
Inferenza⚡
llama.cpp
Pubblicato il 15 ott 2022
Implementazione C++ di LLM per inferenza efficiente su CPU e GPU consumer.
LLMC++LocalEfficient
Inferenza🦙
Ollama
Pubblicato il 27 lug 2023v0.35.0
Strumento open source per eseguire LLM localmente con semplicità.
LLMLocalOpen SourceCLI
Inferenza🗣️
Piper TTS
Pubblicato il 1 apr 2022Piper
Sintesi vocale in locale a bassa latenza basata su ONNX: genera parlato naturale da testo in tempo quasi reale, anche su CPU. Multilingue (italiano incluso) e facile da integrare nei pipeline: download del modello, una riga di comando. MIT.
AudioTTSOpen SourceLocale