Inferenza☁️
RunPod Serverless
Pubblicato il 1 mar 2023
Piattaforma serverless per deploy e scalatura automatica di modelli IA con GPU.
ServerlessCloudGPUDeployment
Torna alle risorse
Replicate
Pubblicato il 1 giu 2022
Piattaforma API per eseguire modelli ML senza gestire infrastruttura.
Caratteristiche
- No infrastructure
- Pay-per-run
- Model library
- Webhooks
Tag
Link Utili
Scopri Replicate
Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare Replicate.
Risorse Correlate — Inferenza
Inferenza🟠
Anthropic Claude
Pubblicato il 14 mar 2023
API di inferenza per i modelli Claude di Anthropic (Claude 1 dal 2023). Come OpenAI si paga al token, in ingresso e in uscita, con limiti di richiesta per piano: la via frontier senza server propri.
APIFrontierPaga-al-tokenCloud
Inferenza⚡
faster-whisper
Pubblicato il 11 feb 2023v1.2.1
Reimplementazione di Whisper basata su CTranslate2: fino a 4 volte più veloce di openai/whisper con la stessa accuratezza e meno memoria. Supporta la quantizzazione 8-bit su CPU e GPU.
AudioTrascrizioneOpen SourceLocale