Inferenza⚡
llama.cpp
Pubblicato il 15 ott 2022
Implementazione C++ di LLM per inferenza efficiente su CPU e GPU consumer.
LLMC++LocalEfficient
Torna alle risorse
Inferenza🧭
OpenRouter
Pubblicato il 8 mar 2023
Gateway cloud per l'inferenza LLM: un unico endpoint API per centinaia di modelli (inclusi i MoE open-weight) con prezzi per token e routing automatico tra provider. Per Ling 3.1 Flash: 0,075 $/M input, 0,225 $/M output.
Caratteristiche
- Un endpoint API
- Routing multi-provider
- Pricing per token
- Modelli open-weight
Tag
Link Utili
Scopri OpenRouter
Visita il sito ufficiale per scaricare, documentarti e iniziare a utilizzare OpenRouter.
Risorse Correlate — Inferenza
Inferenza🦙
Ollama
Pubblicato il 27 lug 2023v0.35.0
Strumento open source per eseguire LLM localmente con semplicità.
LLMLocalOpen SourceCLI
Inferenza🗣️
Piper TTS
Pubblicato il 1 apr 2022Piper
Sintesi vocale in locale a bassa latenza basata su ONNX: genera parlato naturale da testo in tempo quasi reale, anche su CPU. Multilingue (italiano incluso) e facile da integrare nei pipeline: download del modello, una riga di comando. MIT.
AudioTTSOpen SourceLocale