Text Generation Inference (TGI)
AI Platformları & ModellerAI Model Platformları & APIBu AI aracı ne işe yarar?
Açık kaynaklı dil modellerini kurumsal ölçekte optimize edilmiş token akışı ve tensör paralelliğiyle sunma.
Altyapı & Modeller
Llama, Falcon, Mistral, Qwen, StarCoder
Veri Gizliliği
Veriler tamamen dağıtımı yapan kurumun denetimindedir; Hugging Face sunucularına veri gitmez.
Güvenlik
Sertifika / StandartKurumsal Dağıtım Uyumlu / Apache 2.0