Önemli: Sadece küçük metadata dosyalarını yükleyin (config.json, model.safetensors.index.json). GB boyutundaki model dosyalarını yüklemeyin!
Model metadata dosyalarınızı buraya sürükleyin
config.json, model.safetensors.index.json, .gguf
Model'in bir seferde işleyeceği maksimum token sayısı.
Aynı anda kaç prompt işlenecek. 1 = tek kullanıcı.
Model ağırlıklarının saklanma formatı. Düşük precision = az VRAM ama biraz kalite kaybı.