Documentação

Hardware e modelos

O catálogo atual inclui Small, Medium q5, Large v3 q5 e Large v3 Turbo q5.

ModeloUso recomendadoTamanho aproximado
SmallCPU e primeiro uso488 MB
Medium q5CPU forte539 MB
Large v3 Turbo q5GPU, equilíbrio de qualidade e velocidade574 MB
Large v3 q5GPU, máxima qualidade do catálogo1.080 MB

Os tamanhos são dos arquivos de modelo. Memória em execução, áudio e diarização acrescentam consumo. Meça o seu cenário antes de definir requisito corporativo.

AMD/DirectML não está disponível como backend distribuído nesta versão.