굵은 숫자가 각 행의 최고값
모든 모델 16비트(Decider는 공식 FP16), 같은 요청, 같은 채점. Apple M4 Max.
Headline = (Intelligence + Calibration) / 2, JevBench v1.5 방식.
굵은 숫자가 각 행의 최고값
Xevn 6가지 정밀도
속도는 HTTP 단일 요청 p50, 세 입력 길이(64토큰 이하, 65~128, 129~256)를 같은 비율로 섞어 측정. Apple M4 Max.
Hugging Face
| 형식 | 용량 (GB) | 저장소 |
|---|---|---|
| Transformers 16비트 | 9.3 | Xevn-4B |
| MLX 16비트 | 8.4 | Xevn-4B-MLX-bf16 |
| MLX 8비트 | 4.5 | Xevn-4B-MLX-8bit |
| MLX 6비트 | 3.4 | Xevn-4B-MLX-6bit |
| MLX 5비트 | 2.9 | Xevn-4B-MLX-5bit |
| MLX 4비트 | 2.4 | Xevn-4B-MLX-4bit |
| MLX 3비트 | 1.8 | Xevn-4B-MLX-3bit |
| GGUF BF16 | 8.7 | Xevn-4B-BF16.gguf |
| GGUF Q8_0 | 4.6 | Xevn-4B-Q8_0.gguf |
| GGUF Q6_K | 3.6 | Xevn-4B-Q6_K.gguf |
| GGUF Q5_K_M | 3.2 | Xevn-4B-Q5_K_M.gguf |
| GGUF Q4_K_M | 2.8 | Xevn-4B-Q4_K_M.gguf |