pali112 781796646e dodaj Devstral 24B; przechyl offload GPU na NVIDIA (ROCm0,CUDA0 + mmproj na CUDA0)
- nowy model Devstral Small 2 24B z szablonem czatu (jinja)
- refaktoryzacja wyboru kontekstu i parallel (wspólne opcje)
- kolejność urządzeń ROCm0,CUDA0 dla Qwen/Gemma/Qwen35MoE/Devstral, aby NVIDIA brała większość warstw
- --mmproj-device CUDA0, aby projektor wizyjny szedł na NVIDIA
2026-11-17 13:49:40 +01:00
S
Description
No description provided
105 KiB
0 Stars 1 Watchers 0 Forks
Languages
Rust 77%
Jinja 23%