Welk open-source LLM kies ik als ik on-prem of in eigen cloud wil draaien?

Llama, Mistral en Qwen zijn de drie families die er voor MKB toe doen. Voor algemeen werk in het Nederlands en Engels zijn de grootste varianten dichtbij commerciële kwaliteit, maar de keuze hangt vooral af van licentie, hardware en welk taalgebied je serveert.

Probeer dit eerst zelf

1. 1Llama (Meta): goede kwaliteit, redelijke meertaligheid, ruime maar niet vrije licentie. Lees de licentie als je commerciële AI bouwt voor klanten, sommige varianten hebben gebruikslimieten.
2. 2Mistral (Mistral AI): EU-bedrijf, goede prestaties, modellen zoals Mistral Large en de open Mixtral-varianten. Sterke reden voor MKB met EU-data-locatie als hard requirement.
3. 3Qwen (Alibaba): zeer sterk, vooral in meertalig en code, Apache 2.0-licentie op de open varianten. Wees bewust van geopolitieke perceptie als je commerciële klanten bedient die dit als showstopper zien.
4. 4Match aan hardware: een 7B model draait op een goede laptop, 32B vraagt een stevige werkstation, 70B+ vraagt een echte GPU-server of een cloud-instance met A100/H100. Reken eerst, kies dan.
5. 5Test op je eigen Nederlandse content. Benchmarks zijn vaak Engels en zeggen niet alles. Twintig echte vragen vergelijken kost een uur en levert meer informatie op dan welke leaderboard ook.

Past het bovenstaande niet?

Beschrijf je situatie hieronder. We sturen jouw input plus de stappen die je al zag naar onze AI en geven gericht vervolg-advies. Als het te risicovol is om zelf te doen, zeggen we dat ook.