Inférence entreprise efficace
Pensé pour des déploiements plus sobres en coût avec une inférence plus rapide sur des charges utiles réalistes.
Architecture du modèle
Une architecture transformer decoder-only pensée pour l’inférence multilingue en production.
Tassili est conçu comme une famille de modèles optimisée pour la tokenisation multilingue, l’entraînement distribué et les profils de déploiement enterprise-ready.
Tailles prévues
Une famille de modèles avec différents compromis coût / capacité.
Équilibre raisonnement / coût
Positionné comme la variante la plus équilibrée pour le raisonnement multilingue et l’accessibilité opérationnelle.
Raisonnement avancé
Prévu pour une compréhension contextuelle plus profonde et des tâches de raisonnement plus exigeantes.
Feuille de route future : variante expérimentale MoE (Mixture-of-Experts).
Stratégie d’entraînement
Un pipeline structuré, du pré-entraînement à l’adaptation métier.
Pré-entraînement
- Corpus multilingue curé
- Distribution équilibrée français / arabe / anglais / darija
- Déduplication et filtrage
- Pondération des datasets par qualité
Cible estimée : régime d’entraînement multi-trillion tokens, monté progressivement.
Instruction tuning
- Cas d’usage entreprise
- Rédaction administrative
- Q&A technique
- Dialogue multilingue
Alignement & sécurité
- Boucles de feedback humain
- Couches de mitigation des biais
- Safeguards de modération
- Contraintes sensibles au domaine
Couche d’adaptation métier
- Finance DSLM
- Energy DSLM
- Legal DSLM
- Education DSLM
- Telecom DSLM
Tokenisation
Optimisée pour la morphologie arabe et la syntaxe française.
Tassili utilise un tokenizer multilingue conçu pour mieux capturer la complexité morphologique de l’arabe tout en préservant la structure syntaxique du français et la précision technique de l’anglais.
L’architecture est pensée dès le départ pour le raisonnement multilingue, l’adaptation métier et le déploiement en production.