Baidu a lancé Unlimited OCR 2, un modèle OCR open-source conçu pour des documents très longs. Le modèle 3B analyse des livres, des dossiers et des rapports de plusieurs centaines de pages en une seule requête. Sa principale innovation réside dans SR-SWA, un schéma d’attention éparse qui maintient le coût de décodage par étape quasi constant. Les poids sont distribués sous la licence MIT, et le code se trouve sur GitHub.
TL;DR
- Taille : 3,34B paramètres. Les paramètres actifs ne sont pas divulgués. Longueur maximale des positions : 131 072 tokens.
- Exécution sur : 1 GPU CUDA en BF16. Baidu a été testé sur un NVIDIA A800-80GB. Les poids en BF16 représentent environ 6,7 GB.
- Performance : première place dans les deux tests de performance à plusieurs pages que Baidu a effectués, face à 9 autres modèles (auto-rapportés).
- Meilleur score : 77.1 au total sur MarathonDocBench (centaines de pages). Le modèle suivant, Kimi-K3, obtient 33.7.
- Pire : 48.2 en termes de hiérarchie des titres (TEDS) sur MarathonDocBench, son score le plus bas.
Qu'est-ce que Unlimited OCR 2 ?
Unlimited OCR 2 est un modèle de langage vision 3B de Baidu qui transforme des images de pages ordonnées en texte structuré. Les résultats incluent du texte, des tableaux, des formules, des figures, des titres et l’ordre de lecture. Il succède à Unlimited-OCR, sorti en juin 2026 pour promouvoir DeepSeek-OCR.
Le config conserve un style de mise en page DeepSeek-OCR. Un encodage SAM ViT-B plus CLIP-L alimente un décodeur mixte de 12 couches experts. Chaque token est orienté vers 6 des 64 experts, ainsi que 2 experts partagés. Le article DeepSeek-OCR décrit ce décodeur sous le nom de DeepSeek3B-MoE-A570M. Baidu ne mentionne pas un nombre actif pour la version 2. Dans le mode multi-page, chaque page coûte 273 tokens d’image.
Comment fonctionne le SR-SWA ?
Le coût d’attention complet augmente de manière quadratique avec la longueur de la séquence. Pendant la décodage, chaque nouveau token parcourt une cache KV plus longue. Avec 273 tokens d’image par page, 100 pages comprennent 27 300 tokens d’entrée avant tout output.
SR-SWA représente Sparse Reference Sliding Window Attention. Il compresse l’attention visuelle et textuelle en un ensemble fixe de références de travail. La carte modèle de Baidu propose 512 tokens comme taille d’exemple. La configuration combine une fenêtre locale de 128 tokens avec la sélection des 16 premiers tokens sur 32 blocs. Cela correspond à 16 blocs de 32 tokens, en respectant le budget de 512 tokens.
Cela maintient la latence et la mémoire par étape presque constantes à mesure que les documents augmentent. Il qualifie le résultat de « parsing horizon illimité » dans une fenêtre de contexte fini. L’encodage d’image et le temps de fonctionnement total augmentent toujours avec le nombre de pages.
Comment est-il noté sur MPDocBench et MarathonDocBench ?
L’équipe Baidu teste sur MPDocBench, avec des dizaines de pages par document, et sur MarathonDocBench, avec des centaines. MPDocBench-Parse est un benchmark public comprenant 433 documents et 3 246 pages. Nous n’avons pas trouvé de version publique de MarathonDocBench.
D’après le tableau de classement de Baidu, Unlimited OCR 2 obtient 84.6 points sur MPDocBench. Qwen3.8-Max arrive en deuxième position avec 78.3 points, suivi par Qwen-3.8-Flash-Next avec 77.4 points. Sur MarathonDocBench, il obtient 77.1 points. Kimi-K3 est en troisième position avec 33.7 points, puis Gemini-3.8-Flash avec 28.6 points.
La différence entre les benchmarks est l’histoire réelle. Qwen3.8-Max descend de 78,3 à 22,9 pour les documents de cent pages. Unlimited OCR 2 baisse de 7,5 points. Son prédécesseur, Unlimited-OCR, obtient 0,0 au MarathonDocBench.
Sous-scores (MPDocBench / MarathonDocBench) :
- 94,8 / 89,6
- Formule : 89.4 / 87.9
- Ordre de lecture : 92.3 / 85.3
- Tableaux : 87.8 / 74.8
- Hiérarchie de titres : 60.1 / 48.2
Les marges de mesure unique sur MPDocBench sont fines. Les scores Qwen3.8-Max sont de 94,3 pour le texte et de 89,2 pour les formules. Toutes les figures sont auto-reportées et apparaissent uniquement dans une image de graphique.
Comparaison avec d’autres modèles de OCR ouverts
| Unlimited OCR 2 | Unlimited-OCR | DeepSeek-OCR-2 | PaddleOCR-VL-1.6 | |
|---|---|---|---|---|
| Développeur | Baidu | Baidu | DeepSeek | Baidu PaddlePaddle |
| Paramètres | 3.34B | 3.34B | 3.39B | 0.96B |
| Paramètres actifs | Non divulgué | Non divulgué | Non divulgué | Non divulgué |
| Licence | MIT | MIT | Apache 2.0 | Apache 2.0 |
| Paper / publication | Oct 2026 (rapport) | Juin 2026 (arXiv) | Janvier 2026 (arXiv) | Juin 2026 (arXiv) |
| Mécanisme long document | SR-SWA, ensemble de référence de 512 tokens | Page multiple infer_multi, sans SR-SWA | Non divulgué | Non divulgué |
| MPDocBench global | 84.6 (Baidu) | 61,9 (Baidu) | Non signalé | Non signalé |
| MarathonDocBench global | 77.1 (Baidu) | 0.0 (Baidu) | Non signalé | Non signalé |
| Service | Transformers, SGLang personnalisé | Transformers, vLLM, SGLang | Transformers, SGLang | PaddleOCR, Transformers |
Comptes de paramètres et licences pour chaque modèle sur la page Hugging Face. Scores de benchmark tirés du graphique de Baidu.
Comment exécuter Unlimited OCR 2 ?
La carte de modèle liste les Transformers pour des tests rapides et SGLang pour la mise en service. Dans les Transformers, infer gère 1 page avec une disposition dynamique, appelée mode Gundam. infer_multi analyse chaque page d’un document en 1 requête, permettant ainsi au modèle de conserver le contexte entre les pages. Le chargement nécessite trust_remote_code=True, ce qui exécute du code Python provenant du répo.
SGLang serving utilise un cercle personnalisé de Baidu, et non SGLang en provenance de l’upstream. Les exemples de Baidu planifient 10 pages par fenêtre et réutilisent la partie finale du KV de la fenêtre précédente. Des fenêtres plus petites réduisent la mémoire maximale, mais affaiblissent la fusion entre les pages. Baidu avertit qu’une configuration de biais par défaut peut entraîner une allocation de 462 MiB et une fin de stockage de la mémoire.
Points clés
- Unlimited OCR 2 est un modèle OCR de 3,34B, sous licence MIT, provenant de Baidu.
- SR-SWA attire l’attention sur un ensemble de référence de 512 tokens fixe.
- Il obtient 77,1 sur MarathonDocBench, contre 33,7 pour le modèle suivant.
- La hiérarchie des titres est le point faible, à 48,2 pour les documents longs.
- Tous les chiffres de référence sont propres à Baidu.
Veuillez consulter la carte de modèle, le rapport technique et le repo GitHub. De plus, n’hésitez pas à suivre nous sur Twitter, et ne oubliez pas de rejoindre notre subreddit 150k+ML et de vous abonner à nos newsletters. Attendez ! êtes-vous sur Telegram ? maintenant, vous pouvez également rejoindre nous sur Telegram.
Doit-vous collaborer avec nous pour promouvoir votre repo GitHub, votre page Hugging Face, la sortie de votre produit ou un webinaire, etc. ? Connectez-vous à nous
La publication Baidu ouvre le code source de Unlimited OCR 2 pour la détection de documents de cent pages a été publiée en premier sur MarkTechPost.