Jennifer Dewan, Senior Director of Communications
• La série Falcon 2 de la prochaine génération lance un modèle d'IA open source, multilingue et multimodal – et son unique modèle d'IA avec capacités VLM
• Le nouveau Falcon 2 11B surpasse le Llama 3 8B de Meta et est comparable au modèle leader de Google Gemma 7B, comme l'a vérifié de manière indépendante le classement Hugging Face.
• Les plans immédiats incluent l'exploration d'un « mélange d'experts » pour Capacités améliorées d’apprentissage automatique
Le Technology Innovation Institute (TII), un centre de recherche scientifique de premier plan au monde et le pilier de la recherche appliquée du Conseil de recherche en technologies avancées (Advanced Technology Research Council, ATRC) d'Abu Dhabi, a lancé aujourd'hui une deuxième itération de son célèbre modèle de langage étendu (LLM) - Falcon 2. Dans cette série, il a dévoilé deux versions révolutionnaires : Falcon 2 11B, un LLM plus efficace et accessible formé sur 5,5 billions de jetons avec 11 milliards de paramètres, et Falcon 2 11B VLM, qui se distingue par ses capacités de modèle de vision au langage (VLM), qui permettent une conversion transparente des entrées visuelles en sorties textuelles. Bien que les deux modèles soient notamment multilingues, le Falcon 2 11B VLM se distingue comme le premier modèle multimodal de TII – et le seul actuellement sur le marché de premier plan à disposer de cette capacité de conversion d'image en texte, marquant une avancée significative dans l'innovation en matière d'IA.
Testé en comparaison avec plusieurs modèles d'IA importants de sa catégorie parmi les modèles pré-entraînés, Falcon 2 11B surpasse les performances du Llama 3 récemment lancé par Meta avec 8 milliards de paramètres (8B) et fonctionne à égalité avec le Gemma 7B de Google au début place (Falcon 2 11B : 64,28 contre Gemma 7B : 64,29), comme vérifié de manière indépendante par Hugging Face, une plateforme basée aux États-Unis hébergeant un outil d'évaluation objective et un classement mondial pour les LLM ouverts. Plus important encore, Falcon 2 11B et 11B VLM sont tous deux open source, offrant aux développeurs du monde entier un accès illimité. Dans un avenir proche, il est prévu d'élargir les modèles Falcon 2 de nouvelle génération, en introduisant une gamme de tailles. Ces modèles seront encore améliorés grâce à des capacités avancées d'apprentissage automatique telles que le « Mélange d'experts » (MoE), visant à pousser leurs performances à des niveaux encore plus sophistiqués.
Tous les modèles d’IA de TII publiés à ce jour se classent régulièrement parmi les meilleurs au monde, en tant que LLM open source les plus puissants. Les nouveaux modèles Falcon 2 11B réduits et polyvalents devraient permettre à TII une meilleure adoption par le marché dans le monde en constante évolution de l'IA générative.
Les modèles Falcon 2 11B, dotés de capacités multilingues, s'acquittent de manière transparente des tâches en anglais, français, espagnol, allemand, portugais et dans diverses autres langues, enrichissant leur polyvalence et augmentant leur efficacité dans divers scénarios. Falcon 2 11B VLM, un modèle vision-langage, a la capacité d'identifier et d'interpréter des images et des visuels de l'environnement, offrant ainsi une large gamme d'applications dans des secteurs tels que la santé, la finance, le commerce électronique, l'éducation et les secteurs juridiques. Ces applications vont de la gestion de documents à l'archivage numérique et de l'indexation contextuelle à l'aide aux personnes ayant une déficience visuelle. De plus, ces modèles peuvent fonctionner efficacement sur une seule unité de traitement graphique (GPU), ce qui les rend hautement évolutifs et faciles à déployer et à intégrer dans des infrastructures plus légères comme les ordinateurs portables et autres appareils.
S. E. Faisal Al Bannai, secrétaire général de l'ATRC et conseiller en matière de recherche stratégique et de technologies avancées auprès du président des Émirats arabes unis, a déclaré : « Avec la sortie du Falcon 2 11B, nous avons présenté le premier modèle de la série Falcon 2. Alors que le Falcon 2 11B a démontré des performances exceptionnelles, nous réaffirmons notre engagement envers le mouvement open source et envers la Fondation Falcon. Avec d'autres modèles multimodaux bientôt commercialisés dans différentes tailles, notre objectif est de garantir que les développeurs et les entités qui accordent de l'importance à leur vie privée, aient accès à l'un des meilleurs modèles d'IA pour faciliter leur parcours en matière d’IA. »
S'exprimant sur le modèle, le Dr Hakim Hacid, directeur exécutif et chercheur en chef par intérim de l'unité inter-centres d'IA du TII, a déclaré : « L'IA évolue continuellement et les développeurs reconnaissent les innombrables avantages des modèles plus petits et plus efficaces. En plus de réduire les besoins en puissance de calcul et de répondre aux critères de durabilité, ces modèles offrent une flexibilité accrue, s'intégrant de manière transparente à l'infrastructure d'IA de pointe, la prochaine mégatendance émergente. De plus, les capacités de conversion de la vision en langage de Falcon 2 ouvrent de nouveaux horizons en matière d'accessibilité dans l'IA, offrant aux utilisateurs des interactions transformatrices d'image en texte. »
La polyvalence du Falcon 2 11B a également conduit TII à envisager de travailler sur des innovations GenAI plus intéressantes. Parmi celles-ci, il y aura l’adoption d’un nouveau type de capacité d’apprentissage automatique connu sous le nom de « mélange d’experts » (MoE) susmentionné. Cette méthode consiste à fusionner des réseaux plus petits avec des spécialisations distinctes, garantissant que les domaines les plus compétents collaborent pour fournir des réponses hautement sophistiquées et personnalisées – un peu comme si nous disposions d'une équipe d'assistants intelligents qui connaissent chacun quelque chose de différent et travaillent ensemble pour prédire ou prendre des décisions en cas de besoin. Cette approche améliore non seulement la précision, mais accélère également la prise de décision, ouvrant la voie à des systèmes d’IA plus intelligents et plus efficaces.
Falcon 2 11B est sous licence TII Falcon License 2.0, la licence logicielle permissive basée sur Apache 2.0 qui comprend une politique d'utilisation acceptable qui promeut l'utilisation responsable de l'IA. Des informations complémentaires sur le nouveau modèle peuvent être trouvées sur FalconLLM.TII.ae.
Jennifer Dewan, Senior Director of Communications