2024, la révolution multimodale
Les modèles apprennent à voir, entendre et parler. La multimodalité devient native et les fenêtres de contexte explosent, jusqu'au million de tokens. En fin d'année, un signal faible annonce la suite avec les premiers modèles de raisonnement.
12/2024DeepSeek
DeepSeek V3
671 milliards de paramètres en MoE, entraîné pour une fraction du coût des modèles occidentaux équivalents, en open-weight.
Raisonnement avancéProgrammationLong contexteOpen-weightMultilingueDéploiement entreprise
Impact. Choc économique, avec un modèle frontière ouvert entraîné pour quelques millions de dollars.
12/2024Google DeepMind
Gemini 2.0 Flash
Premier Gemini pensé pour l'ère agentique, avec sortie native image et audio, usage natif d'outils et planification d'actions.
MultimodalitéAudioVidéoAgents autonomesProgrammation
Impact. Pivot officiel de Google vers des agents capables d'agir dans un environnement numérique.
12/2024OpenAI
o1
Version généralisée du raisonnement par chaîne de pensée entraîné par renforcement.
Raisonnement avancéProgrammation
Impact. Confirme le raisonnement comme nouvel axe de progrès, au-delà de la taille des modèles.
10/2024Anthropic
Claude 3.5 Sonnet, usage d'ordinateur
Introduit l'usage d'ordinateur en bêta. Le modèle déplace la souris, clique, tape et lit l'écran pour accomplir des tâches.
Agents autonomesProgrammationVisionRaisonnement avancé
Impact. Premier pas concret vers des agents qui agissent sur un ordinateur comme un humain.
09/2024OpenAI
o1-preview
Premier modèle public à chaîne de pensée cachée entraînée par renforcement. Gains spectaculaires en maths, sciences et code.
Raisonnement avancéProgrammation
Impact. Naissance de la catégorie des modèles de raisonnement.
09/2024Alibaba
Qwen2.5
Refonte complète de la famille, pré-entraînement sur 18 000 milliards de tokens, gains marqués en code et en maths.
Raisonnement avancéProgrammationOpen-weightMultilingueLong contexte
Impact. Devient l'une des familles open-weight les plus utilisées au monde.
08/2024xAI
Grok 2
Raisonnement, usage d'outils et vision nettement améliorés, disponible via API.
Raisonnement avancéVisionProgrammationLong contexte
Impact. Premier Grok réellement compétitif face aux modèles propriétaires établis.
07/2024Meta
Llama 3.1 405B
Premier Llama à 405 milliards de paramètres, contexte de 128 000 tokens, présenté comme le premier modèle ouvert rivalisant avec les meilleurs modèles fermés.
Open-weightLong contexteMultilingueRaisonnement avancé
Impact. Tournant pour la crédibilité de l'open source face au propriétaire.
06/2024Anthropic
Claude 3.5 Sonnet
Dépasse Claude 3 Opus tout en étant moins cher et plus rapide, avec un bond notable en programmation.
ProgrammationRaisonnement avancéVisionLong contexte
Impact. Le modèle de milieu de gamme dépasse le haut de gamme de la génération précédente.
05/2024DeepSeek
DeepSeek V2
Architecture MoE avec attention latente multi-têtes, qui réduit fortement le coût d'inférence.
Raisonnement avancéLong contexteOpen-weightMultilingue
Impact. Première rupture technique majeure de DeepSeek et base de sa réputation d'efficacité.
05/2024OpenAI
GPT-4o
Premier modèle nativement multimodal en temps réel, texte, image et audio dans un seul réseau, avec une latence vocale proche de l'humain.
VisionAudioMultimodalitéMultilingueProgrammation
Impact. Premier assistant vocal en temps réel de qualité conversationnelle, rendu gratuit à grande échelle.
04/2024Meta
Llama 3
Entraîné sur plus de 15 000 milliards de tokens, avec un saut qualitatif en raisonnement et en code.
Open-weightProgrammationRaisonnement avancéMultilingue
Impact. Confirme Llama comme référence open-weight face aux modèles propriétaires.
03/2024Anthropic
Claude 3 (Opus, Sonnet, Haiku)
Première gamme à 3 tailles chez Anthropic, avec vision multimodale sur les 3 modèles et une quasi-parité avec GPT-4.
Raisonnement avancéVisionMultimodalitéLong contexteMultilingue
Impact. Fait entrer Anthropic dans la cour des modèles multimodaux de premier plan.
02/2024Google DeepMind
Gemini 1.5 Pro
Fenêtre de contexte inédite de 1 million de tokens, soit environ 1 heure de vidéo ou 700 000 mots, avec une architecture MoE.
Long contexteMultimodalitéVidéoAudioRaisonnement avancé
Impact. Établit le long contexte comme avantage compétitif différenciant.
02/2024Mistral AI
Mistral Large
Premier modèle propriétaire haut de gamme de Mistral, conçu pour rivaliser avec GPT-4.
Raisonnement avancéProgrammationMultilingueDéploiement entrepriseLong contexte
Impact. Premier pas de Mistral vers le marché entreprise avec un modèle frontière.