séminaire philosophie et IA

Titre : “Que sont vraiment les grands modèles de langues ?”

Résumé : Les grands modèles de langue ne sont pas seulement des systèmes de génération de texte : ce sont des systèmes de médiation de l'information, dont la généralisation constitue une quatrième révolution de l'accès à l'information, après l'écriture, l'imprimerie et le Web. Dans les systèmes récents, cette médiation s'appuie à la fois sur les informations vues pendant le pré-entraînement et sur celles récupérées à la volée par des outils externes, notamment des moteurs de recherche. Mais cette médiation ne peut être neutre. Les LLM sont culturellement, éthiquement et politiquement orientés en conséquence des biais de représentation, notamment linguistiques et culturels, présents dans les données de pré-entraînement et d'alignement, biais qui résultent pour partie de choix délibérés. Et les LLM s'inscrivent dans une écologie informationnelle où narratifs produits à dessein, données synthétiques et benchmarks contaminés influencent à la fois les modèles et leur évaluation. À ces limites épistémiques s'ajoute une limite fonctionnelle : les LLM produisent vite des réponses plausibles, mais échouent souvent lorsque répondre exige d'enchaîner plusieurs étapes, d'explorer des hypothèses ou d'exploiter correctement des informations explicites. Les « reasoning models » cherchent à répondre à cette limite en produisant, avant la réponse proprement dite, des tokens qui miment la trace linguistique d'un raisonnement. Mais ce « reasoning » est-il vraiment un raisonnement ? J'aborderai cette question au travers de l'étude des performances des LLM en traduction automatique et des conditions sous lesquelles ce « reasoning » peut leur permettre d'améliorer la qualité des traductions produites, notamment par l'intégration de grammaires, de dictionnaires bilingues, d'exemples sélectionnés ou de décompositions intermédiaires. Je conclurai par quelques questions prospectives : quelles évolutions peut-on attendre de ces modèles ? La course à la performance est-elle soutenable écologiquement et économiquement ? Et quelle place reste-t-il à la recherche académique dans un domaine dominé par quelques grands acteurs privés ?