Modèles de langage de grande taille : préformation à la carte
Le prochain atelier technique de la DG CNECT aura lieu le 14 juin 2022 (10–16CEST) via Zoom
combinaison des dernières technologies d’apprentissage profond et d’une infrastructure informatique lourde permet désormais aux organisations universitaires ou commerciales de construire des modèles linguistiques à partir de grandes quantités de données textuelles ou vocales. Ces modèles intègrent des informations utiles à la compréhension d’une langue, tel que son vocabulaire et la manière dont elle exprime le sens.
À partir de ces MLL pré-formés, d’autres organisations peuvent former des modèles supplémentaires pour leurs applications spécifiques (par exemple, la traduction automatique, le résumé, l’interaction de dialogue, la reconnaissance vocale) ou leurs domaines, en utilisant beaucoup moins de données et de puissance de calcul. C’est pourquoi le processus de « spécialisation » d’un modèle pré-entraîné a un impact important dans le domaine du traitement du langage naturel.
Organisé par le secteur Multilinguisme de la DG CNECT, l’atelier en ligne Large Language Models : pre-training with a twist aura lieu le 14 juin de 10 h à 16 h heure centrale de l'Est via Zoom. Au cours de cet atelier, qui s’adresse principalement au personnel des institutions de l’UE et des administrations publiques européennes, des intervenants de haut niveau discuteront de divers aspects des LLM préformés, tels que.. :
- comment utiliser les modèles disponibles dans les référentiels.
- comment spécialiser les modèles multilingues, par exemple pour la traduction automatique.
- comment tirer parti des modèles dans des cas d’utilisation spécifiques, au sein des administrations publiques et de l’industrie.
- comment prendre en compte les aspects juridiques des modèles.
L’événement fait partie d’une série d’ateliers techniques dans le cadre du projet ELRC, qui soutient le développement de eTranslation, le service de traduction automatique en ligne fourni par la Commission européenne, et un déploiement plus large des services de la DG en termes de ressources et d’outils linguistiques. Le programme détaillé de l’atelier est disponible sur la page web de l’événement.
Intéressé ? Alors, inscrivez-vous ici pour participer !