2024-2025

Avenue Victor Maistriau 8a
7000 Mons

Fiche ects de l'unité d'enseignement #3625 intitulée :

Natural language processing

Master en sciences de l'Ingénieur industriel / orientation Informatique / Cycle 2 Bloc 2
- option Intelligence artificielle et Big Data

Informations

Responsable d'UE : Jean-Sébastien LERAT

Bloc : MA2 Info

Période : 1^er quadrimestre

Durée : 15 h

Crédits : 1 ects

UE Prérequises : aucune

UE Corequises : aucune

Activité d'apprentissage (AA)

Natural language processing : 15 h, Jean-Sébastien LERAT

Connaissances et compétences préalables

Maîtrise des prérequis et des acquis d'apprentissage de l'unité d'enseignement Intelligence artificielle de la première année de master en sciences de l'ingénieur industriel en informatique de la haute école en Hainaut.

Contribution aux objectifs de développement durable

	Objectif 4 : Assurer l’accès de tous à une éducation de qualité, sur un pied d’égalité, et promouvoir les possibilités d’apprentissage tout au long de la vie 4.3 D’ici à 2030, faire en sorte que les femmes et les hommes aient tous accès dans des conditions d’égalité à un enseignement technique, professionnel ou tertiaire, y compris universitaire, de qualité et d’un coût abordable. 4.4 D’ici à 2030, augmenter considérablement le nombre de jeunes et d’adultes disposant des compétences, notamment techniques et professionnelles, nécessaires à l’emploi, à l’obtention d’un travail décent et à l’entrepreneuriat. 4.7 D’ici à 2030, faire en sorte que tous les élèves acquièrent les connaissances et compétences nécessaires pour promouvoir le développement durable, notamment par l’éducation en faveur du développement et de modes de vie durables, des droits de l’homme, de l’égalité des sexes, de la promotion d’une culture de paix et de non-violence, de la citoyenneté mondiale et de l’appréciation de la diversité culturelle et de la contribution de la culture au développement durable.
	Objectif 5 : Parvenir à l’égalité des sexes et autonomiser toutes les femmes et les filles 5.b Renforcer l’utilisation des technologies clefs, en particulier l’informatique et les communications, pour promouvoir l’autonomisation des femmes.
	Objectif 7 : Garantir l’accès de tous à des services énergétiques fiables, durables et modernes, à un coût abordable 7.1 D’ici à 2030, garantir l’accès de tous à des services énergétiques fiables et modernes, à un coût abordable. 7.2 D’ici à 2030, accroître nettement la part de l’énergie renouvelable dans le bouquet énergétique mondial. 7.3 D’ici à 2030, multiplier par deux le taux mondial d’amélioration de l’efficacité énergétique.
	Objectif 8 : Promouvoir une croissance économique soutenue, partagée et durable, le plein emploi productif et un travail décent pour tous 8.2 Parvenir à un niveau élevé de productivité économique par la diversification, la modernisation technologique et l’innovation, notamment en mettant l’accent sur les secteurs à forte valeur ajoutée et à forte intensité de main-d’oeuvre. 8.3 Promouvoir des politiques axées sur le développement qui favorisent des activités productives, la création d’emplois décents, l’entrepreneuriat, la créativité et l’innovation et stimulent la croissance des microentreprises et des petites et moyennes entreprises et facilitent leur intégration dans le secteur formel, y compris par l’accès aux services financiers. 8.4 Améliorer progressivement, jusqu’en 2030, l’efficience de l’utilisation des ressources mondiales du point de vue de la consommation comme de la production et s’attacher à ce que la croissance économique n’entraîne plus la dégradation de l’environnement, comme prévu dans le cadre décennal de programmation relatif à la consommation et à la production durables, les pays développés montrant l’exemple en la matière. 8.5 D’ici à 2030, parvenir au plein emploi productif et garantir à toutes les femmes et à tous les hommes, y compris les jeunes et les personnes handicapées, un travail décent et un salaire égal pour un travail de valeur égale. 8.6 D’ici à 2020, réduire considérablement la proportion de jeunes non scolarisés et sans emploi ni formation. 8.8 Défendre les droits des travailleurs, promouvoir la sécurité sur le lieu de travail et assurer la protection de tous les travailleurs, y compris les migrants, en particulier les femmes, et ceux qui ont un emploi précaire. 8.b D’ici à 2020, élaborer et mettre en oeuvre une stratégie mondiale en faveur de l’emploi des jeunes et appliquer le Pacte mondial pour l’emploi de l’Organisation internationale du Travail.
	Objectif 9 : Bâtir une infrastructure résiliente, promouvoir une industrialisation durable qui profite à tous et encourager l’innovation 9.1 Mettre en place une infrastructure de qualité, fiable, durable et résiliente, y compris une infrastructure régionale et transfrontière, pour favoriser le développement économique et le bien-être de l’être humain, en mettant l’accent sur un accès universel, à un coût abordable et dans des conditions d’équité. 9.2 Promouvoir une industrialisation durable qui profite à tous et, d’ici à 2030, augmenter nettement la contribution de l’industrie à l’emploi et au produit intérieur brut, en fonction du contexte national, et la multiplier par deux dans les pays les moins avancés. 9.3 Accroître, en particulier dans les pays en développement, l’accès des entreprises, notamment des petites entreprises industrielles, aux services financiers, y compris aux prêts consentis à des conditions abordables, et leur intégration dans les chaînes de valeur et sur les marchés. 9.4 D’ici à 2030, moderniser l’infrastructure et adapter les industries afin de les rendre durables, par une utilisation plus rationnelle des ressources et un recours accru aux technologies et procédés industriels propres et respectueux de l’environnement, chaque pays agissant dans la mesure de ses moyens. 9.5 Renforcer la recherche scientifique, perfectionner les capacités technologiques des secteurs industriels de tous les pays, en particulier des pays en développement, notamment en encourageant l’innovation et en augmentant considérablement le nombre de personnes travaillant dans le secteur de la recherche et du développement pour 1 million d’habitants et en accroissant les dépenses publiques et privées consacrées à la recherche et au développement d’ici à 2030. 9.b Soutenir la recherche-développement et l’innovation technologiques nationales dans les pays en développement, notamment en instaurant des conditions propices, entre autres, à la diversification industrielle et à l’ajout de valeur aux marchandises. 9.c Accroître nettement l’accès aux technologies de l’information et de la communication et faire en sorte que tous les habitants des pays les moins avancés aient accès à Internet à un coût abordable d’ici à 2020.
	Objectif 10 : Réduire les inégalités dans les pays et d’un pays à l’autre 10.2 D’ici à 2030, autonomiser toutes les personnes et favoriser leur intégration sociale, économique et politique, indépendamment de leur âge, de leur sexe, de leurs handicaps, de leur race, de leur appartenance ethnique, de leurs origines, de leur religion ou de leur statut économique ou autre. 10.4 Adopter des politiques, notamment sur les plans budgétaire, salarial et dans le domaine de la protection sociale, et parvenir progressivement à une plus grande égalité. 10.7 Faciliter la migration et la mobilité de façon ordonnée, sans danger, régulière et responsable, notamment par la mise en oeuvre de politiques de migration planifiées et bien gérées.
	Objectif 11 : Faire en sorte que les villes et les établissements humains soient ouverts à tous, sûrs, résilients et durables 11.4 Renforcer les efforts de protection et de préservation du patrimoine culturel et naturel mondial. 11.6 D’ici à 2030, réduire l’impact environnemental négatif des villes par habitant, y compris en accordant une attention particulière à la qualité de l’air et à la gestion, notamment municipale, des déchets. 11.a Favoriser l’établissement de liens économiques, sociaux et environnementaux positifs entre zones urbaines, périurbaines et rurales en renforçant la planification du développement à l’échelle nationale et régionale. 11.b D’ici à 2020, accroître considérablement le nombre de villes et d’établissements humains qui adoptent et mettent en œuvre des politiques et plans d’action intégrés en faveur de l’insertion de tous, de l’utilisation rationnelle des ressources, de l’adaptation aux effets des changements climatiques et de leur atténuation et de la résilience face aux catastrophes, et élaborer et mettre en œuvre, conformément au Cadre de Sendai pour la réduction des risques de catastrophe (2015-2030), une gestion globale des risques de catastrophe à tous les niveaux.
	Objectif 12 : Établir des modes de consommation et de production durables 12.2 D’ici à 2030, parvenir à une gestion durable et à une utilisation rationnelle des ressources naturelles. 12.5 D’ici à 2030, réduire considérablement la production de déchets par la prévention, la réduction, le recyclage et la réutilisation. 12.8 D’ici à 2030, faire en sorte que toutes les personnes, partout dans le monde, aient les informations et connaissances nécessaires au développement durable et à un style de vie en harmonie avec la nature.
	Objectif 13 : Prendre d’urgence des mesures pour lutter contre les changements climatiques et leurs répercussions 13.3 Améliorer l’éducation, la sensibilisation et les capacités individuelles et institutionnelles en ce qui concerne l’adaptation aux changements climatiques, l’atténuation de leurs effets et la réduction de leur impact et les systèmes d’alerte rapide.
	Objectif 16 : Promouvoir l’avènement de sociétés pacifiques et ouvertes aux fins du développement durable, assurer l’accès de tous à la justice et mettre en place, à tous les niveaux, des institutions efficaces, responsables et ouvertes 16.6 Mettre en place des institutions efficaces, responsables et transparentes à tous les niveaux. 16.b Promouvoir et appliquer des lois et politiques non discriminatoires pour le développement durable.
	Objectif 17 : Renforcer les moyens de mettre en oeuvre le Partenariat mondial pour le développement durable et le revitaliser 17.7 Promouvoir la mise au point, le transfert et la diffusion de technologies respectueuses de l’environnement en faveur des pays en développement, à des conditions favorables, y compris privilégiées et préférentielles, arrêtées d’un commun accord. 17.14 Renforcer la cohérence des politiques de développement durable. 17.17 Encourager et promouvoir les partenariats publics, les partenariats public-privé et les partenariats avec la société civile, en faisant fond sur l’expérience acquise et les stratégies de financement appliquées en la matière.

Contribution aux objectifs du référentiel de compétences de l'ARES

Identifier, conceptualiser et résoudre des problèmes complexes
- Intégrer les savoirs scientifiques et technologiques afin de faire face à la diversité et à la complexité des problèmes rencontrés
- Concevoir, développer et améliorer des produits, processus et systèmes techniques
- Sélectionner et exploiter les logiciels et outils conceptuels les plus appropriés pour résoudre une tâche spécifique
- Établir ou concevoir un protocole de tests, de contrôles et de mesures.
Concevoir et gérer des projets de recherche appliquée
- Réunir les informations nécessaires au développement de projets de recherche
- Réaliser des simulations, modéliser des phénomènes afin d’approfondir les études et la recherche sur des sujets technologiques ou scientifiques
- Mener des études expérimentales, en évaluer les résultats et en tirer des conclusions
- Valider les performances et certifier les résultats en fonction des objectifs attendus
- Exploiter les résultats de recherche
S’intégrer et contribuer au développement de son milieu professionnel
- Travailler en autonomie et en équipe dans le respect de la culture d’entreprise
Entreprendre et innover, dans le cadre de projets personnels ou par l’initiative et l’implication au sein de l’entreprise
- Intégrer les enjeux sociétaux, économiques et environnementaux dans ses décisions
- Dépasser les cadres ou les limites d’un problème et apporter des solutions innovantes
Communiquer face à un public de spécialistes ou de non-spécialistes, dans des contextes nationaux et internationaux
- Intégrer les réalités culturelles dans un contexte national et international
S’engager dans une démarche de développement professionnel
- Actualiser ses connaissances et s’engager dans les formations complémentaires adéquates

Acquis d'apprentissage spécifiques

Utiliser la terminologie du domaine.
Définir chaque terme du domaine.
Expliquer et illustrer les grands principes et algorithmes standards.
Choisir une solution de traitement automatique des langues adaptée à un problème donné.
Choisir les hyperparamètres et entraîner un méta-modèle.
Comparer les performances entre deux modèles distincts.
Construire une solution complète de traitement automatique des langues par rapport à un problème donné.
Evaluer un modèle ou solution de traitement automatique des langues, argumenter et justifier les performances.

Contenu de l'AA

Terminologie
Expression régulière
Grammaire
Tokenization
Stemming (Racinisation/désuffixation) & Lemmatization
Métrique (Edit Distance, Cosine)
N-gram Language Models
Naive Bayes
Semantic
Large language models
Speech Tagging

Répartition des heures

10 h de théorie, 5 h d'exercices/Labos

Méthodes d'enseignement

Cours magistral, approche par projets, approche avec TIC

Langues d'enseignement

Français

Supports

Copies de présentations, protocoles de laboratoires

Ressources bibliographiques

Jurafsky, D., & Martin, J. H. (2009). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition.

Jurafsky, D., & Martin, J. H. (2024, 3th draft). Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models.

Nugues, P. M. (2006). An Introduction to Language Processing with Perl and Prolog: An Outline of Theories, Implementation, and Application with Special Consideration of English, French, and German. Allemagne: Springer Berlin Heidelberg.

Rao, D., McMahan, B. (2019). Natural Language Processing with PyTorch: Build Intelligent Language Applications Using Deep Learning. (n.p.): O'Reilly Media.

Tunstall, L., Werra, L. v., Wolf, T. (2022). Natural Language Processing with Transformers, Revised Edition. États-Unis: O'Reilly Media.

Vajjala, S., Majumder, B., Gupta, A., Surana, H. (2020). Practical Natural Language Processing: A Comprehensive Guide to Building Real-World NLP Systems. États-Unis: O'Reilly Media.

Évaluation et pondération

Méthode d'évaluation : note globale à l'UE

Langues d'évaluation : français, anglais

Modalités d'évaluation :

Evaluation et présentation d'un travail à réaliser en groupe (2 personnes).