De fait, le perfectionnement des techniques d’apprentissage qui s’appuient sur des bases de données toujours plus volumineuses ouvre de nouvelles opportunités. Mais comme pour toute innovation technologique s’opposent des discours enthousiastes et critiques : tantôt ces technologies constituent un axe majeur d’innovation et de progrès, tantôt une menace pour l’humanité. Pour les utilisateurs, la situation est paradoxale : ils oscillent entre une perception positive des services rendus et une inquiétude face à l’exploitation de leurs traces. Les IA de nouvelle génération (foundation models, GenAI, large language models) font revivre les craintes d'une vraie "intelligence".
L’objectif de ce cours est d'analyser les fondements des critiques et de les mettre en regard de ce que "font" vraiment les technologies. Autrement dit, il s'agit de prendre au sérieux les discours mais de les confronter à la réalité des usages. Seront examinés dans le cours les différents sujets de controverse : que fait l'IA à l'emploi, aux relations sociales, à la protection de la personne, aux inégalités... Le travail d'enquête permettra de sortir des discours pour examiner les problèmes réels : biais, explicabilité, équité...
Des chercheurs provenant de différentes disciplines des sciences sociales (droit, économie, sociologie) et des experts de l'intelligence artificielle présenteront la question depuis leur discipline. L'enseignement sera majoritairement en français, avec quelques exceptions (Winston Maxwell).
Les grands thèmes du cours sont:
Introduction aux droits fondamentaux, à l’éthique et à la pondération des objectifs en conflit (test de proportionnalité) dans un projet numérique à haut risque, avec mise en situation
Les différents types d’IA (symbolique, machine learning, modèles de fondation, GPT-4) et les risques inhérents à chaque type de modèle.
L’équité, les biais algorithmiques et les biais humains. Les algorithmes sont biaisés, mais souvent moins que les humains. L’équité parfaite est inatteignable, que ce soit pour une machine ou un humain. Comment définir une équité imparfaite, mais acceptable?
Le contrôle humain des systèmes algorithmiques - qu’est-ce qu’un contrôle humain effectif, et pour quoi faire?
L’explicabilité des algorithmes - faut-il nécessairement comprendre le fonctionnement du modèle pour le déployer?
La cartographie des acteurs de l’écosystème de l’IA, leurs influences, les controverses
Qu’est-ce qu’une IA éthique et à quoi sert le débat éthique?
L’IA Act et le RGPD pour un projet IA à haut risque (par exemple reconnaissance faciale)
Les normes, et l’évaluation d’une IA “de confiance”
La “responsabilisation” (accountability) et la gestion des risques pour un système IA à haut risque
Natural language processing has given rise to innumerable industrial applications.
While many new tasks have emerged in NLP and speech processing over
the last decades, methods to solve them have increasingly converged towards
a unified modeling paradigm. In this course, we will use sequence-to-sequence
modeling to delve into state-of-the-art statistical machine learning methods —
convolutional neural networks, recurrent neural networks, attention, transformers
— and apply them to major NLP and speech processing tasks — language
modeling, machine translation, speech recognition, information extraction. Students
should expect to get an in-depth understanding of these methods, through
theoretical analysis and hands-on lab sessions. Grading will involve a project,
to be carried out over the course of the class.
Topics to be covered
1. Recurrent Neural Networks
2. Hidden Markov models
3. Attention Mechanisms
4. Transformers
5. Convolutional Neural Networks
6. Language Modeling
This course aims at providing the bases of symbolic AI, along with a few selected advanced topics.
It includes courses on formal logics, ontologies, symbolic learning, typical AI topics such as revision, merging, etc., with illustrations on preference modeling and image understanding.
Beyond the traditional applications of Language Models in natural language processing-oriented tasks such as sentiment analysis, fake news detection, etc., the language models have been leveraged across a broad spectrum of other tasks involving structured data such as graphs, databases, tables, etc. This course is tailored to take into account the merits and demerits of employing language models and conventional approaches for tackling tasks related to structured data. Starting with an exploration of basic concepts in language modeling to large language models, low rank adaptation (LoRA), quantization, prompt engineering and retrieval augmented generation, the curriculum progressively will move towards the interplay between language models and structured data. This course will focus on diverse applications such as learning representations over tables and graphs, language models as knowledge bases, Text to SQL, and Question Answering over Structured Data. The course will be graded based on hands-on lab sessions, projects, and presentations of the projects.
