Dauphine Numérique - Nos recherches IA responsable
Vers une IA responsable au service de la société
Les progrès notables en matière d’intelligence artificielle (IA) accélèrent la mise en place de processus de décision plus efficaces. Cependant, confier la responsabilité d’un choix à une machine ou à un programme soulève d’importantes questions éthiques.
Qu’il s’agisse de la reproduction des biais présents dans les jeux de données ou de l’acceptabilité sociale des décisions prises, les questions posées sont à la fois technologiques, légales, sociétales et philosophiques. Certains acteurs s’engagent ainsi dans des technologies dites d’IA explicable, qui visent à permettre à des experts humains de comprendre les critères qui ont présidé aux choix effectués par les technologies d’IA.
Acceptabilité
Responsabilité sociale
Équité
Biais
Vie privée
Explicabilité
Applications
Les recherches en mathématiques et informatique à Dauphine - PSL, de très haut niveau scientifique, sont au cœur de démarches pluridisciplinaires impliquant sciences mathématiques et informatiques, et sciences humaines et sociales.
Il s’agit en premier lieu d’étudier et d’anticiper l’impact de ces algorithmes sur les organisations publiques et privées, de définir de nouveaux modes de gouvernance, et de concevoir, à partir d’échanges interdisciplinaires, des algorithmes conformes "by design" aux exigences démocratiques (absence de biais, préservation de la vie privée, explicabilité, sûreté, acceptabilité sociale).
Nos recherches dans les laboratoires de l'université
L'IA moderne pose des questions d’éthique relatives à la protection de la vie privée, la manipulation des données et l’explicabilité des modèles et résultats, mais aussi d'équité et de responsabilité sociale des algorithmes.
A l'avant-garde de la recherche dans ces domaines, nos actions couvrent l'apprentissage automatique sûr et de confiance, la responsabilité sociale des algorithmes, et la caractérisation des règles éthiques (normatives) et leur incorporation dans les mécanismes de décision automatisés.
Nos recherches
par thématiques
Apprentissage automatique de confiance
L'équipe-projet MILES rassemble des chercheurs issus de l'informatique théorique, des mathématiques appliquées et de la théorie des jeux.
Son intérêt pour la recherche couvre un large spectre du domaine de l'apprentissage automatique, allant de ses fondements théoriques aux applications.
- Apprentissage automatique fiable : Robustesse contre les attaques adverses, Modèles préservant la confidentialité (par exemple, confidentialité différentielle), Équité en apprentissage automatique
- IA explicable et interprétable : Inférence causale, Modèles parcimonieux
- Réseaux de neurones profonds compacts et économes en énergie
Applications : Santé · Jeux · Robotique · Vision par ordinateur · Art et sciences humaines
Responsabilité sociale des algorithmes
Depuis 2017, Dauphine – PSL et ses partenaires du DIMACS (the Center for Discrete Mathematics and Theoretical Computer Science, USA) et du 3AI Institute (Australie), ont initié une série de conférences internationales portant sur la responsabilité sociale des algorithmes.
Le but de ces manifestations, outre de définir précisément les questions de recherche dans une démarche interdisciplinaire, est de produire des corpus de connaissances pouvant éclairer les chercheurs, développeurs et décideurs.
Éthique, normes sociales et prise de décision équitable
Le choix social computationnel, domaine à la frontière de l'économie, de la théorie des jeux et de l'informatique, traite de la conception et de l'analyse des mécanismes de décision collective (ex. partage équitable de ressources) du point de vue de la caractérisation axiomatique des mécanismes de décision et de l’impact, sur leur faisabilité, de leur complexité algorithmique, de leurs besoins informationnels, et de leur vulnérabilité aux comportements stratégiques.
Les questions d'éthique (égalité, équité, etc.) trouvent dans le choix social computationnel les outils nécessaires pour leur étude, en particulier lorsque ceux-ci sont posés du point de vue de la décision automatisée comme en apprentissage automatique.
Dauphine-PSL via le LAMSADE dispose d'une tradition de recherche très ancrée en caractérisation axiomatique de la décision et héberge une école de renommée mondiale en choix social computationnel.
Nos chercheurs
BIOGRAPHIE : Economiste de formation, directeur de recherche CNRS. Ses recherches actuelles portent sur la régulation financière, la pénétration d’idées économiques dans la régulation publique et les décisions algorithmiques. Directeur de l'Ecole doctorale Sciences de la décision, des organisations, de la société et de l'échange.
MOTS-CLES : Droit, Ethique, Algorithmes
SELECTION DE PUBLICATIONS :
«Une comparaison d’applications de ‘justice prédictive’. Le cas du contentieux de l’indemnisation du licenciement abusif, 2012-2016. Prédictice, Dalloz-Jurisprudence chiffrée et JurisData Analytics », La semaine juridique, édition générale, octobre 2019 (avec Morgan Sweeney)
« Numérique, droit et justice », in : Philippe Bance et Jacques Fournier (dir), Numérique, Action publique, Services collectifs et démocratie, PURH, sous presse (avec Antoine Louvaris).
« How stock markets react to regulatory sanctions? Evidence from France », Applied Economics (2019, published online 17 Jul 2019), pp 1-9 - (avec Amir Rezaee)
BIOGRAPHIE : Depuis 2017, Professeur au laboratoire LAMSADE.
De 2009 à 2017, Professeur à l'Université Paris-Nord et Directeur de l'équipe "sciences des données" au laboratoire LIPN. En 2009, Thèse d'habilitation à l'université Paris-Dauphine. De 2002 à 2009, Maître de conférences au LAMSADE.MOTS-CLES : Machine learning et deep learning, Apprentissage par renforcement pour la robotique, Modèles interprétables, Applications en santé
SELECTION DE PUBLICATIONS :
Pinot R., Ettedgui R., Rizk G., Chevaleyre Y., Atif J., Randomization matters How to defend against strong adversarial attacks, International Conference on Machine Learning (ICML 2020)
Duburcq A., Chevaleyre Y, Bredeche N., Boéris G., Online trajectory planning through combined trajectory optimization and function approximation: Application to the exoskeleton Atalante. IEEE International Conference on Robotics and Automation (ICRA 2020), 3756-3762. Nominated for the Best Paper Award in Service Robotics.
Clertant M., Sokolovska N., Chevaleyre Y., Hanczar B., Interpretable Cascade Classifiers with Abstention, AISTATS 2019
BIOGRAPHIE : Docteur en informatique et directeur de recherche CNRS, ses intérêts de recherche s’articulent autour de l'intelligence artificielle et du choix social computationnel. Il est titulaire d’une chaire à l’Institut PRAIRIE.
MOTS-CLÉS : Intelligence artificielle, Décision, Choix social, Algorithmique
SÉLECTION DE PUBLICATIONS :
Brandt F., Conitzer V., Endriss U., Lang J., Procaccia AD. (2016), Handbook of Computational Social Choice. Cambridge University Press, ISBN 9781107446984
Lang J. (2018), Proceedings of the Twenty-Seventh International Joint Conference on Artificial Intelligence, IJCAI 2018, July 13-19, 2018, Stockholm, Sweden. ijcai.org 2018, ISBN 978-0-9992411-2-7
Lang J. (2020), Collective Decision Making under Incomplete Knowledge: Possible and Necessary Solutions. IJCAI 2020: 4885-4891.
BIOGRAPHIE : Ingénieur en informatique et docteur en mathématiques appliquées, Clément W. Royer est maître de conférences. Sa recherche s’articule autour de l’optimisation numérique pour les sciences de données ; il est notamment spécialiste de l'optimisation sans dérivées appliquée à des simulateurs coûteux.
MOTS-CLÉS : Optimisation sans dérivées, Optimisation non convexe, Complexité, Méthodes probabilistes
SÉLECTION DE PUBLICATIONS :
Royer C. W. and Wright S. J. (2018), Complexity analysis of second-order line-search algorithms for smooth nonconvex optimization, SIAM Journal on Optimization.
Gratton S., Royer C. W., Vicente L. N. and Zhang Z. (2019), Direct search based on probabilistic feasible descent for bound and linearly constrained problems, Computational Optimization and Applications.
Gratton S., Royer C. W., Vicente L. N. and Zhang Z. (2017), Complexity and global rates of trust-region methods based on probabilistic models, IMA Journal of Numerical Analysis.
BIOGRAPHIE : Ingénieur de formation et docteur en informatique, directeur de recherche CNRS (DRCE).
Intérêts de recherche actuels : théorie de la décision algorithmique, aide à la conception innovante des politiques publiques, responsabilité sociale des algorithmes, aide à la décision, recherche opérationnelle et IA.MOTS-CLÉS : Aide à la décision, Intelligence Artificielle, Responsabilité sociale des algorithmes, Politiques publiques
SÉLECTION DE PUBLICATIONS :
Fancello G., Tsoukiàs A. (2020), Learning urban capabilities from behaviours. A focus on visitors’ values for urban planning, in press in Socio-Economic Planning Sciences. DOI: 0.1016/j.seps.2020.100969.
Pluchinotta I., Kazakci A.O., Giordano R., Tsoukiàs A. (2019), Design Theory for generating alternatives in Public Decision-Making Processes, Group Decision and Negotiation, vol. 28, 341 - 374. DOI: 10.1007/s10726-018-09610-5
Pigozzi G., Tsoukiàs A., Viappiani P. (2016), Preferences in Artificial Intelligence, Annals of Mathematics and Artificial Intelligence, vol. 77, 361 - 401. DOI: 10.1007/s10472-015-9475-5.
BIOGRAPHIE : Il est maître de conférences en informatique au sein du LAMSADE et titulaire d’une chaire PRAIRIE. En lien avec l’IA explicable, son thème de recherche couvre les notions de causalité et de représentations de données complexes avec des applications biomédicales.
MOTS-CLÉS : Apprentissage contre-factuel, Apprentissage de représentation , Données structurées & graphes
SÉLECTION DE PUBLICATIONS :
Yamane I., Yger F., Atif J., & Sugiyama M. (2018, December). Uplift modeling from separate labels. In Proceedings of the 32nd International Conference on Neural Information Processing Systems
Yger F., Chevallier S., Barthélemy Q., & Sra S. (2020, September). Geodesically-convex optimization for averaging partially observed covariance matrices. In Asian Conference on Machine Learning.
Nos autres chercheurs
Alexandre Allauzen, Jamal Atif, Tristan Cazenave, Rida Laraki, Benjamin Negrevergne, Fabrice Rossi
Exemples de travaux
- Workshop interdisciplinaire SRA 2019 – Social Responsability of Algorithms
- Workshop interdisciplinaire SRA 2017 – Social Responsability of Algorithms
- Pinot, R., Meunier, L., Araujo, A., Kashima, H., Yger, F., Gouy-Pailler, C., Atif, J. Theoretical evidence for adversarial robustness through randomization. In Advances in Neural Information Processing Systems (pp. 11838-11848) (2019).
- Airiau S., Aziz H., Caragiannis I., Kruger J., Lang J., Peters D. Portioning Using Ordinal Preferences: Fairness and Efficiency. Peters IJCAI 2019 : 11-17
- Aziz H., Bouveret S., Caragiannis I., Giagkousi I., Lang J. Knowledge, Fairness, and Social Constraints. AAAI 2018 : 4638-4645
- Beynier A., Chevaleyre Y., Gourvès L., Harutyunyan A., Lesca J., Maudet N., Wilczynski A. Local envy-freeness in house allocation problems. Auton. Agents Multi Agent Syst. 33(5) : 591-627 (2019)
- Yamane I., Yger F., Atif J., Sugiyama, M. Uplift modeling from separate labels. In Advances in Neural Information Processing Systems (pp. 9927-9937) (2018).
- Clertant M., Sokolovska N., Chevaleyre Y., Hanczar, B. Interpretable Cascade Classifiers with Abstention. In The 22nd International Conference on Artificial Intelligence and Statistics (pp. 2312-2320) (2019, April)
- Pinot R., Morvan A., Yger F., Gouy-Pailler C., Atif J. Graph-based Clustering under Differential Privacy. UAI 2018 : 329-338