Les technologies de l’information et de la communication transforment la société. Les algorithmes sont au coeur de toutes les attentions: objets industriels fondamentaux pour les entreprises, ils sont souvent perçus comme des "boites-noires" par les utilisateurs confrontés à leurs décisions.
Ce constat ne va qu'en s'amplifiant avec le déploiement continu de solutions à base d'apprentissage machine, dont les dernières avancées techniques (réseaux de neurones profonds) fournissent des décisions qui sont inexplicables par construction.
L'objectif de cet atelier est de questionner ces boites-noires, leur nature, leur conception, et plus généralement leur impact sur leurs usagers et sur la société.
La visée pluridisciplinaire et transversale de l'atelier cherchera par exemple à aborder des sujets tels que:
- Les biais de traitement des algorithmes, et les moyens de quantifier ce biais?
- L'implémentabilité de la notion de bien commun ?
- Quels outils et quelles métriques pour un audit citoyen des algorithmes ?
- Quelle responsabilité pour les concepteurs d'algorithmes opaques ?
- Les moyens pour l'utilisateur d'observer et d'appréhender les résultats des algorithmes en boite-noire pour construire une compréhension.
- L'évolution de la société face au nombre grandissant de boites-noires à visées décisionnelles automatiques, et le manque avéré d'explications des décisions.
- Quelles notions d'éthique dans le développement courant de ces boites-noires? Sont elles suffisantes et satisfaisantes ?
- Le traitement des données personnelles des utilisateurs, la notion de consentement et celle de la compréhension. Comment exercer un contrôle sur le traitement de nos données critiques ?
Vous pouvez trouver ici une affiche de l'atelier et l'appel à participication.