Discour d'introduction :

Nous tenons tout d'abord à vous remercier de votre intérêt pour ce second atelier abordant la problématique de l'opacité des algorithmes.


Justement: "Algorithmes", "IA", "boites noires", "bulles informationnelles", "chambres d'écho", "biais", "nature discriminatoire d'une décision", "équité", "transparence"...  Beaucoup de termes souvent lancés au grand public sans un approfondissement qui permettrait de les appréhender sereinement. Technicité ? Sûrement, mais cette technicité ci ne participerait elle pas à mettre l'utilisateur et le citoyen de côté, pour poursuivre un but pas toujours si confortablement exposable ?


Du classement de l'information par les moteurs de recherche au placement des étudiants dans les écoles du second cycle, des algorithmes de recommandation de contenu aux décisions de délivrer un crédit, de la priorisation des receveurs d’organes au crédit social Chinois, la surface d'exposition à ces algorithmes croît de manière phénoménale. A mesure où l'application des algorithmes déborde le domaine de l'informatique pour impacter des pans entiers de la société, la loi, les usages, il nous semble important de croiser les perspectives et sortir de la sphère technique, pour la mise en perspective des diverses facettes de la problématique.


Dans le contexte d'une volonté de transparence, un algorithme mis à disposition du public au travers d'un code source ouvert lèvera l'obscurité de son fonctionnement et permettra une certaine forme d’audit citoyen. Si l'on parle maintenant d'un algorithme, ou alors d’une implémentation d’algorithme, opéré sur des serveurs privés, cela revient à considérer des boîtes noires ne permettant aucune forme d’audit et rendant opaque leur fonctionnement. Leur omniprésence appelle une réaction.


Les exemples de dysfonctionnements et de prise de conscience d'une partie de la société de la nature opaque des décisions algorithmiques sont maintenant nombreux. Comment alors réagir et dépasser la simple critique sur chaque cas particulier, pour questionner la pratique de mise en boîte noire des algorithmes en général ?


La position centrale des traitements algorithmiques dans la circulation de l'information de notre société nous effraie. Aucun algorithme ne remplacera les objecteurs de conscience et lanceurs d'alerte qui ont historiquement constitué des filets de sécurité bienvenus contre les dérives de nos systèmes.


Il semble également crucial de questionner la responsabilité des concepteurs d'algorithmes, et de leurs commanditaires. Certaines entreprises commencent ainsi à mettre en place des mécanismes explicant des décisions à la demande de l'utilisateur. Cependant, certaines études ont montré que ces explications sont incomplètes ou peuvent masquer les raisons réelles des décisions prises par ces algorithmes. Est ce une tentative de se soustraire à une transparence réelle, derrière une couche de technicité ? 


Ajoutons à cela l'impossibilité technique de fait d'expliquer simplement les décisions des omniprésents  réseaux de neurones. et notre compréhension somme toute parcellaire de leur alchimie (pour reprendre les termes du débat LeCun/Rahimi).


Ainsi les questions pour cette journée, et en général, sont multiples :


Cette liste très partielle appelle de nombreuses questions de votre part également. Certains de ces points seront abordés par nos invités, ou nous l'espérons au cours des tables rondes, que nous espérons les plus ouvertes et constructives possibles.


Voici le programme de cette deuxième éditions que nous avons voulu plus large afin d’embrasser au mieux les multiples dimensions de ce problème. [projection du programme] La journée est divisée en deux sessions, la première abordant les questions sociétales et la seconde la mise en place de la transparence. Cette distinction est passablement arbitraire, et régie par des impératifs organisationnels; en aucun cas on sous-entend que ces approches sont indépendantes. Deux tables rondes seront organisées :

Nous comptons sur votre participation à tous.


Nous souhaitons remercier chaleureusement les intervenants, les sponsors qui ont permis cet événement (malgré des difficultés et trois changements de salle). A noter que les présentations seront enregistrées et mises en ligne.