Les systèmes d’intelligence artificielle (IA) sont de plus en plus utilisés dans divers aspects de notre société. Cependant, nous ne savons pas toujours comment les algorithmes fonctionnent et si les choix qu’ils font sont justes. Pour résoudre ce problème, Carmen Mazijn, spécialiste de l’IA à la VUB, a mené une recherche dont la question centrale était : "Comment pouvons-nous mieux comprendre les systèmes d’IA afin qu’ils n’aient pas un impact négatif sur notre société en prenant des décisions injustes et en opérant des discriminations ?"
Mazijn a mené des recherches interdisciplinaires dans le cadre de son doctorat, associée au Data Analytics Laboratory de la Faculté des sciences sociales et de la Solvay Business School et au groupe de recherche en physique appliquée de la Faculté des sciences et de bioingénierie. Elle a travaillé sur les algorithmes de décision : Des systèmes d’IA qui soutiennent les décisions humaines ou même remplacent complètement les humains dans le processus de prise de décision. Par exemple, dans une procédure de sélection, un modèle d’IA peut faire des choix apparemment égaux entre les hommes et les femmes, mais lorsque l’algorithme est examiné de près, ces choix peuvent être motivés de manière totalement différente pour les hommes et les femmes.
"L’algorithme peut parfois prendre des décisions apparemment justes, mais pas toujours pour les bonnes raisons", explique M. Mazijn. "Pour savoir avec certitude si un système d’IA est biaisé ou s’il fait des choix socialement acceptables, il faut casser le système et les algorithmes.
Au cours de son doctorat, Mme Mazijn a mis au point une technique de détection, appelée LUCID, qui permet de décrypter ces algorithmes d’IA et d’examiner si le système utilise une logique acceptable. Cette technique permet de vérifier si le système peut être utilisé dans le monde réel. En outre, au cours de ses recherches, elle a remarqué que les systèmes d’IA interagissaient facilement entre eux et que des boucles de rétroaction problématiques pouvaient apparaître en raison de la partialité de l’un ou de plusieurs d’entre eux.
"Un service de police peut utiliser l’IA pour déterminer dans quelles rues il convient de déployer davantage de patrouilles", donne en exemple M. Mazijn. "Par conséquent, en déployant plus de patrouilles, plus d’infractions sont également identifiées. Lorsque ces données sont réinjectées dans le système d’IA, un biais, présent ou non, est renforcé et vous obtenez une prophétie auto-réalisatrice."
Le message clé est que les systèmes d’IA doivent être utilisés intelligemment et que les effets à long terme doivent également être pris en compte. Afin de rendre les résultats de la recherche accessibles, Mme Mazijn a également formulé des recommandations politiques visant à clarifier la manière dont les connaissances techniques et sociales de son doctorat peuvent être appliquées.
La thèse a été publiée le 7 septembre 2023 sous le titre : "Black Box Revelation : Interdisciplinary Perspectives on Bias in AI" et a été supervisée par Vincent Ginis et Jan Danckaert.
Suivez-nous sur twitter @VUBrussels
La Vrije Universiteit Brussel est une université à vocation internationale située à Bruxelles, au cOEur de l’Europe. En proposant une recherche de haute qualité et un enseignement sur mesure, la VUB vise à apporter une contribution active et engagée à une société meilleure.
Le monde a besoin de vous
La VUB assume sa responsabilité scientifique et sociale avec amour et vigueur. La VUB a donc lancé la plateforme "The World Needs You" (Le monde a besoin de vous). Ici, les idées, les actions et les projets sont rassemblés, lancés et développés autour de six P. Le premier P signifie "People", car c’est de cela qu’il s’agit : donner aux gens des chances égales, la prospérité, le bien-être, le respect. La paix est synonyme de lutte contre les injustices, petites et grandes, dans le monde. La prospérité s’attaque à la pauvreté et aux inégalités. Planète est synonyme d’action sur la biodiversité, le climat, la qualité de l’air, les droits des animaux, etc. Avec Partnership, la VUB recherche des partenariats pour rendre le monde meilleur. Le sixième et dernier P est celui de Poincaré, le philosophe français Henri Poincaré, dont la VUB tire son slogan selon lequel la pensée ne doit se soumettre à rien d’autre qu’aux faits eux-mêmes. La VUB est une "université urbaine engagée", fortement ancrée à Bruxelles et en Europe et travaillant selon les principes de la libre recherche. www.vub.be/dewereldheeftjenodig