L'intelligence artificielle - une perspective de données
L'État devrait-il réglementer les applications de l'intelligence artificielle - et si oui, de quelle manière ? Cette question était au centre d'un petit-déjeuner organisé par Swiss Data Alliance le 30 août 2023.
Breakfast Event avec Jonas Bärtschi (modérateur), Judith Bellaiche et Abraham Bernstein (de g. à dr.)
Judith Bellaiche, directrice de Swico et conseillère nationale (PVL/Zurich), ainsi qu'Abraham Bernstein, professeur d'informatique à l'université de Zurich, ont participé à la table ronde.
Les principaux plats à emporter :
L'intelligence artificielle est utilisée pour des tâches qui nécessitaient jusqu'à présent l'intelligence humaine. Cela attise les craintes, notamment au vu de l'évolution rapide de la technologie.
Les applications de l'intelligence artificielle rendent visibles les tendances sociales ("biais") dans leur mise à l'échelle. Cela peut aider à s'attaquer à ces dysfonctionnements (p. ex. l'inégalité salariale entre les sexes).
Il ne faut jamais oublier que tout algorithme a des défauts, que toutes les données ont des lacunes de qualité et qu'elles présentent un biais.
Avec l '"AI Act", l'Union européenne envisage de classer les technologies d'IA en "classes de risque". Cela signifie qu'une autorité devrait examiner et classer les applications individuelles.
L'AI Act a suscité un vaste débat sur le sujet. Il faut s'en féliciter.
Jusqu'à présent, la Suisse ne connaît pas de lois spécifiques à la technologie. Il est judicieux de continuer à rester fidèle à ce principe.
La responsabilité est un sujet important. Cela implique que les responsabilités respectives soient clarifiées dans les chaînes d'approvisionnement. D'autre part, les utilisateurs finaux ne doivent pas être mis sous tutelle, mais doivent apprendre à utiliser l'application de manière judicieuse.
Une étape importante serait la traçabilité ("tracing") ainsi qu'une plus grande transparence quant à l'origine(provenance) des données d'entraînement utilisées pour les applications d'intelligence artificielle. Une étude de l'université de Zurich a par exemple montré qu'un pourcentage à deux chiffres des fichiers d'images utilisés pour l'entraînement d'une IA n'était plus en ligne. Il n'est pas non plus possible de vérifier si une autre image a été enregistrée sous le même nom de fichier.
Le débat sur le droit d'auteur ne doit pas conduire à un Internet "fermé". Du point de vue de Swiss Data Alliance , l'Open Data et l'Open Knowledge restent des préoccupations centrales qui profitent à l'ensemble de la société.
