Faits saillants du Symposium sur la protection de la vie privée et l’IA générative
Ce symposium qui a eu lieu le 7 décembre 2023, à Ottawa, au Canada
Discours d’ouverture – Philippe Dufresne, Commissaire à la protection de la vie privée du Canada
Le Commissaire Dufresne a fait valoir l’importance de réunir les principales parties prenantes afin d’examiner les défis et les possibilités que présente la technologie d’IA générative. Dans son allocution, il a comparé la situation actuelle de l’IA générative à celle du tout début de l’aviation commerciale, lorsqu’une liste de contrôle de sécurité a été mise en place avant que les passagers puissent profiter pleinement des nouvelles possibilités offertes par le transport aérien. Le Commissaire a fait le point sur les récentes mesures prises au Canada et ailleurs dans le monde visant à réglementer l’IA et à promouvoir le développement sûr et responsable de celle-ci. Il a notamment parlé de la déclaration émise en juin par la Table ronde des autorités de protection des données et de la vie privée du G7, de la résolution adoptée en octobre par l’Assemblée mondiale pour la protection de la vie privée et de la déclaration de Bletchey émise en novembre, laquelle a été signée par le Canada. À cela s’ajoute le lancement des principes de développement et d’utilisation responsable de l’IA générative par le Commissaire, principes qui ont été élaborés par les autorités fédérale, provinciales et territoriales chargées de la protection de la vie privée.
Allocution principale – Dr Gary Marcus
Gary Marcus a parlé des mythes et des réalités de la situation actuelle de l’IA générative. Il a fait remarquer que les modèles récents d’IA sont loin d’être parfaits et que ce n’est pas demain qu’une véritable IA générative verra le jour. Pour appuyer son propos, il a fait observer que les exemples de grands modèles linguistiques accessibles au grand public génèrent de la mésinformation, des hallucinations et des mensonges, tout en semblant convaincants et légitimes. M. Marcus a également affirmé que les tout récents modèles d’IA générative ne permettent pas nécessairement de résoudre ces problèmes, soutenant que les entreprises œuvrant dans le monde des technologies ne manquent pas de données d’entraînement et qu’on ne voit pourtant pas la performance des technologies s’améliorer. Enfin, M. Marcus a fait valoir que les intérêts des technologues ne s’harmonisent pas à ceux de l’humanité et qu’il est nécessaire que les gouvernements et des chercheurs indépendants participent à l’élaboration de la réglementation sur l’IA afin qu’elle soit efficace.
Groupe d’experts 1 – Technologie d’IA générative : possibilités et risques
Au cours de cette séance, on a insisté sur le fait que la gouvernance de l’IA est une responsabilité collective que porte l’humanité et que, bien que l’IA puisse offrir des avantages incroyables, elle doit faire l’objet d’une réglementation efficace afin de prévenir les effets négatifs. Des experts de l’industrie, du gouvernement et du milieu universitaire ont expliqué dans quelle mesure les avancées en traitement en temps réel ont permis des utilisations novatrices de l’IA dans les secteurs des soins de santé et de l’automobile. Ils ont également fait remarquer que l’IA a la capacité de répandre la désinformation, de miner le marché du travail et d’aggraver les préjugés et le racisme envers les minorités et les communautés racialisées. Les experts ont réclamé une plus grande coordination internationale en ce qui concerne les modalités et la gouvernance encadrant les technologies de l’IA dans le but de renforcer la confiance des citoyens.
Groupe d’experts 2 – IA générative : gouvernance, normes et réglementation
Le deuxième groupe d’experts s’est concentré sur le rôle que peuvent jouer les normes, les ententes internationales et la législation nationale dans la constitution d’une réglementation efficace des technologies de l’IA. Les experts ont indiqué que la Loi sur l’intelligence artificielle et les données (qui fait partie du projet de loi C-27) propose un cadre général de gouvernance de l’IA qui peut offrir une certaine souplesse sans pour autant limiter les usages et la réglementation de secteurs précis. Les experts ont également abordé le rôle du gouvernement dans la mise en œuvre de normes et dans la promotion d’une approche polyvalente de la réglementation de l’IA qui comprend une vue d’ensemble des utilisations de celle-ci. En outre, ils ont fait remarquer que, bien que des définitions et des normes communément acceptées permettraient une interopérabilité à l’échelle mondiale, elles devraient tout de même représenter une norme commune qui s’applique au plus grand nombre et non au plus petit dénominateur commun – et y arriver demandera du temps et un effort soutenu.
Groupe d’experts 3 – Innovation et droits de la personne dans le contexte de l’IA générative
Le dernier groupe d’experts du Symposium s’est penché sur la relation entre les technologies de l’IA générative et les droits de la personne. Les experts ont parlé des usages des technologies de l’IA qui peuvent porter atteinte aux droits de la personne (surveillance, biais d’automatisation ou désinformation). Ils ont insisté sur la nécessité d’une plus grande transparence dans le développement de systèmes d’IA, par exemple, en faisant en sorte que les membres de la société civile, du milieu universitaire et des communautés qui sont les plus touchées par les technologies participent directement au développement et au déploiement de ces dernières. Les experts ont aussi recommandé l’élaboration de cadres réglementaires qui, au lieu d’être fondés sur des plaintes, sont proactifs et se concentrent sur les obligations et les responsabilités des différentes parties prenantes concernées.
- Date de modification :