L’intelligence artificielle doit profiter aux gens et cela vaut également pour les enfants et les jeunes. Outre d’importantes opportunités, les applications basées sur l’IA présentent également des risques importants pour les enfants et les jeunes. L’un de ces risques est la discrimination. Les enfants et les jeunes peuvent être discriminés par l’IA, par exemple si des préjugés existants sont introduits dans l’IA via des données de formation puis reproduits. Un exemple du Royaume-Uni illustre ce point : une IA a été chargée d’évaluer les performances des garçons et des filles dans différentes écoles, sur la base, entre autres, des notes attribuées dans les écoles respectives au cours des années précédentes. Cette méthode a donné lieu à des évaluations particulièrement négatives pour les élèves issus des zones les plus pauvres car, en moyenne, ils fréquentaient des écoles moins performantes et donnait ainsi lieu à des discriminations.
Le Comité des droits de l’enfant de l’ONU, l’organe de surveillance de l’ONU chargé de la mise en œuvre des droits de l’enfant, souligne qu’il existe un risque de discrimination, en particulier à l’encontre des enfants et des jeunes ayant besoin de protection, c’est-à-dire des enfants et des jeunes handicapés, avec d’origine immigrée – ou issus de familles à faible revenu . Les États signataires de la Convention des Nations Unies relative aux droits de l’enfant sont tenus de lutter contre ce risque de discrimination. C’est pour cette raison que l’UNICEF Suisse et Liechtenstein soutiennent l’appel AlgorithmeWatch CHqui souligne le danger de discrimination à l’égard des personnes par l’intelligence artificielle et les algorithmes et appelle le Conseil fédéral à aborder ces questions dans le cadre de la réglementation de l’IA.
Pour faire face et minimiser les risques, il est important que les enfants et les jeunes soient pris en compte et inclus dans le développement et la réglementation de l’IA.
Ici Vous trouverez ici le recours auprès du Conseil fédéral. Vous pouvez également lire ici nos neuf recommandations aux entreprises et aux gouvernements pour une IA adaptée aux enfants. L’intelligence artificielle n’est pas la seule question de numérisation pertinente pour les droits de l’enfant. Sur cette page, vous pouvez en savoir plus sur les droits des enfants dans l’espace numérique.
« Entusiasta de la web aficionado. Creador galardonado. Experto en música extrema. Wannabe analista. Organizador. Erudito de la televisión amigable con los inconformistas. Gurú de Twitter ».