Partager:
Amnesty International a publié son rapport 2024 sur "La situation des droits humains dans le monde". Une des craintes de l'ASBL concerne l'intelligence artificielle qu'elle décrit comme source d'opportunités mais aussi de risques pour les droits humains.
L'apparition de l'intelligence artificielle générative a fait des vagues dans tous les milieux de la société en s'imposant comme assistant dans la vie professionnelle comme dans la vie privée.
Les systèmes d'IA accentuent les inégalités
En 2023, OpenAI lançait ChatGPT-4, un outil capable de synthétiser et de produire du texte de manière encore plus réaliste et plus humaine que la version précédente. Selon Amnesty International, l'IA générative peut offrir des opportunités, mais, "sans réglementation adaptée et efficace, elle pourrait aussi accentuer les risques pesant sur les droits humains dans les domaines tels que l'accès aux prestations sociales, à l'éducation et à l'emploi, les droits du travail, le respect de la vie privée et la sécurité sur Internet".
"Les systèmes d’IA existants, parmi d’autres technologies, accentuent déjà les inégalités et portent préjudice aux populations marginalisées dans des domaines tels que l’accès aux services publics, le maintien de l’ordre, la sécurité et les migrations."
L'ASBL attire particulièrement l'attention sur le risque de renforcement des inégalités et des inégalités raciales, de la surveillance accrue et de l'amplification des contenus haineux en ligne. En 2023, la police de New York a révélé qu'elle se servait de la technologie pour surveiller les manifestations du mouvement Black Lives Matter. "Des pressions de plus en plus fortes ont été exercées sur le conseil municipal pour qu’il interdise cette pratique", précise le rapport.
Système automatisé de protection sociale
En Serbie, le gouvernement au pouvoir a mis en place un nouveau système de protection sociale partiellement automatisé. Celui-ci a entraîné "l'exclusion de nombreuses personnes, potentiellement plusieurs milliers, qui ont alors cessé de bénéficier d'une aide pourtant essentielle", selon le rapport d'Amnesty. La communauté du voyage et les personnes en situation de handicap ont été particulièrement touchées.
Reconnaissance faciale
Selon Amnesty, des technologies renforcées par l'IA ont contribué au maintien du système d'apartheid dans les territoires palestiniens occupés. L'utilisation de la technologie de reconnaissance faciale par Israël aurait "renforcé les restrictions du droit de circuler librement.
Amnesty appelle aux gouvernements à prendre des mesures législatives et réglementaires "fermes" pour lutter contre les risques et les préjudices liés aux technologies de l'IA.
