Les entreprises doivent relever des défis pour garantir un déploiement responsable et éthique des solutions d’IA, déclare GlobalData.

L’IA générative a soulevé de nouveaux défis liés à « l’IA responsable », catapultant les préoccupations à la une des journaux et obligeant les entreprises à revoir leurs politiques en matière d’IA au moment où elles étudient de nouvelles applications potentielles. Les entreprises doivent s’assurer que les solutions d’IA sont mises en œuvre de manière responsable et éthique, déclare GlobalData , une société leader en matière de données et d’analyse.

L’IA responsable fait référence à l’idéal selon lequel les projets d’IA, qu’ils soient basés sur l’IA prédictive ou l’IA générative, sont déployés d’une manière qui protège la vie privée, ne cause pas de préjudice, est aussi transparent que possible, est exempt de parti pris et est juste envers tout cela. en sont impactés. Le récent procès intenté par le New York Times contre Microsoft et OpenAI pour violation du droit d’auteur met en évidence les défis auxquels notre société est confrontée pour mettre en œuvre l’IA de manière responsable.

Rena Bhattacharyya, analyste en chef des technologies et services d’entreprise chez GlobalData, commente : « L’IA responsable a une fois de plus fait la une des journaux en raison de l’émergence de l’IA générative. La facilité avec laquelle les consommateurs peuvent accéder à ChatGPT d’Open AI a rendu les préoccupations posées par la nouvelle technologie, telles que les hallucinations et la confidentialité des données, facilement apparentes et facilement compréhensibles, même pour les utilisateurs occasionnels.

Les derniers rapports de GlobalData, « Generative AI Watch : Lessons Learned for Implementing Responsible AI (Part 1) » et « Generative AI Watch : Lessons Learned for Implementing Responsible AI (Part 2) », révèlent qu’en plus des préoccupations liées à la protection des droits d’auteur, les entreprises doivent faire face à des problèmes liés à l’explicabilité, aux préjugés, à l’éthique, aux hallucinations, à la toxicité et à l’empoisonnement, ainsi qu’à la confidentialité et aux fuites de données lors de la mise en œuvre de stratégies d’IA responsable.

Bhattacharyya conclut : « Les défis liés à l’IA responsable existent depuis des années, mais ils se sont multipliés avec le lancement de l’IA générative et sont également devenus plus pressants désormais. Les organisations qui déploient l’IA doivent s’assurer qu’elles utilisent la technologie de manière responsable et éthique ; sinon, ils risquent des dommages importants à la réputation de leur marque, voire des répercussions juridiques et financières. Il s’agit d’un objectif très ambitieux – et y parvenir est une tâche ardue.