Ces dernières années, l’IA générative a suscité un énorme intérêt et des attentes quant à son potentiel révolutionnaire. Depuis la publication de ChatGPT par OpenAI en novembre 2022, cette technologie est au centre d’un débat intense, beaucoup la considérant comme l’une des innovations les plus importantes de notre époque. Cependant, bien que 79 % des organisations déclarent que l’IA générative contribue positivement à l’activité, un certain nombre de défis liés à la confiance, à l’éthique et aux compétences entravent son adoption à grande échelle dans les sphères de consommation personnelles et professionnelles dans la région EMEA.
L’impact de la désinformation, des inexactitudes et des hallucinations de l’IA
L’un des principaux problèmes concerne la confiance dans ce que produit l’IA générative. Plus d’un tiers du public s’inquiète du potentiel de l’IA à générer des fake news (36 %) et de son utilisation abusive par des hackers (42 %), tandis que la moitié des chefs d’entreprise déclarent devoir faire face à des informations erronées produites par l’IA générative. En outre, la fiabilité des informations fournies par l’IA générative est remise en question, 50 % du public estimant que les données qu’il reçoit sont inexactes et 38 % les percevant comme obsolètes. Du côté des entreprises, les préoccupations portent notamment sur la violation des droits d’auteur ou des droits de propriété intellectuelle (40 %) et la production de résultats inattendus ou non désirés (36 %).
Les hallucinations de l’IA, c’est-à-dire la production de résultats illogiques ou incorrects, constituent un problème de confiance crucial tant pour les entreprises (62 %) que pour le public (74 %). Pour les entreprises, le défi consiste à appliquer l’IA générative à des cas d’utilisation appropriés, en s’appuyant sur la bonne technologie et les mesures de sécurité adéquates, afin d’atténuer ces inquiétudes. Près de la moitié des consommateurs (45 %) sont favorables à l’introduction de mesures réglementaires sur l’utilisation de l’IA.
Les préoccupations éthiques et les risques liés à l’utilisation de l’IA générative persistent
Outre ces défis, des sentiments forts similaires concernant les préoccupations éthiques et les risques associés à l’IA générative émergent à la fois chez les chefs d’entreprise et les consommateurs. Plus de la moitié du grand public (53 %) s’oppose à l’utilisation de l’IA générative pour prendre des décisions éthiques. Par ailleurs, 41 % des chefs d’entreprise s’inquiètent de son application dans des domaines décisionnels critiques. Il existe des distinctions dans les domaines spécifiques où son utilisation est déconseillée ; les consommateurs s’opposent fortement à son utilisation dans l’arène politique (46 %), tandis que les entreprises se méfient de son déploiement dans les soins de santé (40 %).
Ces préoccupations trouvent une certaine confirmation dans les résultats de l’étude, qui mettent en évidence des lacunes inquiétantes dans les pratiques organisationnelles. Seul un tiers des dirigeants ont confirmé que leurs entreprises veillent à ce que les données utilisées pour former l’IA générative soient diversifiées et exemptes de biais. En outre, seuls 36 % d’entre eux ont établi des lignes directrices éthiques et 52 % des politiques de confidentialité et de sécurité des données pour les applications d’IA générative.
Ce manque d’attention à l’intégrité des données et aux considérations éthiques met les entreprises en danger. 63 % des chefs d’entreprise citent l’éthique comme leur principale préoccupation en matière d’IA générative, suivie par les questions relatives aux données (62 %). Ce scénario souligne l’importance d’une meilleure gouvernance pour instaurer la confiance et atténuer les risques liés à l’utilisation de l’IA générative par les employés sur le lieu de travail.
Le rôle croissant des compétences dans l’IA générative et la nécessité d’une plus grande maîtrise des données
À mesure que l’IA générative évolue, l’établissement de compétences pertinentes et l’amélioration de la maîtrise des données seront essentiels pour réaliser son plein potentiel. Les consommateurs utilisent de plus en plus les technologies d’IA générative dans divers scénarios, notamment pour la recherche d’informations, la communication par courrier électronique et l’acquisition de compétences. Les chefs d’entreprise disent utiliser l’IA générative pour l’analyse des données, la cybersécurité et l’assistance à la clientèle, et malgré le succès des projets pilotes, certains défis persistent, notamment les problèmes de sécurité, les questions de confidentialité des données, ainsi que la qualité et la fiabilité des résultats.
Trevor Schulze, DSI d’Alteryx, a souligné la nécessité pour les entreprises et le grand public de comprendre pleinement la valeur de l’IA et de répondre aux préoccupations communes au cours des premières étapes de l’adoption de l’IA générative. Il a noté que les questions de confiance, les préoccupations éthiques, les pénuries de compétences, les craintes de violation de la vie privée et les biais algorithmiques sont des tâches cruciales. M. Schulze a insisté sur la nécessité pour les entreprises d’accélérer leur parcours de gestion des données, d’adopter une gouvernance solide et de permettre au personnel non technique d’accéder aux données et de les analyser de manière sûre et fiable, tout en répondant aux préoccupations et aux préjugés en matière de protection de la vie privée, afin de tirer véritablement profit de cette technologie « révolutionnaire ».
Source de l’article ici.