Devant l’essor inexorable des intelligences artificielles génératives, les entreprises doivent mettre en place des chartes d’utilisation et des guides de bonne conduire à l’usage de leurs collaborateurs. Les risques de dérapage sont nombreux….
Le phénomène ChatGPT est une vague sans précédent dans l’histoire de la tech. De 120 000 visiteurs uniques mensuels en novembre 2022, ChatGPT est passé en quatre mois à 186 millions de visiteurs (mars 2023 – source : similarweb). On peut facilement imaginer que le nombre d’utilisateur passera le cap du milliard cette année. Le développement des alternatives open source comme HuggingFace ne fera qu’accélérer le phénomène.
Pour les entreprises, il s’agit d’un tsunami
L’outil est gratuit (ou presque) et chacun peut l’utiliser à sa guise. Pour certains, interdire ChatGPT est le réflexe immédiat (comme à Sciences Po lors de son lancement). Quand on ne comprend pas les usages, on les interdit. Néanmoins, les conséquences d’une telle décision peuvent s’avérer catastrophiques pour une entreprise ; il s’agit de renoncer à un potentiel extraordinaire d’amélioration de la productivité (de 10% à 40% selon les premières études).
ChatGPT peut être utilisé de manière malveillante ou amorale, en dehors de toute éthique
L'adoption incontrôlée de ChatGPT par les entreprises peut entraîner des risques importants comme une diminution de la qualité des contenus produits (slogans, publicité, blogs, emails, …), ce qui pourrait avoir des conséquences négatives sur leur business ou leur image.
L'utilisation de ChatGPT peut entraîner une non-conformité aux normes légales (droits d’auteurs, …) et aux enjeux éthiques (salariés du clic, faire parler les morts, …), ainsi que le développement de biais (religieux, culturels, de genre, …) liés à l'entraînement de l'IA.
Les risques cyber sont également une préoccupation majeure, et les secteurs critiques pourraient être particulièrement vulnérables. Les hackers peuvent exploiter les vulnérabilités de l'IA pour influencer les décisions prises ou voler des données privées. Ces risques de sécurité doivent être pris au sérieux.
Enfin, se servir de ChatGPT en dehors des conditions de contrat avec OpenAI peut également entraîner des conséquences juridiques.
L'utilisation de ChatGPT, un outil de langage puissant, peut avoir des implications éthiques et de responsabilité importantes qui doivent être prises en compte. Cette technologie peut être utilisée de multiples manières et nécessite une réflexion approfondie sur les conséquences potentielles de son utilisation. Pour éviter ces désagréments les entreprises doivent mettre en place une charte d’utilisation professionnelle de ChatGPT.
La Charte d’utilisation de ChatGPT en entreprise : exemples de sections
· Objectifs de l'utilisation de ChatGPT : détailler les objectifs pour lesquels ChatGPT sera utilisé, en précisant notamment les domaines d'application (aide à la décision, création de contenu, publicité, relations clients...). Toujours vérifier l'exactitude des résultats générés par l'outil.
· Responsabilité de l'utilisateur : l'utilisateur est responsable de l'utilisation de ChatGPT et que cela peut avoir des conséquences. Cette section devrait expliquer clairement les règles de conduite pour l'utilisation de ChatGPT et préciser les conséquences possibles d'une utilisation abusive ou inappropriée.
· Protection des données : une section sur la protection des données et de la vie privée, en expliquant comment les données seront collectées, utilisées et stockées, ainsi que les mesures prises pour assurer la confidentialité et la sécurité des données. Par ailleurs, il ne pas saisir d'informations sensibles ou confidentielles ou de données personnelles dans les requêtes ;
· Transparence : ChatGPT est une technologie complexe, il peut être difficile pour les utilisateurs de comprendre comment il fonctionne. La charte devrait donc inclure des informations sur la manière dont ChatGPT fonctionne, ainsi que sur les limites et les biais possibles de la technologie.
· Conditions d'utilisation : La charte devrait inclure des informations sur les conditions d'utilisation de ChatGPT, telles que les limites d'utilisation (remplir le formulaire d'OpenAI pour refuser la réutilisation des données intégrées aux requêtes), la durée de validité de la charte (les avancées sont si rapides qu’il faudra revoir régulièrement la Charte), et les procédures à suivre en cas de violation de la charte.
Il est urgent de se saisir de cette problématique et de mettre en place une Charte d’utilisation de ChatGPT par votre entreprise.
Elle créera le cadre indispensable pour une utilisation maximale de ce formidable outil de productivité !
Contactez omestra !