Conversation IA – Note de transparence

L'utilisation légale, éthique et responsable de l'intelligence artificielle (IA) est une priorité essentielle pour Blackboard. Pour cette raison, nous avons développé et mis en œuvre un programme d'IA fiable. Vous trouverez des informations sur notre programme et notre approche générale en matière d'IA fiable dans notre Centre de confiance. Vous trouverez un aperçu des solutions Blackboard intégrant l'IA générative dans notre Liste des fonctionnalités d'IA générative.

Dans le cadre de nos principes d'IA fiable, nous nous engageons à faire preuve de transparence, d'explicabilité et de responsabilité. Cette page a pour objectif d'assurer la transparence et l'explicabilité nécessaires afin d'aider nos clients à mettre en œuvre Conversation IA. Nous recommandons aux administrateurs de lire attentivement cette page et de s'assurer que les professeurs ont pris connaissance des points à prendre en compte et des recommandations ci-dessous avant d'activer l'une des fonctionnalités de Conversation IA au sein de votre établissement.

Comment nous contacter :

• Pour toute question ou rétroaction sur notre approche générale de l'IA fiable ou sur la façon dont nous pouvons rendre cette page plus utile pour nos clients, veuillez nous envoyer un courriel à l'adresse suivante : trustworthy-ai@blackboard.com

• Pour toute question ou rétroaction concernant les fonctionnalités ou les résultats de Conversation IA, veuillez soumettre une demande d'assistance client.

Blackboard considère que l'utilisation légale, éthique et responsable de l'IA est une priorité essentielle. Cette section explique comment Blackboard et Microsoft ont collaboré pour faire face aux risques liés à l'utilisation légale, éthique et responsable de l'IA et pour mettre en œuvre les principes de Blackboard en matière d'IA fiable. Il propose également des mesures que nos clients peuvent envisager lorsqu'ils procèdent à leurs propres évaluations des risques liés à l'IA sur le plan éthique.

• Nous indiquons clairement dans la console d'administration Blackboard que Conversation IA est une fonctionnalité facilitée par l'IA.

• Dans l'interface utilisateur destinée aux professeurs, les fonctionnalités de Conversation IA sont clairement identifiées comme des fonctionnalités d'IA. Les professeurs ont la possibilité de prévisualiser la conversation et de l'essayer avant de la mettre à la disposition des étudiants.

• Outre les informations fournies dans ce document sur le fonctionnement de Conversation IA et des modèles de service Azure OpenAI, Microsoft fournit des informations supplémentaires sur le service Azure OpenAI dans sa note de transparence.

• Nous encourageons les clients à communiquer clairement au sujet de l'utilisation de l'IA dans Conversation IA et à fournir à leurs professeurs, étudiants et autres parties prenantes, le cas échéant, les informations pertinentes de ce document et de la documentation à laquelle il renvoie.

• Dans la console d'administration Blackboard, nous indiquons clairement que Conversation IA est une fonctionnalité facilitée par l'IA qui peut produire des résultats inexacts ou indésirables et que ces résultats doivent toujours être revus.

• Dans l'interface utilisateur, l'aperçu du professeur ainsi que les étudiants qui utilisent Conversation IA indiquent que les réponses sont générées par l'IA et peuvent donc être biaisées ou inexactes.

• Jeu de rôle : les professeurs doivent être conscients que les traits de personnalité du personnage IA façonnent ses réponses et ses interactions avec les étudiants et peuvent avoir une incidence sur la fiabilité et la précision des résultats (y compris un risque accru d'hallucinations). Les professeurs doivent choisir avec soin les traits de personnalité et prévisualiser la conversation. Consultez la description de la fonction pour plus de détails.

• Comme indiqué dans la section Limitations de la Note de transparence du service Azure OpenAI, il existe un risque de production inexacte (y compris des « hallucinations »). Bien que la nature spécifique de Conversation IA et notre mise en œuvre visent à réduire au minimum les inexactitudes, il incombe à notre client de vérifier l'exactitude, l'absence de partialité et d'autres problèmes potentiels dans les résultats fournis. En cas de doute, il n'est pas nécessaire d'utiliser Conversation IA avec les étudiants. Il s'agit d'une fonctionnalité optionnelle du cours à la discrétion du professeur.

• Comme nous l'avons mentionné précédemment, les clients ne doivent pas utiliser d'invite pour solliciter des productions qui sortent des cas d'utilisation prévus, d'autant plus que cela pourrait entraîner des productions inexactes (p. ex. : lorsque des références ou des sources sont demandées).

• Dans le cadre de leur communication concernant Conversation IA, les clients doivent informer leurs professeurs et leurs étudiants de ces limites et risques potentiels.

• Les professeurs peuvent utiliser les instructions et paramètres supplémentaires des flux de travaux génératifs pour fournir plus de contexte à Conversation IA afin d'améliorer l'alignement et la précision.

• Les clients peuvent nous signaler toute sortie inexacte en utilisant les canaux répertoriés dans l'introduction de cette note.

• Concernant Conversation IA : le contenu produit au cours de la conversation n'est pas vérifié par le professeur avant d'être transmis aux étudiants; il est donc possible que des informations inexactes parviennent à un étudiant. L'ancrage de la conversation dans des éléments choisis du contenu du cours réduit ce risque, mais ne l'élimine pas pour autant. Les professeurs examinent la transcription après la remise et doivent considérer cette activité comme un exercice informel plutôt que comme une évaluation officielle.

• Les grands modèles linguistiques comportent intrinsèquement des risques liés aux stéréotypes, à la surreprésentation ou à la sous-représentation, ainsi qu'à d'autres formes de préjugés préjudiciables. Microsoft décrit ces risques dans la section Limitations de la Note de transparence du service Azure OpenAI.

• Compte tenu de ces risques, nous avons choisi avec soin les fonctionnalités de Conversation IA afin d'éviter les cas d'utilisation susceptibles d'être plus sujets à des biais préjudiciables ou dont l'impact pourrait être plus important.

• Jeu de rôle : les professeurs doivent être conscients que les traits de personnalité du personnage IA façonnent ses réponses et ses interactions avec les étudiants et peuvent donner lieu à des résultats qui peuvent inclure des stéréotypes, une surreprésentation ou une sous-représentation et d'autres formes de biais préjudiciables. Les professeurs doivent choisir avec soin les traits de personnalité et prévisualiser la conversation. Consultez la description de la fonction pour plus de détails.

• Néanmoins, il ne peut être exclu qu'une partie de la production puisse être affectée par un biais préjudiciable. Comme indiqué ci-dessus dans la section « Précision », les professeurs sont priés de revoir l'activité, ce qui peut contribuer à réduire tout biais préjudiciable.

• Dans le cadre de leur communication concernant Conversation IA, les clients doivent informer leurs professeurs de cette limitation potentielle.

• Les clients peuvent nous signaler tout biais potentiellement préjudiciable en utilisant les canaux de contact énumérés dans l'introduction de cette note.

• Comme indiqué dans la section « Points clés » ci-dessus, seules certaines données personnelles sont utilisées pour Conversation IA et sont accessibles à Microsoft. Cette section décrit également notre engagement et celui de Microsoft concernant l'utilisation des données personnelles. Compte tenu de la nature de Conversation IA, les informations personnelles contenues dans les résultats générés devraient également être limitées.

• Notre produit Blackboard LMS est certifié ISO 27001/27017/27018 et ISO 27701. Ces certifications concernent notamment les données personnelles liées à Conversation IA gérées par Blackboard. Vous trouverez plus d'informations sur l'approche de Blackboard en matière de confidentialité et de sécurité des données dans notre Centre de confiance.

• Microsoft décrit ses pratiques et engagements en matière de confidentialité et de sécurité des données dans la documentation sur les données, la confidentialité et la sécurité pour le service Azure OpenAI.

• Indépendamment de l'engagement de Blackboard et de Microsoft en matière de confidentialité des données et de non-utilisation des données d'entrée pour réentraîner les modèles, les clients peuvent conseiller à leurs professeurs et étudiants de ne pas inclure d'informations personnelles ni d'autres informations confidentielles dans les invites et conversations.

• Les grands modèles de langage présentent intrinsèquement un risque de productions inappropriées, offensantes ou autrement dangereuses. Microsoft décrit ces risques dans la section Limitations de la Note de transparence du service Azure OpenAI.

• Compte tenu de ces risques, nous avons choisi avec soin les fonctionnalités de Conversation IA afin d'éviter les cas d'utilisation qui pourraient être plus sujets à des sorties dangereuses ou dont l'impact pourrait être plus important.

• Jeu de rôle : les professeurs doivent être conscients que les traits de personnalité du personnage IA façonnent ses réponses et ses interactions avec les étudiants et peuvent donner lieu à des résultats qui peuvent être considérés comme inappropriés, offensants ou dangereux. Les professeurs doivent choisir avec soin les traits de personnalité et prévisualiser la conversation. Consultez la description de la fonction pour plus de détails.

• Il n'est toutefois pas exclu que certains des résultats générés par Conversation IA puissent être dangereux. Comme indiqué ci-dessus dans la section « Précision », les professeurs sont invités à revoir les résultats, ce qui peut contribuer à réduire le risque de résultats dangereux.

• Dans le cadre de leur communication concernant Conversation IA, les clients doivent informer leurs professeurs et leurs étudiants de cette limitation potentielle.

• Ils sont également tenus de nous signaler toute sortie potentiellement dangereuse en utilisant les canaux énumérés dans l'introduction de cette note.

• Afin de minimiser les risques liés à l'utilisation de l'IA générative pour nos clients et leurs utilisateurs, nous avons délibérément donné à nos clients le contrôle des fonctionnalités de Conversation IA. Conversation IA est donc une fonctionnalité facultative, à activer manuellement. Les administrateurs doivent activer Conversation IA, puis ils peuvent activer chaque fonctionnalité séparément. Ils peuvent également désactiver Conversation IA dans son ensemble ou chacune des fonctionnalités individuelles.

• AI Conversation n'implique aucune prise de décision automatisée qui pourrait avoir des conséquences légales ou d'autres conséquences significatives pour les apprenants ou d'autres personnes.

• Nous encourageons les clients à lire attentivement ce document, y compris les liens d'information qui y sont fournis, pour s'assurer qu'ils comprennent les capacités et les limites de Conversation IA et du service Azure OpenAI sous-jacent avant d'activer Conversation IA dans l'environnement de production.

• Concernant Conversation IA : le contenu produit au cours de la conversation n'est pas vérifié par le professeur avant d'être transmis aux étudiants; il est donc possible que des informations inexactes parviennent à un étudiant. L'ancrage de la conversation dans des éléments choisis du contenu du cours réduit ce risque, mais ne l'élimine pas pour autant. Les professeurs examinent la transcription après la remise et doivent considérer cette activité comme un exercice informel plutôt que comme une évaluation officielle.

• Les grands modèles linguistiques comportent intrinsèquement des risques liés à la production de contenus biaisés, inappropriés ou qui, d'une manière ou d'une autre, ne correspondent pas aux valeurs de Blackboard ni à celles de nos clients et de nos apprenants. Microsoft décrit ces risques dans la section Limitations de la Note de transparence du service Azure OpenAI.

• En outre, les grands modèles linguistiques (comme toute technologie ayant des objectifs généraux) présentent le risque d'être utilisés à mauvais escient pour des cas d'utilisation qui ne correspondent pas aux valeurs de Blackboard, de nos clients ou de leurs utilisateurs finaux, et à celles de la société en général (par exemple, pour des activités criminelles ou pour créer des résultats nuisibles ou inappropriés).

• Compte tenu de ces risques, nous avons soigneusement conçu et mis en œuvre nos fonctionnalités de Conversation IA de manière à minimiser le risque de résultats inappropriés. Nous avons également délibérément omis certaines fonctionnalités qui pourraient présenter des risques importants. ·

• Microsoft examine également les invites et les données de sortie dans le cadre de sa fonctionnalité de filtrage de contenu afin d'éviter les abus et la génération de contenu nuisible.

• Les grands modèles de langage présentent intrinsèquement des risques de violation des droits de propriété intellectuelle. La plupart des lois sur la propriété intellectuelle dans le monde n'ont pas pleinement anticipé, et ne sont pas adaptées à l'émergence de grands modèles de langage ni à la complexité des questions qui découlent de leur utilisation. Par conséquent, il n'existe actuellement aucun cadre juridique ni orientation clairs qui traitent des questions de propriété intellectuelle et des risques qui découlent de l'utilisation de ces modèles.

• En fin de compte, il incombe à notre client de vérifier que les contenus générés par Conversation IA ne constituent pas une éventuelle violation des droits de propriété intellectuelle. Sachez que les consignes demandant de générer un contenu imitant le style d'une personne en particulier ou ressemblant à des éléments protégés par le droit d'auteur ou par une marque de commerce peuvent donner lieu à un contenu présentant un risque accru de contrefaçon.

Nous avons conçu et développé Conversation IA en veillant à son accessibilité, comme nous le faisons pour l'ensemble de Blackboard et de nos autres produits. Avant le lancement de Conversation IA, nous avons délibérément amélioré l'accessibilité de la structure sémantique, de la navigation, des commandes au clavier, des libellés, des composants personnalisés et des flux de travail liés aux images, pour ne citer que quelques exemples. Nous continuerons à accorder la priorité à l'accessibilité à mesure que nous tirerons parti de l'IA à l'avenir.

• Blackboard dispose d'un programme d'IA fiable conçu pour garantir une utilisation légale, éthique et responsable de l'IA. Une responsabilité interne claire et l'examen éthique systématique des fonctionnalités d'IA, telles que celles fournies par Conversation IA, sont les principaux piliers du programme.

• Pour proposer Conversation IA, nous avons établi un partenariat avec Microsoft afin de tirer parti du service Azure OpenAI, qui alimente Conversation IA. Microsoft s'engage depuis longtemps en faveur d'une utilisation éthique de l'IA.

• Il est recommandé aux clients de mettre en œuvre des politiques, des procédures internes et d'examiner les applications d'IA tierces afin de garantir leur propre utilisation légale, éthique et responsable de l'IA. Ces informations sont fournies afin d'aider nos clients à évaluer Conversation IA.

• L'approche d'IA fiable de Blackboard

• Liste des fonctionnalités d'IA générative de Blackboard

• Page de Microsoft sur l'IA responsable

• Note de transparence de Microsoft pour Azure Vision Service

• Page de Microsoft sur les données, la confidentialité et la sécurité pour le service Azure Vision