AI-gesprek – transparantienotitie

Updated on 2026-10-30

Note

Deze documentatie is vertaald met behulp van AI-ondersteunde machinevertaling. Vertalingen worden geleverd 'zoals ze zijn', zonder garantie van de juistheid ervan. De Engelse versie van deze inhoud is de officiële en gezaghebbende bron.

AI-gesprek – transparantienotitie

Het legale, ethische en verantwoorde gebruik van kunstmatige intelligentie (AI) is een belangrijke prioriteit voor Blackboard. Daarom hebben we een Trustworthy AI-programma ontwikkeld en geïmplementeerd. Informatie over ons programma en onze algemene aanpak op het gebied van betrouwbare AI vind je in ons Trust Center. Een overzicht van generatieve AI-oplossingen van Blackboard vind je in onze Lijst met functies voor generatieve AI.

Als onderdeel van onze Trustworthy AI-principes zetten we ons in voor transparantie, uitlegbaarheid en verantwoording. Deze pagina is bedoeld om de nodige transparantie en uitlegbaarheid te bieden en onze klanten te ondersteunen bij de implementatie van AI-gesprek. We raden beheerders aan deze pagina zorgvuldig door te nemen en ervoor te zorgen dat cursusleiders op de hoogte zijn van de onderstaande aandachtspunten en aanbevelingen voordat je functies van AI-gesprek voor je instelling activeert.

Contact met ons opnemen:

Stuur voor vragen of feedback over onze algemene benadering van Trustworthy AI of over hoe we deze pagina nuttiger kunnen maken voor onze klanten een e-mail naar trustworthy-ai@blackboard.com
Dien voor vragen of feedback over de functionaliteit of output van AI-gesprek een supportticket in.

Door AI ondersteunde functionaliteiten

AI-gesprek

AI-gesprek is speciaal ontworpen als een nieuwe interactieve activiteit waaraan studenten actief kunnen deelnemen. Cursusleiders kunnen in hun cursussen een AI-gesprek maken met een onderwerp en een AI-persona, en het type gesprek selecteren waaraan studenten deelnemen. Binnen de functie AI-gesprek kunnen cursusleiders kiezen uit drie opties: Socratische vraagstelling, waarbij de AI-persona studenten door voortdurend vragen te stellen aanmoedigt om kritisch na te denken; Rollenspel, waarbij studenten een scenario naspelen met de AI-persona; of Pulse Quiz, waarbij de AI-persona de student een reeks vragen stelt op basis van door de cursusleider geselecteerde cursusinhoud.

Socratische vraagstelling

Dit is een begeleide vraagactiviteit of socratische oefening. De AI-persona bevestigt of verwerpt de antwoorden van studenten niet, maar leidt de studenten door een reeks vragen. Aan het einde van het gesprek schrijven de studenten een reflectie op de activiteit, waarin ze zwakke of sterke punten in hun leerproces benoemen, of aangeven of de AI-bot vooringenomenheid, hallucinaties of onnauwkeurigheden vertoonde. Na het indienen ontvangt de cursusleider een transcript van het gesprek en de reflectie, waardoor de interacties volledig inzichtelijk worden. Dit is een geweldige manier om een tot nadenken stemmend gesprek te voeren over de cursusonderwerpen zonder individuele 1-op-1-gesprekken, wat bij grotere of complexere cursussen lastig kan zijn.

AI-gesprek biedt cursusleiders de mogelijkheid om met generatieve AI een afbeelding te genereren voor de persona van het AI-gesprek.

Deze functies zijn onderhevig aan de beperkingen en beschikbaarheid van de Azure OpenAI Service en kunnen worden gewijzigd. Raadpleeg de betreffende releaseopmerkingen voor meer informatie.

Rollenspel

Met de functie Rollenspel kunnen cursusleiders gesimuleerde gesprekken voor hun studenten opzetten door specifieke rollen toe te wijzen aan zowel de AI-persona als de studenten. Deze interactieve optie verrijkt leer- en opleidingservaringen doordat studenten hun communicatieve vaardigheden in realistische scenario’s kunnen oefenen, waardoor er mogelijkheden voor actief leren ontstaan. Met aanpasbare persoonlijkheidskenmerken voor de AI-persona en contextuele prompts stimuleert de functie Rollenspel boeiende en dynamische uitwisselingen, wat het algehele leerproces verrijkt en kritisch denken stimuleert.

Cursusleiders kunnen de AI-persona aanpassen door er een naam en een afbeelding aan toe te wijzen. Ze bepalen ook de persoonlijkheidskenmerken van de AI-persona en kiezen de complexiteit van de antwoorden. De persoonlijkheidseigenschappen die aan de AI-persona worden toegekend in de optie Rollenspel bepalen de reacties en interacties ervan.

Let op: Cursusleiders dienen de persoonlijkheidskenmerken zorgvuldig te kiezen en het gesimuleerde gesprek vooraf te bekijken, aangezien de persoonlijkheidskenmerken een grote invloed hebben op de toon en de inhoud van het gesprek. Als de cursusleider de AI-persona bijvoorbeeld zo instelt dat deze warm en empathisch is, zal de AI-persona met deze eigenschappen reageren. Als een cursusleider de AI-persona zo instelt dat deze controversieel of bevooroordeeld is, zal de output van de AI-persona waarschijnlijk ook controversieel of bevooroordeeld zijn. De AI-persona zal ook niet altijd controversiële, bevooroordeelde of gevaarlijke ideeën van studenten aan de kaak stellen.

In het kader van onze tests van deze functionaliteit heeft Blackboard deze resultaten beoordeeld en besproken om te bepalen of de functionaliteit moet worden beperkt om vooringenomenheid of ongepaste resultaten te voorkomen. We kwamen tot de conclusie dat instellingen en cursusleiders, alles bij elkaar genomen, de academische vrijheid zouden moeten hebben om studenten te laten deelnemen aan gesimuleerde gesprekken die controversieel of bevooroordeeld kunnen zijn. Tegelijkertijd beseffen we dat er grenzen zijn aan wat de AI-persona zou moeten kunnen produceren. Daarom zijn cursusleiders uiteindelijk verantwoordelijk voor de output van AI-gesprek en de dialogen waarmee studenten via de functie Rollenspel in aanraking komen. Uit onze tests bleek dat de bestaande veiligheidsmaatregelen die door OpenAI, Microsoft en Blackboard zijn geïmplementeerd, ervoor zorgden dat er geen output werd gegenereerd die onrechtmatig was of anderszins niet voldeed aan onze normen voor Trustworthy AI. We blijven deze functie en eventuele gerelateerde klantfeedback monitoren om ervoor te zorgen dat we aanpassingen kunnen aanbrengen die nodig kunnen zijn om te voldoen aan onze normen voor Trustworthy AI.

De functies van AI-gesprek zijn onderhevig aan de beperkingen en beschikbaarheid van de Azure OpenAI Service en kunnen veranderen. Raadpleeg de betreffende releaseopmerkingen voor meer informatie.

Pulse Quiz

Pulse Quiz stelt tijdens een gesprek een reeks korte vragen aan een student. De cursusleider selecteert de cursusinhoud waaruit de vragen worden gehaald, bepaalt het aantal vragen en stelt de AI-persona in die de quiz presenteert. De persona stelt de vragen één voor één, reageert op het antwoord van de student en vat de resultaten aan het einde samen.

De vragen in een Pulse Quiz worden tijdens het gesprek zelf gegenereerd. De cursusleider ziet de vragen niet en bekijkt ze ook niet voordat de studenten ze krijgen, en elke student krijgt een andere reeks vragen. Pulse Quiz is bedoeld voor informele oefeningen met een laag risico. Cursusleiders die bepaalde vragen van tevoren moeten doornemen en controleren, kunnen beter een toets gebruiken, omdat ze dan volledige controle hebben over wat er wordt gevraagd en hoe dit wordt beoordeeld.

Inzendingen voor Pulse Quiz krijgen niet automatisch een score. Hoewel in het gesprek wordt vermeld hoeveel vragen de student correct heeft beantwoord, wordt dat resultaat niet doorgegeven aan de cijferlijst. De cursusleider bekijkt het volledige transcript en de reflectie van de student voordat deze feedback geeft en een cijfer toekent, zodat een mens de controle behoudt over de manier waarop de activiteit wordt beoordeeld.

Voor Pulse Quiz is een AVA-licentie vereist en de functie is standaard uitgeschakeld. Beheerders activeren deze functie afzonderlijk van de andere functies van AI-gesprek.

Gesprekstaal

Cursusleiders kunnen instellen in welke taal een AI-gesprek plaatsvindt. Wanneer een taal is ingesteld, gebruikt de AI-persona die taal voor het openingsbericht, de vragen, de antwoorden voor de student en de afsluitende samenvatting, en schakelt deze niet over naar een andere taal, zelfs niet als een student daarom vraagt. Wanneer een gesprek gebaseerd is op cursusinhoud, genereert de AI de uitvoer in de ingestelde taal, ongeacht de taal van het bronmateriaal. Deze instelling is beschikbaar voor alle drie de gesprekstypen.

Belangrijkste feiten

Tabel met vragen en antwoorden over de aanpak van Blackboard op het gebied van AI
Vraag	Antwoord
Welke functionaliteiten gebruiken AI-systemen?	Door AI gegenereerde afbeeldingen voor de persona (zoals beschreven onder Door AI ondersteunde functionaliteiten). Functionaliteiten van AI-gesprek (zoals beschreven onder Door AI ondersteunde functionaliteiten). Het genereren van vragen voor Pulse Quiz (zoals beschreven bij Pulse Quiz onder Door AI ondersteunde functionaliteiten).
Is dit een door derden ondersteund AI-systeem?	Ja, AI-gesprek en door AI gegenereerde afbeeldingen maken gebruik van de Azure OpenAI Service van Microsoft.
Hoe werkt het AI-systeem?	AI-gesprek gebruikt de Azure OpenAI Service van Microsoft om automatisch resultaten te genereren. Hiervoor wordt informatie gebruikt die de cursusleider in de optie Socratisch of Rollenspel zelf opgeeft, zoals onderwerp, AI-persona, persoonlijkheidskenmerken en complexiteit, samen met onze prompt om de antwoorden te sturen. Voor Pulse Quiz omvat de invoer ook de cursusinhoud die de cursusleider selecteert als bron voor de vragen, en het aantal vragen. Voor elk gesprekstype bevat de invoer ook een ingestelde gesprekstaal, als de cursusleider die heeft ingesteld. Voor een uitgebreide uitleg van de werking van de Azure OpenAI Service en de onderliggende grote taalmodellen van OpenAI GPT raadpleeg je de sectie Inleiding van de transparantienotitie van Microsoft en de links daarin.
Waar wordt het AI-systeem gehost?	Blackboard maakt momenteel gebruik van meerdere wereldwijde Azure OpenAI Service-instanties. De primaire instantie wordt gehost in de Verenigde Staten, maar soms maken we gebruik van resources op andere locaties, zoals Canada, het Verenigd Koninkrijk of Frankrijk, om onze klanten de beste beschikbaarheid voor de Azure OpenAI Service te kunnen bieden. Alle cursusgegevens van klanten en invoer van cursusleiders die worden gebruikt als invoer, en alle output die door AI-gesprek wordt gegenereerd, worden door Blackboard opgeslagen in de bestaande Blackboard-database van de klant.
Moet deze functionaliteit expliciet worden ingeschakeld?	Ja. Beheerders moeten AI-gesprek activeren in de beheerconsole van Blackboard. De instellingen voor AI-gesprek bevinden zich in de categorie Building Blocks. Selecteer AI Design Assistant en Unsplash. Beheerders kunnen elke functie afzonderlijk in- of uitschakelen. Beheerders moeten bovendien, indien nodig, het recht ‘AI Design Assistant gebruiken’ toewijzen aan cursusrollen, zoals de rol Cursusleider. Voor Pulse Quiz is een AVA-licentie vereist en de functie is standaard uitgeschakeld. Instellingen met een licentie voor AVA activeren deze functie afzonderlijk in hetzelfde instellingengedeelte. Instellingen die geen licentie voor AVA hebben, kunnen Pulse Quiz niet gebruiken, zelfs niet als de instelling is ingeschakeld.
Hoe wordt het AI-systeem getraind?	Blackboard is niet betrokken bij de training van de grote taalmodellen die ten grondslag liggen aan de functies van AI-gesprek. Deze modellen zijn door OpenAI/Microsoft getraind als onderdeel van de Azure OpenAI Service, waarop de functies van AI-gesprek draaien. Microsoft geeft informatie over hoe de grote taalmodellen worden getraind in de sectie Inleiding van de transparantienotitie van Microsoft en de links daarin. Blackboard voert geen verdere fine-tuning van de Azure OpenAI Service uit met onze eigen gegevens of die van onze klanten.
Worden klantgegevens gebruikt voor het (her)trainen van het AI-systeem?	Nee. Microsoft verbindt zich in de Azure OpenAI-voorwaarden contractueel tegenover Blackboard ertoe om geen invoer in of uitvoer uit Azure OpenAI te gebruiken voor het (her)trainen van het grote taalmodel. Dezelfde toezegging wordt gedaan in de Microsoft-documentatie over Gegevens, privacy en beveiliging voor de Azure OpenAI Service.
Hoe gebruikt Blackboard persoonsgegevens bij het aanbieden van het AI-systeem?	Blackboard gebruikt de gegevens die in verband met AI-gesprek worden verzameld uitsluitend om AI-gesprek aan te bieden, te onderhouden en te ondersteunen, en alleen wanneer wij daartoe contractueel bevoegd zijn in overeenstemming met de toepasselijke wetgeving. Meer informatie over hoe Blackboard met gegevensbescherming omgaat, vind je in ons Trust Center.
Als een AI-systeem door een derde partij wordt ondersteund: hoe gebruikt deze derde partij persoonsgegevens?	Aan Microsoft wordt voor de Azure OpenAI Service slechts beperkte cursusinformatie verstrekt. Dit bevat in het algemeen geen persoonsgegevens (behalve wanneer persoonsgegevens zijn opgenomen in de velden Onderwerp, AI-persona of Persoonlijkheid, of in de vragen en antwoorden van de student aan de AI-bot). Daarnaast is alle informatie toegankelijk die cursusleiders in de prompt opnemen. Microsoft gebruikt geen Blackboard-gegevens of Blackboard-klantgegevens waartoe het toegang heeft (als onderdeel van de Azure OpenAI Service) om de OpenAI-modellen te verbeteren, om zijn eigen producten of diensten of die van derden te verbeteren, of om de Azure OpenAI-modellen automatisch te verbeteren voor gebruik door Blackboard in de bronnen van Blackboard. De modellen zijn statusloos. Microsoft controleert prompts en output voor de inhoudsfilters. Prompts en output worden slechts tot 30 dagen opgeslagen. Meer informatie over de procedures voor gegevensprivacy met betrekking tot de Azure OpenAI Service vind je in de Microsoft-documentatie over Gegevens, privacy en beveiliging voor Azure OpenAI Service.
Is bij het ontwerp van het AI-systeem rekening gehouden met toegankelijkheid?	Ja, onze toegankelijkheidsspecialisten hebben samengewerkt met de productteams om ontwerpen te beoordelen, belangrijke aandachtspunten op het gebied van toegankelijkheid onder de aandacht te brengen en de nieuwe functies specifiek op toegankelijkheid te testen. We blijven toegankelijkheid als integraal onderdeel beschouwen van onze Trustworthy AI-aanpak.

Overwegingen en aanbevelingen voor instellingen

Beoogde toepassingen

AI-gesprek is uitsluitend bedoeld ter ondersteuning van de hierboven genoemde functies. Deze functionaliteiten worden aangeboden aan en bedoeld voor de cursusleiders en studenten van onze klanten, met als doel het leren van studenten te verbeteren via door AI ondersteunde activiteiten.

Toepassingen buiten het bereik

Omdat AI-gesprek draait op technologie van Microsoft, die een zeer breed scala aan toepassingen kent, is het mogelijk dat de promptfunctie in AI-gesprek kan worden gebruikt om output op te vragen die buiten de beoogde functionaliteiten valt. We raden klanten ten zeerste af om AI-gesprek te gebruiken voor doeleinden die buiten het bereik van de beoogde functionaliteiten vallen. Dit kan leiden tot output die niet geschikt of compatibel is met de Blackboard-omgeving en de maatregelen die we hebben genomen om onnauwkeurige output te minimaliseren.

Houd bij het opstellen van prompts in het bijzonder rekening met de volgende punten:

Gebruik bij AI-gesprek uitsluitend prompts die bedoeld zijn om het gesprek over het toegewezen onderwerp voort te zetten. Reageer bijvoorbeeld op de vragen en prompts van de AI-bot of stel de AI-bot vragen over het toegewezen onderwerp.
Gebruik geen prompts om output te vragen die verder gaat dan de beoogde functionaliteit. Je mag de prompt bijvoorbeeld niet gebruiken om bronnen of verwijzingen voor de output op te vragen. Uit onze tests is gebleken dat dergelijke output niet altijd nauwkeurig is.
Houd er rekening mee dat prompts die output vragen in de stijl van een specifieke persoon, of output die lijkt op auteursrechtelijk of merkrechtelijk beschermde items, kunnen leiden tot output met een risico op inbreuk op intellectuele-eigendomsrechten.
Voorgestelde output voor gevoelige onderwerpen kan beperkt zijn. Azure OpenAI Service is zodanig getraind en geïmplementeerd dat illegale en schadelijke inhoud tot een minimum wordt beperkt. Dit omvat een functie voor het filteren van content. Dit kan leiden tot beperkte output of foutmeldingen wanneer AI-gesprek wordt gebruikt voor cursussen over gevoelige onderwerpen (zoals zelfbeschadiging, geweld, haat of seks). Gebruik geen prompts die in strijd zijn met de voorwaarden van de overeenkomst tussen je instelling en Blackboard of die in strijd zijn met de Gedragscode voor Azure OpenAI Service van Microsoft en het beleid inzake acceptabel gebruik in de voorwaarden voor Microsoft Online Services.

Voor Rollenspel: cursusleiders moeten de persoonlijkheidskenmerken zorgvuldig selecteren en het gesimuleerde gesprek vooraf bekijken, omdat de persoonlijkheidskenmerken de toon en inhoud van het gesprek sterk beïnvloeden. Raadpleeg de bovenstaande functiebeschrijving voor meer informatie.

Trustworthy AI-principes in de praktijk

Blackboard beschouwt het rechtmatige, ethische en verantwoorde gebruik van AI als een belangrijke prioriteit. In dit gedeelte wordt uitgelegd hoe Blackboard en Microsoft hebben gewerkt aan het beperken van de risico’s voor een wettig, ethisch en verantwoord gebruik van AI en aan de implementatie van de Trustworthy AI-principes van Blackboard. Daarnaast worden er maatregelen voorgesteld die onze klanten kunnen overwegen wanneer zij zelf een beoordeling uitvoeren van de ethische risico’s van AI.

Transparantie en uitlegbaarheid

We maken in de beheerconsole van Blackboard duidelijk dat AI-gesprek een door AI ondersteunde functionaliteit is.
In de gebruikersinterface voor cursusleiders zijn de functies van AI-gesprek duidelijk gemarkeerd als AI-functies. Cursusleiders krijgen de mogelijkheid om het gesprek vooraf te bekijken en uit te proberen voordat het beschikbaar wordt gesteld aan studenten.
Naast de informatie in dit document over hoe AI-gesprek en de Azure OpenAI Service-modellen werken, verstrekt Microsoft aanvullende informatie over de Azure OpenAI Service in zijn transparantienotitie.
We moedigen klanten aan om transparant te zijn over het gebruik van AI binnen AI-gesprek en hun cursusleiders, studenten en andere belanghebbenden waar nodig de relevante informatie uit dit document en de hierin gekoppelde documentatie te verstrekken.

Betrouwbaarheid en nauwkeurigheid

We maken in de beheerconsole van Blackboard duidelijk dat AI-gesprek een door AI ondersteunde functionaliteit is die onnauwkeurige of ongewenste output kan opleveren, en dat dergelijke output altijd moet worden gecontroleerd.
In de gebruikersinterface worden cursusleiders (in de preview) en studenten die AI-gesprek gebruiken, geïnformeerd dat de antwoorden door AI worden gegenereerd en daarom bevooroordeeld of onnauwkeurig kunnen zijn.
Rollenspel: cursusleiders moeten zich ervan bewust zijn dat de persoonlijkheidskenmerken van de AI-persona de reacties en interacties met studenten bepalen en de betrouwbaarheid en nauwkeurigheid van de output kunnen beïnvloeden (inclusief een verhoogd risico op hallucinaties). Cursusleiders moeten de persoonlijkheidskenmerken zorgvuldig selecteren en het gesprek vooraf bekijken. Zie de functiebeschrijving voor meer informatie.
Zoals beschreven in het gedeelte Beperkingen van de transparantienotitie van de Azure OpenAI Service, bestaat er een risico op onnauwkeurige output (waaronder hallucinaties). Hoewel de specifieke aard van AI-gesprek en onze implementatie erop gericht zijn onnauwkeurigheden tot een minimum te beperken, is het de verantwoordelijkheid van onze klant om de output te controleren op nauwkeurigheid, vooringenomenheid en andere mogelijke problemen. Als er bezwaren zijn, hoeft AI-gesprek niet met studenten te worden gebruikt. Dit is een optionele functie van de cursus naar goeddunken van de cursusleider.
Zoals hierboven vermeld, moeten klanten de prompt niet gebruiken om output te vragen buiten de beoogde toepassingen, vooral omdat dit kan leiden tot onnauwkeurige output (bijvoorbeeld als om referenties of bronnen wordt gevraagd).
Als onderdeel van hun communicatie over AI-gesprek moeten klanten hun cursusleiders en studenten bewust maken van deze mogelijke beperkingen en risico’s.
Cursusleiders kunnen de extra prompts en instellingen in de generatieve workflows gebruiken om meer context te bieden aan AI-gesprek en zo de afstemming en nauwkeurigheid te verbeteren.
Klanten kunnen onnauwkeurige output aan ons rapporteren via de kanalen die in de inleiding van deze notitie zijn vermeld.
Voor AI-gesprek: de inhoud die tijdens het gesprek wordt gegenereerd, wordt niet door de cursusleider gecontroleerd voordat de studenten deze ontvangen, waardoor onjuiste inhoud bij een student terecht kan komen. Door het gesprek te baseren op geselecteerde cursusinhoud wordt dit risico kleiner, maar niet volledig weggenomen. Cursusleiders bekijken het transcript na het indienen en moeten de activiteit beschouwen als een informele oefening en niet als een officiële beoordeling.

Eerlijkheid

Grote taalmodellen brengen inherent risico’s met zich mee op het gebied van stereotypering, over- of ondervertegenwoordiging en andere vormen van schadelijke vooringenomenheid. Microsoft beschrijft deze risico’s in het gedeelte Beperkingen van de transparantienotitie van de Azure OpenAI Service.
Gezien deze risico’s hebben we de functies van AI-gesprek zorgvuldig gekozen om toepassingen te vermijden die gevoeliger zijn voor schadelijke vooringenomenheid of waarbij de impact daarvan groter kan zijn.
Rollenspel: cursusleiders moeten zich ervan bewust zijn dat de persoonlijkheidskenmerken van de AI-persona de reacties en interacties met studenten bepalen en kunnen leiden tot output met stereotypering, over- of ondervertegenwoordiging en andere vormen van schadelijke vooringenomenheid. Cursusleiders moeten de persoonlijkheidskenmerken zorgvuldig selecteren en het gesprek vooraf bekijken. Zie de functiebeschrijving voor meer informatie.
Toch kan niet worden uitgesloten dat een deel van de output door schadelijke vooringenomenheid wordt beïnvloed. Zoals hierboven vermeld onder ‘Nauwkeurigheid’, wordt cursusleiders gevraagd de activiteit te controleren, wat kan helpen om schadelijke vooringenomenheid te verminderen.
Als onderdeel van hun communicatie over AI-gesprek moeten klanten hun cursusleiders bewust maken van deze mogelijke beperking.
Klanten kunnen mogelijk schadelijke vooringenomenheid aan ons melden via de contactkanalen die in de inleiding van deze notitie worden vermeld.

Privacy en beveiliging

Zoals beschreven in het gedeelte ‘Belangrijkste feiten’ hierboven, wordt voor AI-gesprek slechts een beperkte hoeveelheid persoonsgegevens gebruikt en is die toegankelijk voor Microsoft. Dit gedeelte beschrijft ook de toezeggingen van ons en Microsoft met betrekking tot het gebruik van persoonsgegevens. Gezien de aard van AI-gesprek wordt verwacht dat ook de hoeveelheid persoonsgegevens in de gegenereerde output beperkt is.
Ons Blackboard LMS-product is gecertificeerd volgens ISO 27001/27017/27018 en ISO 27701. Deze certificeringen omvatten persoonsgegevens met betrekking tot AI-gesprek die door Blackboard worden beheerd. Meer informatie over de aanpak van Blackboard op het gebied van gegevensprivacy en -beveiliging vind je in ons Trust Center.
Microsoft beschrijft zijn procedures en toezeggingen voor gegevensprivacy en -beveiliging in de documentatie over Gegevens, privacy en beveiliging voor Azure OpenAI Service.
Ongeacht de toezeggingen van Blackboard en Microsoft met betrekking tot gegevensprivacy en het niet gebruiken van invoer om de modellen te hertrainen, kunnen klanten hun cursusleiders en studenten adviseren om geen persoonsgegevens of andere vertrouwelijke informatie in de prompts of het gesprek op te nemen.

Veiligheid

Grote taalmodellen brengen inherent het risico met zich mee dat de output ongepast, aanstootgevend of anderszins onveilig is. Microsoft beschrijft deze risico’s in het gedeelte Beperkingen van de transparantienotitie van de Azure OpenAI Service.
Gezien deze risico’s hebben we de functies van AI-gesprek zorgvuldig gekozen om toepassingen te vermijden die gevoeliger zijn voor onveilige output of waarbij de impact van dergelijke output groter kan zijn.
Rollenspel: cursusleiders moeten zich ervan bewust zijn dat de persoonlijkheidskenmerken van de AI-persona de reacties en interacties met studenten bepalen en kunnen leiden tot output die als ongepast, aanstootgevend of anderszins onveilig kan worden beschouwd. Cursusleiders moeten de persoonlijkheidskenmerken zorgvuldig selecteren en het gesprek vooraf bekijken. Zie de functiebeschrijving voor meer informatie.
Toch kan niet worden uitgesloten dat een deel van de output van AI-gesprek onveilig is. Zoals hierboven vermeld onder ‘Nauwkeurigheid’, wordt cursusleiders gevraagd de output te controleren, wat het risico op onveilige output verder kan verminderen.
Als onderdeel van hun communicatie over AI-gesprek moeten klanten hun cursusleiders en studenten bewust maken van deze mogelijke beperking.
Klanten moeten mogelijk onveilige output aan ons melden via de kanalen die in de inleiding van deze notitie worden vermeld.

Menselijke controle

Om de risico’s die gepaard gaan met het gebruik van generatieve AI voor onze klanten en hun gebruikers tot een minimum te beperken, geven we onze klanten bewust de controle over de functionaliteiten van AI-gesprek. AI-gesprek is daarom een functie die expliciet moet worden ingeschakeld. Beheerders moeten AI-gesprek activeren en kunnen vervolgens elke functie afzonderlijk activeren. Ze kunnen ook AI-gesprek in het algemeen of elk van de afzonderlijke functionaliteiten deactiveren.
AI-gesprek omvat geen geautomatiseerde besluitvorming die wettelijke of anderszins significante gevolgen kan hebben voor studenten of andere personen.
We raden klanten aan dit document, inclusief de links hierin, zorgvuldig door te nemen om er zeker van te zijn dat ze de mogelijkheden en beperkingen van AI-gesprek en de onderliggende Azure OpenAI Service begrijpen voordat ze AI-gesprek in de productieomgeving activeren.
Voor AI-gesprek: de inhoud die tijdens het gesprek wordt gegenereerd, wordt niet door de cursusleider gecontroleerd voordat de studenten deze ontvangen, waardoor onjuiste inhoud bij een student terecht kan komen. Door het gesprek te baseren op geselecteerde cursusinhoud wordt dit risico kleiner, maar niet volledig weggenomen. Cursusleiders bekijken het transcript na het indienen en moeten de activiteit beschouwen als een informele oefening en niet als een officiële beoordeling.

Afstemming op waarden

Grote taalmodellen brengen inherent risico’s met zich mee wat betreft output die bevooroordeeld, ongepast of anderszins niet in overeenstemming is met de waarden van Blackboard of die van onze klanten en studenten. Microsoft beschrijft deze risico’s in het gedeelte Beperkingen van de transparantienotitie van de Azure OpenAI Service.
Daarnaast bestaat het risico dat grote taalmodellen (net als elke technologie die een breed doel dient) worden misbruikt voor toepassingen die niet overeenstemmen met de waarden van Blackboard, onze klanten of hun eindgebruikers, en die van de samenleving in bredere zin (bijvoorbeeld voor criminele activiteiten of om schadelijke of anderszins ongepaste output te creëren).
Gezien deze risico’s hebben we de functies van AI-gesprek zorgvuldig ontworpen en geïmplementeerd om het risico op output die niet in overeenstemming is met deze waarden tot een minimum te beperken. We hebben ook bewust afgezien van functies die mogelijk grote gevolgen kunnen hebben. ·
Microsoft controleert ook prompts en output als onderdeel van zijn functie voor inhoudsfiltering om misbruik en het genereren van schadelijke inhoud te voorkomen.

Intellectueel eigendom

Grote taalmodellen brengen inherent risico’s met zich mee met betrekking tot mogelijke inbreuk op intellectuele-eigendomsrechten. De meeste wetten op het gebied van intellectueel eigendom wereldwijd hebben niet voorzien in de opkomst van grote taalmodellen en de complexiteit van de vraagstukken die het gebruik ervan met zich meebrengt, en zijn daar ook niet volledig op aangepast. Hierdoor is er op dit moment geen duidelijk juridisch kader of een duidelijke richtlijn voor de kwesties en risico’s op het gebied van intellectueel eigendom die voortkomen uit het gebruik van deze modellen.
Uiteindelijk is het de verantwoordelijkheid van onze klant om de door AI-gesprek gegenereerde output te controleren op mogelijke inbreuken op intellectuele-eigendomsrechten. Houd er rekening mee dat prompts die output vragen in de stijl van een specifieke persoon, of output die lijkt op auteursrechtelijk of merkrechtelijk beschermde items, kunnen leiden tot output met een verhoogd risico op inbreuk.

Toegankelijkheid

Bij het ontwerpen en ontwikkelen van AI-gesprek hebben we, net als bij alle andere onderdelen van Blackboard en onze andere producten, rekening gehouden met toegankelijkheid. Voorafgaand aan de lancering van AI-gesprek hebben we bewust de toegankelijkheid verbeterd van onder meer de semantische structuur, de navigatie, de toetsenbordbediening, de labels, de aangepaste componenten en de workflows voor afbeeldingen. Toegankelijkheid blijft een prioriteit wanneer we in de toekomst AI inzetten.

Verantwoordelijkheid

Blackboard heeft een Trustworthy AI-programma dat is opgezet om een wettig, ethisch en verantwoord gebruik van AI te waarborgen. Duidelijke interne verantwoordelijkheid en de systematische ethische AI-review van functionaliteiten, zoals die van AI-gesprek, zijn belangrijke pijlers van het programma.
Om AI-gesprek te kunnen aanbieden, zijn we een samenwerking aangegaan met Microsoft om gebruik te maken van de Azure OpenAI Service, waarop AI-gesprek draait. Microsoft zet zich al lange tijd in voor het ethisch gebruik van AI.
Klanten kunnen overwegen om intern beleid, procedures en beoordelingen van AI-toepassingen van derden in te voeren om hun eigen wettig, ethisch en verantwoord gebruik van AI te waarborgen. Deze informatie wordt verstrekt om onze klanten te helpen bij hun beoordeling van AI-gesprek.

Meer informatie

Trustworthy AI-aanpak van Blackboard
Lijst met generatieve AI-functies van Blackboard
De pagina Responsible AI van Microsoft
De transparantienotitie van Microsoft voor Azure Vision Service
Pagina van Microsoft over Gegevens, privacy en beveiliging voor Azure Vision Service