Kunstmatige intelligentie: werking en waarborgen voor gebruik

1.1AI wordt gebruikt om een verkoopgesprek in een fictieve situatie te oefenen, scenario’s voor te bereiden en de inhoud van een oefensessie te analyseren. Leidinggevenden kunnen de voortgang van hun teams volgen, afhankelijk van de functies in hun abonnement en de ingestelde rechten.

1.2De dienst voert namens de gebruiker geen gesprek met een echte prospect. De identiteiten, stemmen en situaties van de gesimuleerde klanten dienen als oefenmateriaal. Het gedrag dat aan een persona wordt toegeschreven, is een simulatie-instelling en komt niet overeen met een emotie die bij de gebruiker is waargenomen. De demonstraties op de website zijn gebaseerd op fictieve persona’s en resultaten.

1.3Scores en adviezen zijn hulpmiddelen om te leren. Ze vormen geen diploma of beroepskwalificatie die door de staat is erkend, geen zekere voorspelling van succes en geen volledige beoordeling van iemands beroepsbekwaamheid.

2.1Vóór elk gesprek krijgt de gebruiker een melding dat deze communiceert met een door AI gesimuleerde klant. In de eerste procedure wordt de gebruiker ook gevraagd kennis te nemen van de inzet van AI en transcriptie. Deze stap kan opnieuw worden gevraagd wanneer de versie van de informatie verandert.

2.2Bij gespreksverslagen en antwoorden van de AI-coach wordt vermeld dat ze door AI zijn gegenereerd. Zo kan een geautomatiseerde uitvoer worden onderscheiden van een opmerking die door een persoon is geschreven.

2.3Een selectievakje bevestigt dat de informatie in de Dienst is getoond. Dit vormt op zichzelf niet de rechtsgrond voor alle verwerkingen waartoe de werkgever besluit en vervangt niet de voorafgaande informatieverstrekking aan werknemers.

3.1Het scenario, de trainingsinstructies en de toegestane context worden gebruikt om de fictieve klant in te stellen. De spraakprovider verwerkt de woorden van de gebruiker en genereert de antwoorden die nodig zijn voor het gesprek. De kwaliteit hangt onder meer af van de microfoon, de verbinding, het gebruikte taalgebruik en de relevantie van het scenario.

3.2Het gesprek wordt naar tekst getranscribeerd. De applicatie bewaart geen audio-opnamen van gesprekken. Bij de voicemailfunctie wordt de audio tijdelijk in het geheugen verwerkt om deze te transcriberen, waarna de audio uit het geheugen wordt verwijderd.

3.3Afhankelijk van de gebruikte functies worden leveranciers van AI-modellen ingeschakeld. De spraakstream kan in de Verenigde Staten worden verwerkt; de locatie is niet voor alle leveranciers gegarandeerd. De categorieën dienstverleners, locaties en waarborgen staan vermeld in de lijst van verwerkers en de DPA; de lijst met namen wordt aan klanten verstrekt. Dat er geen opname in de applicatie wordt opgeslagen, betekent niet dat deze leveranciers geen audio verwerken.

4.1De trainingsevaluatie is gebaseerd op het teksttranscript, de context van de oefening en de bijbehorende scorecard. In de tekst wordt gezocht naar elementen die verband houden met de criteria van de oefening. De evaluatie levert scores, observaties, fragmenten of adviezen op.

4.2De dienst beoordeelt geen akoestische kenmerken van de stem. Er worden geen emoties, stress, persoonlijkheid of gezondheidstoestand van personen afgeleid. Er wordt geen biometrische identificatie aan de hand van de stem uitgevoerd. Scorecards mogen geen criteria bevatten die op dergelijke analyses zijn gericht.

4.3Een transcriptiefout kan het resultaat beïnvloeden. Een criterium of weging kan ongeschikt zijn voor de context. Het gespreksverslag moet daarom worden gelezen in samenhang met de oefening en de instellingen van het beoordelingsschema; een los cijfer volstaat niet om een prestatie te verklaren.

5.1Aangeleverde documenten en instructies kunnen worden gebruikt om contextuele elementen te extraheren of scenario's voor te stellen. Een gegenereerd voorstel moet vóór activering worden nagelezen, met name om feiten te corrigeren, onnodige gegevens te verwijderen en de formuleringen aan te passen aan het betreffende vakgebied.

5.2De coach stelt alternatieve formuleringen, ideeën en oefeningen voor op basis van de beschikbare context. De antwoorden blijven suggesties en vormen geen gevalideerd juridisch, medisch, financieel of regelgevend advies. Gebruikers laten informatie waarvoor deskundigheid nodig is, controleren. Elk bericht aan de coach wordt in mindering gebracht op het aantal minuten, tegen twintig seconden per bericht.

5.3Gegenereerde inhoud kan lijken op inhoud die voor een andere gebruiker is gemaakt. Er wordt niet gegarandeerd dat de inhoud exclusief of origineel is, of vrij is van rechten van derden. De klant controleert de rechten en de juistheid voordat de inhoud buiten het gebruik voor oefeningen wordt verspreid.

6.1Generatieve systemen kunnen onjuiste beweringen doen, elementen weglaten, uitspraken ten onrechte aan iemand toeschrijven of een gesprek verkeerd interpreteren. Een zelfverzekerde formulering bewijst niet dat iets betrouwbaar is.

6.2Resultaten kunnen worden beïnvloed door de kwaliteit van de tekst, de taal, accenten tijdens de transcriptie, de culturele context, het scenario of de gekozen criteria. Resultaten van verschillende personen of perioden zijn alleen vergelijkbaar als de omstandigheden van hun oefeningen voldoende overeenkomen.

6.3De Dienst is geen fraudebestendig bewijsmiddel voor wat er is gezegd. De transcriptie en analyses moeten worden beoordeeld in samenhang met de andere beschikbare informatie. Ze worden niet voorgesteld als voldoende bewijs van gedrag tegenover een echte klant.

6.4De klant onderzoekt aanhoudende afwijkingen en resultaten die discriminerend of inconsistent lijken. De klant schort het gebruik van het betreffende resultaat bij besluitvorming op en zoekt samen met de betrokkene en, indien nodig, met ondersteuning naar een verklaring.

7.1De gebruiker kan het gespreksverslag vergelijken met de transcriptie, een fout melden en overleggen met de verantwoordelijke voor de oefening. De klant wijst een contactpersoon aan die bezwaren kan beoordelen, de criteria kan toelichten en kan besluiten een ongeschikt resultaat buiten beschouwing te laten.

7.2Salesmanagers controleren de gegevens waartoe zij rechtmatig toegang hebben, met respect voor de privéfeedback en de toegangsrechten. Als individuele toegang beperkt is, vindt menselijk toezicht plaats in overleg met de betrokkene. Dit is geen reden om de privacy-instellingen te omzeilen.

7.3De Dienst mag niet worden gebruikt om uitsluitend geautomatiseerde besluiten te nemen over werving, promotie, beloning, sancties of ontslag. Menselijke tussenkomst moet daadwerkelijk zijn: de bevoegde persoon beschikt over de context en kan afwijken van de uitvoer van de AI.

7.4Met de Dienst kan een rangschikking van salesmedewerkers op basis van oefenscores worden ingeschakeld. Deze instelling valt onder de verantwoordelijkheid van de klant, die de evenredigheid ervan beoordeelt, werknemers en, indien van toepassing, de ondernemingsraad informeert en de rangschikking niet als disciplinair middel gebruikt. De klant maakt van een indicator voor oefeningen geen automatische disciplinaire rangschikking. Een certificaat op basis van oefeningen vervangt geen menselijke beoordeling van vaardigheden in echte situaties.

8.1Vóór de invoering informeert de werkgever de betrokkenen overeenkomstig artikel L1222-4 van de Code du travail (informatie over een werknemer mag niet worden verzameld met een middel waarvan de werknemer niet vooraf op de hoogte is gesteld) en artikel L1222-3 (informatie over beoordelingsmethoden en -technieken, die relevant moeten zijn voor het beoogde doel). De werkgever licht het doel van het systeem toe, evenals de werkwijze van de oefeningen, de transcriptie, de beoordeling op basis van tekst, de ontvangers van de resultaten en het eventuele gebruik ervan voor de professionele begeleiding.

8.2De werkgever deelt mee welke rechtsgrond is gekozen, welke bewaartermijnen gelden, waar de verwerking en doorgiften plaatsvinden, welke privacy-instellingen beschikbaar zijn en welke rechten en contactpunten er zijn. Ook licht de werkgever toe of oefeningen door de werkgever worden opgelegd of op initiatief van elke werknemer beschikbaar zijn, en welke gevolgen die keuze heeft binnen de organisatie.

8.3De informatie maakt onderscheid tussen AI-uitvoer en menselijke beoordelingen. Er wordt uitgelegd hoe iemand een fout kan melden, kan vragen om de eigen situatie te beoordelen en de eigen rechten kan uitoefenen. De documenten die via de Dienst beschikbaar worden gesteld, ondersteunen dit proces, maar vervangen geen informatie die is afgestemd op de context van het bedrijf.

9.1Vóór de invoering van het systeem en ingrijpende wijzigingen ervan beoordeelt de klant welke verplichtingen gelden voor het informeren en raadplegen van werknemersvertegenwoordigers. Als aan de wettelijke voorwaarden is voldaan, met name bij middelen waarmee de werkzaamheden kunnen worden gecontroleerd of die de arbeidsomstandigheden beïnvloeden, onderneemt de klant vóór de invoering de vereiste stappen bij de ondernemingsraad, overeenkomstig de artikelen L2312-8 (invoering van nieuwe technologieën) en L2312-38 (middelen of technieken waarmee de werkzaamheden van werknemers kunnen worden gecontroleerd) van de Code du travail.

9.2Een kennisgeving of dossier van de aanbieder geldt niet als advies van de ondernemingsraad of als goedkeuring van het systeem door de werknemersvertegenwoordigers. De klant beschrijft het beoogde daadwerkelijke gebruik, de toegangsrechten en de waarborgen voor werknemers.

9.3De klant beoordeelt of de verwerking noodzakelijk en evenredig is en of een effectbeoordeling inzake gegevensbescherming nodig is. De aanbieder ondersteunt de klant in het kader van de DPA met de informatie waarover hij beschikt over de functies, gegevens, dienstverleners en beveiligingsmaatregelen.

10.1Verordening (EU) 2024/1689 inzake artificiële intelligentie, ook bekend als de AI Act, bevat onder meer verplichtingen op het gebied van transparantie (artikel 50), AI-geletterdheid van personeel (artikel 4) en regels voor bepaalde toepassingen op de werkplek. De Dienst informeert gebruikers vóór elk gesprek over de interactie met AI en vermeldt dat de gespreksverslagen en de coach door AI zijn gegenereerd.

10.2De Dienst is ontworpen om feedback voor oefeningen te geven op basis van tekst. De Dienst gebruikt geen emotieherkenning op de werkplek; deze praktijk is verboden op grond van artikel 5, lid 1, punt f), van de verordening. De klant mag dergelijke criteria niet toevoegen en de resultaten niet voor dat doel misbruiken.

10.3De wettelijke classificatie van een systeem hangt af van het beoogde doel en het daadwerkelijke gebruik. Gebruik voor professionele beoordeling of toezicht, werving of besluiten over werkgelegenheid kan aan bijzondere vereisten onderworpen zijn, waaronder de vereisten voor hoogrisicosystemen (bijlage III, punt 4, van de verordening). Het opleidingsdoel sluit deze regels niet zonder meer uit voor elk denkbaar gebruik.

10.4De klant wijzigt het beoogde doel van de Dienst niet om er een geautomatiseerd HR-beslissysteem van te maken. De klant zorgt ervoor dat gebruikers en verantwoordelijken voldoende inzicht hebben in AI: de werking en beperkingen, kritische interpretatie van scores, privacy en mogelijkheden om bezwaar te maken. Deze kennisgeving vormt geen algemene certificering van naleving van de AI Act en geeft geen toestemming voor elk gebruik binnen een bedrijf.

11.1Transcripties worden standaard 180 dagen bewaard en gespreksverslagen 365 dagen. Vanaf het Business-abonnement kan de klant deze termijnen instellen tussen 30 dagen en drie jaar. Gesprekken met de coach worden even lang bewaard als transcripties. Meer informatie over bewaartermijnen, exports en verwijderingsprocedures staat in het privacybeleid en de DPA.

11.2Gebruikers vermijden het noemen van contactgegevens of vertrouwelijke informatie over echte prospects en gebruiken fictieve voorbeelden. Ingediende documenten moeten beperkt blijven tot wat nodig is en voorzien zijn van de vereiste toestemmingen.

11.3De klant bepaalt wie toegang heeft tot de resultaten en beoordeelt regelmatig of die toegang nog nodig is. Een score of feedback voor oefeningen kan een persoonsgegeven zijn; het feit dat deze door AI is gegenereerd, doet geen afbreuk aan de rechten van de betrokkene.

12.1Meld een fout in een transcriptie, gespreksverslag of de werking via: support@clozing.example. Voor vragen over persoonsgegevens: privacy@clozing.example. Voor beveiligingsincidenten: security@clozing.example. Vermeld de oefening en het probleem, zonder onnodige gegevens mee te sturen.

12.2Deze kennisgeving wordt bijgewerkt bij ingrijpende wijzigingen van de beschreven functies of toepassingen. De Servicevoorwaarden, de Algemene verkoopvoorwaarden, het privacybeleid, de DPA en de subverwerkers vullen deze informatie aan.