Künstliche Intelligenz: Funktionsweise und Nutzungsgarantien

1.1Die KI dient dazu, ein Verkaufsgespräch in einer fiktiven Situation zu üben, Szenarien vorzubereiten und die Inhalte einer Trainingseinheit zu analysieren. Vertriebsleiter können den Fortschritt ihrer Teams entsprechend den Funktionen ihres Tarifs und den eingerichteten Berechtigungen verfolgen.

1.2Der Dienst führt im Namen des Nutzers kein Gespräch mit einem echten Interessenten. Identitäten, Stimmen und Situationen der simulierten Kunden dienen der Übung. Die einer Persona zugewiesenen Verhaltensweisen sind Simulationsparameter; sie entsprechen keiner beim Nutzer erkannten Emotion. Die Demonstrationen auf der Website basieren auf fiktiven Personas und Ergebnissen.

1.3Bewertungen und Ratschläge dienen als Lernhilfen. Sie stellen weder einen staatlich anerkannten Abschluss oder Berufsabschluss noch eine sichere Erfolgsprognose oder eine umfassende Bewertung der beruflichen Eignung einer Person dar.

2.1Vor jedem Anruf wird der Nutzer darauf hingewiesen, dass er mit einem von KI simulierten Kunden spricht. Im Einrichtungsprozess wird außerdem bestätigt, dass der Nutzer über den Einsatz von KI und die Transkription informiert wurde. Dieser Schritt kann wiederholt werden, wenn sich die Informationsversion ändert.

2.2Gesprächsberichte und Antworten des Coaches sind als KI-generiert gekennzeichnet. So lassen sich automatisierte Ausgaben von Kommentaren unterscheiden, die eine Person verfasst hat.

2.3Mit einem Kontrollkästchen wird bestätigt, dass die Informationen im Service angezeigt wurden. Dies stellt für sich genommen nicht die Rechtsgrundlage für alle vom Arbeitgeber beschlossenen Verarbeitungsvorgänge dar und ersetzt nicht dessen vorherige Information der Beschäftigten.

3.1Das Szenario, die pädagogischen Anweisungen und der zulässige Kontext dienen dazu, den fiktiven Kunden zu konfigurieren. Der Sprachdienstleister verarbeitet die Äußerungen des Nutzers und generiert die für das Gespräch erforderlichen Antworten. Die Qualität hängt unter anderem vom Mikrofon, der Verbindung, der verwendeten Sprache und der Eignung des Szenarios ab.

3.2Das Gespräch wird in Text transkribiert. Die Anwendung speichert keine Audioaufzeichnungen von Anrufen. Bei der Voicemail-Funktion wird der Ton vorübergehend im Arbeitsspeicher verarbeitet, um ihn zu transkribieren, und anschließend aus dem Arbeitsspeicher gelöscht.

3.3Je nach verwendeten Funktionen kommen Anbieter von Modellen künstlicher Intelligenz zum Einsatz. Sprachdaten können in den USA verarbeitet werden; der Standort ist nicht für alle Anbieter garantiert. Die Kategorien der Dienstleister, Standorte und Garantien sind in der Liste der Auftragsverarbeiter und im DPA aufgeführt. Die namentliche Liste wird den Kunden mitgeteilt. Dass in der Anwendung keine Aufzeichnung gespeichert wird, bedeutet nicht, dass diese Dienstleister keine Audiodaten verarbeiten.

4.1Für die pädagogische Analyse werden das Texttranskript, der Kontext der Übung und das geltende Bewertungsraster herangezogen. Dabei werden im Text Elemente gesucht, die den Übungskriterien entsprechen, und Bewertungen, Beobachtungen, Auszüge oder Empfehlungen erstellt.

4.2Der Dienst bewertet nicht die akustischen Eigenschaften der Stimme. Er leitet daraus weder Emotionen noch Stress, Persönlichkeit oder den Gesundheitszustand einer Person ab. Eine biometrische Identifizierung anhand der Stimme findet nicht statt. Die Bewertungsraster dürfen keine Kriterien enthalten, die solchen Analysen dienen.

4.3Ein Transkriptionsfehler kann das Ergebnis verändern. Ein Kriterium oder eine Gewichtung kann für den jeweiligen Kontext ungeeignet sein. Der Gesprächsbericht muss daher zusammen mit der Übung und den Einstellungen des Bewertungsrasters gelesen werden; eine einzelne Zahl reicht nicht aus, um die Leistung zu erklären.

5.1Die bereitgestellten Dokumente und Anweisungen können dazu verwendet werden, Kontextinformationen zu extrahieren oder Szenarien vorzuschlagen. Ein generierter Vorschlag muss vor der Aktivierung geprüft werden, insbesondere um Fakten zu berichtigen, unnötige Daten zu entfernen und die Formulierungen an den jeweiligen Beruf anzupassen.

5.2Der Coach schlägt auf Grundlage des verfügbaren Kontexts alternative Formulierungen, Ansätze und Übungen vor. Seine Antworten sind lediglich Vorschläge und stellen keine geprüfte Rechts-, Medizin-, Finanz- oder Regulierungsberatung dar. Nutzer lassen Informationen, für die Fachwissen erforderlich ist, überprüfen. Jede an den Coach gerichtete Nachricht wird mit 20 Sekunden vom Minutenkontingent abgezogen.

5.3Ein generierter Inhalt kann einem Inhalt ähneln, der für einen anderen Nutzer erstellt wurde. Es wird nicht garantiert, dass er exklusiv oder originell ist oder keine Rechte Dritter verletzt. Der Kunde prüft die Rechte und die Richtigkeit, bevor er den Inhalt über die pädagogische Nutzung hinaus verbreitet.

6.1Generative Systeme können falsche Aussagen erzeugen, Informationen auslassen, Äußerungen fälschlich zuordnen oder ein Gespräch unangemessen interpretieren. Eine selbstsichere Formulierung ist kein Beleg für Zuverlässigkeit.

6.2Die Ergebnisse können durch die Textqualität, die Sprache, Akzente bei der Transkription, den kulturellen Kontext, das Szenario oder die gewählten Kriterien beeinflusst werden. Ergebnisse verschiedener Personen oder Zeiträume sind nur dann vergleichbar, wenn die Übungsbedingungen hinreichend ähnlich sind.

6.3Der Service ist kein fälschungssicheres Beweismittel für tatsächlich geäußerte Worte. Transkriptionen und Analysen müssen zusammen mit den weiteren verfügbaren Informationen bewertet werden. Sie werden nicht als ausreichender Nachweis für das tatsächliche Verhalten gegenüber einem Kunden dargestellt.

6.4Der Kunde prüft anhaltende Abweichungen und Ergebnisse, die diskriminierend oder widersprüchlich erscheinen. Er setzt die Verwendung des betreffenden Ergebnisses für seine Entscheidungen aus und sucht gemeinsam mit der betroffenen Person und, falls erforderlich, mit dem Support nach einer Erklärung.

7.1Der Nutzer kann den Gesprächsbericht mit seiner Transkription abgleichen, einen Fehler melden und sich mit dem Verantwortlichen für das Training austauschen. Der Kunde benennt eine Ansprechperson, die Anfechtungen prüfen, die Kriterien erläutern und entscheiden kann, ein ungeeignetes Ergebnis nicht zu berücksichtigen.

7.2Die Vertriebsleiter prüfen die Informationen, auf die sie berechtigterweise Zugriff haben, und beachten dabei das vertrauliche Feedback und die Zugriffsrechte. Ist der individuelle Zugriff eingeschränkt, erfolgt die menschliche Kontrolle im Gespräch mit der betreffenden Person; dies rechtfertigt nicht, die Datenschutzeinstellungen zu umgehen.

7.3Der Service darf nicht für ausschließlich automatisierte Entscheidungen über Einstellung, Beförderung, Vergütung, Sanktionen oder Kündigung verwendet werden. Die menschliche Mitwirkung muss tatsächlich erfolgen: Die zuständige Person verfügt über den Kontext und kann der KI-Ausgabe widersprechen.

7.4Im Service lässt sich eine Rangliste der Vertriebsmitarbeiter auf Grundlage ihrer Trainingsbewertungen aktivieren. Diese Einstellung liegt in der Verantwortung des Kunden. Er prüft deren Verhältnismäßigkeit, informiert die Beschäftigten und gegebenenfalls den Sozial- und Wirtschaftsausschuss (CSE) und verwendet sie nicht als Disziplinarinstrument. Der Kunde macht aus einem pädagogischen Indikator keine automatische Disziplinarrangliste. Ein Zertifikat für absolvierte Trainings ersetzt keine menschliche Beurteilung der Kompetenzen in realen Situationen.

8.1Vor der Einführung informiert der Arbeitgeber die betroffenen Personen gemäß Artikel L1222-4 des französischen Arbeitsgesetzbuchs (Informationen, die sich persönlich auf einen Beschäftigten beziehen, dürfen nicht mit einem Verfahren erhoben werden, über das dieser nicht zuvor informiert wurde) und Artikel L1222-3 (Information über Bewertungsmethoden und -techniken, die im Hinblick auf den verfolgten Zweck relevant sein müssen) über den Zweck des Verfahrens, die Modalitäten der Übungen, die Transkription, die Bewertung anhand des Textes, die Empfänger der Ergebnisse und deren mögliche Verwendung im Rahmen der beruflichen Betreuung.

8.2Der Arbeitgeber teilt die gewählte Rechtsgrundlage, die Aufbewahrungsfristen, die Verarbeitungsorte und Übermittlungen, die Datenschutzeinstellungen, die Rechte und die Kontaktstellen mit. Er gibt an, ob die Übungen vom Arbeitgeber vorgegeben werden oder auf Initiative der einzelnen Personen zugänglich sind, und erläutert die Folgen dieser Wahl für die Organisation.

8.3Die Informationen unterscheiden zwischen KI-Ausgaben und menschlichen Beurteilungen. Sie erläutern, wie eine Person einen Fehler melden, eine Prüfung ihres Falls beantragen und ihre Rechte ausüben kann. Die vom Service bereitgestellten Dokumente unterstützen dieses Vorgehen, ersetzen jedoch keine an den Unternehmenskontext angepasste Information.

9.1Vor der Einführung des Verfahrens und bei wesentlichen Änderungen prüft der Kunde seine Informations- und Konsultationspflichten gegenüber den Arbeitnehmervertretern. Sind die gesetzlichen Voraussetzungen erfüllt, insbesondere bei Mitteln zur Überwachung der Tätigkeit oder zur Beeinflussung der Arbeitsbedingungen, führt er vor der Umsetzung die erforderlichen Schritte gegenüber dem CSE gemäß den Artikeln L2312-8 (Einführung neuer Technologien) und L2312-38 (Mittel oder Techniken zur Überwachung der Tätigkeit von Beschäftigten) des französischen Arbeitsgesetzbuchs durch.

9.2Das Vorhandensein eines vom Anbieter bereitgestellten Hinweises oder Dokuments gilt weder als Stellungnahme des CSE noch als Billigung des Verfahrens durch die Arbeitnehmervertreter. Der Kunde beschreibt die tatsächlich geplanten Nutzungen, die Zugriffsrechte und die den Beschäftigten gewährten Garantien.

9.3Der Kunde prüft die Erforderlichkeit und Verhältnismäßigkeit der Verarbeitung sowie, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Der Anbieter unterstützt ihn im Rahmen des DPA mit den ihm vorliegenden Informationen zu Funktionen, Daten, Anbietern und Sicherheitsmaßnahmen.

10.1Die Verordnung (EU) 2024/1689 über künstliche Intelligenz, bekannt als AI Act, sieht insbesondere Transparenzpflichten (Artikel 50), Anforderungen an die KI-Kompetenz des Personals (Artikel 4) und Vorschriften für bestimmte Anwendungen am Arbeitsplatz vor. Der Service informiert vor jedem Anruf über die Interaktion mit einer KI und kennzeichnet seine Gesprächsberichte und seinen Coach als KI-generiert.

10.2Der Service ist auf pädagogisches Feedback auf Textbasis ausgelegt. Er setzt am Arbeitsplatz keine Emotionserkennung ein, eine nach Artikel 5 Absatz 1 Buchstabe f der Verordnung verbotene Praxis. Der Kunde darf weder solche Kriterien hinzufügen noch die Ergebnisse zu diesem Zweck zweckentfremden.

10.3Die regulatorische Einstufung eines Systems hängt von seinem Verwendungszweck und der tatsächlichen Nutzung ab. Eine Nutzung zur Bewertung oder Überwachung am Arbeitsplatz, für die Personalbeschaffung oder für Beschäftigungsentscheidungen kann besonderen Anforderungen unterliegen, insbesondere den Anforderungen an Hochrisikosysteme (Anhang III Nummer 4 der Verordnung). Der Schulungszweck allein schließt diese Vorschriften nicht für jede denkbare Nutzung aus.

10.4Der Kunde ändert den Verwendungszweck des Service nicht, um daraus ein automatisiertes Instrument für Personalentscheidungen zu machen. Er sorgt bei Nutzern und Verantwortlichen für ein angemessenes Verständnis von KI: Funktionsweise, Grenzen, kritische Bewertung von Ergebnissen, Datenschutz und Beschwerdemöglichkeiten. Dieser Hinweis stellt weder eine allgemeine Bescheinigung der Konformität mit dem AI Act noch eine Genehmigung für jegliche Nutzung im Unternehmen dar.

11.1Transkripte werden standardmäßig 180 Tage und Gesprächsberichte 365 Tage aufbewahrt. Ab dem Tarif Business legt der Kunde diese Fristen auf einen Zeitraum zwischen 30 Tagen und drei Jahren fest. Gespräche mit dem KI-Coach werden so lange wie Transkripte aufbewahrt. Die detaillierten Fristen, Exporte und Löschverfahren sind in der Datenschutzerklärung und im DPA aufgeführt.

11.2Nutzer sollten keine Kontaktdaten oder vertraulichen Informationen zu echten Interessenten nennen und stattdessen fiktive Beispiele verwenden. Übermittelte Dokumente sind auf das Notwendige zu beschränken und dürfen nur mit den erforderlichen Genehmigungen bereitgestellt werden.

11.3Der Kunde legt fest, wer auf die Ergebnisse zugreifen kann, und überprüft regelmäßig, ob dieser Zugriff weiterhin erforderlich ist. Eine Bewertung oder ein pädagogischer Kommentar kann personenbezogene Daten darstellen; die Tatsache, dass sie KI-generiert sind, entzieht sie nicht den Rechten der betroffenen Person.

12.1Um einen Fehler bei der Transkription, im Gesprächsbericht oder in der Funktionsweise zu melden: support@clozing.example. Bei Fragen zu personenbezogenen Daten: privacy@clozing.example. Bei einem Sicherheitsvorfall: security@clozing.example. Geben Sie die Übung und das Problem an, ohne unnötige Daten zu übermitteln.

12.2Dieser Hinweis wird bei wesentlichen Änderungen der beschriebenen Funktionen oder Nutzungsweisen aktualisiert. Die Nutzungsbedingungen, die Allgemeinen Verkaufsbedingungen, die Datenschutzerklärung, der DPA und die Auftragsverarbeiter ergänzen diese Informationen.