Inteligencia artificial: funcionamiento y garantías de uso

1.1La IA se utiliza para practicar una conversación comercial en una situación ficticia, preparar escenarios y analizar el contenido de una sesión de práctica. Los responsables pueden hacer un seguimiento del progreso de sus equipos, en función de las funciones incluidas en su plan y de los permisos configurados.

1.2El Servicio no mantiene conversaciones con prospectos reales en nombre del Usuario. Las identidades, voces y situaciones de los clientes simulados se utilizan para el ejercicio. Los comportamientos atribuidos a un personaje son parámetros de simulación; no corresponden a una emoción detectada en el Usuario. Las demostraciones del sitio se basan en personajes y resultados ficticios.

1.3Las puntuaciones y los consejos son ayudas para el aprendizaje. No constituyen un diploma ni una cualificación profesional reconocida por el Estado, ni una predicción cierta de éxito, ni una evaluación completa de la aptitud profesional de una persona.

2.1Antes de cada llamada, se informa al Usuario de que está conversando con un cliente simulado por IA. El proceso inicial también solicita que confirme haber leído la información sobre la intervención de la IA y la transcripción. Este paso puede repetirse cuando cambie la versión de la información.

2.2Los informes y las respuestas del coach se identifican como generados por IA. Esta indicación permite distinguir un resultado automatizado de un comentario redactado por una persona.

2.3Una casilla de aceptación acredita que la información se ha presentado en el Servicio. Por sí sola, no constituye la base jurídica de todos los tratamientos que decide el empleador ni sustituye la información previa que este debe proporcionar a los empleados.

3.1El escenario, las instrucciones pedagógicas y el contexto autorizado sirven para configurar al cliente ficticio. El proveedor de voz procesa las palabras del Usuario y genera las respuestas necesarias para la conversación. La calidad depende, entre otros factores, del micrófono, la conexión, el lenguaje utilizado y la pertinencia del escenario.

3.2La conversación se transcribe a texto. La aplicación no conserva ninguna grabación de audio de la llamada. En la función de buzón de voz, un procesamiento temporal en memoria permite realizar la transcripción; después, el audio se elimina de esa memoria.

3.3Intervienen proveedores de modelos de inteligencia artificial según las funciones utilizadas. El flujo de voz puede tratarse en Estados Unidos; no se garantiza la ubicación para todos los proveedores. Las categorías de proveedores, sus ubicaciones y las garantías aplicables figuran en la lista de subencargados y el DPA; la lista con los nombres se comunica a los clientes. Que la aplicación no grabe el audio no significa que estos proveedores no lo traten.

4.1El análisis pedagógico utiliza la transcripción, el contexto del ejercicio y la rúbrica aplicable. Busca en el texto elementos relacionados con los criterios del ejercicio y genera puntuaciones, observaciones, fragmentos o consejos.

4.2El Servicio no evalúa las características acústicas de la voz. No deduce las emociones, el estrés, la personalidad ni el estado de salud de una persona. No realiza identificaciones biométricas por la voz. Las rúbricas no deben incluir criterios destinados a realizar este tipo de análisis.

4.3Un error de transcripción puede modificar el resultado. Un criterio o una ponderación pueden no ser adecuados para el contexto. Por tanto, el informe de llamada debe leerse junto con el ejercicio y los parámetros de la rúbrica; una cifra aislada no basta para explicar el desempeño.

5.1Los documentos y las instrucciones proporcionados pueden servir para extraer elementos de contexto o proponer escenarios. Toda propuesta generada debe revisarse antes de activarla, en particular para corregir los hechos, eliminar los datos innecesarios y adaptar la redacción al sector correspondiente.

5.2El coach propone reformulaciones, ideas y ejercicios a partir del contexto disponible. Sus respuestas son solo sugerencias; no constituyen asesoramiento jurídico, médico, financiero ni normativo validado. Los usuarios deben verificar la información que requiera conocimientos especializados. Cada mensaje enviado al coach se descuenta del total de minutos, a razón de veinte segundos por mensaje.

5.3Un contenido generado puede parecerse a otro creado para otro usuario. No se garantiza que sea exclusivo, original ni que esté libre de derechos de terceros. El Cliente verifica los derechos y la exactitud antes de difundirlo más allá de su uso pedagógico.

6.1Los sistemas generativos pueden producir afirmaciones falsas, omitir elementos, atribuir declaraciones erróneamente o interpretar una conversación de forma inadecuada. Una formulación segura no es prueba de fiabilidad.

6.2Los resultados pueden verse afectados por la calidad del texto, el idioma, los acentos durante la transcripción, el contexto cultural, el escenario o los criterios seleccionados. Los resultados de distintas personas o períodos solo son comparables si las condiciones de los ejercicios son suficientemente similares.

6.3El Servicio no constituye un mecanismo infalible para probar las palabras pronunciadas. La transcripción y los análisis deben valorarse junto con los demás elementos disponibles. No se presentan como prueba suficiente de una conducta real frente a un cliente.

6.4El Cliente examina las discrepancias persistentes y los resultados que parezcan discriminatorios o incoherentes. Suspende el uso del resultado en cuestión para tomar decisiones y busca una explicación con la persona y, si es necesario, con el equipo de asistencia.

7.1El Usuario puede comparar el informe de llamada con su transcripción, señalar errores y hablar con la persona responsable de la práctica. El Cliente designa a una persona de contacto que pueda examinar las reclamaciones, explicar los criterios y decidir no tener en cuenta un resultado inadecuado.

7.2Los responsables de ventas verifican los elementos a los que tienen acceso legítimo, respetando la retroalimentación privada y los permisos de acceso. Cuando el acceso individual sea limitado, la supervisión humana se organiza mediante una conversación con la persona y no justifica eludir los ajustes de privacidad.

7.3El Servicio no debe utilizarse para tomar decisiones exclusivamente automatizadas sobre contratación, ascensos, remuneración, sanciones o despidos. La intervención humana debe ser real: la persona competente dispone del contexto y de la capacidad para cuestionar el resultado de la IA.

7.4El Servicio permite activar una clasificación de los vendedores basada en las puntuaciones de las prácticas. Esta configuración corresponde al Cliente, que evalúa su proporcionalidad, informa a los empleados y, cuando corresponda, al comité social y económico (CSE), y no la utiliza como instrumento disciplinario. El Cliente no convierte un indicador pedagógico en una clasificación disciplinaria automática. Un certificado asociado a las prácticas no sustituye la evaluación humana de las competencias en situaciones reales.

8.1Antes de implementar el dispositivo, el empleador informa a las personas, de conformidad con el artículo L1222-4 del Código del Trabajo (no puede recopilarse información relativa personalmente a un empleado mediante un dispositivo que no se le haya dado a conocer previamente) y el artículo L1222-3 (información sobre los métodos y técnicas de evaluación, que deben ser pertinentes para el objetivo perseguido), sobre la finalidad del dispositivo, las modalidades de los ejercicios, la transcripción, la evaluación del texto, los destinatarios de los resultados y su posible uso para el seguimiento profesional.

8.2Comunica la base jurídica elegida, los períodos de conservación, los lugares de tratamiento y las transferencias, los ajustes de privacidad, los derechos y los contactos. Especifica si el empleador solicita los ejercicios o si cada persona puede iniciarlos por su cuenta, así como las consecuencias de esta elección en su organización.

8.3La información distingue los resultados de la IA de las evaluaciones humanas. Explica cómo puede una persona señalar un error, solicitar que se examine su caso y ejercer sus derechos. Los documentos disponibles en el Servicio respaldan este proceso, pero no sustituyen la información adaptada al contexto de la empresa.

9.1Antes de introducir el dispositivo y realizar cambios significativos, el Cliente evalúa sus obligaciones de información y consulta a los representantes del personal. Cuando se cumplan las condiciones legales, en particular en el caso de medios que permitan supervisar la actividad o afecten a las condiciones de trabajo, realiza los trámites ante el CSE antes de la implementación, de conformidad con los artículos L2312-8 (introducción de nuevas tecnologías) y L2312-38 (medios o técnicas que permiten supervisar la actividad de los empleados) del Código del Trabajo.

9.2La existencia de un aviso o expediente proporcionado por el Proveedor no equivale a una opinión del CSE ni a la aprobación del dispositivo por parte de los representantes del personal. El Cliente describe los usos que realmente prevé, los accesos y las garantías otorgadas a los empleados.

9.3Evalúa la necesidad y la proporcionalidad del tratamiento, así como la necesidad de realizar una evaluación de impacto relativa a la protección de datos. El Proveedor le presta asistencia en el marco del DPA y le proporciona la información de que dispone sobre las funciones, los datos, los proveedores y las medidas de seguridad.

10.1El Reglamento (UE) 2024/1689 sobre inteligencia artificial, conocido como AI Act, establece, entre otras cosas, obligaciones de transparencia (artículo 50), de garantizar conocimientos suficientes sobre IA para el personal (artículo 4) y normas relativas a ciertos usos en el ámbito laboral. El Servicio informa antes de cada llamada de la interacción con una IA e identifica sus informes de llamada y su entrenador como generados por IA.

10.2El Servicio está diseñado para ofrecer retroalimentación pedagógica basada en el texto. No realiza reconocimiento de emociones en el lugar de trabajo, una práctica prohibida por el artículo 5, apartado 1, letra f), del Reglamento. El Cliente no debe intentar añadir criterios de este tipo ni desviar los resultados para ese fin.

10.3La clasificación reglamentaria de un sistema depende de su finalidad y de sus usos efectivos. El uso para la evaluación o supervisión profesional, la contratación o la toma de decisiones laborales puede estar sujeto a requisitos específicos, en particular los aplicables a los sistemas de alto riesgo (anexo III, punto 4, del Reglamento). La finalidad de formación no permite, por sí sola, excluir estas normas para cualquier uso imaginable.

10.4El Cliente no modifica la finalidad del Servicio para convertirlo en una herramienta automatizada de toma de decisiones de RR. HH. Proporciona a sus usuarios y responsables un nivel adecuado de conocimientos sobre IA: funcionamiento, límites, lectura crítica de las puntuaciones, privacidad y vías de reclamación. Este aviso no constituye una certificación general de conformidad con el AI Act ni una autorización para cualquier uso en la empresa.

11.1De forma predeterminada, las transcripciones se conservan durante 180 días y los informes de llamada durante 365 días. A partir del plan Business, el Cliente puede configurar estos períodos entre 30 días y tres años. Las conversaciones con el entrenador se conservan durante el mismo período que las transcripciones. Los períodos detallados, las exportaciones y los procedimientos de eliminación se indican en la Política de privacidad y el DPA.

11.2Los Usuarios evitan mencionar datos de contacto o información confidencial sobre clientes potenciales reales y utilizan ejemplos ficticios. Los documentos enviados deben limitarse a lo necesario y contar con las autorizaciones correspondientes.

11.3El Cliente define los permisos de acceso a los resultados y revisa periódicamente si siguen siendo necesarios. Una puntuación o un comentario pedagógico pueden constituir datos personales; el hecho de que los genere una IA no los exime del respeto de los derechos de la persona.

12.1Para notificar un error de transcripción, de informe de llamada o de funcionamiento: support@clozing.example. Para consultas sobre datos personales: privacy@clozing.example. Para incidentes de seguridad: security@clozing.example. Indique el ejercicio y el problema sin enviar datos innecesarios.

12.2El aviso se actualiza cuando se producen cambios significativos en las funciones o los usos descritos. Las Condiciones del servicio, las Condiciones generales de venta, la Política de privacidad, el DPA y los subencargados complementan esta información.