Kecerdasan buatan: cara kerja dan perlindungan penggunaan

1.1AI digunakan untuk berlatih melakukan percakapan penjualan dalam situasi fiktif, menyiapkan skenario, dan menganalisis konten sesi latihan. Manajer dapat memantau perkembangan tim sesuai fitur dalam paket mereka dan hak akses yang dikonfigurasi.

1.2Layanan tidak melakukan percakapan dengan prospek nyata atas nama Pengguna. Identitas, suara, dan situasi pelanggan simulasi digunakan untuk latihan. Perilaku yang ditetapkan pada persona merupakan parameter simulasi; perilaku tersebut tidak mencerminkan emosi yang terdeteksi pada Pengguna. Demonstrasi di situs menggunakan persona dan hasil fiktif.

1.3Nilai dan saran merupakan bantuan pembelajaran. Nilai dan saran tersebut bukan gelar atau kualifikasi profesional yang diakui negara, bukan prediksi keberhasilan yang pasti, dan bukan penilaian menyeluruh atas kemampuan profesional seseorang.

2.1Sebelum setiap panggilan, Pengguna diberi tahu bahwa ia sedang berdialog dengan pelanggan yang disimulasikan oleh AI. Alur awal juga meminta Pengguna untuk mengetahui bahwa AI akan digunakan dan percakapan akan ditranskripsikan. Langkah ini dapat diulangi jika versi informasinya berubah.

2.2Laporan panggilan dan jawaban pelatih ditandai sebagai keluaran AI. Penanda ini membantu membedakan keluaran otomatis dari komentar yang ditulis seseorang.

2.3Kotak persetujuan membuktikan bahwa informasi telah disampaikan dalam Layanan. Persetujuan itu sendiri bukan dasar hukum untuk semua pemrosesan yang diputuskan oleh pemberi kerja dan tidak menggantikan kewajibannya untuk memberi tahu karyawan terlebih dahulu.

3.1Skenario, instruksi pembelajaran, dan konteks yang diizinkan digunakan untuk mengatur pelanggan fiktif. Penyedia layanan suara memproses ucapan Pengguna dan menghasilkan respons yang diperlukan dalam percakapan. Kualitasnya bergantung, antara lain, pada mikrofon, koneksi, bahasa yang digunakan, dan kesesuaian skenario.

3.2Percakapan ditranskripsikan menjadi teks. Aplikasi tidak menyimpan rekaman audio panggilan. Pada fitur pesan suara, pemrosesan sementara di memori digunakan untuk membuat transkrip, lalu audio dihapus dari memori tersebut.

3.3Penyedia model kecerdasan buatan terlibat sesuai fitur yang digunakan. Aliran suara dapat diproses di Amerika Serikat; lokasi pemrosesan tidak dijamin untuk semua penyedia. Kategori penyedia, lokasi, dan jaminannya tercantum dalam daftar subprosesor dan DPA; daftar nama disampaikan kepada klien. Tidak adanya rekaman di aplikasi bukan berarti penyedia tersebut tidak memproses audio.

4.1Analisis pembelajaran menggunakan transkrip teks, konteks latihan, dan rubrik penilaian yang berlaku. Analisis ini mencari dalam teks unsur-unsur yang terkait dengan kriteria latihan, lalu menghasilkan skor, pengamatan, kutipan, atau saran.

4.2Layanan tidak menilai karakteristik akustik suara. Layanan tidak menyimpulkan emosi, stres, kepribadian, atau kondisi kesehatan seseorang. Layanan tidak melakukan identifikasi biometrik melalui suara. Rubrik penilaian tidak boleh memuat kriteria yang ditujukan untuk analisis semacam itu.

4.3Kesalahan transkripsi dapat mengubah hasil. Kriteria atau bobot mungkin tidak sesuai dengan konteks. Karena itu, laporan panggilan harus dibaca dengan mempertimbangkan latihan dan parameter kisi penilaian; angka saja tidak cukup untuk menjelaskan kinerja.

5.1Dokumen dan instruksi yang diberikan dapat digunakan untuk mengambil informasi kontekstual atau mengusulkan skenario. Usulan yang dihasilkan harus ditinjau sebelum diaktifkan, khususnya untuk memperbaiki fakta, menghapus data yang tidak diperlukan, dan menyesuaikan redaksi dengan bidang terkait.

5.2Pelatih memberikan usulan perumusan ulang, ide, dan latihan berdasarkan konteks yang tersedia. Responsnya tetap berupa saran dan bukan merupakan nasihat hukum, medis, keuangan, atau peraturan yang telah divalidasi. Pengguna harus meminta ahli memeriksa informasi yang memerlukan keahlian khusus. Setiap pesan yang dikirim kepada pelatih mengurangi total menit yang tersedia, dengan perhitungan dua puluh detik per pesan.

5.3Konten yang dihasilkan mungkin menyerupai konten yang dibuat untuk pengguna lain. Keeksklusifan, keaslian, atau kebebasannya dari hak pihak ketiga tidak dijamin. Klien harus memeriksa hak dan keakuratannya sebelum menyebarkannya di luar penggunaan untuk pembelajaran.

6.1Sistem generatif dapat menghasilkan pernyataan yang keliru, menghilangkan unsur tertentu, keliru mengaitkan suatu pernyataan kepada seseorang, atau menafsirkan percakapan dengan tidak tepat. Pernyataan yang terdengar meyakinkan bukan bukti bahwa informasi tersebut dapat diandalkan.

6.2Hasil dapat dipengaruhi oleh kualitas teks, bahasa, aksen dalam transkripsi, konteks budaya, skenario, atau kriteria yang dipilih. Hasil dari orang atau periode yang berbeda hanya dapat dibandingkan jika kondisi latihannya cukup serupa.

6.3Layanan bukan sarana pembuktian ucapan yang tidak dapat dipalsukan. Transkripsi dan analisis harus dinilai bersama bukti lain yang tersedia. Keduanya tidak disajikan sebagai bukti yang memadai atas perilaku nyata terhadap pelanggan.

6.4Klien meninjau perbedaan yang terus terjadi dan hasil yang tampak diskriminatif atau tidak konsisten. Klien menghentikan penggunaan hasil terkait dalam pengambilan keputusan dan mencari penjelasan bersama orang yang bersangkutan serta, jika perlu, meminta bantuan.

7.1Pengguna dapat membandingkan laporan panggilan dengan transkripsinya, melaporkan kesalahan, dan berdiskusi dengan penanggung jawab pelatihan. Klien menunjuk narahubung yang dapat meninjau keberatan, menjelaskan kriteria, dan memutuskan untuk tidak menggunakan hasil yang tidak sesuai.

7.2Manajer memeriksa informasi yang secara sah dapat mereka akses, dengan tetap menghormati umpan balik pribadi dan hak akses. Jika akses individual dibatasi, pengawasan manusia dilakukan melalui diskusi dengan orang yang bersangkutan dan tidak membenarkan upaya mengakali pengaturan privasi.

7.3Layanan tidak boleh digunakan untuk mengambil keputusan perekrutan, promosi, remunerasi, pemberian sanksi, atau pemutusan hubungan kerja yang sepenuhnya otomatis. Keterlibatan manusia harus nyata: orang yang berwenang memiliki konteks yang diperlukan dan kemampuan untuk menolak keluaran AI.

7.4Layanan memungkinkan pengaktifan peringkat antarwiraniaga berdasarkan skor latihan. Pengaturan ini berada di bawah tanggung jawab Klien, yang menilai proporsionalitasnya, memberi tahu karyawan dan, jika perlu, CSE, serta tidak menggunakannya sebagai alat pendisiplinan. Klien tidak mengubah indikator pembelajaran menjadi peringkat disipliner otomatis. Sertifikat yang terkait dengan sesi latihan tidak menggantikan penilaian manusia atas kompetensi dalam situasi nyata.

8.1Sebelum penerapan, pemberi kerja memberi tahu orang-orang yang bersangkutan, sesuai dengan Pasal L1222-4 Kode Ketenagakerjaan (informasi yang berkaitan secara pribadi dengan seorang karyawan tidak boleh dikumpulkan melalui sarana yang belum diberitahukan sebelumnya kepadanya) dan Pasal L1222-3 (informasi tentang metode dan teknik penilaian, yang harus relevan dengan tujuan yang ingin dicapai), mengenai tujuan sistem, tata cara latihan, transkripsi, penilaian berdasarkan teks, penerima hasil, dan kemungkinan penggunaan hasil dalam pemantauan profesional.

8.2Pemberi kerja menyampaikan dasar hukum yang digunakan, jangka waktu, lokasi pemrosesan dan transfer, pengaturan privasi, hak-hak, serta kontak yang dapat dihubungi. Pemberi kerja menjelaskan apakah latihan diwajibkan oleh pemberi kerja atau dapat diakses atas inisiatif masing-masing orang, serta konsekuensi pilihan tersebut dalam organisasinya.

8.3Informasi tersebut membedakan keluaran AI dari penilaian manusia. Informasi itu menjelaskan cara melaporkan kesalahan, meminta peninjauan kasus, dan menggunakan hak. Dokumen yang disediakan oleh Layanan membantu proses ini, tetapi tidak menggantikan pemberian informasi yang disesuaikan dengan konteks perusahaan.

9.1Sebelum memperkenalkan sistem dan melakukan perubahan signifikan, Klien menilai kewajibannya untuk memberi tahu dan berkonsultasi dengan perwakilan karyawan. Jika persyaratan hukum terpenuhi, khususnya terkait sarana yang memungkinkan pemantauan aktivitas atau memengaruhi kondisi kerja, Klien melakukan prosedur yang diperlukan bersama CSE sebelum penerapan, sesuai dengan Pasal L2312-8 (pengenalan teknologi baru) dan L2312-38 (sarana atau teknik yang memungkinkan pemantauan aktivitas karyawan) Kode Ketenagakerjaan.

9.2Adanya pemberitahuan atau dokumen yang disediakan oleh Penerbit bukan berarti CSE telah memberikan pendapat atau perwakilan karyawan telah menyetujui sistem tersebut. Klien menjelaskan penggunaan yang benar-benar direncanakan, akses, dan jaminan yang diberikan kepada karyawan.

9.3Klien menilai perlunya dan proporsionalitas pemrosesan serta perlunya penilaian dampak terhadap perlindungan data. Dalam kerangka DPA, Penerbit membantu Klien dengan memberikan informasi yang dimilikinya tentang fitur, data, penyedia layanan, dan langkah-langkah keamanan.

10.1Peraturan (UE) 2024/1689 tentang kecerdasan buatan, yang disebut AI Act, antara lain menetapkan kewajiban transparansi (Pasal 50), kewajiban memastikan personel memahami AI (Pasal 4), serta aturan terkait penggunaan tertentu di lingkungan kerja. Sebelum setiap panggilan, Layanan memberi tahu pengguna bahwa mereka berinteraksi dengan AI serta menandai laporan panggilan dan pelatihnya sebagai keluaran yang dihasilkan oleh AI.

10.2Layanan dirancang untuk memberikan umpan balik pembelajaran berdasarkan teks. Layanan tidak menerapkan pengenalan emosi di tempat kerja, praktik yang dilarang oleh Pasal 5(1)(f) Peraturan tersebut. Klien tidak boleh menambahkan kriteria semacam itu atau menyalahgunakan hasil untuk tujuan tersebut.

10.3Klasifikasi regulasi suatu sistem bergantung pada tujuan penggunaan dan penggunaan aktualnya. Penggunaan untuk penilaian atau pemantauan profesional, perekrutan, atau pengambilan keputusan terkait pekerjaan dapat tunduk pada persyaratan khusus, terutama persyaratan untuk sistem berisiko tinggi (Lampiran III, butir 4 Peraturan tersebut). Tujuan pelatihan saja tidak serta-merta mengecualikan semua penggunaan yang mungkin dari aturan ini.

10.4Klien tidak mengubah tujuan penggunaan Layanan hingga menjadikannya alat otomatis untuk pengambilan keputusan SDM. Klien memastikan pengguna dan penanggung jawabnya memahami AI secara memadai, termasuk cara kerja, keterbatasan, cara membaca skor secara kritis, privasi, dan mekanisme pengajuan keberatan. Pemberitahuan ini bukan sertifikasi umum kepatuhan terhadap AI Act maupun izin untuk segala bentuk penggunaan di perusahaan.

11.1Secara default, transkripsi disimpan selama 180 hari dan laporan panggilan selama 365 hari. Mulai paket Business, Klien dapat mengatur jangka waktu ini antara 30 hari dan tiga tahun. Diskusi dengan pelatih AI mengikuti jangka waktu penyimpanan transkripsi. Rincian jangka waktu, ekspor, dan prosedur penghapusan tercantum dalam Kebijakan Privasi dan DPA.

11.2Pengguna menghindari menyebutkan informasi kontak atau informasi rahasia tentang prospek nyata dan menggunakan contoh fiktif. Dokumen yang dikirim harus dibatasi pada hal-hal yang diperlukan dan dilengkapi dengan izin yang diperlukan.

11.3Klien mengatur akses ke hasil dan meninjau secara berkala apakah akses tersebut masih diperlukan. Skor atau komentar pembelajaran dapat merupakan data pribadi; fakta bahwa data tersebut dihasilkan oleh AI tidak menghilangkan hak orang yang bersangkutan.

12.1Untuk melaporkan kesalahan transkripsi, laporan panggilan, atau fungsi Layanan: support@clozing.example. Untuk pertanyaan tentang data pribadi: privacy@clozing.example. Untuk insiden keamanan: security@clozing.example. Sebutkan latihan dan masalahnya tanpa mengirimkan data yang tidak diperlukan.

12.2Pemberitahuan ini diperbarui jika terjadi perubahan signifikan pada fitur atau penggunaan yang dijelaskan. Ketentuan Layanan, Ketentuan Penjualan, Kebijakan Privasi, DPA, dan subprosesor melengkapi informasi ini.