Europos Sąjungos Dirbtinio intelekto aktas (Reglamentas 2024/1689) yra pirmasis pasaulyje išsamus DI reguliavimas. Jam įsigaliojant palaipsniui, verslas, naudojantis balso agentus, dažniausiai užduoda vieną klausimą: ar dabar reikia viską perdaryti?
Trumpas atsakymas — ne. Balso agentas, kuris skambina klientams ir registruoja susitikimus, patenka į žemiausią reguliavimo pakopą. Bet vienas konkretus reikalavimas jam galioja, ir jį reikia įgyvendinti scenarijuje.
Bendro pobūdžio informacija, ne teisinė konsultacija. Dėl konkrečios sistemos vertinimo kreipkitės į teisininką.
Keturi rizikos lygiai
DI aktas skirsto sistemas pagal riziką, ir nuo lygio priklauso visa kita.
Nepriimtina rizika — uždrausta. Socialinis reitingavimas, subliminalus manipuliavimas, pažeidžiamų grupių išnaudojimas, realaus laiko biometrinis identifikavimas viešose vietose (su išimtimis).
Didelė rizika — griežtai reguliuojama. Sistemos, naudojamos personalo atrankoje, kredito vertinime, švietime, kritinėje infrastruktūroje, teisėsaugoje. Reikalinga atitikties vertinimo procedūra, rizikos valdymo sistema, dokumentacija, žmogaus priežiūra.
Ribota rizika — skaidrumo pareiga. Čia patenka pokalbių robotai ir balso agentai. Reikalavimas vienas: žmogus turi žinoti, kad bendrauja su mašina.
Minimali rizika — nereguliuojama. Šiukšlių filtrai, rekomendacijų sistemos, žaidimų DI.
Įprastas pardavimų ar registratūros balso agentas yra ribotos rizikos kategorijoje.
Svarbus patikslinimas dėl personalo atrankos
Yra viena situacija, kai balso agentas pakyla į didelės rizikos kategoriją: kai jis naudojamas kandidatų atrankai arba vertinimui įdarbinant.
DI akto III priedas įdarbinimo srities sistemas priskiria didelei rizikai. Praktinė riba tokia:
- agentas skambina kandidatui ir klausia, ar jam įdomi pozicija, ar jis pasiruošęs keisti darbą, ir perduoda rekruteriui — ribota rizika;
- agentas vertina kandidatus, juos reitinguoja arba atrenka, kas praeina toliau — didelė rizika su visomis atitinkamomis pareigomis.
Šis skirtumas praktikoje dažnai peržengiamas nepastebint. Jei balso agentas naudojamas personalo srityje, verta atskirai įsivertinti, kurioje pusėje esate.
Skaidrumo pareiga (50 straipsnis)
Pagrindinis reikalavimas balso agentams: fiziniai asmenys turi būti informuoti, kad bendrauja su DI sistema, nebent tai akivaizdu vidutiniškai informuotam asmeniui.
Praktikoje „akivaizdu“ yra nepatikima gynyba. Jei jūsų agentas skamba natūraliai — o gerai sukonfigūruotas skamba — remtis akivaizdumu negalima.
Papildomai galioja dirbtinai sukurto garso turinio ženklinimo reikalavimas. Realaus laiko pokalbio agentui svarbiausia lieka žodinis informavimas pokalbio metu.
Kaip tai skamba praktikoje
Formuluotė turi būti aiški, bet ne bauginanti. Veikiančios versijos:
Išeinantis skambutis, informavimas iš karto:
„Laba diena, čia Monika, automatinė ŠaltiSkambučiai asistentė. Skambinu dėl…“
Įeinantis skambutis:
„Laba diena, čia klinikos automatinė registratūra. Galiu užregistruoti jus pas gydytoją — pas kurį specialistą norėtumėte?“
Atsakymas, kai paklausiama tiesiogiai:
„Taip, aš esu automatinis asistentas. Jei norite, galiu sujungti su kolega.“
Trys principai, kurie veikia geriau nei ilgi teisiniai perspėjimai: pasakyti anksti, pasakyti trumpai, iškart pasiūlyti žmogų.
Praktinis pastebėjimas: prisistatymo įtaka konversijai yra gerokai mažesnė, nei paprastai baiminamasi. Pašnekovą erzina ne mašina — jį erzina bevertis pokalbis.
Ko daryti negalima
DI aktas draudžia sistemas, naudojančias pasąmoninę ar manipuliatyvią techniką, kuri iš esmės iškraipo elgesį ir gali padaryti žalos. Taip pat draudžiama išnaudoti pažeidžiamumą dėl amžiaus, negalios ar socialinės padėties.
Skambučių kontekste tai reiškia labai konkrečius dalykus:
- negalima teigti, kad skambina žmogus, kai skambina mašina;
- negalima kurti dirbtinės skubos, kurios nėra („liko dvi vietos“, kai jų neribota);
- negalima taikytis į grupes, kurios negali įvertinti pasiūlymo — pavyzdžiui, vyresnio amžiaus žmones su sudėtingais finansiniais produktais.
Pirmas punktas yra tas, kur rinkoje realiai pažeidžiama dažniausiai.
Kaip DI aktas dera su BDAR
Tai du atskiri reglamentai, veikiantys vienu metu. Jie nepakeičia vienas kito.
| Klausimas | BDAR | DI aktas |
|---|---|---|
| Ar galima skambinti? | Taip | Nereguliuoja |
| Ar galima įrašyti? | Taip, informavus | Nereguliuoja |
| Ar reikia sakyti, kad tai DI? | Ne | Taip |
| Teisė nesutikti | Taip | Nereguliuoja |
| Duomenų saugojimas | Taip | Nereguliuoja |
Praktinė išvada: atitiktis BDAR nereiškia atitikties DI aktui, ir atvirkščiai. Reikia abiejų.
Ką patikrinti savo sistemoje
- Ar pokalbio pradžioje pasakoma, kad tai automatinis asistentas?
- Ar į tiesioginį klausimą atsakoma sąžiningai?
- Ar yra galimybė paprašius pereiti prie žmogaus?
- Ar scenarijuje nėra dirbtinės skubos ar manipuliacijos?
- Ar agentas nenaudojamas kandidatų vertinimui (didelė rizika)?
- Ar tiekėjas gali pateikti savo sistemos dokumentaciją?
- Ar informavimas apie DI įtrauktas kartu su informavimu apie įrašymą?
Jei bent vienas punktas neaiškus, pradėti verta nuo scenarijaus peržiūros — daugumoje atvejų atitikčiai pasiekti pakanka pakeisti pirmą pokalbio sakinį.
Išvada
Balso agentams DI aktas yra gerokai švelnesnis, nei atrodo iš antraščių. Vienintelis realus reikalavimas — sąžiningumas dėl to, kas kalba. Griežtas režimas įsijungia tik pereinant į didelės rizikos sritis, iš kurių praktikoje svarbiausia yra personalo atranka.
Sąžiningas prisistatymas naudingas ir be reglamento: pokalbis, prasidėjęs melu, sugriūva būtent tada, kai pradeda sektis.