Informacja o systemach sztucznej inteligencji
Gdzie w AIvatary działa sztuczna inteligencja, co dzieje się z treścią przekazaną do modelu, czego model nie może zrobić samodzielnie i jak wygląda nadzór człowieka.
1. Rozmawiacie Państwo z systemem AI
Agent AIvatary jest systemem sztucznej inteligencji. Informujemy o tym w trzech miejscach naraz, żeby nikt nie musiał się domyślać: w pierwszej wiadomości rozmowy, w opisie okna rozmowy oraz w niniejszym dokumencie. Rozmowa nie udaje kontaktu z człowiekiem i agent nie przedstawia się jako osoba.
2. Do czego używamy sztucznej inteligencji
| Zastosowanie | Co robi |
|---|---|
| Model językowy | Formułuje treść odpowiedzi na podstawie fragmentów bazy wiedzy pobranych do danego pytania |
| Osadzenia wektorowe | Zamieniają treść bazy wiedzy i pytanie na postać, która pozwala odnaleźć pasujące fragmenty |
| Rozpoznawanie mowy | Zamienia wypowiedź na tekst w sesjach głosowych. Model działa na naszym serwerze |
| Synteza mowy | Zamienia odpowiedź na dźwięk |
| Ocena jakości odpowiedzi | Sprawdza gotową odpowiedź obok ścieżki krytycznej, na potrzeby zespołu, nie klienta |
3. Co dzieje się z treścią przekazaną do modelu
- Do modelu językowego trafia treść pytania, historia bieżącej rozmowy oraz fragmenty bazy wiedzy odnalezione dla tego konkretnego pytania. Nie wysyłamy całej bazy wiedzy ani danych innych organizacji.
- Zakres wyszukiwania jest ograniczony do jednej organizacji na poziomie samego zapytania do bazy. Nie jest to filtr nałożony na wynik, tylko warunek, bez którego zapytanie w ogóle nie powstaje. Fragment należący do innej organizacji nie ma jak trafić do kontekstu modelu.
- Treść przekazana do dostawcy modelu podlega jego umowie powierzenia. Dostawcy wymieniamy z nazwy w wykazie podprocesorów.
- Nie wykorzystujemy treści rozmów naszych klientów do trenowania własnych modeli.
4. Czego model nie może zrobić
Trzy ograniczenia stoją w kodzie przed modelem, a nie za nim, więc nie są zależne od tego, jak model się zachowa.
- Odpowiedź musi mieć pokrycie w źródłach. Kontrola odbywa się, zanim klient zobaczy pierwszy znak. Odpowiedź bez pokrycia jest odrzucana w całości, a rozmowa idzie do człowieka. Nie ma trybu „wyślij, a potem sprostuj”.
- Model nie zmienia danych. Operacja, która miałaby zmienić stan czegokolwiek, zamienia się w kartę potwierdzenia zatwierdzaną przez operatora osobnym kliknięciem, ze śladem w dzienniku audytu.
- Model nie wybiera sobie narzędzi. Katalog dostępnych operacji jest zamknięty i konfigurowany przez naszego klienta, z dwoma niezależnymi wyłącznikami awaryjnymi.
5. Zapisy przebiegu
Każda tura rozmowy zostawia zapis w dzienniku audytu: jakie fragmenty wiedzy zostały pobrane, jaka decyzja zapadła i co zostało wysłane. Zapis powstaje po redakcji danych wrażliwych, czyli numery PESEL, IBAN, telefony, adresy e-mail, numery kart i tokeny są zamieniane na znaczniki, zanim zdarzenie trafi do dziennika. Dziennika nie da się nadpisać.
6. Nadzór człowieka
- Rozmowa trafia do człowieka, gdy klient o to poprosi, gdy brakuje pokrycia w bazie wiedzy, gdy narzędzie zawiedzie albo gdy temat wykracza poza zakres ustalony przez naszego klienta. Katalog powodów jest zamknięty i każde przekazanie jest odnotowane.
- Baza wiedzy przechodzi cykl redakcyjny prowadzony przez ludzi. Agent widzi wyłącznie wersje opublikowane, więc to redakcja, a nie model, decyduje o tym, co może zostać powiedziane.
- Pytania bez pokrycia w bazie trafiają do rejestru luk, czyli listy dla redakcji. To zamyka pętlę: człowiek uzupełnia wiedzę, a nie model ją wymyśla.
7. Czego ta technologia nie potrafi
Model językowy operuje na prawdopodobieństwie, nie na rozumieniu. Dlatego całą konstrukcję opieramy na tym, żeby jego swoboda kończyła się na doborze słów, a nie sięgała treści i skutków. Odpowiedź agenta nie jest poradą prawną, medyczną ani finansową, chyba że nasz klient sam opublikował taką treść i bierze za nią odpowiedzialność jako jej autor.
8. Kontakt
Pytania dotyczące działania systemów AI prosimy kierować na contact@aivatary.com. Zasady przetwarzania danych opisuje polityka prywatności.