AI Zarządzanie i odpowiedzialna AI Polityka

FARENIO EKOSYSTEM

ARTYKUŁ 1 – CEL

Niniejsza Polityka ustanawia ramy zarządzania dotyczące projektowania, rozwoju, wdrażania, obsługi, monitorowania i wycofywania systemów sztucznej inteligencji (AI) w ramach ekosystemu FARENIO.

Cele są następujące:

• Promuj Godne Zaufania AI;
• Zapewnij zgodność z prawem i przepisami;
• Chroń użytkowników i zainteresowane strony;
• Wspieraj odpowiedzialne innowacje;
• Ustal odpowiedzialność i zarządzanie;
• Zmniejsz ryzyko związane ze sztuczną inteligencją.

Niniejsza Polityka ma zastosowanie do wszystkich systemów opracowanych, wdrożonych, zintegrowanych, licencjonowanych lub używanych przez AI.

ARTYKUŁ 2 – ZAKRES

Niniejsza Polityka dotyczy AI systemów używanych w:

• Portal hosta;
• Portal administracyjny;
• Portal sprzątaczy;
• Portal dostawców;
• Rynek;
• SaaS Platforma;
• Platforma Obsługi Nieruchomości;
• PMS Integracje;
• Obsługa klienta;
• Operacje wewnętrzne.

Uwzględnione funkcje AI obejmują:

• AI Silnik cenowy;
• AI Silnik planowania;
• AI Silnik wysyłkowy;
• AI Inteligencja Operacyjna;
• AI Obsługa klienta;
• AI Automatyzacja przepływu pracy;
• Analityka predykcyjna;
• Systemy rekomendacji;
• Wykrywanie oszustw;
• Analityka zapewnienia jakości.

ARTYKUŁ 3 – ZASADY OBOWIĄZUJĄCE

FARENIO zajmuje się AI systemami, które są:

• Legalny;
• Bezpieczna;
• Niezawodny;
• Bezpieczny;
• Przezroczysty;
• Wyjaśnialne, gdy jest to właściwe;
• Odpowiedzialny;
• Poszanowanie prywatności;
• Uczciwe i niedyskryminujące;
• Podlega znaczącemu nadzorowi człowieka.

ARTYKUŁ 4 – STRUKTURA ZARZĄDZANIA

Ogólna odpowiedzialność za zarządzanie AI spoczywa na kierownictwie wyższego szczebla.

Obowiązki operacyjne mogą obejmować:

• AI Kierownik ds. zarządzania;
• Specjalista ds. zgodności;
• Inspektor ochrony danych (jeżeli został wyznaczony);
• Zespół ds. Bezpieczeństwa;
• Zespół inżynieryjny;
• Zespół Produktowy;
• Zespół ds. zapewnienia jakości.

Role i obowiązki należy dokumentować i okresowo przeglądać.

ARTYKUŁ 5 – ZARZĄDZANIE CYKLEM ŻYCIA

Każdy system AI będzie zarządzany przez cały cykl życia, w tym:

• Pojęcie;
• Projekt;
• Rozwój;
• Testowanie;
• Walidacja;
• Zastosowanie;
• Monitorowanie;
• Konserwacja;
• Emerytura.

Na każdym etapie obowiązują odpowiednie mechanizmy kontroli zarządczej.

ARTYKUŁ 6 – NADZÓR LUDZKI

W stosownych przypadkach decyzje wspomagane będą nadal podlegać przeglądowi ludzkiemu.

Użytkownicy i upoważniony personel będą mieli możliwość:

• Przejrzyj zalecenia;
• Zastąp wyjścia AI;
• eskalować obawy;
• Poproś o ręczną interwencję.

FARENIO nie będzie opierać się wyłącznie na zautomatyzowanym podejmowaniu decyzji, jeżeli zabrania tego obowiązujące prawo.

ARTYKUŁ 7 – ZARZĄDZANIE DANYMI

Systemy będą przetwarzać dane zgodnie z:

• GDPR;
• Polityka prywatności;
• Umowa o przetwarzaniu danych;
• Wymagania dotyczące bezpieczeństwa informacji.

Zbiorami danych szkoleniowych i operacyjnych należy zarządzać w sposób minimalizujący stronniczość, niedokładności i niewłaściwe przetwarzanie.

ARTYKUŁ 8 – BEZPIECZEŃSTWO

Systemy powinny być zabezpieczone odpowiednimi środkami technicznymi i organizacyjnymi

środki, w tym:

• Kontrola dostępu;
• Uwierzytelnianie;
• Szyfrowanie w stosownych przypadkach;
• Wycięcie lasu;
• Monitorowanie;
• Zarządzanie lukami w zabezpieczeniach;
• Bezpieczne procedury wdrażania.

ARTYKUŁ 9 – ZARZĄDZANIE RYZYKIEM

Należy identyfikować, oceniać, dokumentować, monitorować i minimalizować ryzyka z nimi związane.

Ocena ryzyka uwzględnia:

• Ryzyko prawne;
• Ryzyka Operacyjne;
• Zagrożenia bezpieczeństwa;
• Zagrożenia prywatności;
• Stronniczość;
• Uczciwość;
• Wyjaśnialność;
• cyberbezpieczeństwo;
• Niezawodność modelu.

ARTYKUŁ 10 – CIĄGŁY MONITORING

Systemy powinny być monitorowane pod kątem:

• Wydajność;
• Niezawodność;
• Dryf;
• Dokładność;
• Nadużywanie;
• Incydenty związane z bezpieczeństwem;
• Nieoczekiwane wyniki.

Istotne kwestie spowodują przegląd i, w stosownych przypadkach, zawieszenie lub wycofanie dotkniętego systemu AI.

ARTYKUŁ 11 – ZGODNOŚĆ

FARENIO będzie dążyć do dostosowania się do:

• Obowiązujące ustawodawstwo;
• Przepisy dotyczące ochrony danych;
• Wymogi dotyczące ochrony konsumentów;
• obowiązki w zakresie cyberbezpieczeństwa;
• Zobowiązania umowne.

ARTYKUŁ 12 – PRZEGLĄD POLITYKI

Niniejsza Polityka będzie okresowo przeglądana i aktualizowana w celu odzwierciedlenia:

• Rozwój technologiczny;
• Zmiany prawne;
• Doświadczenie operacyjne;
• Pojawiające się zagrożenia.

ARTYKUŁ 13 – KONTAKT

Pytania dotyczące zarządzania można kierować do:

AI Funkcja zarządzania

GQ VENTURES SAS

E-mail:

ai-governance@farenio.com

ARTYKUŁ 14 – AKCEPTACJA

Korzystanie z usług obsługujących AI w ramach ekosystemu FARENIO oznacza potwierdzenie niniejszej Polityki, tam gdzie ma to zastosowanie.

ZAŁĄCZNIK A

PODRĘCZNIK SYSTEMU ZARZĄDZANIA AI (AIMS)

Zamiar:

Ustanowienie obejmującego całe przedsiębiorstwo systemu zarządzania sztuczną inteligencją, zgodnego z uznanymi standardami zarządzania.

AIMS będzie obejmować:

Zarządzanie

Komitet Zarządzający.

Nadzór wykonawczy.

Zdefiniowana odpowiedzialność.

Zarządzanie polityką.

Okresowy przegląd zarządzania.

Planowanie

AI celów.

Planowanie ryzyka.

Planowanie zgodności.

Alokacja zasobów.

Wsparcie

Kompetencja.

Szkolenie.

Świadomość.

Dokumentacja.

Komunikacja.

Operacje

Kontrola cyklu życia.

Zatwierdzenia wdrożeniowe.

Monitorowanie.

Walidacja.

Bezpieczeństwo.

Reakcja na incydent.

Ocena wydajności

Audyty wewnętrzne.

KPI.

Przeglądy ryzyka.

Przegląd zarządzania.

Ciągłe doskonalenie.

ZAŁĄCZNIK B

REJESTR RYZYKA AI

Każdy system AI będzie odnotowany w rejestrze żywym.

Pola minimalne obejmują:

• AI Nazwa systemu
• Właściciel firmy
• Właściciel techniczny
• Zamiar
• Opis
• Klasyfikacja ryzyka
• Podstawa prawna
• Kategorie danych
• Źródła danych
• Wersja modelu
• Data wdrożenia
• Nadzór ludzki
• Zidentyfikowane ryzyko
• Kontrole łagodzące
• Ryzyko resztkowe
• Przejrzyj częstotliwość
• Data ostatniej recenzji
• Data następnej recenzji
• Status (Rozwój / Testowanie / Produkcja / Na emeryturze)

Rejestr podlega okresowemu przeglądowi.

ZAŁĄCZNIK C

AI STANDARD WALIDACJI MODELU

Przed wdrożeniem każdy model przechodzi:

Walidacja techniczna

Testowanie dokładności.

Testowanie niezawodności.

Testowanie wydajności.

Testy obciążeniowe.

Testowanie bezpieczeństwa.

Walidacja danych

Jakość danych treningowych.

Kompletność danych.

Ocena stronniczości.

Reprezentatywność.

Pochodzenie danych.

Walidacja operacyjna

Testowanie integracyjne.

Testowanie przepływu pracy.

Testowanie wycofania.

Monitorowanie gotowości.

Monitorowanie po wdrożeniu

Monitorowanie wydajności.

Wykrywanie dryfu modelu.

Fałszywie pozytywna recenzja.

Fałszywie negatywna recenzja.

Monitorowanie incydentów.

Zaplanowana ponowna walidacja.

Modele, które nie spełniają kryteriów walidacji, nie zostaną wdrożone do czasu zakończenia działań naprawczych.

ZAŁĄCZNIK D

AI KARTA ETYKI I ODPOWIEDZIALNOŚCI INNOŚCI

FARENIO zobowiązuje się do:

Uczciwość

Unikaj nieuzasadnionej dyskryminacji.

Monitoruj stronniczość.

Promuj sprawiedliwe wyniki.

Przezroczystość

Informuj użytkowników, gdzie AI materialnie wspiera usługę.

W stosownych przypadkach podaj istotne informacje na temat funkcji wspomaganych przez AI.

Odpowiedzialność

Jasno przypisz własność do każdego systemu.

Prowadź dokumentację zarządczą.

Wspieraj odpowiedzialność wewnętrzną i zewnętrzną.

Nadzór ludzki

W stosownych przypadkach przeprowadzaj znaczącą ocenę ludzką.

Zezwól na ręczną interwencję.

Zapobiegaj nadmiernemu poleganiu na wynikach AI.

Prywatność

Przetwarzaj dane osobowe zgodnie z prawem.

Minimalizuj gromadzenie danych.

Szanuj prawa użytkownika.

Bezpieczeństwo

Chroń systemy AI przed niewłaściwym użyciem.

Utrzymuj kontrolę cyberbezpieczeństwa.

Monitoruj luki w zabezpieczeniach.

Odpowiedzialna innowacja

Promuj innowacje, które przynoszą korzyści użytkownikom, przy jednoczesnym poszanowaniu oczekiwań prawnych, etycznych i społecznych.

ZAŁĄCZNIK E

AI PROCEDURA ZARZĄDZANIA ZMIANAMI

Zmiany w AI systemach będą następować zgodnie z udokumentowanym procesem zarządzania.

Etapy obejmują:

Wniosek

Uzasadnienie biznesowe.

Ocena ryzyka.

Identyfikacja interesariuszy.

Rozwój

Kontrolowany rozwój.

Zarządzanie wersjami.

Dokumentacja.

Testowanie

Testy techniczne.

Testowanie bezpieczeństwa.

Testowanie stronniczości.

Testy operacyjne.

Aprobata

Zatwierdzenie inżynieryjne.

Przegląd bezpieczeństwa.

W razie potrzeby przegląd zgodności.

Zatwierdzenie kierownictwa.

Zastosowanie

Kontrolowane wdrożenie.

Możliwość wycofania.

Aktywacja monitorowania.

Przegląd po wdrożeniowy

Ocena wydajności.

Przegląd incydentu.

Wyciągnięte wnioski.

Planowanie emerytury, jeśli ma to zastosowanie.

ZAŁĄCZNIK F

STANDARD PRZEJRZYSTOŚCI I KOMUNIKACJI UŻYTKOWNIKA

FARENIO informuje o AI sposobie użytkowania w sposób jasny i proporcjonalny.

W stosownych przypadkach użytkownicy są informowani, że:

• AI wspomaga procesy operacyjne;
• W stosownych przypadkach zalecenia podlegają nadzorowi ludzkiemu;
• Użytkownicy mogą poprosić przedstawiciela o wsparcie w kontaktach z obsługą klienta, jeśli takie wsparcie jest w miarę dostępne.

Dokumentacja publiczna wyjaśnia na odpowiednim poziomie:

• rola AI w Platformie;
• zamierzony cel funkcji wspomaganych;
• zabezpieczenia wdrożone przez FARENIO;
• obowiązki użytkowników polegających na rekomendacjach wygenerowanych przez AI.

W dokumentacji wewnętrznej należy rejestrować:

• AI opisy systemów;
• mechanizmy nadzoru ludzkiego;
• działania walidacyjne;
• decyzje dotyczące zarządzania;
• zmiany modelu materiału.