AI Governance & Responsible AI Richtlinie

FARENIO ÖKOSYSTEM

ARTIKEL 1 – ZWECK

Diese Richtlinie legt den Governance-Rahmen für den Entwurf, die Entwicklung, den Einsatz, den Betrieb, die Überwachung und die Stilllegung von Systemen der künstlichen Intelligenz (AI) innerhalb des FARENIO-Ökosystems fest.

Die Ziele sind:

• Fördern Sie vertrauenswürdige AI;
• Gewährleistung der Einhaltung gesetzlicher und behördlicher Vorschriften;
• Benutzer und Interessengruppen schützen;
• Unterstützen Sie verantwortungsvolle Innovation;
• Verantwortlichkeit und Governance etablieren;
• Reduzieren Sie Risiken im Zusammenhang mit der KI.

Diese Richtlinie gilt für alle AI-Systeme, die von FARENIO entwickelt, bereitgestellt, integriert, lizenziert oder genutzt werden.

ARTIKEL 2 – GELTUNGSBEREICH

Diese Richtlinie gilt für AI Systeme, die in folgenden Bereichen verwendet werden:

• Host-Portal;
• Admin-Portal;
• Reinigerportal;
• Anbieterportal;
• Marktplatz;
• SaaS Plattform;
• Immobilienbetriebsplattform;
• PMS Integrationen;
• Kundensupport;
• Interne Operationen.

Zu den abgedeckten AI-Funktionen gehören:

• AI Pricing Engine;
• AI Scheduling Engine;
• AI Versandmaschine;
• AI Operationelle Intelligenz;
• AI Kundensupport;
• AI Workflow-Automatisierung;
• Prädiktive Analysen;
• Empfehlungssysteme;
• Betrugserkennung;
• Qualitätssicherungsanalytik.

ARTIKEL 3 – GELTENDE GRUNDSÄTZE

FARENIO engagiert sich für AI Systeme, die:

• Rechtmäßig;
• Sicher;
• Zuverlässig;
• Sicher;
• Transparent;
• Gegebenenfalls erklärbar;
• Verantwortlich;
• Privatsphäre respektieren;
• Fair und nicht diskriminierend;
• Unterliegt einer sinnvollen menschlichen Aufsicht.

ARTIKEL 4 – GOVERNANCE-STRUKTUR

Die Gesamtverantwortung für die Governance liegt bei der Geschäftsleitung.

Zu den operativen Verantwortlichkeiten können gehören:

• AI Governance-Leiter;
• Compliance-Beauftragter;
• Datenschutzbeauftragter (sofern ernannt);
• Sicherheitsteam;
• Ingenieurteam;
• Produktteam;
• Qualitätssicherungsteam.

Rollen und Verantwortlichkeiten müssen dokumentiert und regelmäßig überprüft werden.

ARTIKEL 5 – AI LEBENSZYKLUSMANAGEMENT

Jedes AI-System muss während seines gesamten Lebenszyklus verwaltet werden, einschließlich:

• Konzept;
• Design;
• Entwicklung;
• Testen;
• Validierung;
• Einsatz;
• Überwachung;
• Wartung;
• Ruhestand.

In jeder Phase gelten angemessene Governance-Kontrollen.

ARTIKEL 6 – MENSCHLICHE AUFSICHT

Gegebenenfalls unterliegen AI-unterstützte Entscheidungen weiterhin der menschlichen Überprüfung.

Benutzer und autorisiertes Personal müssen in der Lage sein:

• Überprüfungsempfehlungen;
• Ai-Ausgänge überschreiben;
• Bedenken eskalieren;
• Fordern Sie einen manuellen Eingriff an.

FARENIO darf sich nicht ausschließlich auf automatisierte Entscheidungsfindung verlassen, sofern dies durch geltendes Recht verboten ist.

ARTIKEL 7 – DATENVERWALTUNG

AI Systeme müssen Daten gemäß Folgendem verarbeiten:

• GDPR;
• Datenschutzrichtlinie;
• Datenverarbeitungsvereinbarung;
• Anforderungen an die Informationssicherheit.

Schulungs- und Betriebsdatensätze müssen verwaltet werden, um Verzerrungen, Ungenauigkeiten und unangemessene Verarbeitung zu minimieren.

ARTIKEL 8 – SICHERHEIT

AI Systeme sind durch geeignete technische und organisatorische Maßnahmen zu schützen

Maßnahmen, darunter:

• Zugangskontrollen;
• Authentifizierung;
• Gegebenenfalls Verschlüsselung;
• Protokollierung;
• Überwachung;
• Schwachstellenmanagement;
• Sichere Bereitstellungsverfahren.

ARTIKEL 9 – RISIKOMANAGEMENT

AI-bezogene Risiken müssen identifiziert, bewertet, dokumentiert, überwacht und gemindert werden.

Bei der Risikobewertung muss Folgendes berücksichtigt werden:

• Rechtliche Risiken;
• Operationelle Risiken;
• Sicherheitsrisiken;
• Datenschutzrisiken;
• Voreingenommenheit;
• Fairness;
• Erklärbarkeit;
• Cybersicherheit;
• Modellzuverlässigkeit.

ARTIKEL 10 – KONTINUIERLICHE ÜBERWACHUNG

AI Systeme müssen überwacht werden auf:

• Leistung;
• Zuverlässigkeit;
• Drift;
• Genauigkeit;
• Missbrauch;
• Sicherheitsvorfälle;
• Unerwartete Ausgaben.

Wesentliche Probleme führen zu einer Überprüfung und gegebenenfalls zur Aussetzung oder zum Entzug des betroffenen AI-Systems.

ARTIKEL 11 – EINHALTUNG

FARENIO strebt eine Angleichung an:

• Anwendbare AI Rechtsvorschriften;
• Datenschutzgesetzgebung;
• Verbraucherschutzanforderungen;
• Verpflichtungen zur Cybersicherheit;
• Vertragliche Verpflichtungen.

ARTIKEL 12 – ÜBERPRÜFUNG DER POLITIK

Diese Richtlinie wird regelmäßig überprüft und aktualisiert, um Folgendes widerzuspiegeln:

• Technologische Entwicklungen;
• Rechtliche Entwicklungen;
• Betriebserfahrung;
• Neue Risiken.

ARTIKEL 13 – KONTAKT

Fragen zur AI-Governance können an folgende Adresse gerichtet werden:

AI Governance-Funktion

GQ VENTURES SAS

E-Mail:

ai-governance@farenio.com

ARTIKEL 14 – ANNAHME

Die Nutzung von AI-fähigen Diensten innerhalb des FARENIO-Ökosystems stellt gegebenenfalls eine Anerkennung dieser Richtlinie dar.

ANHANG A

AI MANAGEMENTSYSTEM-HANDBUCH (AIMS)

Zweck:

Einrichtung eines unternehmensweiten Managementsystems für künstliche Intelligenz, das an anerkannten AI Governance-Standards ausgerichtet ist.

Das AIMS muss Folgendes umfassen:

Regierungsführung

AI Governance-Ausschuss.

Führungsaufsicht.

Definierte Verantwortlichkeit.

Richtlinienverwaltung.

Regelmäßige Managementbewertung.

Planung

AI Ziele.

Risikoplanung.

Compliance-Planung.

Ressourcenzuteilung.

Unterstützung

Kompetenz.

Ausbildung.

Bewusstsein.

Dokumentation.

Kommunikation.

Operationen

AI Lebenszykluskontrollen.

Bereitstellungsgenehmigungen.

Überwachung.

Validierung.

Sicherheit.

Reaktion auf Vorfälle.

Leistungsbewertung

Interne Audits.

KPIs.

Risikobewertungen.

Managementbewertung.

Kontinuierliche Verbesserung.

ANHANG B

AI RISIKOREGISTER

Jede AI-Anlage muss in einem Lebendregister erfasst werden.

Zu den Mindestfeldern gehören:

• AI Systemname
• Geschäftsinhaber
• Technischer Eigentümer
• Zweck
• Beschreibung
• Risikoklassifizierung
• Rechtsgrundlage
• Datenkategorien
• Datenquellen
• Modellversion
• Bereitstellungsdatum
• Menschliche Aufsicht
• Identifizierte Risiken
• Schadensbegrenzungsmaßnahmen
• Restrisiko
• Überprüfen Sie die Häufigkeit
• Datum der letzten Überprüfung
• Nächstes Überprüfungsdatum
• Status (Entwicklung / Tests / Produktion / Im Ruhestand)

Das Register wird regelmäßig überprüft.

ANHANG C

AI MODELLVALIDIERUNGSSTANDARD

Vor dem Einsatz muss jedes AI-Modell Folgendes durchlaufen:

Technische Validierung

Genauigkeitsprüfung.

Zuverlässigkeitstests.

Leistungstests.

Stresstest.

Sicherheitstests.

Datenvalidierung

Qualität der Trainingsdaten.

Datenvollständigkeit.

Bias-Bewertung.

Repräsentativität.

Datenherkunft.

Betriebsvalidierung

Integrationstests.

Workflow-Tests.

Rollback-Tests.

Überwachung der Bereitschaft.

Überwachung nach der Bereitstellung

Leistungsüberwachung.

Modelldrifterkennung.

Falsch positive Bewertung.

Falsch negative Bewertung.

Überwachung von Vorfällen.

Geplante erneute Validierung.

Modelle, die die Validierungskriterien nicht erfüllen, dürfen nicht eingesetzt werden, bis die Korrekturmaßnahmen abgeschlossen sind.

ANHANG D

AI ETHIK & VERANTWORTUNGSBEWUSSTE INNOVATION-CHARTA

FARENIO verpflichtet sich zu:

Fairness

Vermeiden Sie ungerechtfertigte Diskriminierung.

Überwachen Sie die Voreingenommenheit.

Fördern Sie gerechte Ergebnisse.

Transparenz

Informieren Sie Benutzer, wenn AI einen Dienst wesentlich unterstützt.

Geben Sie gegebenenfalls aussagekräftige Informationen über die von AI unterstützten Funktionen an.

Rechenschaftspflicht

Ordnen Sie den Besitz für jedes AI-System eindeutig zu.

Führen Sie Governance-Aufzeichnungen.

Unterstützen Sie die interne und externe Verantwortung.

Menschliche Aufsicht

Sorgen Sie gegebenenfalls für eine aussagekräftige menschliche Überprüfung.

Manuelles Eingreifen zulassen.

Vermeiden Sie eine übermäßige Abhängigkeit von AI-Ausgängen.

Privatsphäre

Verarbeiten Sie personenbezogene Daten rechtmäßig.

Minimieren Sie die Datenerfassung.

Respektieren Sie die Benutzerrechte.

Sicherheit

Schützen Sie AI-Systeme vor Missbrauch.

Halten Sie Cybersicherheitskontrollen aufrecht.

Überwachen Sie Schwachstellen.

Verantwortungsvolle Innovation

Fördern Sie Innovationen, die den Nutzern zugutekommen und gleichzeitig rechtliche, ethische und gesellschaftliche Erwartungen respektieren.

ANHANG E

AI CHANGE-MANAGEMENT-VERFAHREN

Änderungen an AI-Systemen müssen einem dokumentierten Governance-Prozess folgen.

Zu den Phasen gehören:

Vorschlag

Geschäftliche Rechtfertigung.

Risikobewertung.

Identifikation der Stakeholder.

Entwicklung

Kontrollierte Entwicklung.

Versionsverwaltung.

Dokumentation.

Testen

Technische Prüfung.

Sicherheitstests.

Bias-Test.

Betriebsprüfung.

Genehmigung

Technische Genehmigung.

Sicherheitsüberprüfung.

Compliance-Überprüfung bei Bedarf.

Genehmigung des Managements.

Einsatz

Kontrollierte Umsetzung.

Rollback-Fähigkeit.

Überwachung der Aktivierung.

Überprüfung nach der Implementierung

Leistungsbewertung.

Überprüfung des Vorfalls.

Gelernte Lektionen.

Gegebenenfalls Altersvorsorgeplanung.

ANHANG F

AI TRANSPARENZ & NUTZERKOMMUNIKATIONSSTANDARD

FARENIO muss die Nutzung von AI klar und verhältnismäßig kommunizieren.

Gegebenenfalls werden die Benutzer darüber informiert, dass:

• AI unterstützt betriebliche Prozesse;
• AI Empfehlungen unterliegen ggf. der menschlichen Aufsicht;
• Benutzer können Unterstützung von einem menschlichen Vertreter für Kundendienstinteraktionen anfordern, sofern eine solche Unterstützung angemessen verfügbar ist.

Die öffentliche Dokumentation muss auf angemessener Ebene Folgendes erläutern:

• die Rolle von AI innerhalb der Plattform;
• der beabsichtigte Zweck der AI-unterstützten Funktionen;
• die bis FARENIO umgesetzten Schutzmaßnahmen;
• die Verantwortlichkeiten der Benutzer, wenn sie sich auf AI-generierte Empfehlungen verlassen.

Die interne Dokumentation muss Aufzeichnungen führen über:

• AI Systembeschreibungen;
• menschliche Aufsichtsmechanismen;
• Validierungsaktivitäten;
• Governance-Entscheidungen;
• Materialmodelländerungen.