AI Gobernanza y Política AI Responsable

FARENIO ECOSISTEMA

ARTÍCULO 1 – OBJETO

Esta Política establece el marco de gobernanza para el diseño, desarrollo, despliegue, operación, monitoreo y retiro de sistemas de Inteligencia Artificial (AI) dentro del Ecosistema FARENIO.

Los objetivos son:

• Promover la confianza AI;
• Garantizar el cumplimiento legal y normativo;
• Proteger a los usuarios y partes interesadas;
• Apoyar la innovación responsable;
• Establecer responsabilidad y gobernanza;
• Reducir los riesgos relacionados con la IA.

Esta Política se aplica a todos los sistemas AI desarrollados, implementados, integrados, autorizados o utilizados por FARENIO.

ARTÍCULO 2 – ALCANCE

Esta Política se aplica a AI sistemas utilizados en:

• Portal de host;
• Portal de administración;
• Portal más limpio;
• Portal de proveedores;
• Mercado;
• SaaS Plataforma;
• Plataforma de Operaciones Inmobiliarias;
• PMS Integraciones;
• Atención al cliente;
• Operaciones Internas.

Las funciones AI cubiertas incluyen:

• AI Motor de precios;
• AI Motor de programación;
• AI Motor de Despacho;
• AI Inteligencia Operacional;
• AI Atención al cliente;
• AI Automatización del flujo de trabajo;
• Análisis predictivo;
• Sistemas de Recomendación;
• Detección de Fraude;
• Análisis de garantía de calidad.

ARTÍCULO 3 – PRINCIPIOS RECTORES

FARENIO está comprometido con AI sistemas que son:

• Legal;
• Seguro;
• Confiable;
• Seguro;
• Transparente;
• Explicable cuando corresponda;
• Responsable;
• Respeto de la Privacidad;
• Justo y no discriminatorio;
• Sujeto a una supervisión humana significativa.

ARTÍCULO 4 – ESTRUCTURA DE GOBERNANZA

La responsabilidad general de la gobernanza de AI recae en la alta dirección.

Las responsabilidades operativas pueden incluir:

• AI Líder de Gobernanza;
• Oficial de Cumplimiento;
• Delegado de Protección de Datos (cuando esté designado);
• Equipo de Seguridad;
• Equipo de Ingeniería;
• Equipo de Producto;
• Equipo de Garantía de Calidad.

Las funciones y responsabilidades se documentarán y revisarán periódicamente.

ARTÍCULO 5 – AI GESTIÓN DEL CICLO DE VIDA

Cada sistema AI se regirá durante todo su ciclo de vida, incluyendo:

• Concepto;
• Diseño;
• Desarrollo;
• Pruebas;
• Validación;
• Despliegue;
• Escucha;
• Mantenimiento;
• Jubilación.

Se aplicarán controles de gobernanza adecuados en cada etapa.

ARTÍCULO 6 – SUPERVISIÓN HUMANA

Cuando corresponda, las decisiones asistidas por AI seguirán sujetas a revisión humana.

Los usuarios y personal autorizado tendrán la capacidad de:

• Revisar recomendaciones;
• Anular Salidas Ai;
• intensificar las preocupaciones;
• Solicitar intervención manual.

FARENIO no se basará únicamente en la toma de decisiones automatizada cuando lo prohíba la ley aplicable.

ARTÍCULO 7 – GOBERNANZA DE DATOS

AI sistemas procesarán los datos de acuerdo con:

• GDPR;
• Política de privacidad;
• Acuerdo de Procesamiento de Datos;
• Requisitos de Seguridad de la Información.

Los conjuntos de datos operativos y de capacitación se gestionarán para minimizar los sesgos, las imprecisiones y el procesamiento inadecuado.

ARTÍCULO 8 – SEGURIDAD

Los sistemas AI se protegerán mediante medidas técnicas y organizativas adecuadas.

medidas, incluyendo:

• Controles de Acceso;
• Autenticación;
• Cifrado cuando corresponda;
• Explotación florestal;
• Escucha;
• Gestión de Vulnerabilidad;
• Procedimientos de implementación segura.

ARTÍCULO 9 – GESTIÓN DE RIESGOS

Los riesgos relacionados con AI deberán identificarse, evaluarse, documentarse, monitorearse y mitigarse.

Las evaluaciones de riesgos deberán considerar:

• Riesgos Legales;
• Riesgos Operacionales;
• Riesgos de Seguridad;
• Riesgos de Privacidad;
• Inclinación;
• Justicia;
• Explicabilidad;
• Ciberseguridad;
• Fiabilidad del modelo.

ARTÍCULO 10 – SEGUIMIENTO CONTINUO

Los sistemas AI serán monitoreados para:

• Actuación;
• Fiabilidad;
• Deriva;
• Exactitud;
• Mal uso;
• Incidentes de Seguridad;
• Resultados inesperados.

Las cuestiones materiales darán lugar a la revisión y, en su caso, a la suspensión o retirada del sistema AI afectado.

ARTÍCULO 11 – CUMPLIMIENTO

FARENIO buscará la alineación con:

• Aplicable AI Legislación;
• Legislación de Protección de Datos;
• Requisitos de Protección al Consumidor;
• Obligaciones de ciberseguridad;
• Compromisos Contractuales.

ARTÍCULO 12 – REVISIÓN DE LA POLÍTICA

Esta Política se revisará periódicamente y se actualizará para reflejar:

• Desarrollos Tecnológicos;
• Desarrollos Legales;
• Experiencia Operativa;
• Riesgos emergentes.

ARTÍCULO 13 – CONTACTO

Las preguntas relacionadas con la gobernanza AI pueden dirigirse a:

AI Función de Gobernanza

GQ VENTURES SAS

Correo electrónico:

ai-governance@farenio.com

ARTÍCULO 14 – ACEPTACIÓN

El uso de los servicios habilitados por AI dentro del Ecosistema FARENIO constituye el reconocimiento de esta Política cuando corresponda.

ANEXO A

AI MANUAL DEL SISTEMA DE GESTIÓN (AIMS)

Objetivo:

Establecer un sistema de gestión de inteligencia artificial para toda la empresa alineado con estándares de gobernanza AI reconocidos.

El AIMS incluirá:

Gobernancia

AI comité de gobierno.

Supervisión ejecutiva.

Responsabilidad definida.

Gestión de políticas.

Revisión periódica de la gestión.

Planificación

AI objetivos.

Planificación de riesgos.

Planificación del cumplimiento.

Asignación de recursos.

Apoyo

Competencia.

Capacitación.

Conciencia.

Documentación.

Comunicación.

Operaciones

AI controles del ciclo de vida.

Aprobaciones de implementación.

Escucha.

Validación.

Seguridad.

Respuesta al incidente.

Evaluación de desempeño

Auditorías internas.

KPI.

Revisiones de riesgos.

Revisión de la gestión.

Mejora continua.

ANEXO B

AI REGISTRO DE RIESGOS

Todo sistema AI deberá inscribirse en un registro vivo.

Los campos mínimos incluyen:

• AI Nombre del sistema
• Dueño de negocio
• Propietario técnico
• Objetivo
• Descripción
• Clasificación de riesgo
• Base legal
• Categorías de datos
• Fuentes de datos
• Versión del modelo
• Fecha de implementación
• Supervisión humana
• Riesgos identificados
• Controles de mitigación
• Riesgo residual
• Frecuencia de revisión
• Fecha de la última revisión
• Fecha de próxima revisión
• Estado (Desarrollo / Pruebas / Producción / Retirado)

El registro será revisado periódicamente.

ANEXO C

AI ESTÁNDAR DE VALIDACIÓN DEL MODELO

Antes del despliegue, cada modelo AI deberá someterse a:

Validación Técnica

Pruebas de precisión.

Pruebas de confiabilidad.

Pruebas de rendimiento.

Pruebas de estrés.

Pruebas de seguridad.

Validación de datos

Calidad de los datos de entrenamiento.

Integridad de los datos.

Evaluación de sesgos.

Representatividad.

Linaje de datos.

Validación operativa

Pruebas de integración.

Pruebas de flujo de trabajo.

Pruebas de reversión.

Monitoreo de la preparación.

Monitoreo posterior a la implementación

Seguimiento del desempeño.

Detección de deriva del modelo.

Revisión falsa positiva.

Revisión de falsos negativos.

Seguimiento de incidentes.

Revalidación programada.

Los modelos que no cumplan con los criterios de validación no se implementarán hasta que se completen las acciones correctivas.

ANEXO D

AI CARTA DE ÉTICA E INNOVATION RESPONSABLE

FARENIO se compromete a:

Justicia

Evitar la discriminación injustificada.

Monitorear el sesgo.

Promover resultados equitativos.

Transparencia

Informar a los usuarios dónde AI apoya materialmente un servicio.

Proporcione información significativa sobre la funcionalidad asistida por AI cuando corresponda.

Responsabilidad

Asigne claramente la propiedad de cada sistema AI.

Mantener registros de gobierno.

Apoyar la rendición de cuentas interna y externa.

Supervisión humana

Mantenga una revisión humana significativa cuando corresponda.

Permitir la intervención manual.

Evite la dependencia excesiva de los resultados AI.

Privacidad

Tratar los datos personales de forma lícita.

Minimizar la recopilación de datos.

Respetar los derechos de los usuarios.

Seguridad

Proteger los sistemas AI contra el mal uso.

Mantener controles de ciberseguridad.

Monitorear vulnerabilidades.

Innovación responsable

Promover la innovación que beneficie a los usuarios respetando las expectativas legales, éticas y sociales.

ANEXO E

AI PROCEDIMIENTO DE GESTIÓN DE CAMBIOS

Los cambios en los sistemas AI seguirán un proceso de gobernanza documentado.

Las etapas incluyen:

Propuesta

Justificación empresarial.

Evaluación de riesgos.

Identificación de partes interesadas.

Desarrollo

Desarrollo controlado.

Gestión de versiones.

Documentación.

Pruebas

Pruebas técnicas.

Pruebas de seguridad.

Pruebas de sesgo.

Pruebas operativas.

Aprobación

Aprobación de ingeniería.

Revisión de seguridad.

Revisión de cumplimiento cuando sea necesario.

Aprobación de la dirección.

Despliegue

Implementación controlada.

Capacidad de reversión.

Activación de seguimiento.

Revisión posterior a la implementación

Evaluación del desempeño.

Revisión de incidentes.

Lecciones aprendidas.

Planificación de la jubilación cuando corresponda.

ANEXO F

AI ESTÁNDAR DE TRANSPARENCIA Y COMUNICACIÓN CON EL USUARIO

FARENIO comunicará el uso de AI de forma clara y proporcionada.

En su caso, se informará a los usuarios de que:

• AI ayuda a los procesos operativos;
• AI las recomendaciones están sujetas a supervisión humana cuando corresponda;
• Los usuarios pueden solicitar asistencia de un representante humano para interacciones de servicio al cliente cuando dicha asistencia esté razonablemente disponible.

La documentación pública explicará, en un nivel apropiado:

• el papel de AI dentro de la Plataforma;
• el propósito previsto de las funciones asistidas por AI;
• las salvaguardas implementadas por FARENIO;
• las responsabilidades de los usuarios cuando confían en las recomendaciones generadas por AI.

La documentación interna mantendrá registros de:

• AI descripciones del sistema;
• mecanismos de supervisión humana;
• actividades de validación;
• decisiones de gobernanza;
• cambios en el modelo material.