Política de Inteligencia Artificial Responsable

Esta Política de Inteligencia Artificial Responsable establece los criterios operativos que orientan el diseño, desarrollo, implementación, operación y evolución de las funcionalidades de inteligencia artificial dentro de IA Bayard Platform. Define responsabilidades, controles, criterios de diseño, supervisión humana, evaluación de riesgos, transparencia, privacidad, seguridad, calidad y revisión continua.

El objetivo de esta Política es establecer reglas claras para el uso responsable de la inteligencia artificial en IA Bayard Platform, de modo que toda funcionalidad basada en IA se diseñe, despliegue y opere con propósito, control, transparencia y proporcionalidad al riesgo.

Esta Política se aplica a:

• IA Bayard Platform, sus productos actuales y futuros.
• Las funcionalidades basadas en inteligencia artificial de la plataforma y de las soluciones de la familia VIGÍA.
• Las integraciones con modelos externos y los servicios de terceros que incorporen inteligencia artificial.
• Las automatizaciones que incorporen inteligencia artificial como parte de su funcionamiento.

No se aplica automáticamente a las automatizaciones tradicionales que no utilicen inteligencia artificial; esas automatizaciones siguen las reglas ordinarias de la plataforma.

Esta Política asume como ya leídos los principios rectores definidos en el Marco Institucional de Inteligencia Artificial y sintetizados en la Carta de Principios de Inteligencia Artificial. No los vuelve a desarrollar: los aplica en forma operativa.

Toda funcionalidad basada en inteligencia artificial identifica, cuando corresponda, los responsables de su ciclo de vida. No se asume que una sola persona cumple todos los roles; cada responsable se asigna según la naturaleza de la funcionalidad:

• Responsable funcional: define el propósito, el alcance y los criterios de uso de la funcionalidad.
• Responsable técnico: asegura la implementación, la configuración y el funcionamiento correcto.
• Responsable de operación: supervisa la operación continua, los resultados y los incidentes.
• Responsable de aprobación para producción: autoriza la puesta en producción de la funcionalidad.

Los usos previstos de la inteligencia artificial en IA Bayard Platform se clasifican al menos en las siguientes categorías. Cada categoría define el nivel esperado de supervisión y control:

La supervisión humana se aplica de forma proporcional al impacto potencial de cada uso. La intensidad del control aumenta conforme crecen el impacto, el riesgo y las consecuencias posibles, y se reduce cuando el uso es de menor impacto y bajo riesgo.

No se impone revisión humana obligatoria para toda interacción con inteligencia artificial cuando ello carece de sentido operativo. La supervisión se diseña para cada funcionalidad y se concentra en los puntos de mayor relevancia, de modo que el control resulte proporcionado y sostenible.

IA Bayard evalúa los riesgos de cada uso de inteligencia artificial mediante una metodología conceptual basada en niveles: bajo, moderado, alto y crítico. Esta clasificación es un modelo de trabajo, no un motor automático de evaluación de riesgo.

La clasificación de cada uso considera, entre otros factores:

• El impacto potencial del uso sobre las personas y las instituciones.
• La cantidad y la naturaleza de los usuarios afectados.
• El tipo de datos involucrados y su sensibilidad.
• La posibilidad de error y su probabilidad.
• Las consecuencias de un resultado incorrecto.
• La reversibilidad de las acciones asociadas al uso.

Las funcionalidades de inteligencia artificial respetan los principios de tratamiento de datos personales definidos en la Política de Privacidad y Protección de Datos Personales. Esta Política no duplica esas reglas: establece únicamente cómo se aplican en el contexto de la inteligencia artificial.

Toda funcionalidad basada en inteligencia artificial considera mecanismos apropiados para la validación, la mejora, la corrección, la retroalimentación y el seguimiento de sus resultados, conforme a su contexto y nivel de riesgo.

El contenido generado o asistido por inteligencia artificial se comunica y utiliza conforme a criterios de revisión, contexto, responsabilidad del usuario, propiedad intelectual y uso adecuado:

• Revisión: los contenidos relevantes se revisan antes de su uso cuando el contexto lo exige.
• Contexto: el contenido se evalúa en función de su finalidad y de las consecuencias de su uso.
• Responsabilidad del usuario: quien utiliza el contenido responde por su uso y por su validación.
• Propiedad intelectual: se respetan los derechos de autor y las condiciones de uso aplicables.
• Uso adecuado: el contenido se utiliza conforme a las finalidades previstas y a esta Política.

Esta Política es independiente de cualquier proveedor o modelo específico. Los criterios de esta Política se aplican del mismo modo cualquiera sea la tecnología utilizada.

Cuando resulte pertinente, los usuarios pueden comprender razonablemente si interactúan con una funcionalidad basada en inteligencia artificial, qué función cumple y cuáles son sus principales limitaciones. IA Bayard no promete explicabilidad absoluta: comunica con claridad y honestidad.

Las funcionalidades de inteligencia artificial se diseñan, implementan y operan conforme a los criterios generales de seguridad de la información de IA Bayard. Esta Política no publica controles técnicos sensibles ni duplica la Política de Seguridad de la Información.

IA Bayard prepara criterios para la gestión de incidentes asociados a funcionalidades de inteligencia artificial, orientados a la detección, el análisis, la corrección, el aprendizaje y la mejora continua.

Los incidentes relevantes se analizan para comprender sus causas, corregir sus efectos y trasladar los aprendizajes a la mejora de las funcionalidades y de esta Política. Los procedimientos internos detallados no forman parte de este documento público.

IA Bayard Platform no promueve ni incorpora los siguientes usos de inteligencia artificial:

• El uso contrario a la legislación aplicable.
• Tratamientos incompatibles con la finalidad declarada de la funcionalidad.
• La utilización deliberada de la IA para desinformación.
• La generación consciente de contenido fraudulento.
• La automatización irresponsable de decisiones de alto impacto sin supervisión proporcional.

La aplicación de esta Política se ajusta a los contextos en los que IA Bayard Platform opera, con un enfoque basado en proporcionalidad y responsabilidad:

• Municipalidades: enfoque de proximidad, continuidad institucional, trazabilidad y supervisión humana.
• Instituciones públicas: orientación al interés público, legalidad, transparencia y respeto de los derechos de las personas.
• Educación: integridad académica, protección de datos de las y los estudiantes y supervisión docente en decisiones pedagógicas.
• Empresas: mejora de procesos, análisis y decisiones de negocio con los mismos principios y controles proporcionales.

Esta Política se revisa de forma anual y también de forma extraordinaria cuando ocurran cambios regulatorios relevantes, cambios tecnológicos significativos, incorporación de nuevos productos, o la aparición de nuevos riesgos relevantes.

Cada revisión evalúa si los criterios operativos siguen siendo adecuados y puede producir una nueva versión de este documento.

IA Bayard no solo declara principios: dispone de criterios concretos para diseñar, desplegar y operar inteligencia artificial de manera responsable, transparente y proporcional al riesgo.