La inteligencia artificial tiene un potencial transformador para extraer valor y conocimiento de los datos, el elemento central de la actividad de InterSystems. El compromiso con los máximos estándares de privacidad, seguridad y responsabilidad orienta un enfoque de la inteligencia artificial reflexivo y justo. Un enfoque que refuerza la confianza y, a la vez, acelera la innovación, impulsa el éxito del cliente y refleja un compromiso con la excelencia. InterSystems ha definido un conjunto de principios para guiar la incorporación de la inteligencia artificial en sus productos, con el fin de impulsar la innovación con sistemas de IA y aclarar su función como asesor, asistente y facilitador.
Principios éticos de la IA de InterSystems
Para respaldar el compromiso con un uso ético de la inteligencia artificial, se ha establecido un conjunto de principios de ética de la IA que pone el acento en la transparencia y en la responsabilidad. Estos principios forman parte esencial del cumplimiento de las responsabilidades sociales y éticas, y del respeto de la normativa aplicable.
Para que estos principios se apliquen, se reforzará la sensibilización del equipo sobre la ética de la IA con programas de formación completos. InterSystems ha activado un proceso de evaluación para los proyectos y los productos de IA diseñado para evitar sesgos negativos y cualquier forma de discriminación, proteger la privacidad y la titularidad de los datos, así como para reforzar la seguridad, la responsabilidad y la protección. Para ello, cada producto y cada proyecto de IA se somete a una evaluación exigente y a una gobernanza rigurosa.
Este compromiso también se apoya en la colaboración con profesionales y organizaciones del ámbito sanitario y tecnológico, además de consorcios externos, con el objetivo de abordar la IA de forma completa y reforzar la confianza y la responsabilidad en su uso.
Nuestro compromiso
- La IA se concibe como un apoyo al potencial y la productividad de las personas, al reforzar la creatividad y facilitar la toma de decisiones.
- Damos prioridad a la educación, la formación y el despliegue de tecnologías de IA, al tiempo que protegemos contra la posibilidad de que la automatización socave o desplace a los trabajadores humanos.
- La automatización facilitada por la IA debe complementar y apoyar a los trabajadores humanos. Nos comprometemos a salvaguardar contra cualquier posible impacto negativo sobre el empleo.
- InterSystems aboga por la transparencia, la responsabilidad y la interpretabilidad como elementos fundacionales para consolidar la confianza y fomentar la innovación en los sistemas de IA.
- Para reforzar la confianza en la inteligencia artificial y, al mismo tiempo, favorecer la colaboración y la experimentación, la organización asume el compromiso de aportar transparencia sobre la integración de la IA en productos y proyectos. Este enfoque contribuye al desarrollo de soluciones de IA más innovadoras y con una base ética más sólida.
- Mantener la transparencia, la responsabilidad y la interpretabilidad es esencial para salvaguardar la seguridad y el bienestar de los pacientes en los productos sanitarios basados en IA. La transparencia en torno a los contenidos creados por IA y los datos de origen, incluidos los casos en que se realizan modificaciones en los contenidos generados por IA, infundirá confianza y garantizará la claridad en torno al uso de la IA en los entornos sanitarios.
- InterSystems evita sesgos perjudiciales y cualquier forma de discriminación asegurando que los proyectos y productos que incorporan IA trabajen con datos de fuentes diversas y adopten medidas activas para reducir la infrarrepresentación o la marginación de determinados colectivos.
- Los sistemas de IA deben dar prioridad a la justicia y la equidad en sus resultados, garantizando que las decisiones no perjudiquen a individuos o grupos específicos.
- La empresa garantiza que los sistemas incorporan mecanismos sólidos para identificar, analizar y mitigar los sesgos presentes en los conjuntos de datos, los algoritmos y los procesos de toma de decisiones.
- Se prioriza la protección de la privacidad y los derechos de propiedad relativos a los datos, y a los datos utilizados en sistemas de inteligencia artificial. El programa de ciberseguridad de InterSystems es el marco sólido para reforzar las medidas de seguridad y privacidad de los datos, fomentando la confianza en las relaciones con los clientes.
- InterSystems está plenamente comprometida a garantizar el cumplimiento de los reglamentos, normas y leyes aplicables en materia de inteligencia artificial.
- Este compromiso refleja la dedicación de InterSystems a mantener estándares exigentes de protección de datos y privacidad en todas las fases del desarrollo y el despliegue de la IA. Para ello, los productos y los proyectos se evalúan de forma periódica, en línea con la evolución de los marcos normativos y legales aplicables.
- Los algoritmos y tecnologías de IA serán validados mediante pruebas y evaluaciones rigurosas, que garantice su eficacia y fiabilidad en cualquier entorno.
- InterSystems refuerza la seguridad y el bienestar del paciente con productos sanitarios que se apoyan en su validez clínica y en su eficacia.
- Todas las soluciones con capacidades de IA deben cumplir la normativa asociada a su ámbito, caso de uso y limitaciones, especialmente si se utilizan con fines de diagnóstico sujetos a la normativa sobre productos sanitarios.
- Se dará prioridad a los enfoques basados en pruebas y a la colaboración con profesionales sanitarios para validar las intervenciones basadas en IA.
Directrices AI
Estas Directrices de IA servirán como apéndice a los acuerdos pertinentes para las ofertas de InterSystems con el fin de garantizar el cumplimiento de diversas leyes y reglamentos sobre IA, incluido el Marco de Gestión de Riesgos de IA del NIST y la Ley de IA de la UE (Reglamento (UE) 2024/1689).