La inteligencia artificial tiene un potencial transformador para extraer valor y conocimiento de los datos, el elemento central de la actividad de InterSystems. El compromiso con los máximos estándares de privacidad, seguridad y responsabilidad orienta un enfoque de la inteligencia artificial reflexivo y justo. Un enfoque que refuerza la confianza y, a la vez, acelera la innovación, impulsa el éxito del cliente y refleja un compromiso con la excelencia. InterSystems ha definido un conjunto de principios para guiar la incorporación de la inteligencia artificial en sus productos, para impulsar la innovación con sistemas de IA y aclarar su función como asesor, asistente y facilitador.
Principios éticos de la IA de InterSystems
Para respaldar el compromiso con un uso ético de la inteligencia artificial, se ha establecido un conjunto de principios de ética de la IA que pone el acento en la transparencia y en la responsabilidad. Estos principios forman parte esencial del cumplimiento de las responsabilidades sociales y éticas, y del respeto de la normativa aplicable.
Para que estos principios se apliquen, se reforzará la sensibilización del equipo sobre la ética de la IA con programas de formación completos. InterSystems ha activado un proceso de evaluación para los proyectos y los productos de IA, que ha sido diseñado para evitar sesgos negativos y cualquier forma de discriminación, proteger la privacidad y la titularidad de los datos, y para reforzar la seguridad, la responsabilidad y la protección. Para ello, cada producto y cada proyecto de IA se somete a una evaluación exigente y a una gobernanza rigurosa.
Este compromiso también se apoya en la colaboración con profesionales y organizaciones del ámbito sanitario y tecnológico, además de con consorcios externos, para abordar la IA de forma completa y reforzar la confianza y la responsabilidad en su uso.
Nuestro compromiso
- La IA se entiende como una herramienta que refuerza el potencial y la productividad de las personas al impulsar la creatividad y mejorar la toma de decisiones.
- InterSystems da prioridad a la formación, la capacitación y el despliegue de tecnologías de IA, con medidas para evitar que la automatización perjudique o desplace a los profesionales.
- La organización asume el compromiso de prevenir posibles efectos negativos sobre el empleo y sobre la dinámica de la fuerza laboral.
- Para reforzar la confianza en la inteligencia artificial y, al mismo tiempo, favorecer la colaboración y la experimentación, InterSystems asume el compromiso de aportar transparencia sobre la integración de la IA en productos y proyectos. Este enfoque contribuye al desarrollo de soluciones de IA más innovadoras y con una base ética más sólida.
- En los productos sanitarios basados en IA, la transparencia, la responsabilidad y la explicabilidad forman parte de la protección de la seguridad y el bienestar de los pacientes. La claridad sobre los contenidos generados por IA y sobre los datos de origen, incluidas las modificaciones realizadas sobre esos contenidos, refuerza la confianza y aporta visibilidad sobre el uso de la IA en los entornos sanitarios.
- La organización trabaja para evitar sesgos perjudiciales y situaciones de discriminación en los productos y proyectos basados en inteligencia artificial. Para ello, recurre a datos procedentes de fuentes diversas y aplica medidas orientadas a reducir la infrarrepresentación o la marginación de determinados grupos.
- Los sistemas de IA deben promover resultados justos y equitativos, así como evitar decisiones que perjudiquen a personas o colectivos concretos de forma desproporcionada.
- InterSystems se compromete a incorporar mecanismos sólidos para identificar, analizar y mitigar los sesgos presentes en los conjuntos de datos, los algoritmos y los procesos de toma de decisiones.
- La protección de la privacidad y de los derechos de propiedad sobre los datos, incluidos los utilizados en sistemas de IA, seguirá siendo una prioridad. El programa de ciberseguridad de InterSystems proporciona un marco sólido para reforzar la seguridad y la privacidad de los datos, y contribuir así a unas relaciones de confianza con los clientes.
- InterSystems mantiene un firme compromiso con el cumplimiento de la normativa, los estándares y la legislación aplicables a la inteligencia artificial.
- Ese compromiso refuerza la protección de la privacidad y de los datos en todas las fases del desarrollo y despliegue de la IA. Con ese fin, los productos y proyectos se revisan periódicamente de acuerdo con la evolución del marco normativo y legal.
- Los algoritmos y las tecnologías de IA se validan mediante pruebas y evaluaciones rigurosas para garantizar su eficacia y su fiabilidad, tanto en entornos clínicos como en otros ámbitos.
- La seguridad y el bienestar de los pacientes se protegen mediante la validez clínica y la eficacia de los productos sanitarios.
- Todas las soluciones con capacidades de IA deben cumplir la normativa aplicable según su alcance, su caso de uso y sus limitaciones, especialmente cuando se destinan a fines diagnósticos sujetos a la regulación de los productos sanitarios.
- InterSystems prioriza los enfoques basados en la evidencia y en la colaboración con los profesionales sanitarios para validar las intervenciones apoyadas en IA.
Directrices IA
Estas Directrices de IA servirán como apéndice a los acuerdos pertinentes para las ofertas de InterSystems con el fin de garantizar el cumplimiento de diversas leyes y reglamentos sobre IA, incluido el Marco de Gestión de Riesgos de IA del NIST y la Ley de IA de la UE (Reglamento (UE) 2024/1689).