La inteligencia artificial tiene un enorme potencial para sacar valor y conocimiento de los datos, que son el núcleo de la actividad de InterSystems. Por eso, el compromiso con los más altos estándares de privacidad, seguridad y responsabilidad marca nuestra forma de trabajar con la IA: un enfoque pensado, justo y fiable. Así reforzamos la confianza, aceleramos la innovación y ayudamos a nuestros clientes a tener éxito, siempre con un claro compromiso con la excelencia.
En este contexto, InterSystems ha definido una serie de principios que guían cómo incorporamos la inteligencia artificial en nuestros productos, cómo impulsamos la innovación con estos sistemas y cuál es su papel como asesor, asistente y facilitador.
Principios éticos de la IA en InterSystems
Para reforzar nuestro compromiso con un uso ético de la inteligencia artificial, hemos definido un conjunto de principios que ponen el foco en la transparencia y la responsabilidad. Estos principios son una parte clave de cómo asumimos nuestras responsabilidades sociales y éticas, y de cómo cumplimos con la normativa aplicable.
Para que estos principios se apliquen de verdad, reforzamos la concienciación del equipo sobre la ética de la IA con programas de formación completos. Además, en InterSystems hemos puesto en marcha un proceso de evaluación para proyectos y productos de IA, diseñado para evitar sesgos y cualquier tipo de discriminación, proteger la privacidad y la propiedad de los datos, y garantizar la seguridad y la responsabilidad. Por eso, cada proyecto y cada producto de IA pasa por una evaluación exigente y un modelo de gobernanza riguroso.
Este compromiso también se apoya en la colaboración con profesionales y organizaciones del ámbito sanitario y tecnológico, así como con consorcios externos. De esta forma, abordamos la IA de manera más completa y reforzamos la confianza y la responsabilidad en su uso.
Nuestro compromiso
- La IA se entiende como una herramienta que refuerza el potencial y la productividad de las personas al impulsar la creatividad y mejorar la toma de decisiones.
- InterSystems da prioridad a la formación, la capacitación y el despliegue de tecnologías de IA, con medidas para evitar que la automatización perjudique o desplace a los profesionales.
- La organización asume el compromiso de prevenir posibles efectos negativos sobre el empleo y sobre la dinámica de la fuerza laboral.
- Para reforzar la confianza en la inteligencia artificial y, al mismo tiempo, favorecer la colaboración y la experimentación, InterSystems asume el compromiso de aportar transparencia sobre la integración de la IA en productos y proyectos. Este enfoque contribuye al desarrollo de soluciones de IA más innovadoras y con una base ética más sólida.
- En los productos sanitarios basados en IA, la transparencia, la responsabilidad y la explicabilidad forman parte de la protección de la seguridad y el bienestar de los pacientes. La claridad sobre los contenidos generados por IA y sobre los datos de origen, incluidas las modificaciones realizadas sobre esos contenidos, refuerza la confianza y aporta visibilidad sobre el uso de la IA en los entornos sanitarios.
- La organización trabaja para evitar sesgos perjudiciales y situaciones de discriminación en los productos y proyectos basados en inteligencia artificial. Para ello, recurre a datos procedentes de fuentes diversas y aplica medidas orientadas a reducir la infrarrepresentación o la marginación de determinados grupos.
- Los sistemas de IA deben promover resultados justos y equitativos, así como evitar decisiones que perjudiquen a personas o colectivos concretos de forma desproporcionada.
- InterSystems se compromete a incorporar mecanismos sólidos para identificar, analizar y mitigar los sesgos presentes en los conjuntos de datos, los algoritmos y los procesos de toma de decisiones.
- La protección de la privacidad y de los derechos de propiedad sobre los datos, incluidos los utilizados en sistemas de IA, seguirá siendo una prioridad. El programa de ciberseguridad de InterSystems proporciona un marco sólido para reforzar la seguridad y la privacidad de los datos, y contribuir así a unas relaciones de confianza con los clientes.
- InterSystems mantiene un firme compromiso con el cumplimiento de la normativa, los estándares y la legislación aplicables a la inteligencia artificial.
- Ese compromiso refuerza la protección de la privacidad y de los datos en todas las fases del desarrollo y despliegue de la IA. Con ese fin, los productos y proyectos se revisan periódicamente de acuerdo con la evolución del marco normativo y legal.
- Los algoritmos y las tecnologías de IA se validan mediante pruebas y evaluaciones rigurosas para garantizar su eficacia y su fiabilidad, tanto en entornos clínicos como en otros ámbitos.
- La seguridad y el bienestar de los pacientes se protegen mediante la validez clínica y la eficacia de los productos sanitarios.
- Todas las soluciones con capacidades de IA deben cumplir la normativa aplicable según su alcance, su caso de uso y sus limitaciones, especialmente cuando se destinan a fines diagnósticos sujetos a la regulación de los productos sanitarios.
- InterSystems prioriza los enfoques basados en la evidencia y en la colaboración con los profesionales sanitarios para validar las intervenciones apoyadas en IA.
Directrices IA
Estas Directrices de IA se incorporarán como anexo a los acuerdos de las soluciones de InterSystems para asegurar el cumplimiento de las principales normativas de IA, como el Marco de Gestión de Riesgos de IA del NIST y la Ley de IA de la UE (Reglamento (UE) 2024/1689).