Guía para un uso responsable de la IA

En InterSystems estamos comprometidos con un uso responsable de la inteligencia artificial y con aplicar las salvaguardas necesarias en todo momento. Apostamos por la transparencia y la responsabilidad en el uso de la IA, guiándonos por los principios establecidos en www.intersystems.com/about-us/trust-and-responsibility-with-ai/ (Principios de IA), así como todas las leyes, normas y reglamentos aplicables.

En InterSystems esperamos que nuestros partners y colaboradores también se comprometan con un uso responsable de la IA y cumplan con todas las leyes, normas y regulaciones aplicables. No está permitido utilizar herramientas de IA o machine learning de terceros en determinados productos —como HealthShare, TrakCare o IntelliCare—, ni en la documentación, servicios u otras ofertas identificadas, sin el consentimiento previo de InterSystems.

Estos Principios de IA y estas Directrices deben leerse junto con cualquier contrato con clientes, acuerdos con partners u otros contratos aplicables en los que InterSystems sea parte. Aun así, lo que se detalla a continuación aplica específicamente a clientes finales, partners y personas que forman parte de organizaciones que utilizan nuestros productos.

En InterSystems utilizamos la inteligencia artificial en distintas áreas del negocio. Puede aplicarse en procesos internos —por ejemplo, para generar materiales o entregables—, en la prestación de servicios (como hosting o suscripciones en la nube) y en el diseño, desarrollo y despliegue de nuestros productos.

Además, la IA también puede formar parte de nuestros productos y soluciones como una funcionalidad más:

A. Servicios de ejecución. En algunas soluciones, se permite utilizar nuestra tecnología para acceder a servicios de IA de proveedores externos (IA de terceros).

B. Funciones de IA nativas. En otras, se incorporan directamente funcionalidades de IA desarrolladas por InterSystems.

En InterSystems nos comprometemos a informar siempre que se utilice inteligencia artificial y a ofrecer un nivel adecuado de información técnica cuando sea posible y tenga sentido (por ejemplo, mediante iconos o avisos informativos). En cualquier caso, estas directrices sirven como notificación oficial de ese uso.

Aplicamos las siguientes prácticas para un uso responsable de la IA y esperamos lo mismo de terceros:

• Implementar medidas técnicas y operativas para detectar usos indebidos o fraudulentos.
• Asegurar que el uso de la IA se ajusta a los fines previstos, mediante controles adecuados, especialmente en la toma de decisiones.
• Informar claramente cuando se utiliza IA, evitando que una persona crea que interactúa con otra persona.
• Mantener supervisión humana, con revisión adecuada de los resultados generados por la IA.
• Establecer canales de feedback para reportar abusos o posibles problemas.
• Validar controles específicos en entornos de alto riesgo o regulados.
• Proporcionar la información necesaria y recabar los consentimientos requeridos según la normativa aplicable.
• Reducir sesgos y evitar cualquier tipo de discriminación.
• Aplicar medidas sólidas de ciberseguridad y protección de la privacidad.

No está permitido utilizar soluciones de InterSystems con IA, ni IA de terceros, para:

• Realizar ingeniería inversa, analizar o poner a prueba de forma adversa cualquier funcionalidad de IA.
• Sustituir el asesoramiento profesional (por ejemplo, médico, legal o financiero).
• Tomar decisiones automatizadas sobre personas sin base legal ni supervisión humana significativa.
• Generar o difundir contenido dañino, engañoso, ilegal o que infrinja derechos.
• Entrenar sistemas propios de IA o ML sin autorización expresa por escrito.
• Crear, directa o indirectamente, soluciones que compitan con la oferta de IA de InterSystems o de terceros.
• Explotar comercialmente o eludir restricciones de uso establecidas en contratos o condiciones.

Procesar o generar contenidos de forma que puedan causar daño a personas, organizaciones o a la sociedad.

Como ya se ha indicado, el uso de las funcionalidades de inteligencia artificial de InterSystems debe cumplir con todas las leyes, reglamentos y normas aplicables. En particular, puede estar sujeto a la Ley de IA de la Unión Europea (Reglamento (UE) 2024/1689), así como a sus posibles actualizaciones.

Es responsabilidad del usuario entender qué nivel de riesgo aplica al uso que hace de cada funcionalidad de IA. InterSystems define claramente el uso previsto de sus soluciones, y no está permitido utilizar estas funcionalidades fuera de ese marco. Además, InterSystems se reserva el derecho de actualizar o modificar dichos usos previstos cuando sea necesario.

Salvo que se acuerde expresamente por escrito, InterSystems no utilizará las entradas ni las salidas generadas por IA para entrenar modelos. No obstante, podrá analizarlas con fines como estudios de mercado, mejora de sistemas o desarrollo de nuevas funcionalidades y servicios.

Estas directrices pueden actualizarse periódicamente. Cualquier cambio se publicará en www.intersystems.com/AI-Use-Guidelines, por lo que recomendamos consultar esta página de vez en cuando para estar al día.

Si detectas un riesgo significativo relacionado con el uso de cualquier funcionalidad de inteligencia artificial de InterSystems, es importante notificarlo en un plazo de 24 horas en los siguientes casos:

a) Daños a personas, ya sean físicos, psicológicos, económicos, reputacionales o por discriminación.

b) Incumplimiento de leyes, normas o regulaciones aplicables.

c) Desviaciones relevantes respecto a los resultados esperados de la IA.

d) Divulgación no autorizada o uso indebido de datos personales o sensibles.

e) Fallos críticos o usos indebidos en contextos sensibles o de alto impacto (por ejemplo: empleo, selección de personal, salud, ámbito legal o financiero).

f) Cualquier otra situación relacionada con la IA que requiera escalado, investigación, corrección o notificación conforme a los marcos legales, éticos o de gobernanza aplicables.

Para consultas generales o dudas sobre cumplimiento normativo en materia de IA, puedes ponerte en contacto con legal@intersystems.com.