InterSystems s'engage à promouvoir des pratiques responsables en matière d'IA ainsi qu'à mettre en œuvre les mesures de protection nécessaires et appropriées à l'utilisation de l'IA. InterSystems favorise la transparence et la responsabilité en matière d'utilisation de l'IA, en respectant les principes énoncés sur www.intersystems.com/about-us/trust-and-responsibility-with-ai/ (Principes relatifs à l'IA), ainsi que l'ensemble des lois, règles et réglementations applicables. InterSystems attend de ses partenaires commerciaux et de toutes personnes collaborant avec l'entreprise qu'ils s'engagent à respecter des pratiques responsables en matière d'IA et à se conformer à l'ensemble des lois, règles et réglementations applicables. Nous n'autorisons pas l'utilisation d'outils tiers d'IA ou d'apprentissage automatique sur certains logiciels, notamment HealthShare, TrakCare et IntelliCare, ni sur la documentation relative à nos produits et services, ni sur d'autres offres identifiées, sans notre consentement préalable.

Les présentes lignes directrices s'appliquent : (a) à l'utilisation interne de l'IA par InterSystems dans le cadre de ses activités commerciales, y compris le développement, les tests et le déploiement de ses offres ; (b) à l'IA proposée par InterSystems dans le cadre de ses offres de produits ou de services ; et (c) à l'utilisation de l'IA par des tiers qui déploient des solutions d'IA acquises de manière indépendante en association avec les offres d'InterSystems ou dans le cadre de la fourniture de produits ou de services à InterSystems.

Les présentes lignes directrices doivent être lues conjointement avec tout contrat auquel InterSystems est partie. En cas de conflit entre les termes d’un tel contrat et les présentes lignes directrices, ces dernières prévaudront, sauf si le contrat les remplace spécifiquement et explicitement.

Aux fins des présentes lignes directrices, les définitions suivantes s’appliquent :

L’intelligence artificielle (IA) désigne un système conçu ou basé sur des machines, capable de générer des résultats tels que des prévisions, des recommandations ou des décisions influençant des environnements réels ou virtuels, et fonctionnant à différents niveaux d’autonomie. Dans le cadre des présentes lignes directrices, l’IA comprend l’apprentissage automatique, les modèles d’IA générative et les systèmes probabilistes similaires.

Les acteurs de l’IA désignent les personnes qui jouent un rôle actif dans le cycle de vie de l’IA, notamment les organisations et les individus qui conçoivent, développent, fournissent, déploient, évaluent ou exploitent des systèmes d’IA.

Le cycle de vie de l’IA désigne les étapes par lesquelles passe un système d’IA, depuis la planification et la conception, en passant par la collecte de données et la construction de modèles, jusqu’au déploiement, à l’exploitation et, à terme, à la mise hors service.

Le « fournisseur d’IA » désigne une entité tierce dont les outils ou fonctionnalités d’IA sont intégrés à une offre InterSystems ou connectés à celle-ci.

Le « développement d’IA sur mesure » désigne les fonctionnalités d’IA qu’InterSystems (ou un tiers désigné) développe ou déploie spécifiquement pour un client ou un autre tiers, par opposition aux fonctionnalités d’IA innées ou aux services d’exécution.

L’explicabilité désigne la fourniture d’informations ou de justifications concernant les résultats du système d’une manière compréhensible pour les utilisateurs, les développeurs et les auditeurs. L’interprétabilité désigne la capacité à comprendre les résultats d’un système d’IA dans le contexte de ses objectifs fonctionnels prévus.

L’équité signifie qu’un système d’IA est conçu, développé, déployé et surveillé de manière à gérer les biais préjudiciables et à réduire les résultats discriminatoires ou inéquitables, en tenant compte du contexte d’utilisation du système et de ses impacts potentiels sur les individus, les groupes, les communautés, les organisations et la société.

Biais néfaste désigne un biais conscient ou inconscient entraînant un traitement inéquitable de certains groupes sociaux. Les trois principales catégories sont les biais systémiques, les biais computationnels et statistiques, et les biais cognitifs humains.

Fonctionnalité IA intégrée désigne une fonctionnalité d’IA incluse dans certaines offres InterSystems.

Vie privée désigne le droit de ne pas subir d’intrusion dans la vie privée ou les affaires d’un individu, y compris le droit de ne pas faire l’objet d’une collecte et d’une utilisation indues ou illégales de données le concernant.

La résilience désigne la capacité d’un système à se préparer aux perturbations, à s’y adapter et à s’en remettre.

Un service d’exécution désigne une fonctionnalité ou une caractéristique fournie par un tiers et incluse dans une offre InterSystems, pouvant notamment inclure des outils d’IA ou des modèles provenant d’un fournisseur tiers d’IA.

La sécurité désigne la propriété d’un système qui garantit que, dans des conditions définies, il ne conduit pas à une situation mettant en danger la vie humaine, la santé, les biens ou l’environnement. La sécurité implique de réduire à la fois la probabilité de dommages attendus et la possibilité de dommages inattendus, ainsi que de prendre des mesures raisonnables pour les atténuer.

La sûreté désigne la résistance aux actes non autorisés visant à causer un préjudice, y compris la protection des informations et des données grâce à des contrôles d’accès appropriés.

Conformément à la fonction « GOVERN » du cadre de gestion des risques liés à l’IA (AI RMF) du NIST, InterSystems met en œuvre un cadre interne de gouvernance de l’IA comprenant les éléments clés suivants.

Le Conseil de l’IA, composé de représentants des divisions opérationnelles concernées, définit l’orientation stratégique en matière d’IA, fixe les seuils de tolérance aux risques et veille à ce que les politiques de gestion des risques liés à l’IA soient transparentes et efficaces (GOVERN 1). La direction générale assume la responsabilité des décisions relatives aux risques liés à l’IA et donne le ton en matière de gestion des risques ; la direction aligne la gestion technique des risques liés à l’IA sur les politiques et les opérations (GOVERN 2.3).

Le Comité AITRUST examine les propositions visant à intégrer l’IA dans les offres d’InterSystems destinées à l’extérieur, notamment les services d’exécution, les fonctionnalités d’IA intégrées et le développement d’IA sur mesure, en réalisant des évaluations des risques et en formulant des recommandations d’atténuation ; toutes les offres destinées à l’extérieur peuvent nécessiter l’approbation de la haute direction. L’Équipe de mise en œuvre de l’IA examine les propositions d’utilisation interne de l’IA, notamment les fonctions administratives, les flux de travail opérationnels, le soutien au développement et la supervision de l’IA chez les fournisseurs. Ces deux instances évaluent la conformité aux présentes lignes directrices et à la législation applicable, évaluent les risques et se coordonnent entre elles (GOVERN 2).

InterSystems organise des formations périodiques sur la culture de l’IA, la sensibilisation aux risques, la législation applicable, les objectifs organisationnels en matière de gestion des risques et les caractéristiques d’une IA digne de confiance (GOVERN 2.2). Les décisions relatives aux risques liés à l’IA sont prises par des équipes diversifiées, tant sur le plan démographique que sur celui des disciplines et des expertises (GOVERN 3). InterSystems tient à jour un inventaire des systèmes d’IA dont les ressources sont allouées en fonction des priorités de l’organisation en matière de risques, et dispose de processus de mise hors service sécurisés qui n’augmentent pas les risques ni ne réduisent la fiabilité (GOVERN 1.6, GOVERN 1.7).

InterSystems utilise l’IA dans le cadre de ses opérations internes, notamment pour la synthèse de contenu, les supports marketing, les contenus de formation, les réponses aux appels d’offres, la génération de code, la consolidation de la documentation et la planification de projets. L’entreprise applique des politiques régissant l’utilisation de l’IA par ses fournisseurs, avec une transparence requise concernant l’implication de l’IA dans les livrables. L’utilisation opérationnelle de l’IA est mise en œuvre à la discrétion d’InterSystems et reste confidentielle ; toutefois, InterSystems reconnaît que l’IA opérationnelle peut contribuer à des livrables externes en aval, et les présentes lignes directrices fournissent des garanties quant à l’intégrité de ces résultats (MAP 1, MAP 3).

InterSystems peut inclure l’IA dans ses offres sous forme de services d’exécution (outils de fournisseurs tiers d’IA), de fonctionnalités d’IA intégrées (développées par InterSystems) ou de développement d’IA sur mesure (IA personnalisée pour un client spécifique). Dans tous les cas, les organisations utilisatrices en seront informées et, lorsque cela est possible, auront la possibilité de refuser cette utilisation.

Les clients peuvent connecter les offres d’InterSystems à des solutions d’IA tierces ou, avec l’autorisation appropriée, développer des capacités d’IA utilisées conjointement avec les offres d’InterSystems, aux risques, à la discrétion et aux frais exclusifs du client. Les clients sont tenus de respecter les présentes lignes directrices ainsi que la ou les réglementations applicables et sont seuls responsables de cette IA connexe, y compris de l’exactitude, de la sécurité et de la légalité des données ; InterSystems n’est pas responsable des conséquences négatives découlant d’une telle utilisation. Si un client utilise l’IA en lien avec les éléments propriétaires d’InterSystems, InterSystems n’est pas responsable de l’exactitude ou de la fiabilité des résultats qui en découlent, aucun transfert de droits de propriété intellectuelle n’en résulte, et tous les travaux dérivés restent la propriété d’InterSystems. Les clauses contractuelles peuvent être modifiées afin de refléter correctement la répartition des responsabilités entre les parties concernées.

InterSystems s'engage à développer et à déployer des systèmes d'IA présentant les caractéristiques de fiabilité définies par le cadre AI RMF et conformes aux principes d'une IA responsable. La mise en place d'une IA fiable nécessite de trouver un équilibre entre chacune de ces caractéristiques en fonction du contexte d'utilisation du système d'IA (MESURE 2). InterSystems attend de ses clients, partenaires et fournisseurs qu'ils adoptent des pratiques similaires en matière d'IA fiable.

En ce qui concerne toutes les fonctionnalités d’IA Innate, InterSystems valide les fonctionnalités d’IA qu’elle fournit ou déploie pour l’usage auquel elles sont destinées, intègre une supervision humaine dans les flux de travail et, le cas échéant, garantit des performances fiables grâce à des mesures de précision réalisées à l’aide d’ensembles de tests réalistes, d’une méthodologie de test documentée et d’évaluations continues de la validité, de la précision, de la robustesse et de la fiabilité. Les clients et autres partenaires commerciaux sont tenus d’adopter la même approche concernant toutes les autres fonctionnalités d’IA utilisées.

Les systèmes d’IA doivent respecter la norme de sécurité définie à la section 2, ce qui passe par une simulation et des tests rigoureux, une surveillance en temps réel, la capacité à arrêter ou à modifier les systèmes présentant des écarts, ainsi que des capacités d’intervention humaine.

InterSystems conçoit des systèmes d’IA qui font preuve de résilience et de sécurité (telles que définies dans la section 2), en traitant les exemples adversaires, l’empoisonnement des données, l’exfiltration de modèles ou de données, ainsi que les accès non autorisés, conformément au cadre de cybersécurité du NIST.

InterSystems vise à offrir aux utilisateurs de ses systèmes d’IA une transparence sur leur interaction avec l’outil afin de faciliter le jugement humain lors de l’interaction avec l’IA dans l’interface utilisateur. Elle cherche également à concevoir des systèmes d’IA qui aident les utilisateurs finaux à comprendre les objectifs et l’impact potentiel, en présentant les résultats du système d’une manière significative pour les utilisateurs ; le risque lié à l’explicabilité est géré en décrivant les fonctions du système d’IA adaptées au rôle et au niveau de compétence de l’utilisateur, au moyen de guides d’utilisation et d’énoncés clairs sur l’objectif visé par les résultats de l’IA et les logiciels associés.

Les offres et les déploiements internes d’InterSystems sont guidés par l’anonymat, la confidentialité et le contrôle par l’utilisateur, en recourant à des méthodes de renforcement de la vie privée, notamment la dépersonnalisation, l’agrégation des données et la documentation des risques liés à la vie privée.

InterSystems aborde la question de l’équité en gérant les biais préjudiciables — qu’ils soient systémiques, computationnels, statistiques ou liés à la cognition humaine — par la mise en œuvre de mesures visant à identifier, évaluer et atténuer ces biais tout au long du cycle de vie de l’IA.

InterSystems communique la finalité prévue, les limitations significatives, les catégories de données d’entraînement, les garde-fous et les attentes en matière de supervision humaine pour chaque offre d’IA (GOVERN 1.6, GOVERN 4). Les fournisseurs tiers d’IA sont identifiés afin que les clients puissent obtenir directement des informations complémentaires (MANAGE 4.1). Avant le développement, une analyse des risques établit le contexte et identifie les risques liés à la finalité prévue (MAP 1, MAP 2). Au cours du développement, la provenance des données, les risques juridiques, la précision, la robustesse, les biais et la sécurité sont évalués et documentés (MAP 4, MEASURE 2). En phase d’exploitation, les systèmes déployés font l’objet d’une surveillance visant à détecter toute dérive, les incidents sont gérés et les modifications significatives sont consignées et communiquées aux clients (MANAGE 2, MANAGE 4). Les registres de gouvernance sont conservés afin de démontrer la conformité aux présentes lignes directrices, à la législation applicable et aux obligations des déployeurs prévues à l’article 26 de la loi européenne sur l’IA.

InterSystems is developing and maintains policies to address AI risks from third-party software, data, and supply chain issues, covering risks of infringing third-party IP, transparency into third-party system functions, knowledge about training data and algorithms, assumptions and limitations, and testing of third-party AI systems (GOVERN 6; MANAGE 3). Contingency processes address failures in high-risk third-party AI system use, with regular monitoring of risks and benefits and documented risk controls.

InterSystems, ses clients et ses autres partenaires commerciaux doivent se conformer à l’ensemble des lois et réglementations applicables en matière d’IA (GOVERN 1.1, GOVERN 1.2).

Par exemple, en vertu de la loi européenne sur l’IA ( Règlement (UE) 2024/1689), les clients doivent respecter l’usage prévu associé à l’offre d’InterSystems et comprendre la catégorie de risque réglementaire associée au système d’IA ainsi que la manière dont les résultats sont utilisés. Les différentes classifications entraînent des obligations supplémentaires pour les déployeurs, et toute modification de l’utilisation peut modifier la catégorie de risque du système d’IA lui-même ainsi que le rôle des parties concernées (par exemple, un déployeur, un importateur ou un revendeur peut, dans certaines circonstances, devenir un fournisseur au sens du règlement).

InterSystems documente l’usage prévu et les instructions relatives à ses offres dans sa documentation produit. Les clients ne doivent pas utiliser l’IA en dehors de l’usage prévu indiqué. Les questions doivent être adressées à legal@intersystems.com.

Les présentes lignes directrices n’étendent ni ne modifient les obligations légales prévues par la législation applicable.

Les clients et autres partenaires commerciaux ne doivent pas utiliser les offres d’InterSystems ni aucune IA tierce en association avec ces offres :

• pour procéder à une ingénierie inverse, analyser le modèle ou effectuer des tests adversariaux sur toute IA mise à disposition par InterSystems ;
• en remplacement de conseils professionnels (par exemple, cliniques, juridiques ou financiers) ;
• pour prendre des décisions automatisées concernant des personnes sans fondement légal et sans examen ni validation humaine significative ;
• pour générer ou diffuser du contenu préjudiciable, trompeur, contrefait ou illégal ;
• pour entraîner, améliorer, développer ou affiner des systèmes d’IA indépendants, sauf autorisation écrite expresse ;
• pour utiliser toute fonctionnalité d’IA Innate d’InterSystems, tout développement d’IA sur mesure ou tout service d’exécution — ou les modèles sous-jacents, les poids, les invites, les représentations vectorielles, les données d’affinage ou les résultats non publics mis à disposition par leur intermédiaire — afin d’entraîner ou de créer un modèle ou une offre destinée à se substituer à l’offre d’IA applicable d’InterSystems ou d’un tiers. Cette clause vise les pratiques d’extraction telles que la distillation de modèles, la reconstruction de poids ou de prompts, et le scraping systématique de résultats non publics ; elle n’a pas pour but de restreindre les fonctionnalités ou offres d’IA qu’un client ou un partenaire a développées de manière indépendante, qu’il propose actuellement ou qu’il développera à l’avenir sans utiliser les éléments susmentionnés, y compris celles des partenaires établis d’InterSystems opérant dans le cadre d’un accord écrit. Elle ne restreint pas non plus les analyses comparatives, les tests d’interopérabilité ou les évaluations internes, ni l’utilisation des données propres au client ou au partenaire, des données de ses clients (sous réserve des conditions applicables) ou des informations accessibles au public ; ou
• d’exploiter commercialement ou de contourner toute restriction relative aux offres ou contrats d’IA d’InterSystems ou de tiers ; ou
• de traiter, générer, classer ou filtrer du contenu d’une manière susceptible de porter préjudice à des personnes, à des organisations ou à la société.

InterSystems s'engage à ne pas utiliser les données d'entrée ou de sortie issues de l'IA de ses clients pour entraîner un quelconque modèle d'IA et exigera des engagements similaires de la part de tout fournisseur d'IA. InterSystems peut toutefois analyser les données d'entrée et de sortie issues de l'IA à des fins d'études de marché, et utiliser ces données pour améliorer ses offres, ses fonctionnalités et ses caractéristiques, sauf indication contraire de la part du client (MANAGE 2).

Si une partie a connaissance d’un risque significatif lié à l’un des éléments suivants, résultant de ou en lien avec toute utilisation de l’IA en association avec une offre InterSystems, cette partie doit envoyer un e-mail à incident@intersystems.com dans un délai de vingt-quatre (24) heures :

• Tout préjudice causé à des personnes, y compris un préjudice physique, psychologique, économique, réputationnel ou discriminatoire.
• Une violation des présentes lignes directrices, des clauses contractuelles applicables, de la législation, des règles ou des réglementations en vigueur.
• Un écart significatif par rapport au comportement attendu ou prévu de l’IA ou de ses résultats.
• La divulgation non autorisée ou l’utilisation abusive de données à caractère personnel ou sensibles.
• Une défaillance critique ou une utilisation abusive de l’IA dans des contextes critiques en matière de sécurité, de droits ou de prise de décision (par exemple, emploi, recrutement, santé, droit, finance).
• Tout autre résultat lié à l’IA nécessitant une remontée hiérarchique, une enquête, une correction ou une notification en vertu des cadres applicables en matière de gouvernance, d’éthique ou de droit relatifs à l’IA.

Les incidents et les erreurs sont communiqués aux acteurs concernés de l’IA, y compris aux parties affectées (MANAGE 4.3). Les processus de suivi, de réponse et de reprise après incident et erreur sont respectés et documentés.

Chaque rapport d’incident relevant de la présente section 11 doit inclure, dans la mesure où ces informations sont connues au moment du signalement (MANAGE 4.1, MANAGE 4.2) :

• Identification du système (nom, version, catégorie), nature et portée de l’incident, ainsi que la chronologie (détection, première survenue, dates de signalement).
• Parties prenantes concernées et nombre estimé de personnes touchées, évaluation du préjudice (type, gravité, réel ou prévu), et analyse préliminaire des causes profondes.
• Mesures immédiates prises (confinement, atténuation, arrêts), mesures correctives prévues avec un calendrier prévisionnel, et coordonnées de la personne effectuant le signalement.

Les rapports doivent être complétés à mesure que des informations supplémentaires deviennent disponibles. InterSystems peut demander des précisions supplémentaires si cela s’avère raisonnablement nécessaire.

Pour toute question ou préoccupation d’ordre général relative à l’IA, veuillez contacter legal@intersystems.com et ai-enablement@intersystems.com.

These Guidelines may be updated at www.intersystems.com/AI-Use-Guidelines. InterSystems is committed to keeping them current as AI technology, standards, and rules evolve.

For AI-related questions or concerns, please contact ai-enablement@intersystems.com.