Richtlijnen van InterSystems voor het gebruik van kunstmatige intelligentie (AI)

Deze richtlijnen hebben betrekking op het ontwerp, de ontwikkeling, de implementatie en het gebruik van AI-systemen binnen de bedrijfsactiviteiten, het productaanbod en de integraties met derde partijen van InterSystems.

InterSystems zet zich in voor het bevorderen van verantwoorde AI-praktijken en het invoeren van noodzakelijke en passende waarborgen voor het gebruik van AI. InterSystems bevordert transparantie en verantwoordingsplicht met betrekking tot het gebruik van AI door onze principes na te leven die zijn vastgelegd op www.intersystems.com/about-us/trust-and-responsibility-with-ai/ (AI-principes) en houdt zich aan de geldende wetgeving, heeft waarborgen ingebouwd voor het gebruik van AI en verwacht van klanten en andere zakenpartners dat zij hetzelfde doen. Deze richtlijnen volgen de vier kernfuncties van het NIST AI Risk Management Framework (AI RMF) (Govern, Map, Measure, Manage) en omvatten zeven kenmerken van betrouwbare AI: validiteit en betrouwbaarheid, veiligheid, beveiliging en veerkracht, verantwoordingsplicht en transparantie, verklaarbaarheid en interpreteerbaarheid, verbetering van de privacy, en eerlijkheid waarbij schadelijke effecten worden beheerd.

Verwijzingen tussen haakjes (bijv. GOVERN 1, MAP 2) geven de specifieke AI RMF-subcategorieën aan waaraan een bepaalde praktijk overeenkomt.

Deze richtlijnen zijn van toepassing op: (a) het interne gebruik van AI door InterSystems in het kader van haar bedrijfsvoering, met inbegrip van de ontwikkeling, het testen en de implementatie van producten en diensten; (b) AI die door InterSystems wordt aangeboden als onderdeel van haar product- of dienstenaanbod; en (c) het gebruik van AI door derden die zelfstandig aangeschafte AI implementeren in combinatie met het aanbod van InterSystems of bij de levering van producten of diensten aan InterSystems.

Deze richtlijnen dienen te worden gelezen in samenhang met elke overeenkomst waarbij InterSystems partij is. Indien er een tegenstrijdigheid bestaat tussen de bepalingen van een dergelijke overeenkomst en deze richtlijnen, prevaleren de richtlijnen, tenzij in de overeenkomst specifiek en uitdrukkelijk wordt bepaald dat deze richtlijnen niet van toepassing zijn.

In het kader van deze richtlijnen gelden de volgende definities: Onderkunstmatige intelligentie (AI) wordt ver
staan: een technisch ontworpen of machinaal systeem dat resultaten kan genereren, zoals voorspellingen, aanbevelingen of beslissingen die van invloed zijn op reële of virtuele omgevingen, en dat met verschillende niveaus van autonomie functioneert. In deze richtlijnen omvat AI machine learning, generatieve AI-modellen en soortgelijke probabilistische systemen.

Onder„AI-actoren” worden degenen verstaan die een actieve rol spelen in de AI-levenscyclus, met inbegrip van organisaties en personen die AI-systemen ontwerpen, ontwikkelen, leveren, implementeren, evalueren of exploiteren.

De AI-levenscyclus verwijst naar de fasen die een AI-systeem doorloopt, van planning en ontwerp, via gegevensverzameling en modelopbouw, tot implementatie, exploitatie en uiteindelijke buitengebruikstelling.

Een AI-aanbieder verwijst naar een derde partij waarvan de AI-tools of -functionaliteit zijn opgenomen in of gekoppeld aan een aanbod van InterSystems.

AI-ontwikkeling op maat verwijst naar AI-functionaliteit die InterSystems (of een aangewezen derde partij) specifiek voor een klant of een andere derde partij ontwikkelt of implementeert, in tegenstelling tot ingebouwde AI-functies of runtime-services.

Uitlegbaarheid verwijst naar het verstrekken van informatie of redenen voor de systeemoutput op een manier die begrijpelijk is voor gebruikers, ontwikkelaars en auditors. Interpretabiliteit verwijst naar het vermogen om de output van een AI-systeem te begrijpen in de context van de functionele doeleinden waarvoor het is ontworpen.

Eerlijkheid houdt in dat een AI-systeem zodanig wordt ontworpen, ontwikkeld, geïmplementeerd en gemonitord dat schadelijke vooringenomenheid wordt beheerst en discriminerende of onrechtvaardige uitkomsten worden beperkt, waarbij rekening wordt gehouden met de gebruikscontext van het systeem en de mogelijke gevolgen ervan voor individuen, groepen, gemeenschappen, organisaties en de samenleving.

Schadelijke vooringenomenheid verwijst naar bewuste of onbewuste vooringenomenheid die leidt tot een onrechtvaardige behandeling van bepaalde sociale groepen. De drie belangrijkste categorieën zijn systemische vertekening, computationele en statistische vertekening, en menselijk-cognitieve

vertekening.

Onder‘I

nnate AI Feature’ wordt verstaan: AI-functionaliteit die in bepaalde producten van InterSystems is geïntegreerd.

Privacy verwijst naar de vrijheid van inbreuk op het privéleven of de privézaken van een individu, inclusief de vrijheid van ongerechtvaardigde of onwettige verzameling en gebruik van gegevens over dat individu.

Veerkracht verwijst naar het vermogen van een systeem om zich voor te bereiden op, zich aan te passen aan en te herstellen van verstoringen.

Runtime Service verwijst naar functionaliteit of functies die door een derde partij worden aangeboden en zijn opgenomen in een InterSystems-aanbod, waaronder mogelijk AI-tools of -modellen van een externe AI-aanbieder.

Veiligheid verwijst naar de eigenschap van een systeem dat het onder gedefinieerde omstandigheden niet leidt tot een toestand waarin mensenlevens, gezondheid, eigendommen of het milieu in gevaar worden gebracht. Veiligheid houdt in dat zowel de kans op verwachte schade als de mogelijkheid van onverwachte schade wordt verminderd, en dat er redelijke maatregelen worden genomen om deze schade te beperken.

Beveiliging verwijst naar de weerstand tegen ongeoorloofde handelingen die bedoeld zijn om schade te veroorzaken, met inbegrip van de bescherming van informatie en gegevens door middel van passende toegangscontroles.

In overeenstemming met de GOVERN-functie van het NIST AI RMF hanteert InterSystems een intern AI-governancekader met de volgende kernelementen.

De AI-raad, bestaande uit vertegenwoordigers van relevante bedrijfsdivisies, bepaalt de strategische koers op het gebied van AI, stelt risicotoleranties vast en zorgt ervoor dat het beleid inzake AI-risicobeheer transparant en effectief is (GOVERN 1). Het uitvoerend management is verantwoordelijk voor beslissingen inzake AI-risico’s en zet de toon voor het risicobeheer; het management stemt het technische AI-risicobeheer af op het beleid en de bedrijfsvoering (GOVERN 2.3).

De AITRUST-commissie beoordeelt voorstellen om AI te integreren in de naar buiten gerichte producten van InterSystems, waaronder Runtime Services, ingebouwde AI-functies en AI-ontwikkeling op maat, voert risicobeoordelingen uit en formuleert aanbevelingen voor risicobeperking; voor alle naar buiten gerichte producten kan goedkeuring door het senior management vereist zijn. Het AI Enablement Team beoordeelt voorstellen voor intern gebruik van AI, waaronder administratieve functies, operationele workflows, ontwikkelingsondersteuning en toezicht op AI bij leveranciers. Beide instanties beoordelen of aan deze richtsnoeren en de geldende wetgeving wordt voldaan, evalueren risico’s en stemmen hun werkzaamheden op elkaar af (GOVERN 2).

InterSystems organiseert regelmatig trainingen over AI-geletterdheid, risicobewustzijn, toepasselijke wetgeving, doelstellingen op het gebied van risicobeheer binnen de organisatie en kenmerken van betrouwbare AI (GOVERN 2.2). Beslissingen over AI-risico’s worden genomen door diverse teams met een brede demografische samenstelling, verschillende vakgebieden en uiteenlopende expertise (GOVERN 3). InterSystems houdt een inventaris bij van AI-systemen die is samengesteld op basis van de risicoprioriteiten van de organisatie, met processen voor een veilige buitengebruikstelling die de risico’s niet vergroten en de betrouwbaarheid niet verminderen (GOVERN 1.6, GOVERN 1.7).

InterSystems maakt gebruik van AI bij interne werkzaamheden, waaronder het samenvatten van inhoud, het opstellen van marketingmateriaal, het ontwikkelen van opleidingsmateriaal, het opstellen van offertes, het genereren van code, het samenvoegen van documentatie en projectplanning. Het hanteert een beleid inzake het gebruik van AI door leveranciers, waarbij de vereiste transparantie wordt gewaarborgd met betrekking tot de rol van AI in de te leveren resultaten. Het gebruik van operationele AI vindt plaats naar goeddunken van InterSystems en is vertrouwelijk, hoewel InterSystems erkent dat operationele AI kan bijdragen aan externe eindproducten en deze richtlijnen waarborgen bieden met betrekking tot de integriteit van die output (MAP 1, MAP 3).

InterSystems kan AI in zijn aanbod opnemen in de vorm van Runtime Services (tools van externe AI-aanbieders), ingebouwde AI-functies (ontwikkeld door InterSystems) of AI-ontwikkeling op maat (AI op maat voor een specifieke klant). In alle gevallen zullen de gebruikersorganisaties hiervan op de hoogte worden gesteld en, voor zover mogelijk, de mogelijkheid krijgen om zich hiervoor af te melden.

Klanten mogen de producten van InterSystems koppelen aan AI-oplossingen van derden of, mits zij daarvoor de juiste toestemming hebben, AI-functionaliteiten ontwikkelen die in combinatie met de producten van InterSystems worden gebruikt, geheel op eigen risico, naar eigen goeddunken en op eigen kosten. Van klanten wordt verwacht dat zij deze richtlijnen en de toepasselijke regelgeving naleven; zij zijn zelf volledig verantwoordelijk voor dergelijke aangrenzende AI, met inbegrip van de nauwkeurigheid, beveiliging en rechtmatigheid van de gegevens; InterSystems is niet aansprakelijk voor nadelige gevolgen die voortvloeien uit dergelijk gebruik. Indien een klant AI gebruikt in combinatie met door InterSystems ontwikkelde materialen, is InterSystems niet verantwoordelijk voor de nauwkeurigheid of betrouwbaarheid van de daaruit voortvloeiende resultaten; er vindt geen overdracht van intellectuele-eigendomsrechten plaats en alle afgeleide werken blijven eigendom van InterSystems. De bewoordingen van de overeenkomst kunnen worden aangepast om de verantwoordelijkheden tussen de betrokken partijen correct weer te geven.

InterSystems zet zich in voor de ontwikkeling en implementatie van AI-systemen die de door het AI RMF gedefinieerde kenmerken van betrouwbaarheid vertonen en in overeenstemming zijn met de beginselen van verantwoorde AI. Om betrouwbare AI te ontwikkelen, moet een evenwicht worden gevonden tussen al deze kenmerken, rekening houdend met de gebruikscontext van het AI-systeem (MAATREGEL 2). InterSystems verwacht van zijn klanten, partners en leveranciers dat zij eveneens betrouwbare AI-praktijken hanteren.

Met betrekking tot alle Innate AI-functies controleert InterSystems of de door haar geleverde of geïmplementeerde AI-functies geschikt zijn voor het beoogde gebruik, integreert het menselijk toezicht in de workflows en waar van toepassing, waarborgt het betrouwbare prestaties door middel van nauwkeurigheidsmetingen met realistische testdatasets, een gedocumenteerde testmethodologie en voortdurende beoordelingen van de validiteit, nauwkeurigheid, robuustheid en betrouwbaarheid.Van klanten en andere zakelijke partners wordt verwacht dat zij hetzelfde doen met betrekking tot alle andere gebruikte AI-functionaliteit.

AI-systemen moeten voldoen aan de veiligheidsnorm in paragraaf 2, hetgeen wordt bereikt door middel van grondige simulaties en tests, realtime monitoring, de mogelijkheid om afwijkende systemen uit te schakelen of aan te passen, en mogelijkheden voor menselijke interventie.

InterSystems ontwerpt AI-systemen die veerkracht en beveiliging bieden (zoals gedefinieerd in paragraaf 2), waarbij rekening wordt gehouden met vijandige voorbeelden, data poisoning, het weglekken van modellen of gegevens en ongeoorloofde toegang, in overeenstemming met het NIST Cybersecurity Framework.

InterSystems streeft ernaar gebruikers van zijn AI-systemen inzicht te bieden in hun interactie met de tool, om zo het menselijke beoordelingsvermogen te ondersteunen bij de interactie met AI in de gebruikersinterface.Het bedrijf streeft er tevens naar AI-systemen zo te ontwerpen dat eindgebruikers de doelen en mogelijke gevolgen ervan beter begrijpen, door de systeemuitvoer op een voor gebruikers begrijpelijke manier te presenteren; het risico op een gebrek aan verklaarbaarheid wordt beheerd door de functies van het AI-systeem te beschrijven op een manier die is afgestemd op de rol en het vaardigheidsniveau van de gebruiker, door middel van gebruikershandleidingen en duidelijke verklaringen over het beoogde doel van de AI-uitvoer en de bijbehorende software.

Bij de producten en interne implementaties van InterSystems staan anonimiteit, vertrouwelijkheid en zeggenschap van de gebruiker centraal, waarbij gebruik wordt gemaakt van methoden ter versterking van de privacy, zoals anonimisering, gegevensaggregatie en het in kaart brengen van privacyrisico’s.

InterSystems zet zich in voor rechtvaardigheid door schadelijke vooringenomenheid — zowel systemische, computationele en statistische als menselijk-cognitieve — aan te pakken door maatregelen te nemen om vooringenomenheid gedurende de gehele AI-levenscyclus te identificeren, te evalueren en te beperken.

InterSystems maakt voor elk AI-product het beoogde doel, de wezenlijke beperkingen, de categorieën trainingsgegevens, de veiligheidsmaatregelen en de verwachtingen ten aanzien van menselijk toezicht bekend (GOVERN 1.6, GOVERN 4). Er wordt vermeld welke externe AI-aanbieders er zijn, zodat klanten rechtstreeks aanvullende informatie kunnen opvragen (MANAGE 4.1). Voorafgaand aan de ontwikkeling wordt door middel van een risicobeoordeling de context vastgesteld en worden de risico’s voor het beoogde doel in kaart gebracht (MAP 1, MAP 2). Tijdens de ontwikkeling worden de herkomst van de gegevens, juridische risico’s, nauwkeurigheid, robuustheid, vertekening en beveiliging beoordeeld en gedocumenteerd (MAP 4, MAATREGEL 2). Tijdens de bedrijfsvoering worden de geïmplementeerde systemen gecontroleerd op afwijkingen, worden incidenten afgehandeld en worden wezenlijke wijzigingen vastgelegd en aan klanten meegedeeld (MANAGE 2, MANAGE 4). Bestuursdocumenten worden bewaard om aan te tonen dat aan deze richtlijnen, de toepasselijke wetgeving en de verplichtingen voor exploitanten uit artikel 26 van de EU-AI-wet wordt voldaan.

InterSystems ontwikkelt en onderhoudt beleidsregels om AI-risico’s aan te pakken die voortvloeien uit software van derden, gegevens en problemen in de toeleveringsketen. Deze beleidsregels hebben betrekking op risico’s van inbreuk op intellectuele eigendom van derden, transparantie met betrekking tot de functies van systemen van derden, inzicht in trainingsgegevens en algoritmen, aannames en beperkingen, en het testen van AI-systemen van derden (GOVERN 6; MANAGE 3). Noodprocedures zijn bedoeld om storingen bij het gebruik van risicovolle AI-systemen van derden op te vangen, waarbij de risico’s en voordelen regelmatig worden gemonitord en de risicobeheersmaatregelen worden gedocumenteerd.

InterSystems, haar klanten en andere zakelijke partners moeten zich houden aan alle toepasselijke wet- en regelgeving op het gebied van AI (GOVERN 1.1, GOVERN 1.2).

Zo moeten klanten op grond van de EU-AI-wet (Verordening (EU) 2024/1689) zich houden aan het beoogde gebruik van het InterSystems-aanbod en inzicht hebben in de risicocategorie waarin het AI-systeem valt en hoe de output wordt gebruikt. De verschillende classificaties brengen aanvullende verplichtingen voor de gebruiker met zich mee, en wijzigingen in het gebruik kunnen de risicocategorie van het AI-systeem zelf en de rol van de betrokken partijen beïnvloeden (zo kan een gebruiker, importeur of wederverkoper onder bepaalde omstandigheden op grond van de verordening een aanbieder worden).

InterSystems beschrijft het beoogde gebruik en de instructies voor zijn producten in de productdocumentatie. Klanten mogen AI niet gebruiken voor andere doeleinden dan het aangegeven beoogde gebruik. Vragen kunt u richten aan legal@intersystems.com.

Deze richtlijnen vormen geen uitbreiding of wijziging van de wettelijke verplichtingen krachtens de toepasselijke wetgeving.

Klanten en andere zakenpartners mogen geen gebruik maken van een product van InterSystems of van AI van derden in combinatie met een dergelijk product:

• om door middel van reverse engineering het model te onderzoeken of adversarial testing uit te voeren op enige AI die door InterSystems ter beschikking wordt gesteld;
• als vervanging voor professioneel advies (bijvoorbeeld op medisch, juridisch of financieel gebied);
• om geautomatiseerde beslissingen over personen te nemen zonder rechtsgrondslag en zonder zinvolle menselijke toetsing en validatie;
• om schadelijke, misleidende, inbreukmakende of onwettige inhoud te genereren of te verspreiden;
• Het trainen, verbeteren, ontwikkelen of verfijnen van onafhankelijke AI-systemen, tenzij hiervoor uitdrukkelijk schriftelijke toestemming is verleend;
• om gebruik te maken van een InterSystems Innate AI-functie, op maat gemaakte AI-ontwikkeling of runtime-service — of de onderliggende modellen, gewichten, prompts, embeddings, fine-tuning-gegevens of niet-openbare outputs die via deze diensten beschikbaar worden gesteld, te gebruiken om een model of aanbod te trainen of te bouwen dat bedoeld is als vervanging voor het betreffende AI-aanbod van InterSystems of een derde partij. Deze clausule is gericht op extractieve praktijken zoals model-distillatie, gewichts- of directe reconstructie en het systematisch schrapen van niet-openbare output, en is niet bedoeld om AI-functies of -aanbiedingen te beperken die een klant of partner zelfstandig heeft ontwikkeld, momenteel aanbiedt of in de toekomst zal ontwikkelen zonder gebruik te maken van de bovengenoemde materialen, met inbegrip van die van gevestigde partners van InterSystems die op basis van een schriftelijke overeenkomst opereren. Het legt evenmin beperkingen op aan benchmarking, interoperabiliteitstests of interne evaluaties, noch aan het gebruik van de eigen gegevens van de klant of partner, de gegevens van diens klanten (met inachtneming van de toepasselijke voorwaarden) of openbaar beschikbare informatie; of
• om AI-oplossingen of -contracten van InterSystems of derden commercieel te exploiteren of enige beperking daarop te omzeilen; of
• voor het verwerken, genereren, classificeren of filteren van inhoud op een manier die schade kan toebrengen aan personen, organisaties of de samenleving.

InterSystems zal geen AI-invoer of -uitvoer van klanten gebruiken om AI-modellen te trainen en zal van elke AI-leverancier soortgelijke toezeggingen vragen. InterSystems mag echter AI-invoer en -uitvoer analyseren ten behoeve van marktonderzoek, en deze invoer en uitvoer gebruiken om het aanbod, de functionaliteiten en de kenmerken van InterSystems te verbeteren, tenzij de klant InterSystems anders opdraagt (MANAGE 2).

Indien een partij kennis neemt van een wezenlijk risico met betrekking tot een van de volgende zaken, dat voortvloeit uit of verband houdt met het gebruik van AI in combinatie met een InterSystems-oplossing, dient die partij binnen vierentwintig (24) uur een e-mail te sturen naar incident@intersystems.com:

• Elke vorm van schade aan personen, waaronder fysieke, psychologische, economische, reputatieschade of schade als gevolg van discriminatie.
• Een inbreuk op deze richtlijnen, de toepasselijke contractuele bepalingen, de toepasselijke wetgeving, regels of voorschriften.
• Aanzienlijke afwijking van het verwachte of beoogde gedrag van de AI of de door de AI gegenereerde output(s).
• Ongeoorloofde openbaarmaking of misbruik van persoonsgegevens of gevoelige gegevens.
• Ernstige storingen of misbruik van AI in contexten die van cruciaal belang zijn voor de veiligheid, rechten of besluitvorming (bijvoorbeeld op het gebied van werkgelegenheid, werving, gezondheidszorg, het recht en de financiële sector).
• Elk ander AI-gerelateerd resultaat dat op grond van de toepasselijke AI-governance-, ethische of wettelijke kaders moet worden geëscaleerd, onderzocht, gecorrigeerd of gemeld.

Incidenten en fouten worden gemeld aan de betrokken AI-actoren, waaronder de getroffen partijen (MANAGE 4.3). De procedures voor het opsporen van, het reageren op en het herstellen van incidenten en fouten worden nageleefd en gedocumenteerd.

Elk incidentrapport in het kader van dit artikel 11 dient, voor zover op het moment van rapportage bekend (MANAGE 4.1, MANAGE 4.2), het volgende te bevatten:

• Systeemgegevens (naam, versie, categorie), aard en omvang van het incident, en tijdlijn (ontdekking, eerste keer dat het zich voordeed, datum van melding).
• Betrokken belanghebbenden en geschat aantal getroffen personen, schadeanalyse (aard, ernst, daadwerkelijk of verwacht) en voorlopige analyse van de onderliggende oorzaken.
• Onmiddellijk genomen maatregelen (beperking, bestrijding, stillegging), geplande herstelmaatregelen met geschatte tijdschema’s en contactgegevens van de melder.

De rapporten moeten worden aangevuld zodra er aanvullende informatie beschikbaar komt. InterSystems kan om aanvullende informatie vragen indien dit redelijkerwijs noodzakelijk is.

Voor algemene vragen of opmerkingen met betrekking tot AI kunt u contact opnemen met legal@intersystems.com en ai-enablement@intersystems.com.

Deze richtlijnen kunnen worden bijgewerkt op www.intersystems.com/AI-Use-Guidelines. InterSystems streeft ernaar deze up-to-date te houden naarmate AI-technologie, -standaarden en -regels zich verder ontwikkelen.

Voor vragen of opmerkingen met betrekking tot AI kunt u contact opnemen met ai-enablement@intersystems.com.