InterSystems 人工智能（AI）使用指南

本指南涵盖了InterSystems在业务运营、产品提供及第三方集成中人工智能系统的设计、开发、部署和使用。

InterSystems致力于推广负责任的人工智能实践，并为人工智能的使用实施必要且适当的保障措施。 InterSystems 通过遵循 www.intersystems.com/about-us/trust-and-responsibility-with-ai/（《AI 原则》）中阐述的原则，致力于提升人工智能应用的透明度和问责制，并遵守适用法律，已针对其人工智能应用制定了保障措施，同时期望客户及其他商业合作伙伴也能采取同样的措施。 本指南遵循美国国家标准与技术研究院（NIST）人工智能风险管理框架（AI RMF）的四大核心职能（治理、映射、衡量、管理），并纳入了七项值得信赖的人工智能特征：有效性与可靠性、安全性、安全保障与韧性、问责与透明度、可解释性与可解读性、隐私增强，以及在管控有害影响前提下的公平性。

括号中的引用（例如：GOVERN 1、MAP 2）表示某项具体实践所对应的人工智能风险管理框架（AI RMF）的具体子类别。

本指南适用于：(a) InterSystems 在其业务运营中对人工智能的内部使用，包括产品的开发、测试和部署； (b) InterSystems 作为其产品或服务组合的一部分所提供的人工智能；以及 (c) 第三方在将独立采购的人工智能与 InterSystems 的产品或服务结合使用，或向 InterSystems 提供产品或服务时对人工智能的使用。

本《指南》应与 InterSystems 作为缔约方的任何合同一并阅读。 如果任何此类合同的条款与本《指南》之间存在冲突，则以本《指南》为准，除非该合同明确且具体地规定以合同条款为准。

就本《指南》而言，适用以下定义：
人工智能（AI）是指一种经过工程设计或基于机器的系统，能够生成诸如预测、建议或决策等输出结果，从而影响现实或虚拟环境，且具有不同程度的自主性。 在本指南中，人工智能（AI）包括机器学习、生成式人工智能模型及类似的概率系统。

“人工智能参与者（AI Actor）”指在人工智能生命周期中发挥积极作用的主体，包括设计、开发、提供、部署、评估或运营人工智能系统的组织和个人。

“AI 生命周期（AI Lifecycle）”指 AI 系统所经历的各个阶段，从规划和设计，到数据收集和模型构建，再到部署、运行，直至最终退役。

“AI 提供商（AI Provider）”指其 AI 工具或功能被纳入或连接至 InterSystems 产品的第三方实体。

“定制化 AI 开发（Bespoke AI Development）”是指 InterSystems（或其指定的第三方）专门为某客户或其他第三方开发或部署的 AI 功能，有别于内置 AI 功能或运行时服务。

“可解释性（Explainability）”是指 以对用户、开发人员和审计人员有意义的方式，提供系统输出的信息或理由。 “可解释性（Interpretability）“是指在人工智能系统设计功能目的的背景下，理解其输出结果的能力。

”公平性（Fairness）“是指在设计、开发、部署和监控人工智能系统时，应综合考虑系统的使用情境及其对个人、群体、社区、组织和社会可能产生的影响，以管理有害偏见并减少歧视性或不公平的结果。

”有害偏见（Harmful Bias）“是指导致某些社会群体受到不公平对待的有意识或无意识的偏见。 三大类别分别是系统性偏见、计算与统计偏见以及人类认知偏见。

“内置 AI 功能（Innate AI Feature）”指已纳入某些 InterSystems 产品中的 AI 功能。

“隐私（Privacy”是指个人免受对其私生活或事务的侵犯，包括免受对该个人数据的过度或非法收集和使用的侵害。

“韧性（Resilience）”是指系统为中断做好准备、适应中断并从中恢复的能力。

“运行时服务（Runtime Service）”是指由第三方提供并包含在 InterSystems 产品中的功能或特性，其中可能包括第三方 AI 提供商的人工智能工具或模型。

“安全性（Safety）”是指系统在规定条件下不会导致危及人类生命、健康、财产或环境的状态的特性。 安全性既包括降低预期危害发生的概率和意外危害发生的可能性，也包括采取合理措施来减轻此类危害。

“安保（Security）”是指抵御旨在造成危害的未经授权行为的能力，包括通过适当的访问控制来保护信息和数据。

根据美国国家标准与技术研究院（NIST）人工智能风险管理框架（AI RMF）中的“GOVERN”功能，InterSystems 实施了一套内部人工智能治理框架，该框架包含以下关键要素。

该 AI理事会（AI Council）由相关业务部门的代表组成，负责制定人工智能战略方向、确立风险容忍度，并确保人工智能风险管理政策透明且有效（GOVERN 1）。 高管层负责人工智能风险决策，并为风险管理定下基调；管理层则将人工智能技术风险管理与政策及运营相协调（GOVERN 2.3）。

该 AITRUST 委员会 负责审查将人工智能整合到InterSystems面向外部的产品中的提案，包括运行时服务、内置人工智能功能和定制人工智能开发，并开展风险评估及制定风险缓解建议；所有面向外部的产品均可能需要高级管理层的批准。 该 AI赋能团队 负责审核关于内部人工智能应用的提案，包括行政职能、运营工作流程、开发支持以及对供应商人工智能应用的监督。 这两个机构均负责评估对本《指南》及适用法律的遵守情况，评估风险，并相互协调（GOVERN 2）。

InterSystems 定期开展关于人工智能素养、风险意识、适用法律法规、组织风险管理目标以及可信人工智能特征（GOVERN 2.2）的培训。 人工智能风险决策由来自不同人口统计特征、学科背景和专业领域的多元化团队提供依据（GOVERN 3）。 InterSystems 维护着一个根据组织风险优先级配置资源的人工智能系统清单，并建立了安全退役流程，确保该流程不会增加风险或降低可靠性（GOVERN 1.6、GOVERN 1.7）。

InterSystems 将人工智能应用于内部运营，包括内容摘要、营销材料、培训内容、 RFP 响应、代码生成、文档整合以及项目规划。 该公司制定了规范供应商使用人工智能的政策，并要求在交付成果中明确说明人工智能的参与情况。 运营型人工智能的部署由InterSystems自行决定，且属于保密信息；不过，InterSystems承认运营型人工智能可能会对下游外部交付成果产生影响，而本《指南》就这些输出结果的完整性提供了保障（MAP 1、MAP 3）。

InterSystems 可能会将其产品中的 AI 以以下形式提供：运行时服务（第三方 AI 提供商工具）、内置 AI 功能（由 InterSystems 开发）或定制 AI 开发（为特定客户量身定制的 AI）。 在任何情况下，都将通知用户组织，并在可行的情况下允许其选择退出。

客户可将 InterSystems 产品与第三方人工智能系统进行集成，或在获得适当授权的情况下，开发与 InterSystems 产品配合使用的人工智能功能，由此产生的风险、决定权及费用均由客户自行承担。 客户应遵守本指南及相关法规，并对相关AI系统（包括数据的准确性、安全性及合法性）承担全部责任；InterSystems对因使用该AI系统而产生的不利后果不承担任何责任。 如果客户将人工智能与InterSystems的专有材料结合使用，InterSystems不对由此生成的输出结果的准确性或可靠性承担责任，此举不导致任何知识产权的转让，且所有衍生作品的所有权均归InterSystems所有。 合同条款可予以修订，以准确反映相关各方之间的责任。

InterSystems 致力于开发和部署符合《人工智能风险管理框架》（AI RMF）所定义的可信特征，并遵循负责任的人工智能原则的人工智能系统。 要打造值得信赖的人工智能，需要根据人工智能系统的使用场景，在这些特征之间取得平衡（措施2）。 InterSystems 希望其客户、合作伙伴和供应商也能采取类似的、值得信赖的人工智能实践。

对于所有 Innate AI 功能，InterSystems 将验证其提供的或部署的该 AI 功能是否符合预期用途，在工作流中设计人工监督机制，并在适用情况下，通过使用符合实际的测试集进行准确性测量、采用有据可查的测试方法，以及持续评估有效性、准确性、健壮性和可靠性，确保其性能可靠。客户及其他业务合作伙伴也应针对所使用的所有其他 AI 功能采取同样的措施。

人工智能系统必须符合第2节中的安全标准，该标准需通过严格的模拟和测试、实时监控、能够关闭或调整出现异常的系统，以及具备人工干预能力来实现。

InterSystems 设计的人工智能系统具备韧性和安全性（定义见第 2 节），能够应对对抗样本、数据中毒、模型或数据外泄以及未经授权的访问等问题，并符合 NIST 网络安全框架的要求。

InterSystems 旨在为其人工智能系统的用户提供与该工具交互过程的透明度，以便在用户通过用户界面与人工智能交互时，能够基于人类判断做出决策。该公司还致力于设计能够帮助最终用户理解AI系统目的及潜在影响的人工智能系统，以用户易于理解的方式呈现系统输出结果；通过针对用户角色和技能水平量身定制的AI系统功能说明、用户指南，以及关于AI输出结果和相关软件预期用途的清晰说明，来管理可解释性风险。

InterSystems 的产品及内部部署以匿名性、保密性和用户控制为指导原则，采用包括去标识化、数据聚合以及隐私风险记录在内的增强隐私保护的方法。

InterSystems 通过在整个 AI 生命周期中采取措施来识别、评估和缓解各种偏见——包括系统性偏见、计算偏见、统计偏见以及人类认知偏见——从而解决公平性问题。

InterSystems 披露了每项人工智能产品的预期用途、重大限制、训练数据类别、防护措施以及对人工监督的要求（GOVERN 1.6、GOVERN 4）。 已列出第三方人工智能服务提供商，以便客户可直接向其咨询更多详情（MANAGE 4.1）。 在开发之前，风险审查旨在明确背景并识别与预期用途相关的风险（MAP 1、MAP 2）。 在开发过程中，会对数据溯源、法律风险、准确性、鲁棒性、偏见和安全性进行评估并记录在案（MAP 4，MEASURE 2）。 在运行过程中，会对已部署的系统进行漂移监测，处理各类事件，并对重大变更进行记录并通知客户（MANAGE 2、MANAGE 4）。 保留治理记录，以证明符合本《指南》、适用法律以及《欧盟人工智能法案》（EU AI Act）第26条规定的部署者义务。

InterSystems 正在制定并维护相关政策，以应对来自第三方软件、数据及供应链问题的人工智能风险，涵盖侵犯第三方知识产权的风险、第三方系统功能的透明度、对训练数据和算法的了解、相关假设与局限性，以及第三方人工智能系统的测试 (GOVERN 6；MANAGE 3)。 应急流程旨在应对使用高风险第三方人工智能系统时出现的故障，包括定期监测风险与收益，并记录风险控制措施。

InterSystems、其客户及其他业务合作伙伴必须遵守所有适用的 AI 法律法规（GOVERN 1.1、GOVERN 1.2）。

例如，根据《欧盟人工智能法案》（欧盟法规 2024/1689），客户必须遵守与 InterSystems 产品相关的预期用途，并了解该人工智能系统对应的监管风险类别以及输出结果的使用方式。 不同的分类会引发部署方额外的义务，而使用方式的变更可能会改变人工智能系统本身的风险类别以及相关方的角色（例如，在某些情况下，部署方、进口商或转售商可能会根据该法规成为服务提供商）。

InterSystems 在其《产品文档》中记录了其产品的预期用途和使用说明。 客户不得将人工智能用于其声明的预期用途之外。 如有疑问，请联系 legal@intersystems.com。

本指南并不扩大或修改适用法律规定的法律义务。

客户及其他业务合作伙伴不应将任何 InterSystems 产品或任何第三方人工智能与该产品结合使用：

• 对 InterSystems 提供的任何人工智能进行逆向工程、分析模型或进行对抗性测试；
• 替代专业建议（如临床、法律、财务）；
• 在没有合法依据和有意义的人工审查和验证的情况下，自动做出有关个人的决定；
• 生成或传播有害、欺骗、侵权或非法内容；
• 未经明确书面授权，不得对独立的人工智能系统进行训练、改进、开发或微调；
• 使用任何 InterSystems Innate AI 功能、 定制化 AI 开发或运行时服务——或通过这些服务提供的底层模型、权重、提示词、嵌入向量、微调数据或非公开输出——来训练或构建旨在替代相关 InterSystems 或第三方 AI 产品的模型或产品。 本条款针对模型蒸馏、权重或提示词还原，以及对非公开输出的系统性爬取等“萃取性”行为。其目的并非限制客户或合作伙伴独立开发、当前提供或未来拟开发的AI功能或产品——前提是未使用前述材料；对于已依据书面协议开展合作的InterSystems既有合作伙伴，此限制同样不适用。 此外，本协议也不限制基准测试、互操作性测试或内部评估，也不限制使用客户或合作伙伴自身的数据、其客户的数据（须遵守适用条款）或公开信息；或
• 以商业目的利用或规避 InterSystems 或第三方人工智能产品或合同中的任何限制；或
• 对内容进行处理、生成、分类或过滤，从而对个人、组织或社会造成伤害。

InterSystems 不会使用客户的人工智能输入或输出数据来训练任何人工智能模型，并将要求任何人工智能提供商作出类似承诺。 不过，除非客户另有指示，InterSystems 可能会分析 AI 的输入和输出数据以进行市场调研，并利用这些输入和输出数据来改进 InterSystems 的产品、功能和特性（MANAGE 2）。

如果任何一方发现因将人工智能与 InterSystems 产品结合使用而导致或与此相关的以下任何情况存在重大风险，该方应在二十四（24）小时内向 incident@intersystems.com 发送电子邮件：

• 对个人造成的任何伤害，包括身体、心理、经济、声誉方面的伤害或歧视性伤害。
• 违反本《指南》、适用的合同条款、适用法律、规则或法规。
• 与人工智能或其输出结果的预期或预期行为存在显著偏差。
• 未经授权披露或滥用个人或敏感数据。
• 在安全、权利或决策关键领域（例如就业、招聘、医疗保健、法律、金融）中，人工智能发生严重故障或被误用。
• 根据适用的AI治理、伦理或法律框架，任何其他需要上报、调查、纠正或通知的与AI相关的结果。

事件和错误将通报给相关的人工智能参与方，包括受影响方（MANAGE 4.3）。 应遵循并记录用于跟踪、响应以及从事件和错误中恢复的流程。

根据本第11节提交的每份事件报告，均应包含报告时已知的信息（MANAGE 4.1、MANAGE 4.2）：

• 系统信息（名称、版本、类别）、事件的性质和范围，以及时间线（发现时间、首次发生时间、提交日期）。
• 受影响的相关方及受影响人数 估计、危害评估（类型、严重程度、实际或预期）以及初步根本原因分析。
• 已采取的紧急措施 （控制、缓解、停运）、计划中的整改措施及预计时间表，以及报告方的联系方式。

随着更多信息的获得，应及时补充报告内容。 InterSystems 可能会根据合理需要要求提供进一步的详细信息。

如对人工智能有任何一般性疑问或顾虑，请联系legal@intersystems.com和ai-enablement@intersystems.com。

本指南可能会在 www.intersystems.com/AI-Use-Guidelines 上进行更新。 InterSystems 致力于随着人工智能技术、标准和规则的发展，及时更新这些内容。

如对人工智能相关问题或疑虑，请联系ai-enablement@intersystems.com。