Pedoman InterSystems tentang Penggunaan Kecerdasan Buatan (AI)

Pedoman ini mencakup perancangan, pengembangan, penerapan, dan penggunaan sistem AI di seluruh operasi bisnis, penawaran produk, serta integrasi pihak ketiga InterSystems.

InterSystems berkomitmen untuk mendorong praktik AI yang bertanggung jawab serta menerapkan langkah-langkah pengamanan yang diperlukan dan sesuai dalam penggunaan AI. InterSystems mendorong transparansi dan akuntabilitas terkait penggunaan AI dengan mematuhi prinsip-prinsip yang telah ditetapkan di www.intersystems.com/about-us/trust-and-responsibility-with-ai/ (Prinsip-Prinsip AI) serta mematuhi undang-undang yang berlaku, telah menerapkan langkah-langkah pengamanan dalam penggunaan AI-nya, dan mengharapkan pelanggan serta mitra bisnis lainnya untuk melakukan hal yang sama. Pedoman ini mengikuti empat fungsi inti Kerangka Kerja Manajemen Risiko AI NIST (AI RMF) (Pengaturan, Pemetaan, Pengukuran, Pengelolaan) dan mencakup tujuh karakteristik AI yang dapat dipercaya: validitas dan reliabilitas, keselamatan, keamanan dan ketahanan, akuntabilitas dan transparansi, keterjelaskan dan ketertafsiran, peningkatan privasi, serta keadilan dengan pengelolaan bias yang berbahaya.

Referensi dalam tanda kurung (misalnya, GOVERN 1, MAP 2) menunjukkan subkategori AI RMF tertentu yang sesuai dengan praktik tertentu.

Pedoman ini berlaku untuk: (a) penggunaan AI secara internal oleh InterSystems dalam operasi bisnisnya, termasuk pengembangan, pengujian, dan penerapan penawaran; (b) AI yang ditawarkan oleh InterSystems sebagai bagian dari penawaran produk atau layanannya; dan (c) penggunaan AI oleh pihak ketiga yang menerapkan AI yang diperoleh secara mandiri bersamaan dengan penawaran InterSystems atau dalam penyediaan produk atau layanan kepada InterSystems.

Pedoman ini harus dibaca bersamaan dengan kontrak apa pun yang melibatkan InterSystems sebagai salah satu pihak. Apabila terdapat pertentangan antara ketentuan dalam kontrak tersebut dan Pedoman ini, Pedoman ini yang berlaku, kecuali jika kontrak secara khusus dan tegas menetapkan ketentuan yang mengesampingkan Pedoman ini.

Untuk keperluan Pedoman ini, berlaku definisi-definisi berikut:
Kecerdasan Buatan (AI) mengacu pada sistem yang dirancang atau berbasis mesin yang dapat menghasilkan output, seperti prediksi, rekomendasi, atau keputusan, yang memengaruhi lingkungan nyata maupun virtual, dengan tingkat otonomi yang bervariasi. Dalam Pedoman ini, AI mencakup pembelajaran mesin, model AI generatif, dan sistem probabilistik serupa.

Istilah “Pelaku AI” merujuk pada pihak-pihak yang berperan aktif dalam Siklus Hidup AI, termasuk organisasi dan individu yang merancang, mengembangkan, menyediakan, menerapkan, mengevaluasi, atau mengoperasikan sistem AI.

Siklus Hidup AI mengacu pada tahapan-tahapan yang dilalui oleh sistem AI, mulai dari perencanaan dan perancangan, melalui pengumpulan data dan pembangunan model, hingga penerapan, pengoperasian, dan akhirnya penonaktifan.

Penyedia AI mengacu pada entitas pihak ketiga yang alat atau fungsionalitas AI-nya disertakan dalam atau terhubung dengan penawaran InterSystems.

Pengembangan AI Khusus mengacu pada fungsi AI yang dikembangkan atau diterapkan oleh InterSystems (atau pihak ketiga yang ditunjuk) secara khusus untuk pelanggan atau pihak ketiga lainnya, yang berbeda dari Fitur AI Bawaan atau Layanan Runtime.

Keterjelaskan mengacu pada penyediaan informasi atau alasan di balik hasil keluaran sistem dengan cara yang bermakna bagi pengguna, pengembang, dan auditor. Interpretabilitas mengacu pada kemampuan untuk memahami hasil keluaran sistem AI dalam konteks tujuan fungsional yang dirancang untuknya.

Keadilan berarti bahwa sistem AI dirancang, dikembangkan, diterapkan, dan dipantau untuk mengelola bias yang merugikan serta mengurangi hasil yang diskriminatif atau tidak adil, dengan mempertimbangkan konteks penggunaan sistem dan dampak potensialnya terhadap individu, kelompok, komunitas, organisasi, dan masyarakat.

Bias yang Berbahaya mengacu pada bias sadar atau tidak sadar yang mengakibatkan perlakuan tidak adil terhadap kelompok sosial tertentu. Tiga kategori utama adalah bias sistemik, bias komputasional dan statistik, serta bias kognitif manusia.

Fitur AI Bawaan mengacu pada fungsionalitas AI yang telah disertakan dalam penawaran tertentu dari InterSystems.

Privasi mengacu pada kebebasan dari campur tangan dalam kehidupan pribadi atau urusan seseorang, termasuk kebebasan dari pengumpulan dan penggunaan data yang tidak semestinya atau ilegal mengenai individu tersebut.

Ketahanan mengacu pada kemampuan suatu sistem untuk bersiap menghadapi, beradaptasi, dan pulih dari gangguan.

Layanan Runtime mengacu pada fungsionalitas atau fitur yang disediakan oleh pihak ketiga dan disertakan dalam penawaran InterSystems, yang dapat mencakup alat AI atau model dari Penyedia AI pihak ketiga.

Keamanan mengacu pada sifat suatu sistem yang, dalam kondisi yang telah ditentukan, tidak akan menyebabkan keadaan yang membahayakan nyawa, kesehatan, harta benda, atau lingkungan manusia. Keamanan mencakup upaya mengurangi baik probabilitas bahaya yang diperkirakan maupun kemungkinan terjadinya bahaya yang tidak terduga, serta mengambil langkah-langkah yang wajar untuk memitigasi hal tersebut.

Keamanan mengacu pada ketahanan terhadap tindakan tidak sah yang bertujuan menimbulkan bahaya, termasuk perlindungan informasi dan data melalui kontrol akses yang sesuai.

Sejalan dengan fungsi GOVERN dalam Kerangka Kerja Manajemen Risiko AI (AI RMF) NIST, InterSystems menerapkan Kerangka Kerja Tata Kelola AI internal yang mencakup unsur-unsur utama berikut ini.

Dewan AI, yang terdiri dari perwakilan dari divisi bisnis terkait, menetapkan arah strategis AI, menentukan batas toleransi risiko, dan memastikan kebijakan manajemen risiko AI bersifat transparan dan efektif (GOVERN 1). Pimpinan eksekutif bertanggung jawab atas keputusan terkait risiko AI dan menentukan arah pengelolaan risiko; jajaran manajemen menyelaraskan pengelolaan risiko AI secara teknis dengan kebijakan dan operasional (GOVERN 2.3).

Komite AITRUST meninjau proposal untuk mengintegrasikan AI ke dalam penawaran InterSystems yang ditujukan kepada pihak eksternal, termasuk Layanan Runtime, Fitur AI Bawaan, dan Pengembangan AI Khusus, serta melakukan penilaian risiko dan menyusun rekomendasi mitigasi; semua penawaran yang ditujukan kepada pihak eksternal mungkin memerlukan persetujuan dari jajaran eksekutif senior. Tim Penerapan AI meninjau proposal terkait penggunaan AI di internal perusahaan, termasuk fungsi administratif, alur kerja operasional, dukungan pengembangan, dan pengawasan AI oleh pemasok. Kedua lembaga tersebut mengevaluasi kepatuhan terhadap Pedoman ini serta peraturan perundang-undangan yang berlaku, menilai risiko, dan saling berkoordinasi (GOVERN 2).

InterSystems menyelenggarakan pelatihan berkala mengenai literasi AI, kesadaran akan risiko, peraturan perundang-undangan yang berlaku, tujuan manajemen risiko organisasi, serta karakteristik AI yang dapat dipercaya (GOVERN 2.2). Keputusan terkait risiko AI didasarkan pada masukan dari tim-tim yang beragam, baik dari segi demografi, disiplin ilmu, maupun keahlian (GOVERN 3). InterSystems mengelola inventaris sistem AI yang dialokasikan sumber dayanya sesuai dengan prioritas risiko organisasi, disertai dengan proses penonaktifan yang aman yang tidak meningkatkan risiko atau mengurangi keandalan (GOVERN 1.6, GOVERN 1.7).

InterSystems menggunakan AI dalam kegiatan operasional internal, termasuk untuk merangkum konten, menyusun materi pemasaran dan pelatihan, menyiapkan tanggapan atas permintaan proposal (RFP), menghasilkan kode, menggabungkan dokumentasi, dan merencanakan proyek. InterSystems memiliki kebijakan yang mengatur penggunaan AI oleh pemasok, termasuk kewajiban untuk bersikap transparan mengenai keterlibatan AI dalam hasil pekerjaan yang diserahkan. Penggunaan AI dalam kegiatan operasional diterapkan atas kebijakan InterSystems sendiri dan bersifat rahasia. Namun, InterSystems mengakui bahwa penggunaan AI dalam kegiatan operasional dapat turut berkontribusi pada hasil pekerjaan yang nantinya diserahkan kepada pihak eksternal. Pedoman ini memberikan jaminan mengenai integritas output tersebut (MAP 1, MAP 3).

InterSystems dapat menyertakan AI dalam produk atau layanannya dalam bentuk Layanan Runtime (Runtime Services), yaitu perangkat AI dari Penyedia AI pihak ketiga; Fitur AI Bawaan (Innate AI Features), yang dikembangkan oleh InterSystems; atau Pengembangan AI Khusus (Bespoke AI Development), yaitu AI yang dirancang khusus untuk pelanggan tertentu. Dalam semua bentuk tersebut, organisasi pengguna akan diberi tahu dan, jika memungkinkan, diberikan pilihan untuk tidak menggunakan fitur AI tersebut.

Pelanggan dapat menghubungkan produk atau layanan InterSystems dengan AI pihak ketiga atau, dengan izin yang sesuai, mengembangkan kemampuan AI yang digunakan bersama dengan produk atau layanan InterSystems. Penggunaan tersebut sepenuhnya menjadi risiko, kebijakan, dan tanggungan biaya pelanggan. Pelanggan diharapkan mematuhi Pedoman ini dan peraturan yang berlaku. Pelanggan bertanggung jawab sepenuhnya atas penggunaan AI terkait tersebut, termasuk keakuratan data, keamanan, dan kepatuhan terhadap hukum. InterSystems tidak bertanggung jawab atas dampak merugikan yang timbul dari penggunaan tersebut. Apabila pelanggan menggunakan AI yang berkaitan dengan materi milik InterSystems yang dilindungi hak kepemilikan, InterSystems tidak bertanggung jawab atas keakuratan atau keandalan output yang dihasilkan. Penggunaan tersebut tidak mengakibatkan pengalihan hak kekayaan intelektual, dan seluruh karya turunan tetap menjadi milik InterSystems. Ketentuan kontrak dapat diubah untuk mengatur pembagian tanggung jawab di antara para pihak terkait secara tepat.

InterSystems berkomitmen untuk mengembangkan dan menerapkan sistem AI yang memiliki karakteristik tepercaya sebagaimana didefinisikan dalam AI RMF dan selaras dengan prinsip-prinsip AI yang Bertanggung Jawab. Untuk mewujudkan AI yang tepercaya, setiap karakteristik tersebut perlu diseimbangkan dengan mempertimbangkan konteks penggunaan sistem AI (MEASURE 2). InterSystems juga mengharapkan pelanggan, mitra, dan pemasoknya menerapkan praktik AI tepercaya yang serupa.

Untuk semua Fitur AI Bawaan, InterSystems memvalidasi fitur AI yang disediakan atau diterapkannya agar sesuai dengan tujuan penggunaan yang telah ditetapkan. InterSystems juga merancang alur kerja dengan pengawasan manusia dan, jika relevan, memastikan kinerja yang andal melalui pengukuran akurasi menggunakan dataset pengujian yang realistis, metodologi pengujian yang terdokumentasi, serta penilaian berkelanjutan terhadap validitas, akurasi, ketangguhan, dan keandalan. Pelanggan dan mitra bisnis lainnya diharapkan menerapkan langkah-langkah serupa terhadap seluruh fungsionalitas AI lain yang mereka gunakan.

Sistem AI harus memenuhi standar keselamatan sebagaimana ditetapkan dalam Bagian 2. Hal ini diwujudkan melalui simulasi dan pengujian yang ketat, pemantauan real-time, kemampuan untuk menghentikan atau memodifikasi sistem yang menyimpang dari perilaku yang diharapkan, serta mekanisme intervensi manusia.

InterSystems merancang sistem AI agar memiliki ketangguhan dan keamanan sebagaimana didefinisikan dalam Bagian 2. Hal ini mencakup penanganan terhadap contoh adversarial (adversarial examples), peracunan data (data poisoning), eksfiltrasi model atau data, serta akses tanpa izin, sesuai dengan Kerangka Kerja Keamanan Siber NIST.

InterSystems berupaya memberikan transparansi kepada pengguna sistem AI mengenai interaksi mereka dengan perangkat tersebut, sehingga pengguna dapat menggunakan pertimbangan manusia saat berinteraksi dengan AI melalui antarmuka pengguna. InterSystems juga berupaya merancang sistem AI yang membantu pengguna akhir memahami tujuan dan potensi dampaknya, serta menyajikan output sistem dengan cara yang bermakna bagi pengguna. Risiko terkait kemampuan sistem untuk memberikan penjelasan dikelola dengan menjelaskan fungsi sistem AI sesuai dengan peran dan tingkat keterampilan pengguna, menyediakan panduan pengguna, serta memberikan pernyataan yang jelas mengenai tujuan penggunaan output AI dan perangkat lunak terkait.

Produk atau layanan dan penerapan AI internal InterSystems berpedoman pada prinsip anonimitas, kerahasiaan, dan kendali pengguna. Hal ini dilakukan dengan menggunakan metode peningkatan perlindungan privasi, termasuk penghilangan identitas, agregasi data, dan dokumentasi risiko privasi.

InterSystems menerapkan prinsip keadilan dengan mengelola bias yang merugikan, baik yang bersifat sistemik, komputasional dan statistik, maupun kognitif manusia. Upaya ini dilakukan melalui langkah-langkah untuk mengidentifikasi, mengevaluasi, dan memitigasi bias di sepanjang Siklus Hidup AI.

InterSystems mengungkapkan tujuan penggunaan, keterbatasan material, kategori data pelatihan, mekanisme pengamanan (guardrails), serta ekspektasi terkait pengawasan manusia untuk setiap produk atau layanan AI yang ditawarkannya (GOVERN 1.6, GOVERN 4). Penyedia AI pihak ketiga diidentifikasi agar pelanggan dapat meminta informasi lebih lanjut secara langsung kepada penyedia tersebut (MANAGE 4.1). Sebelum pengembangan dimulai, dilakukan peninjauan risiko untuk menetapkan konteks dan mengidentifikasi risiko berdasarkan tujuan penggunaan yang telah ditetapkan (MAP 1, MAP 2). Selama pengembangan, asal-usul data, risiko hukum, akurasi, ketangguhan, bias, dan keamanan dievaluasi serta didokumentasikan (MAP 4, MEASURE 2). Dalam tahap operasional, sistem yang telah diterapkan dipantau untuk mendeteksi perubahan pola kinerja (drift), insiden ditangani, dan perubahan material dicatat serta dikomunikasikan kepada pelanggan (MANAGE 2, MANAGE 4). Catatan tata kelola disimpan sebagai bukti kepatuhan terhadap Pedoman ini, peraturan perundang-undangan yang berlaku, dan kewajiban pihak penerap berdasarkan Pasal 26 EU AI Act.

InterSystems sedang mengembangkan dan memelihara kebijakan untuk menangani risiko AI yang berasal dari perangkat lunak pihak ketiga, data, dan masalah rantai pasok. Kebijakan ini mencakup risiko pelanggaran hak kekayaan intelektual pihak ketiga, transparansi mengenai fungsi sistem pihak ketiga, informasi tentang data pelatihan dan algoritma, asumsi dan keterbatasan, serta pengujian sistem AI pihak ketiga (GOVERN 6; MANAGE 3). Proses kontingensi disiapkan untuk menangani kegagalan dalam penggunaan sistem AI pihak ketiga berisiko tinggi, disertai pemantauan berkala terhadap risiko dan manfaat serta dokumentasi pengendalian risiko.

InterSystems, para pelanggannya, dan mitra bisnis lainnya wajib mematuhi semua undang-undang dan peraturan AI yang berlaku (GOVERN 1.1, GOVERN 1.2).

Sebagai contoh, berdasarkan EU AI Act (Regulation (EU) 2024/1689), pelanggan wajib mematuhi tujuan penggunaan yang ditetapkan untuk produk atau layanan InterSystems serta memahami kategori risiko regulasi yang berlaku bagi sistem AI dan bagaimana output-nya digunakan. Klasifikasi yang bervariasi memicu kewajiban tambahan bagi pihak yang menerapkan sistem, dan perubahan dalam penggunaan dapat mengubah kategori risiko sistem AI itu sendiri serta peran para pihak yang terkait (misalnya, pihak yang menerapkan, importir, atau pengecer dapat menjadi penyedia layanan berdasarkan peraturan tersebut dalam keadaan tertentu).

InterSystems mendokumentasikan tujuan penggunaan dan petunjuk penggunaan untuk produk-produknya dalam Dokumentasi Produk. Pelanggan dilarang menggunakan AI di luar tujuan penggunaan yang telah ditetapkan. Pertanyaan dapat diajukan melalui legal@intersystems.com.

Pedoman ini tidak memperluas atau mengubah kewajiban hukum berdasarkan undang-undang yang berlaku.

Pelanggan dan mitra bisnis lainnya dilarang menggunakan produk atau layanan InterSystems maupun AI pihak ketiga yang terhubung dengan produk atau layanan tersebut untuk:

• melakukan rekayasa balik (reverse engineering), menyelidiki atau menguji model secara mendalam (model probing), atau melakukan pengujian adversarial terhadap AI apa pun yang disediakan oleh InterSystems;
• memposisikannya sebagai pengganti nasihat profesional (misalnya, klinis, hukum, keuangan);
• membuat keputusan otomatis tentang individu tanpa dasar hukum yang sah dan tinjauan serta validasi manusia yang berarti;
• menghasilkan atau menyebarkan konten yang berbahaya, menipu, melanggar hak, atau melanggar hukum;
• melatih, meningkatkan, mengembangkan, atau melakukan fine-tuning terhadap sistem AI independen, kecuali jika secara tegas diizinkan secara tertulis;
• menggunakan Fitur AI Bawaan, Pengembangan AI Khusus, atau Layanan Runtime milik InterSystems, maupun model, bobot model, prompt, embedding, data fine-tuning, atau output nonpublik yang tersedia melalui fitur atau layanan tersebut, untuk melatih atau membangun model atau produk yang dimaksudkan sebagai pengganti produk atau layanan AI InterSystems atau pihak ketiga yang bersangkutan. Klausul ini ditujukan untuk mencegah praktik ekstraksi, seperti distilasi model, rekonstruksi bobot model atau prompt, serta pengambilan output nonpublik secara sistematis. Ketentuan ini tidak dimaksudkan untuk membatasi fitur atau produk AI yang telah dikembangkan secara independen oleh pelanggan atau mitra, telah tersedia saat ini, atau akan dikembangkan pada masa mendatang tanpa menggunakan materi tersebut di atas. Hal ini juga mencakup produk atau layanan AI milik mitra InterSystems yang telah menjalin kerja sama berdasarkan perjanjian tertulis. Ketentuan ini juga tidak membatasi kegiatan pembandingan kinerja (benchmarking), pengujian interoperabilitas, atau evaluasi internal, maupun penggunaan data milik pelanggan atau mitra sendiri, data pelanggan mereka (dengan tetap tunduk pada ketentuan yang berlaku); atau
• mengeksploitasi secara komersial atau menghindari pembatasan apa pun yang berlaku terhadap produk atau layanan AI InterSystems atau pihak ketiga, maupun ketentuan kontrak terkait; atau
• memproses, menghasilkan, mengklasifikasikan, atau menyaring konten dengan cara yang dapat membahayakan individu, organisasi, atau masyarakat.

InterSystems tidak akan menggunakan input atau output AI milik pelanggan untuk melatih model AI apa pun dan akan mengupayakan komitmen serupa dari setiap Penyedia AI. Namun, InterSystems dapat menganalisis input dan output AI untuk keperluan riset pasar serta menggunakannya untuk meningkatkan produk atau layanan, fungsionalitas, dan fitur InterSystems, kecuali jika pelanggan memberikan instruksi lain kepada InterSystems (MANAGE 2).

Jika suatu pihak mengetahui adanya risiko material terkait salah satu hal berikut yang timbul dari atau berhubungan dengan penggunaan AI bersama produk atau layanan InterSystems, pihak tersebut harus mengirimkan email ke incident@intersystems.com dalam waktu dua puluh empat (24) jam:

• Bahaya terhadap individu, termasuk bahaya fisik, psikologis, ekonomi, reputasi, atau diskriminasi.
• Pelanggaran terhadap Pedoman ini, ketentuan kontrak yang berlaku, atau hukum, aturan, maupun peraturan yang berlaku.
• Penyimpangan signifikan dari perilaku AI atau output-nya yang diharapkan atau dimaksudkan.
• Pengungkapan tanpa izin atau penyalahgunaan data pribadi maupun data sensitif.
• Kegagalan kritis atau penyalahgunaan AI dalam konteks yang berkaitan dengan keselamatan, hak, atau pengambilan keputusan penting, misalnya ketenagakerjaan, rekrutmen, layanan kesehatan, hukum, dan keuangan.
• Hasil lain yang berkaitan dengan AI dan memerlukan eskalasi, investigasi, perbaikan, atau pemberitahuan berdasarkan kerangka tata kelola AI, etika, atau hukum yang berlaku.

Insiden dan kesalahan dikomunikasikan kepada para pelaku AI terkait, termasuk pihak-pihak yang terdampak (MANAGE 4.3). Prosedur untuk memantau, menanggapi, dan memulihkan dari insiden serta kesalahan telah diterapkan dan didokumentasikan.

Setiap laporan insiden berdasarkan Bagian 11 ini harus memuat, sejauh yang diketahui pada saat pelaporan (MANAGE 4.1, MANAGE 4.2):

• Identifikasi sistem (nama, versi, kategori), sifat dan cakupan insiden, serta timeline (penemuan, kejadian pertama, tanggal pelaporan).
• Pemangku kepentingan yang terdampak dan perkiraan jumlah orang yang terdampak, penilaian dampak (jenis, tingkat keparahan, aktual atau yang diperkirakan), serta analisis awal penyebab utama.
• Tindakan segera yang telah diambil (pengendalian, mitigasi, penghentian operasi), langkah-langkah perbaikan yang direncanakan beserta perkiraan jadwalnya, serta informasi kontak pihak pelapor.

Laporan harus dilengkapi dengan informasi tambahan seiring tersedianya informasi tersebut. InterSystems dapat meminta rincian lebih lanjut jika dianggap perlu.

Untuk pertanyaan atau masukan umum terkait AI, silakan hubungi legal@intersystems.com dan ai-enablement@intersystems.com.

Pedoman ini dapat diperbarui di www.intersystems.com/AI-Use-Guidelines. InterSystems berkomitmen untuk terus memperbarui pedoman ini seiring dengan perkembangan teknologi, standar, dan aturan di bidang AI.

Untuk pertanyaan atau masukan terkait AI, silakan hubungi ai-enablement@intersystems.com.