Jika menetap di Uni Eropa dan menggunakan produk atau layanan berbasis AI untuk urusan pribadi atau bisnis, UU AI UE kemungkinan akan berdampak dalam beberapa hal.

Mungkin salah satu dampaknya sudah pernah terlihat: label atau pengungkapan yang menunjukkan bahwa gambar, video, klip audio, atau konten lain dihasilkan atau dimanipulasi menggunakan AI pada platform seperti Instagram atau TikTok(jendela baru). Aturan ini mulai berlaku pada Agustus 2026 sebagai bagian dari aturan transparansi UU AI UE, dan merupakan bagian dari undang-undang yang jauh lebih luas yang diterapkan secara bertahap.

UU AI UE juga melarang penggunaan AI tertentu, menetapkan persyaratan ketat pada sistem yang dianggap berisiko tinggi, serta mengatur ketentuan bagi perusahaan yang mengembangkan, menyediakan, atau menggunakan AI, dengan ketentuan berbeda yang mulai berlaku pada waktu yang berbeda.

Lalu, apa sebenarnya UU AI UE itu, sistem AI apa saja yang dicakupnya, dan apa artinya bagi Anda atau bisnis Anda? Berikut hal-hal yang perlu diketahui.

Apa itu UU AI UE?

UU AI UE adalah undang-undang Uni Eropa untuk mengatur kecerdasan buatan. Dikenal secara formal sebagai Regulasi (UE) 2024/1689, tujuannya adalah membuat AI lebih aman, transparan, terpercaya, dan berpusat pada manusia, sekaligus melindungi hak-hak fundamental serta memungkinkan inovasi dan adopsi AI di UE.

Secara sederhana, UU AI UE dapat dianggap sebagai GDPR untuk AI, meskipun keduanya mengatur hal yang berbeda: GDPR utamanya mengatur cara data pribadi dikumpulkan dan diproses, sedangkan UU AI UE mengatur bagaimana sistem AI dikembangkan, disediakan, diterapkan, dan digunakan, terutama ketika dapat memengaruhi hak, keselamatan, atau keputusan penting dalam hidup seseorang.

Bagaimana risiko AI diperlakukan berdasarkan UU Kecerdasan Buatan UE

Alih-alih mengatur semua AI dengan cara yang sama, UU AI UE menggunakan pendekatan berbasis risiko, yang dapat diklasifikasikan ke dalam empat tingkat:

  • Tidak dapat diterima (dilarang)
  • Berisiko tinggi
  • Risiko terbatas (transparansi)
  • Risiko rendah atau tanpa risiko

Delapan larangan pertama mulai berlaku pada Februari 2025, sedangkan larangan terakhir mulai berlaku pada Desember 2026.

Secara umum, semakin besar potensi bahaya yang dapat ditimbulkan oleh sistem AI, semakin ketat pula aturannya. Undang-undang ini tidak secara formal mendefinisikan empat “tingkat risiko”, tetapi aturannya sering dikelompokkan ke dalam empat kategori luas agar lebih mudah dipahami.

Contoh dunia nyata di bawah ini bukanlah kasus yang diajukan berdasarkan UU AI UE. Sebaliknya, contoh tersebut mengilustrasikan jenis kerugian atau penggunaan yang ingin dicegah, dibatasi, atau diatur oleh undang-undang AI di UE.

AI berisiko tidak dapat diterima

Penggunaan AI tertentu dianggap pada dasarnya tidak dapat diterima, bukan sesuatu yang dapat dikelola melalui mitigasi risiko, dokumentasi, atau pengawasan. Berikut hal-hal yang dilarang:

Manipulasi dan penipuan

AI yang memanipulasi atau menipu orang untuk mengambil keputusan merugikan yang sebenarnya tidak akan mereka ambil.

Pria asal Belgia meninggal karena bunuh diri pada tahun 2023(jendela baru) setelah chatbot AI mendorong dan mencerminkan perasaannya selama berminggu-minggu.

Mengeksploitasi orang-orang rentan

AI yang memanfaatkan orang karena usia, disabilitas, atau situasi sosial atau ekonomi mereka.

Platform chatbot Character.AI dan Google sepakat pada Januari 2026 untuk menyelesaikan gugatan hukum(jendela baru) atas bahaya yang ditimbulkan pada remaja, termasuk gugatan dari seorang ibu yang putranya meninggal karena bunuh diri setelah memiliki keterikatan emosional mendalam dengan chatbot yang mendorongnya untuk “pulang” kepadanya.

Penilaian sosial

AI yang meranking orang berdasarkan perilaku atau sifat pribadi mereka dan menggunakan skor tersebut untuk memperlakukan mereka secara tidak adil.

Sistem kredit sosial Tiongkok telah digunakan untuk melarang warga berskor rendah melakukan hal-hal seperti membeli tiket pesawat atau kereta api. Pada tahun 2021, Tiongkok menandatangani komitmen PBB yang tidak mengikat(jendela baru) untuk mengakhiri penilaian sosial, tetapi sejak saat itu sistem tersebut terus diperluas, dan tidak jelas seberapa banyak dari sistem itu yang masih berjalan di atas AI.

Pemolisian prediktif

AI yang memprediksi apakah seseorang akan melakukan kejahatan hanya berdasarkan profil atau sifat kepribadian. Penggunaan AI lainnya dalam penegakan hukum, seperti mengevaluasi bukti atau menilai risiko berdasarkan fakta yang dapat diverifikasi, berisiko tinggi tetapi tidak dilarang.

Pada Desember 2025, kepolisian Belanda menghentikan CAS, sebuah algoritma yang digunakan sejak 2017 untuk memprediksi lokasi yang rawan kejahatan, setelah audit menemukan adanya bias berulang akibat pengawasan polisi berlebihan di lingkungan tertentu di masa lalu.

Database pengenalan wajah

AI yang secara tidak diskriminatif mengikis gambar dari internet atau rekaman CCTV untuk membangun database pengenalan wajah.

Perusahaan AS Clearview AI mengikis miliaran foto daring (termasuk banyak foto warga UE) untuk penegak hukum dan lembaga pemerintah dan telah didenda puluhan juta euro oleh regulator UE(jendela baru).

Pengenalan emosi

AI yang mencoba menyimpulkan perasaan karyawan atau siswa di tempat kerja atau sekolah, kecuali untuk alasan medis atau keselamatan yang sah. Pengenalan emosi di luar dua pengaturan tersebut masuk dalam aturan risiko tinggi alih-alih dilarang.

Pada tahun 2018, sebuah sekolah menengah pertama di Hangzhou, Tiongkok memasang kamera kelas(jendela baru) yang memindai wajah siswa untuk mengukur seberapa penuh perhatian dan fokus mereka, yang memicu perdebatan nasional mengenai pengawasan anak. Program tersebut dilaporkan dijeda setelah timbul reaksi keras, tetapi monitoring serupa segera meluas ke sekolah lain.

Pada tahun 2022, beberapa pihak telah beralih ke ikat kepala gelombang otak, dengan pengawasan yang meluas hingga pembelajaran jarak jauh dan pelacakan PR liburan musim panas(jendela baru).

Profil biometrik sensitif

AI yang menggunakan data biometrik untuk menyimpulkan sifat-sifat seperti ras, pandangan politik, keanggotaan serikat pekerja, agama, kehidupan seks, atau orientasi seksual. Kategori biometrik untuk tujuan lain tergolong berisiko tinggi, bukan dilarang.

Pada tahun 2025, Kongres Uyghur Sedunia menggugat(jendela baru) Hikvision, Huawei, dan Dahua di Prancis, menuduh teknologi pengenalan wajah membantu mengidentifikasi dan menganiaya warga Uyghur.

Pengenalan wajah langsung oleh polisi

Pengenalan wajah real-time yang digunakan oleh penegak hukum di ruang publik, kecuali dalam sejumlah kecil kasus yang dikontrol secara ketat, seperti menemukan orang hilang atau diculik, mencegah ancaman yang sudah dekat, atau melacak tersangka kejahatan serius. Pengenalan wajah yang tidak real-time, tidak berada di ruang publik, atau tidak digunakan oleh penegak hukum tergolong berisiko tinggi alih-alih dilarang.

Pada tahun 2025, Hungaria melarang acara Pride LGBTQ dan mengesahkan undang-undang yang mengizinkan polisi menggunakan pengenalan wajah langsung untuk mengidentifikasi peserta. Grup kebebasan sipil menentang undang-undang tersebut(jendela baru), dengan argumen bahwa hal itu secara langsung melanggar Pasal 5 UU AI UE. Pada April 2026, mahkamah agung UE memutuskan Hungaria telah melanggar hak-hak dasar kelompok LGBTQ; tuduhan terhadap penyelenggara Pride dibatalkan, dan pergantian pemerintahan pada bulan yang sama mencabut larangan tersebut.

Kekerasan seksual dan konten intim tanpa persetujuan

Sistem AI yang menghasilkan materi pelecehan seksual anak (CSAM), atau yang menghasilkan atau memanipulasi penggambaran intim atau eksplisit secara seksual dari orang nyata yang dapat diidentifikasi tanpa persetujuan mereka.

Grok, chatbot AI yang terpasang di X, memiliki “mode pedas” yang menghasilkan deepfake seksual dari orang nyata, termasuk anak-anak, menghasilkan lebih dari 4,4 juta gambar hanya dalam kurun waktu 9 hari. Pada Januari 2026, jaksa agung negara bagian AS menuntut agar xAI menghapus fitur tersebut, dan berbagai gugatan hukum menyusul(jendela baru).

AI berisiko tinggi

Sistem AI berisiko tinggi diizinkan beredar di pasar UE selama penyedia memenuhi serangkaian kewajiban yang ketat. Sistem AI dianggap berisiko tinggi dengan salah satu dari dua cara berikut:

  1. Sistem ini merupakan produk atau komponen keselamatan produk yang telah dicakup oleh hukum keselamatan produk UE dan tunduk pada penilaian kesesuaian pihak ketiga, seperti perangkat medis, mesin, lift, atau mainan. Sistem ini diklasifikasikan sebagai berisiko tinggi berdasarkan Pasal 6(1) dan Lampiran I, serta tunduk pada kewajiban risiko tinggi mulai Agustus 2028.
  2. Sistem ini termasuk dalam salah satu kategori kasus penggunaan khusus yang tercantum dalam Pasal 6(2) dan Lampiran III. Kewajiban untuk grup ini dimulai pada Desember 2027 dan mencakup hal-hal berikut:

Biometrik

Ini mencakup identifikasi biometrik jarak jauh yang tidak real-time, tidak berada di ruang yang dapat diakses publik, atau tidak digunakan oleh penegak hukum, kategorisasi biometrik untuk tujuan selain menyimpulkan sifat-sifat sensitif yang dilarang di atas, dan pengenalan emosi di luar konteks tempat kerja atau pendidikan (ini tidak termasuk verifikasi biometrik dasar, seperti membuka kunci ponsel dengan wajah).

Sebuah sekolah menengah atas di Swedia menguji coba pengenalan wajah untuk melacak kehadiran siswa pada tahun 2019. Otoritas perlindungan data Swedia mendenda sekolah tersebut(jendela baru), dengan memutuskan bahwa siswa tidak dapat memberikan persetujuan yang sah karena ketergantungan mereka pada sekolah.

Infrastruktur kritis

AI yang mengelola infrastruktur digital, lalu lintas jalan raya, atau pasokan air, gas, pemanas, atau listrik dianggap berisiko tinggi.

Pada Agustus 2024, Praha menerapkan sistem kendali lalu lintas berbasis AI(jendela baru) yang menyesuaikan durasi lampu lalu lintas secara real-time berdasarkan kondisi terkini serta memprioritaskan transportasi umum dan kendaraan darurat. Ini adalah salah satu penerapan berskala besar pertama dari jenis ini di Eropa.

Pendidikan dan pelatihan vokasi

AI yang menentukan siapa yang diterima di sekolah atau program pelatihan, memberi nilai, mengevaluasi tingkat pendidikan yang tepat bagi seseorang, atau melakukan monitoring siswa selama ujian dianggap berisiko tinggi.

Regulator ujian di Inggris menggunakan algoritma untuk menentukan nilai tahun 2020 setelah pandemi COVID membatalkan ujian, yang menurunkan nilai banyak siswa(jendela baru) dan merugikan mereka yang berada di sekolah-sekolah berkinerja lebih rendah secara historis. Hal ini memicu protes dan pembatalan keputusan oleh pemerintah.

Ketenagakerjaan dan manajemen pekerja

Ini berkaitan dengan AI yang digunakan untuk menyaring atau mengevaluasi calon karyawan, atau yang memengaruhi promosi, pembagian tugas, atau monitoring kinerja di tempat kerja.

Pengadilan Italia memutuskan bahwa algoritma pemeringkatan kurir Deliveroo(jendela baru) bersifat diskriminatif(jendela baru), karena menghukum pekerja pengantar makanan atas ketersediaan yang rendah tanpa mengidentifikasi alasan sah, seperti sakit atau mogok kerja. Deliveroo diperintahkan untuk membayar ganti rugi.

Layanan esensial

AI yang menentukan kelayakan untuk mendapat bantuan publik atau layanan kesehatan, menilai kelayakan kredit, menetapkan harga asuransi jiwa atau kesehatan, atau memprioritaskan panggilan darurat dianggap berisiko tinggi.

Otoritas pajak Belanda menggunakan sistem risiko kecurangan berbasis algoritma yang salah menandai sekitar 26.000 orang tua(jendela baru), secara tidak proporsional menyasar orang berkewarganegaraan ganda, untuk mengembalikan tunjangan. Skandal ini menjatuhkan kabinet Belanda pada Januari 2021.

Penegak hukum

AI yang menilai risiko korban atau pelaku kejahatan, mengevaluasi keandalan bukti, atau membuat profil orang selama penyelidikan pidana dianggap berisiko tinggi.

Inggris dan Wales menggunakan OASys untuk menilai risiko pengulangan tindak pidana bagi lebih dari 7 juta orang(jendela baru), yang menjadi masukan untuk keputusan jaminan, pemidanaan, dan pembebasan bersyarat. Evaluasi resmi menemukan bahwa sistem ini kurang akurat untuk individu kulit hitam, Asia, dan etnis campuran dibandingkan dengan pelaku kejahatan kulit putih, serta narapidana memiliki kemampuan terbatas untuk menyanggah data yang tidak akurat yang digunakan untuk skor mereka. Sistem pengganti (ARNS) sedang dikembangkan, dengan target peluncuran nasional pada tahun 2026.

Migrasi, suaka, dan pengawasan perbatasan

Ini berkaitan dengan AI yang menilai risiko keamanan atau migrasi, memeriksa aplikasi suaka, atau mengidentifikasi orang di perbatasan.

Kementerian Dalam Negeri Inggris menolak klaim suaka seorang wanita Maroko dan anaknya(jendela baru) dengan mengutip dokumen keselamatan yang ternyata tidak pernah ada. Dalam banding, hakim pengadilan tinggi menyatakan bahwa surat penolakan tersebut menampilkan tanda-tanda halusinasi AI, dan menyebutnya “analog dengan mengandalkan bukti palsu.”

Keadilan dan proses demokrasi

AI yang membantu hakim dalam menginterpretasikan fakta atau hukum, atau sistem yang dapat memengaruhi hasil pemilu atau cara orang memilih dianggap berisiko tinggi.

Mungkin contoh paling terkenal — Cambridge Analytica memanen data hingga 87 juta pengguna Facebook tanpa persetujuan untuk membangun profil psikografis demi iklan politik bertarget(jendela baru), terutama untuk kampanye Trump tahun 2016 dan referendum Brexit.

Persyaratan untuk sistem AI berisiko tinggi

Berdasarkan UU AI UE, sistem AI berisiko tinggi harus memenuhi persyaratan ketat sebelum dapat ditempatkan di pasar atau digunakan. Ini meliputi:

Manajemen risiko: Penyedia harus mengidentifikasi, menilai, dan mengurangi potensi risiko di seluruh siklus hidup sistem.

Kualitas data: Data pelatihan, validasi, dan pengujian harus sesuai dan dikelola untuk mengurangi kesalahan dan hasil yang diskriminatif.

Pencatatan log dan keterlacakan: Sistem harus menyimpan catatan aktivitas mereka sehingga pengoperasian dan hasilnya dapat dilacak.

Dokumentasi teknis: Penyedia harus mendokumentasikan cara kerja sistem, tujuan perancangannya, dan cara sistem tersebut mematuhi UU AI.

Informasi untuk pihak yang menerapkan: Orang dan organisasi yang menggunakan sistem harus menerima instruksi yang jelas tentang kemampuan, batasan, dan penggunaan yang tepat.

Pengawasan manusia: Sistem harus dirancang sedemikian rupa agar orang yang berkualifikasi dapat memahami, memantau, dan mengintervensi pengoperasiannya jika diperlukan.

Akurasi, ketahanan, dan keandalan siber: Sistem harus memenuhi standar yang sesuai untuk akurasi, keandalan, ketahanan, dan perlindungan terhadap ancaman keamanan.

Namun, Pasal 6(3) memberikan pengecualian tertentu untuk sistem AI yang tercantum dalam Lampiran III. Sistem tersebut tidak boleh dianggap berisiko tinggi jika tidak “menimbulkan risiko kerugian yang signifikan terhadap kesehatan, keselamatan, atau hak-hak dasar perorangan, termasuk dengan tidak memengaruhi hasil pengambilan keputusan secara material.” Pasal 6(3) mencakup lebih banyak rincian tentang cara menentukan apakah suatu sistem AI masuk dalam pengecualian ini.

AI berisiko transparansi (risiko terbatas)

Untuk risiko transparansi, Pasal 50 berfokus pada AI yang dapat menyulitkan orang untuk membedakan antara konten yang dihasilkan AI atau yang dibuat oleh manusia. Kekhawatiran utamanya adalah penipuan, peniruan identitas, misinformasi, manipulasi, dan penipuan konsumen. Sistem ini umumnya diizinkan, tetapi penyedia dan pihak yang menerapkan harus membuat penggunaan AI cukup transparan. Kewajiban transparansi dalam Pasal 50 mulai berlaku pada Agustus 2026.

Ada empat situasi utama yang dicakup oleh aturan transparansi AI:

Interaksi AI

Ketika sistem AI berinteraksi langsung dengan seseorang, penyedia harus memperjelas bahwa orang tersebut berinteraksi dengan AI, bukan manusia. Ini dapat berlaku untuk sistem interaktif yang mencakup AI percakapan atau agen layanan pelanggan.

Pernyataan penolakan AI harus diberikan sejak awal interaksi pertama dan dalam cara yang mudah diakses, jelas, serta dapat dibedakan. AI yang hanya berjalan di latar belakang atau berkomunikasi antar mesin tidak dicakup oleh persyaratan khusus ini.

Konten standar buatan AI

Penyedia sistem AI yang menghasilkan atau memanipulasi teks, gambar, audio, atau video harus membuat hasil keluaran tersebut dapat diidentifikasi secara teknis sebagai buatan atau manipulasi AI, misalnya melalui metadata yang dapat dibaca mesin.

Ini tidak berarti harus menambahkan label yang terlihat bagi orang yang melihat konten tersebut. Alat penyuntingan sederhana yang tidak mengubah data input atau maknanya secara substansial mendapat pengecualian.

Deepfake dan konten kepentingan umum tertentu

Jika suatu organisasi membuat atau memanipulasi gambar, audio, atau video deepfake, penanda yang dapat dibaca mesin saja tidak cukup. Mereka harus mengungkapkannya secara jelas kepada publik dengan cara yang mudah diperhatikan, seperti melalui label yang terlihat atau catatan yang terdengar.

Standar yang sama berlaku untuk teks buatan atau manipulasi AI yang diterbitkan untuk menginformasikan publik tentang masalah kepentingan umum, kecuali jika manusia telah meninjaunya secara bermakna dan mengambil tanggung jawab editorial atas teks tersebut.

Pengenalan emosi dan kategorisasi biometrik

Masyarakat harus diberi tahu ketika AI digunakan untuk mendeteksi emosi mereka atau mengategorikan mereka menggunakan data biometrik; aturan ini berlaku terlepas dari apakah sistem tersebut juga diklasifikasikan sebagai berisiko tinggi atau tidak.

AI berisiko rendah atau tanpa risiko

Sebagian besar sistem AI masuk dalam kategori ini dan tidak tunduk pada persyaratan wajib tambahan berdasarkan UU AI. Contohnya meliputi filter spam dan AI yang digunakan dalam permainan video. Penyedia masih dapat secara sukarela mengikuti praktik terbaik dan kode etik.

Apa itu model GPAI dan apa kewajiban yang dimilikinya?

Model GPAI (general-purpose AI) adalah model AI yang dirancang untuk menangani banyak tugas berbeda alih-alih satu tujuan khusus yang sempit. Contoh model GPAI mencakup model bahasa besar (LLM) yang menenagai ChatGPT, Gemini, Claude, dan Meta AI. Model ini dapat menghasilkan atau menganalisis konten dan dapat diintegrasikan ke dalam sistem dan aplikasi AI lainnya.

Model GPAI tunduk pada persyaratannya sendiri berdasarkan UU AI. Penyedia harus memelihara dokumentasi teknis, memberikan informasi kepada pengembang tingkat lanjut tentang kemampuan dan batasan model, mematuhi aturan hak cipta UE, dan mempublikasikan ringkasan publik yang menjelaskan jenis data (seperti teks, gambar, audio, atau video) dan sumber (misalnya, kumpulan data publik, kumpulan data pribadi, situs web yang dikikis, data pengguna, atau data sintetis) yang digunakan untuk melatih model tersebut.

Model GPAI yang menimbulkan risiko sistemik — cukup tangguh atau digunakan secara luas sehingga masalah padanya dapat menyebabkan kerugian berskala besar di seluruh UE — menghadapi persyaratan tambahan, termasuk evaluasi model dan pengujian adversarial, manajemen risiko berkelanjutan, pelaporan insiden, dan perlindungan keandalan siber yang lebih kuat.

Apakah UU AI UE melarang sistem AI menggunakan data orang untuk pelatihan AI?

Tidak. UU AI UE tidak melarang penggunaan data masyarakat untuk pelatihan AI. Undang-undang ini memang mewajibkan sistem berisiko tinggi menggunakan data berkualitas baik dan penyedia AI serbaguna bersikap transparan tentang data yang digunakan untuk pelatihan, tetapi apakah data pribadi secara hukum dapat digunakan untuk melatih AI utamanya diatur oleh GDPR. Perusahaan harus memiliki dasar hukum yang sah untuk memproses data pribadi dan menghormati hak-hak serta perlindungan data yang berlaku.

Apakah UU AI UE melindungi hak kekayaan intelektual?

Ya, tetapi hanya secara terbatas dan tidak langsung. UU AI UE tidak menciptakan hak kekayaan intelektual baru atau menggantikan undang-undang hak cipta yang ada. Namun, undang-undang ini mewajibkan penyedia GPAI untuk mematuhi aturan hak cipta UE, menghormati penolakan pemegang hak atas penambangan teks dan data, serta mempublikasikan ringkasan konten yang digunakan untuk melatih model mereka.

Lini masa penerapan UU AI UE

Berikut tanggal-tanggal penting yang perlu diketahui:

1 Agustus 2024: UU AI UE mulai berlaku.

2 Februari 2025: Ketentuan umum dan definisi UU ini mulai berlaku, bersamaan dengan delapan larangan pertama terhadap praktik AI yang dilarang. Persyaratan bagi penyedia dan pihak yang menerapkan untuk mendukung literasi AI di kalangan staf juga mulai berlaku.

2 Agustus 2025: Aturan untuk model GPAI mulai berlaku, bersama dengan ketentuan yang mencakup tata kelola AI dan sanksi.

27 Juli 2026: AI Omnibus mulai berlaku. Dikenal secara formal sebagai Regulasi (UE) 2026/1744, AI Omnibus adalah amandemen tahun 2026 pada UU AI UE yang dirancang untuk menyederhanakan penerapannya, mengurangi beban kepatuhan, dan memberikan lebih banyak waktu bagi perusahaan dan regulator untuk bersiap, sambil tetap mempertahankan perlindungan keselamatan utama dan hak-hak dasar UU tersebut.

2 Agustus 2026: Sebagian besar ketentuan UU AI selebihnya mulai berlaku, termasuk aturan transparansi yang mewajibkan pengungkapan atau penandaan teknis untuk sistem AI tertentu dan konten buatan AI.

2 Desember 2026: Larangan kesembilan yang mencakup CSAM buatan AI dan penggambaran intim atau eksplisit secara seksual tanpa persetujuan mulai berlaku. Penyedia sistem AI yang ditempatkan di pasar sebelum 2 Agustus 2026 yang menghasilkan teks, gambar, audio, atau video sintetis juga harus mematuhi persyaratan penandaan yang dapat dibaca mesin paling lambat pada tanggal ini.

2 Agustus 2027: Negara-negara Anggota UE harus memiliki setidaknya satu sandbox regulasi AI nasional yang tersedia pada tanggal ini bagi perusahaan untuk mengembangkan dan menguji sistem AI di bawah pengawasan regulasi.

2 Desember 2027: Aturan AI berisiko tinggi mulai berlaku untuk sistem yang digunakan di bidang-bidang sensitif seperti biometrik, infrastruktur kritis, pendidikan, ketenagakerjaan, layanan esensial, penegakan hukum, migrasi, dan administrasi peradilan.

2 Agustus 2028: Persyaratan risiko tinggi mulai berlaku untuk sistem AI yang merupakan bagian dari, atau komponen keselamatan dari, produk teratur yang dicakup oleh perundang-undangan produk UE, seperti mesin tertentu, perangkat medis, mainan, dan lift.

Cara mempersiapkan bisnis Anda untuk kepatuhan UU AI UE

Bagi bisnis, perubahan praktis terbesar adalah bahwa kepatuhan dimulai dengan mencari tahu peran apa yang dijalankan perusahaan dan jenis AI apa yang digunakannya. Perusahaan yang hanya menggunakan asisten penulisan AI akan memiliki jauh lebih sedikit kewajiban dibandingkan perusahaan yang mengembangkan algoritma perekrutan, menjual perangkat medis berbasis AI, atau menyediakan model GPAI. UU ini juga dapat berlaku untuk perusahaan di luar UE jika mereka menempatkan sistem AI atau model GPAI di pasar UE atau jika hasil keluaran sistem AI mereka digunakan di UE.

Untuk mempersiapkan dan menjaga kepatuhan terhadap UU AI UE, bisnis Anda harus:

Ketahui AI yang digunakan: Lacak sistem AI yang digunakan di seluruh tim Anda (termasuk alat pihak ketiga), dan pahami untuk apa AI tersebut digunakan. Ini dapat mencakup AI yang digunakan dalam HR, layanan pelanggan, pemasaran, keamanan, analitik, dan proses bisnis lainnya.

Tentukan peran Anda: Tetapkan apakah bisnis Anda merupakan penyedia yang mengembangkan atau menjual sistem AI, pihak yang menerapkan yang menggunakannya, atau pengimpor atau distributor. Kewajiban yang berbeda berlaku untuk setiap peran.

Klasifikasikan AI berdasarkan risiko: Periksa apakah ada penggunaan AI yang dilarang, berisiko tinggi, tunduk pada persyaratan transparansi, atau berisiko minimal. Misalnya, jika Anda menggunakan AI untuk menyaring pelamar kerja, aturannya jauh lebih ketat dibandingkan untuk filter spam AI.

Hentikan penggunaan AI yang dilarang: Audit alat dan alur kerja AI Anda dari praktik yang dilarang lalu nonaktifkan atau ganti sistem yang melanggar batas. Berfokuslah terutama pada AI yang digunakan untuk memantau karyawan, membuat profil orang, menganalisis data biometrik, memanipulasi perilaku, atau membuat penilaian sensitif tentang individu.

Latih karyawan yang menggunakan AI: Penyedia dan pihak yang menerapkan harus mengambil tindakan untuk mendukung literasi AI di kalangan karyawan dan orang lain yang mengoperasikan sistem AI atas nama mereka. Pelatihan harus mencerminkan bagaimana AI benar-benar digunakan dan risiko yang terlibat.

Penuhi persyaratan transparansi AI: Anda mungkin perlu memberi tahu orang-orang saat mereka berinteraksi dengan AI, memberi label pada konten buatan atau manipulasi AI tertentu, atau memberi tahu orang-orang saat sistem pengenalan emosi atau kategorisasi biometrik yang diizinkan sedang digunakan.

Terapkan kontrol yang lebih ketat pada AI berisiko tinggi: Penyedia harus mengelola risiko, menggunakan data yang sesuai, menyimpan dokumentasi dan log, memastikan pengawasan manusia, serta memenuhi persyaratan akurasi, keamanan, dan keandalan. Mereka mungkin juga perlu menyelesaikan penilaian kesesuaian dan mendaftarkan sistem tersebut. Bisnis yang menggunakan AI berisiko tinggi harus mengikuti petunjuk penyedia, memantau kinerjanya, dan menyimpan catatan yang diperlukan.

Periksa kewajiban GPAI: Jika Anda menyediakan model GPAI, Anda memiliki persyaratan terpisah yang mencakup dokumentasi teknis, informasi untuk pengembang tingkat lanjut, kepatuhan hak cipta, dan ringkasan konten pelatihan. Model yang menimbulkan risiko sistemik menghadapi persyaratan keselamatan dan keandalan siber tambahan.

Tinjau pemasok AI: Jika menggunakan AI pihak ketiga, periksa sistem yang disediakan oleh vendor, bagaimana sistem tersebut diklasifikasikan, dokumentasi apa yang tersedia, dan siapa yang bertanggung jawab untuk mematuhi setiap bagian dari UU AI UE. Mengubah atau mengubah merek sistem AI tertentu juga dapat mengalihkan tanggung jawab penyedia ke bisnis Anda.

Jaga agar tata kelola AI tetap diperbarui: Sistem AI, penggunaannya, dan hukum dapat berubah. Bisnis harus mendokumentasikan cara AI digunakan, memantau sistem untuk risiko atau insiden baru, dan menilai kembali kepatuhan ketika sistem AI diubah secara substansial atau dialihfungsikan.

Kepatuhan terhadap UU AI tidak menggantikan kewajiban hukum lainnya. Bisnis yang menggunakan data pribadi, materi hak cipta, atau AI di sektor-sektor teratur mungkin juga perlu mematuhi undang-undang seperti GDPR, aturan hak cipta UE, undang-undang perlindungan konsumen, dan regulasi khusus sektor.

Membangun pendekatan AI yang mengutamakan privasi

UU AI UE menerapkan pendekatan berbasis risiko pada AI, dan Anda tidak harus menggunakan AI sendiri untuk dapat terdampak olehnya. Jika tinggal di UE, AI dapat memengaruhi konten yang Anda lihat, layanan tempat Anda berinteraksi, atau keputusan yang dibuat tentang Anda, seperti apakah Anda dapat membeli hal-hal tertentu. Oleh karena itu, membiasakan diri dengan UU ini dapat membantu memahami kapan AI harus diungkapkan, perlindungan apa yang berlaku, dan kapan Anda dapat mempertanyakan atau menyanggah cara sistem AI digunakan.

Bagi bisnis, kewajiban bergantung pada peran yang dijalankan organisasi, bagaimana sistem AI miliknya digunakan, dan tingkat risiko yang terlibat.

Bagi orang-orang yang memilih untuk menggunakan AI, Lumo menawarkan alternatif AI Eropa yang mengutamakan privasi. Asisten AI kami tidak pernah mencatat log percakapan Anda atau melatih diri dengan data Anda. Data Anda dilindungi dengan enkripsi akses nol sehingga hanya Anda yang dapat mencatat atau membacanya. Bahkan Proton tidak dapat melihat data Anda.

Perlindungan yang sama berlaku untuk Lumo for Business, asisten AI kami untuk tim, yang memungkinkan organisasi menyediakan alat AI yang disetujui kepada karyawan sambil membantu menjaga kerahasiaan data sensitif perusahaan, pelanggan, dan data sensitif lainnya. Penggunaan Lumo itu sendiri tidak menjadikan bisnis langsung patuh terhadap UU AI UE, tetapi dapat mendukung pendekatan yang lebih sadar privasi dalam mengadopsi dan mengelola AI di seluruh organisasi.

Bercakap dengan Lumo(jendela baru) Dapatkan Lumo for Business

Jika Anda baru mengenal AI atau ingin memahami teknologi di balik aturan ini, lihat panduan AI kami untuk pembahasan mendalam tentang privasi AI, pengawasan, risiko keamanan, dan gambaran umum tentang praktik yang sering kali menipu dari beberapa penyedia AI paling populer.