Setiap kali Anda memasukkan prompt, lab AI menyerap semakin banyak data bisnis Anda tiap hari. Satu-satunya perlindungan Anda? Janji samar untuk tidak melatih model dengan data tersebut.
Analisis Lawfare(jendela baru) terbaru berpendapat bahwa ketika bisnis menyerahkan data mereka kepada segelintir lab AI yang kuat, mereka sebenarnya mengajari lab tersebut cara menggantikan posisi mereka. Para penulis menyebutnya replacement through knowledge acquisition (RKA).
Meski tidak ada cara untuk mengetahui apa yang dilakukan lab AI dengan data bisnis Anda hari ini, ada tiga kekuatan yang saling bertemu: kekuasaan yang sebagian besar tidak terkendali untuk menetapkan ketentuan, sistem hukum yang masih bergulat dengan arti “pelatihan”, serta kemampuan sekaligus insentif untuk bersaing dengan pelanggan mereka sendiri.
Bisnis Anda mungkin sedang memberi makan monster yang pada akhirnya bisa menelannya bulat-bulat.
Apakah lab AI melatih model dengan data perusahaan?
Lab AI terbesar telah berupaya keras meyakinkan pengguna bisnis bahwa data mereka bersifat pribadi secara bawaan:
- OpenAI mengklaim tidak melatih model dengan input atau output dari ChatGPT untuk pengguna bisnis.
- Anthropic mengklaim bahwa data bisnis dikecualikan dari pelatihan model Claude secara bawaan.
- Microsoft mengklaim bahwa prompt, respons, dan data tidak digunakan untuk melatih Copilot.
- Google mengklaim bahwa Gemini tidak melatih modelnya dengan data bisnis tanpa izin atau instruksi sebelumnya.
- X mengklaim bahwa interaksi pada paket bisnis Grok tidak meningkatkan modelnya, tetapi tampaknya akan menggunakan data karyawannya sendiri di SpaceX untuk tujuan pelatihan.
Dalam praktiknya, janji mereka untuk melindungi privasi pengguna sengaja dibuat samar dan lebih tipis daripada yang terlihat:
- Istilah kunci didefinisikan secara longgar. Lawfare menunjukkan bahwa perjanjian perusahaan OpenAI mendefinisikan konten pelanggan sebagai input dan output, lalu mendefinisikan keduanya menggunakan kata “input” dan “output”. Ketentuan Anthropic mengecualikan pelatihan model dengan konten pelanggan tanpa mendefinisikan apa arti pelatihan.
- Sebagian data mungkin berada di luar janji tersebut. Pola, metadata, dan ringkasan yang dihasilkan AI tetapi tidak pernah ditampilkan kepada Anda mungkin sama sekali tidak dihitung sebagai input atau output.
- “Pelatihan” lebih sempit daripada kedengarannya. Penggunaan data Anda untuk membuat tolok ukur pengujian, menyetel prompt sistem, atau melatih alat keamanan terpisah mungkin tidak dihitung.
- Ketentuan dapat berubah. Penyedia biasanya berhak mengubahnya, dan setiap peluncuran model baru menjadi kesempatan untuk mengatur ulang ketentuan tersebut.
- Anda tidak dapat memeriksanya. Hanya lab yang tahu apa yang masuk ke dalam pelatihannya. Pembobolan hampir mustahil Anda sadari. Pendiri sekaligus CEO Proton, Andy Yen, memperingatkan bahwa begitu Anda membagikan informasi kepada AI, Anda tidak benar-benar bisa menariknya kembali. Tak lama lagi, menurutnya, AI “bisa mengenal Anda lebih baik daripada diri Anda sendiri.”(jendela baru) Bagi sebuah bisnis, taruhannya lebih tinggi.
Apa yang berisiko hilang dari bisnis Anda
Apa yang dipelajari AI tentang bisnis Anda itulah yang membuatnya kompetitif. Big Tech tahu itu.
Dalam kasus yang berlangsung dari 2019 hingga 2022, Komisi Eropa menyelidiki Amazon karena menggunakan data nonpublik dari penjual pihak ketiga untuk menginformasikan bisnis ritelnya sendiri, pada dasarnya menggunakan data penjual itu sendiri untuk bersaing dengan mereka. Amazon berkomitmen untuk berhenti, dan larangan itu kemudian dituangkan ke dalam Digital Markets Act.
Di beberapa industri, yang dipertaruhkan bukan hanya keunggulan kompetitif. Kepatuhan juga berisiko. Bisnis di bidang kedokteran dan keuangan memiliki kewajiban hukum untuk melindungi informasi sensitif berdasarkan aturan seperti HIPAA dan GDPR. Aturan tersebut sudah jelas soal pengamanan data pribadi, tetapi industri AI masih begitu baru sehingga area abu-abu semakin meluas.
Dan dengan AI yang kini terintegrasi ke dalam pencatat rapat, email, dan alur kerja sehari-hari, AI menyentuh jauh lebih banyak bagian bisnis Anda daripada saat hanya berada di jendela chat.
Apa yang berpotensi diperoleh lab AI
Lab AI memiliki insentif finansial dan kompetitif untuk menyerap sebanyak mungkin data.
Pasar AI diperkirakan akan terus tumbuh secara dramatis, dengan Gartner berspekulasi bahwa AI akan menyentuh semua pekerjaan TI pada 2030. Gartner juga memperkirakan bahwa belanja AI akan mencapai 2,5 triliun dolar AS pada 2026, meningkat 44% dari tahun sebelumnya. Mengingat tantangan untuk terus mengembangkan model AI yang lebih cerdas tanpa bahan pelatihan yang memadai, perusahaan AI kemungkinan besar akan mulai mencari cara untuk mengambil manfaat dari pelanggan perusahaan mereka.
Permintaan yang meledak memaksa lab AI semakin kreatif dalam mencari cara mengembangkan model mereka. Data bisnis jelas bernilai bagi lab-lab ini: Google memenangkan tawaran senilai 10 juta dolar AS untuk membeli data dari maskapai yang bangkrut, Spirit Airlines, pada Agustus. Menurut Association of Flight Attendants, paket data tersebut mencakup data sensitif karyawan. Data itu bisa diserap dan digunakan untuk melatih model AI Google tanpa persetujuan para karyawan tersebut.
OpenAI mengklaim tidak melatih model dengan input atau output dari produknya untuk pengguna bisnis. Namun, dengan mengetahui besarnya nilai data ini bagi bisnis, kita kini perlu mempertimbangkan kedudukan hukum industri AI dalam hal pemrosesan data.
Kita tidak bisa mengandalkan regulasi yang mungkin tak kunjung datang
Bisakah regulasi melindungi data bisnis Anda dari lab AI terbesar? Untuk memahaminya, kita harus menelaah realitas finansial dan politik industri ini.
AS mendominasi AI. Menurut Artificial Index Report dari Stanford, 59 model terkemuka beroperasi dari AS, jumlah terbanyak di dunia. Dominasi ini penting untuk dicatat; pada Maret, Gedung Putih merilis kerangka kebijakan nasional untuk mengatur AI. Kerangka itu menyerukan agar undang-undang tingkat negara bagian diganti dengan kerangka kebijakan AI federal untuk “melindungi hak dan inovasi Amerika, serta mencegah tambal sulam regulasi negara bagian yang terfragmentasi yang akan menghambat daya saing nasional [AS].” Kerangka tersebut mencatat bahwa undang-undang tingkat negara bagian yang mengatur AI tidak boleh dibiarkan “bertentangan dengan strategi nasional Amerika Serikat untuk mencapai dominasi AI global.”
Manakah yang lebih mungkin: pemerintah AS memprioritaskan hak privasi data perusahaan-perusahaan individual, yang mungkin berlokasi di luar AS? Atau hak ekspansi imperium AI nasionalnya? Bisnis Eropa sama sekali tidak bisa menjamin bahwa alat AI Amerika akan mengutamakan kedaulatan data mereka. Dengan lab AI terbesar yang beroperasi di AS, ada titik balik yang sudah di depan mata.
Pilihan yang lebih baik untuk AI perusahaan
Daripada berharap pada regulasi atau berusaha mengikuti perkembangan kebijakan privasi, bisnis punya pilihan yang lebih mudah dan efektif: memilih alat AI yang dibangun untuk privasi. Ada ruang untuk inovasi tanpa eksploitasi. Alat AI yang Anda pilih harus tetap seperti itu: alat AI untuk membantu Anda, bukan pesaing yang Anda latih untuk menggantikan posisi Anda. Alat itu harus berupaya menjalankan fungsinya, tumbuh seiring waktu, tanpa mencuri rahasia dagang.
Proton membangun Lumo untuk memenuhi kebutuhan ini. Tanpa insentif untuk mengumpulkan atau mengeksploitasi data pengguna, AI bisa menjadi alat yang transformatif bagi bisnis. Lumo tidak menyimpan log percakapan bisnis, sehingga data Anda terlindungi dari pihak ketiga dan pengawasan pemerintah. Dengan model bisnis tanpa iklan dan tanpa pendanaan dari Big Tech atau modal ventura, satu-satunya insentif Lumo adalah memberikan dukungan bisnis terbaik. Sebagai sebuah bisnis, Proton diatur oleh Proton Foundation, yang berarti kami bertindak demi kepentingan orang banyak, bukan demi dominasi industri.
Berbasis di Swiss, Proton juga diatur oleh undang-undang privasi data yang ketat dan GDPR. Kode dan modelnya keduanya open source, sehingga bisnis mana pun dapat memverifikasi klaim kami. Lumo dirancang untuk melakukan tepat apa yang seharusnya dilakukan AI: memberikan bantuan tanpa eksploitasi. Memilih alternatif Eropa untuk alat AI Big Tech adalah cara terbaik bagi bisnis untuk melindungi diri dari lab AI yang tidak diatur dan tidak dapat dipercaya.
