“Masalah penyelarasan” AI mengemukakan bahwa seiring sistem AI menjadi lebih cerdas, akan semakin sulit untuk menyelaraskan tujuan mereka dengan tujuan pengembangnya. Sebuah sistem AI, secara teori, dapat “berulah”, merancang strategi yang tidak keinginan dan tidak terprediksi untuk mencapai suatu tujuan.

The paperclip maximizer(jendela baru) is a thought experiment that explores this concept: If a superintelligent AI was tasked with the single purpose of creating paperclips, it might commandeer the world’s resources to accomplish its goal at all costs, turning everything into paperclips. Eventually it might even realize humans, trying to stop the AI, were a distraction and eliminate us: clearly a misalignment between AI and human interests.

Meskipun jelas aneh, masalah penjepit kertas telah menjadi titik acuan budaya populer untuk AI. Dalam kehidupan nyata, batasan dan aturan mencegah sistem melampaui tujuan yang dimaksudkan. Namun, banyak pendiri dan CEO Big Tech menggunakan hipotesis ini untuk menciptakan kehebohan seputar large language model (LLM) mereka. Apakah chatbot benar-benar memiliki kekuatan untuk memusnahkan umat manusia? Tidak. Namun, hal itu membuat mereka terdengar mengesankan dan, yang lebih penting, itu menyembunyikan masalah penyelarasan AI yang sebenarnya yang merugikan kita saat ini: LLM Big Tech menginvasi privasi kita, mencuri data kita, dan mendevaluasi ekonomi informasi kita. Ini adalah strategi penjualan sekaligus pengalihan perhatian, yang dirancang agar kita terus menatap masa depan alih-alih melihat kendali yang kita serahkan saat ini.

Apakah kita sedang menuju masa depan distopia?

Ketika para pendiri membuat pernyataan spekulatif yang luas tentang apa yang “bisa” dilakukan oleh produk mereka, ini terutama merupakan metode untuk menciptakan peluang bisnis dan menciptakan nilai bagi pemegang saham mereka. LLM dan AI generatif adalah produk bisnis. Merupakan kepentingan pemiliknya agar Anda percaya bahwa alat mereka bersifat revolusioner.

Media massa sangat bersemangat untuk menyebarkan cerita-cerita sensasional, seperti potensi alat AI untuk membantu pengguna membuat senjata biologis(jendela baru) atau berbohong kepada pengembang(jendela baru), seolah-olah AI generatif memiliki pikirannya sendiri (padahal tidak). Sangat mudah untuk mendapatkan klik dengan tajuk utama tentang opini ekstrem atau tidak berdasar, tetapi pandangan seperti itu bukanlah gambaran akurat tentang teknologi AI yang ada saat ini.

Sebaliknya, LLM hanyalah mesin prediksi kata. Mereka adalah program komputer yang mencerna teks dalam jumlah besar, “mempelajari” pola bahasa manusia, lalu membangun respons probabilistik terhadap input pengguna. Mereka tidak memiliki pikiran sendiri, dan mereka bahkan tidak memahami bahasa. Faktanya, mereka harus terlebih dahulu mengubah kata menjadi angka sebelum dapat memproses informasi. Keterbatasan LLM telah didokumentasikan dengan baik oleh Gary Marcus(jendela baru) dan banyak peneliti lainnya.

Alat baru untuk kapitalisme pengawasan

LLM tidak akan menyebabkan kiamat, tetapi mereka cukup pandai dalam hal lain: mengumpulkan informasi yang sangat bernuansa tentang diri Anda. Itulah sebabnya LLM menjadi tambang emas data bagi bisnis dan sasaran yang menarik bagi kriminal.

LLM mendukung chatbot seperti ChatGPT, Copilot, Claude, dan Grok, yang berfungsi seperti mesin pencari. Di satu sisi, chatbot ini dapat digunakan untuk apa pun yang disukai: Mereka dapat membantu membuat daftar belanjaan, mengatur kalender, menulis email, or menulis kode. Mereka adalah asisten pribadi, guru, teman curhat, atau apa pun yang diinginkan.

Ratusan juta orang secara global telah membagikan pertanyaan, ide, pemikiran, dan rahasia terdalam mereka dengan chatbot. Mereka didorong untuk melakukannya oleh perusahaan yang menjalankannya: Sam Altman, CEO Open AI, baru-baru ini mencatat(jendela baru) bahwa Gen Z “tidak benar-benar membuat keputusan hidup tanpa bertanya kepada ChatGPT tentang apa yang harus mereka lakukan.” Menyebut dan mendorong tingkat kepercayaan dan ketergantungan ini pada chatbot yang berorientasi laba dan tidak andal sangat tidak bertanggung jawab. Big Tech ingin kita menengahi kehidupan dan pemikiran kita melalui layanan mereka karena dengan begitu mereka dapat menentukan bagaimana kita membelanjakan uang kita, apa yang kita lakukan, dan apa yang kita pikirkan.

Bisnis di balik LLM juga menjual produk mereka sebagai solusi produktivitas untuk pemerintah dan bisnis, berjanji untuk menghemat waktu dan tenaga bagi para pengguna mereka sambil memperkenalkan peluang baru bagi Anda untuk diawasi. Di Inggris Raya, sistem AI Kementerian Kehakiman “memprediksi” risiko pengulangan tindak pidana(jendela baru) para tahanan. Petugas polisi menggunakan chatbot(jendela baru) untuk menulis laporan kejahatan. Menggabungkan kekuasaan negara dengan algoritma yang bias(jendela baru) adalah hal yang berbahaya dan memperkuat prasangka yang sudah ada.

Mengeksploitasi data Anda untuk tujuan pelatihan

LLM berjalan pada model AI yang dilatih oleh himpunan data yang sangat besar, dan untuk meningkatkan layanan mereka, mereka memerlukan lebih banyak data. Sayangnya, data ini berasal dari Anda: obrolan Anda, foto Anda, pencarian web Anda. Perusahaan tidak akan selalu meminta izin Anda atau menjelaskan secara jelas apa yang mereka kumpulkan dari Anda.

Sebagai contoh, Meta AI ingin memindai (jendela baru)foto(jendela baru) di pustaka Anda yang bahkan belum Anda unggah ke platformnya untuk menganalisis data wajah Anda. Banyak pengguna terganggu oleh pengumuman bahwa Copilot AI milik Microsoft(jendela baru) akan mengambil tangkapan layar perangkat mereka setiap beberapa menit. Foto Anda, pesan Anda kepada teman dan orang tercinta, serta pemikiran paling pribadi Anda adalah poin data berharga yang diinginkan oleh perusahaan-perusahaan tersebut.

Melihat kebijakan privasi(jendela baru) Open AI, terlihat bahwa ChatGPT akan menemukan dan menyimpan:

  • Pengidentifikasi, seperti nama Anda, rincian kontak, alamat IP, dan pengidentifikasi perangkat lainnya
  • Informasi komersial, seperti riwayat transaksi Anda
  • Informasi aktivitas jaringan, seperti konten dan cara Anda berinteraksi dengan ChatGPT
  • Lokasi umum tempat Anda mengakses ChatGPT

Informasi ini dapat diungkapkan kepada pemerintah, vendor, afiliasi, penyedia layanan, dan pihak ketiga lainnya.

Pada dasarnya, LLM mengenali Anda. Mirip seperti mesin cari, LLM memahami kebiasaan, preferensi, minat, dan setiap aspek diri Anda yang dapat diperoleh dari perilaku Anda. Big Tech akan selalu memprioritaskan pencarian cara baru untuk memperoleh data pribadi Anda karena hal itu menguntungkan. Dan mereka berharap Anda tidak menyadarinya.

Coba pikirkan tren yang telah melanda media sosial dalam beberapa tahun terakhir: animasi gaya Studio Ghibli(jendela baru) khusus meniru gaya khas Hayao Miyazaki di luar kehendaknya dan boneka kemasan AI khusus(jendela baru) yang terinspirasi oleh mainan klasik seperti Barbie menciptakan wawasan visual tentang selera pribadi orang-orang. Tren media sosial ini mungkin terasa seperti hiburan yang tidak berbahaya, tetapi alat AI yang digunakan untuk membuat gambar-foto ini mampu memanen foto dan informasi tentang orang-orang yang dapat digunakan oleh perusahaan induk mereka untuk tujuan periklanan dan berpotensi dijual kepada pihak ketiga. Ini hanyalah dua dari banyak contoh Big Tech secara diam-diam menyerap data pribadi Anda sebagai imbalan atas partisipasi dalam tren yang sekilas lewat.

Ada solusi yang lebih baik untuk LLM

Setelah membaca tentang semua risiko ini, Anda mungkin berpikir bahwa LLM pada dasarnya berbahaya. Namun tidak demikian halnya. Perusahaan Big Tech sengaja membangun sistem AI mereka agar invasif dan haus data. Membangun AI yang melindungi privasi orang dan menjaga keamanan data secara bawaan adalah hal yang sangat mungkin dilakukan. Kami mengetahuinya karena kami telah melakukannya dengan Lumo, asisten AI(jendela baru) kami yang mengutamakan privasi.

Berikut cara Lumo menyelesaikan masalah penyelarasan AI yang sebenarnya:

  • Lumo tidak menyimpan log percakapan Anda. Setiap obrolan dihapus dari server kami segera setelah model selesai memproses kueri dan tanggapan Anda.
  • Riwayat obrolan tersimpan dengan enkripsi tanpa akses. Dengan mengunci data menggunakan kunci rahasia Anda, Proton tidak pernah memiliki akses dan oleh karena itu tidak akan pernah membagikan atau membocorkan data Anda secara tidak sengaja.
  • Model tidak dilatih menggunakan obrolan Anda. Menggunakan percakapan untuk melatih model AI membuat data Anda berisiko muncul kembali dalam output di masa mendatang. Percakapan dengan Lumo sepenuhnya milik Anda sendiri.
  • Lumo bersifat open source dan hanya menggunakan model open source. Karena basis kode kami bersifat publik, siapa saja dapat memverifikasi bahwa aplikasi kami melakukan persis seperti yang kami klaim.
  • Berbasis di yurisdiksi yang menghormati privasi. Tidak seperti AI Big Tech berbasis di AS yang tunduk pada undang-undang pengawasan invasif, Lumo berbasis di Eropa dan dilindungi oleh undang-undang privasi yang kuat.

Di setiap tingkat, Lumo dirancang untuk memberikan utilitas yang sama seperti LLM lainnya tanpa eksternalitas yang berisiko. Big Tech dapat membangun AI mereka dengan cara yang sama. Mereka hanya memilih untuk tidak melakukannya karena data Anda adalah mata uang mereka.

Apakah penyelarasan AI benar-benar merupakan ancaman?

Kenyataannya jauh tidak semenarik dari yang ingin dipercayai oleh para CEO Big Tech kepada kita. Tampaknya kecil kemungkinan AI akan memberdayakan orang untuk membuat senjata biologis atau menghabiskan semua sumber daya global kita hanya untuk membuat klip kertas, melainkan AI hanya akan mengikuti arahan yang sudah diikuti oleh Big Tech: Mencuri dan mengeksploitasi data pribadi.

Jangan percaya kehebohan tentang penyelarasan AI. Itu bukanlah ancaman yang harus menjadi fokus kita semua. Pengawasan, eksploitasi terhadap individu dan bisnis kecil, serta ekosistem informasi yang terancam adalah masalah mendesak yang sebenarnya harus kita perhatikan terkait AI.