Sebelum Anda Membagikan: Privasi AI Butuh Lebih dari Sekadar Janji

Pendahuluan: percakapan itu mulai menjadi hidup Anda

Anda membuka asisten AI untuk menulis balasan yang sulit. Anda menempelkan pesannya, menjelaskan hubungan yang terlibat, lalu menambahkan beberapa detail yang belum pernah Anda bagikan di tempat lain. Di hari lain, Anda mengunggah kontrak, membahas ide yang belum selesai, atau menghubungkan kotak masuk Anda agar asisten dapat memahami apa yang perlu mendapat perhatian Anda.

Tak satu pun dari tindakan ini terasa seperti memublikasikan sesuatu. Anda sedang meminta bantuan.

Namun informasi itu bisa melewati infrastruktur, sistem penyimpanan, proses peninjauan, dan kewajiban hukum yang sebagian besar tak terlihat dari jendela percakapan. Seorang asisten bisa terasa personal jauh sebelum cara ia menangani data Anda benar-benar sesuai dengan harapan itu.

Posisi saya sederhana: privasi AI seharusnya tidak hanya bergantung pada apa yang dijanjikan perusahaan akan dilakukan setelah menerima informasi Anda. Privasi juga harus bergantung pada apa yang dicegah sistem mereka agar tidak sampai ke model sejak awal. Kebijakan itu penting. Namun kebijakan perlu ditopang oleh perlindungan teknis.

Saya menyiapkan artikel ini dengan dukungan dari tim Dvina. Artikel ini menelaah insiden yang terdokumentasi dan praktik saat ini di ChatGPT, Claude, Cursor, Perplexity, Manus, Muse milik Meta, dan Dvina. Tujuannya adalah menjelaskan mengapa privasi harus menjadi prioritas rekayasa yang utama ketika AI makin terlibat dalam kehidupan kita—dan bagaimana Dvina mendekati tanggung jawab tersebut.

Apa yang dikatakan insiden-insiden ini kepada kita

Kekhawatiran ini bukan hipotetis. Namun jenis bukti yang berbeda mengungkap masalah yang berbeda pula. Paparan data yang terkonfirmasi, peninjauan oleh manusia yang diizinkan, dan tuduhan tentang penyalahgunaan riset tidak seharusnya disajikan seolah-olah semuanya adalah peristiwa yang sama.

Paparan ChatGPT pada 2023: kegagalan pada sistem itu sendiri.

Pada 20 Maret 2023, sebuah bug perangkat lunak memungkinkan sebagian pengguna ChatGPT melihat judul dari riwayat percakapan pengguna aktif lain. OpenAI mengatakan bahwa pesan pertama dari percakapan yang baru dibuat juga mungkin terlihat dalam keadaan tertentu. Investigasinya mengidentifikasi kemungkinan paparan informasi terkait pembayaran untuk 1.2% pelanggan Plus yang aktif selama periode sembilan jam tertentu. Nomor kartu lengkap tidak terekspos. OpenAI menambal bug tersebut dan memberi tahu pengguna yang terdampak. 1

Pelajarannya bukan bahwa kerentanan yang sama masih terbuka. Pelajarannya adalah bahwa komitmen privasi, dengan sendirinya, tidak dapat mencegah sistem mengembalikan informasi kepada orang yang salah. Isolasi, pemeriksaan akses, dan seberapa banyak informasi yang dapat diidentifikasi tersedia untuk terekspos—semuanya penting.

Litigasi The New York Times: penghapusan berhadapan dengan kewajiban hukum.

Pada 2025, OpenAI menghadapi perintah pengadilan yang mewajibkan pelestarian data yang seharusnya sudah dihapus. Pembaruan pada Oktober menyatakan bahwa kewajiban luas untuk menyimpan data baru tanpa batas waktu telah berakhir pada 26 September 2025, sementara kumpulan data historis terbatas tetap berada dalam legal hold. Persyaratan pelestarian awal mengecualikan produk tertentu dan pengaturan zero-data-retention. 2

Perkembangan berikutnya harus dibaca secara terpisah: pada Desember 2025, Reuters melaporkan bahwa seorang hakim mewajibkan OpenAI menyerahkan 20 juta log chat yang dianonimkan dalam perkara hak cipta, menolak keberatannya dan mengandalkan de-identification serta perlindungan pengamanan. Ini adalah perintah discovery, bukan publikasi chat pribadi semua orang di internet. 3

Jika dilihat bersama, peristiwa-peristiwa ini menunjukkan mengapa pengaturan penghapusan tidak menjawab semua pertanyaan tentang informasi yang disimpan. Begitu sebuah salinan ada, kewajiban di luar kendali pengguna dapat memengaruhi apa yang terjadi padanya. Mengurangi penyimpanan yang tidak perlu mengubah paparan itu sebelum sengketa dimulai.

Tinjauan manusia: akses dapat diizinkan tanpa adanya pelanggaran.

Dokumentasi konsumen OpenAI secara eksplisit mengizinkan akses terbatas oleh personel dan penyedia layanan yang berwenang untuk tujuan tertentu, termasuk investigasi keamanan, dukungan, urusan hukum, dan peningkatan model yang memenuhi syarat. Panduan konsumen Anthropic mengizinkan staf yang ditunjuk untuk meninjau percakapan guna penegakan kebijakan penggunaan, dengan akses terpisah yang terkait dengan umpan balik yang diberikan atas dasar persetujuan. 4, 8

Ini adalah jalur akses yang terdokumentasi, bukan rumor. Ini tidak membuktikan bahwa karyawan membaca setiap percakapan. Namun ini memang menunjukkan bahwa antarmuka chat yang tampak privat belum tentu menjadi penghalang teknis terhadap akses oleh penyedia.

Dokumentasi terbaru Anthropic menambahkan contoh penting dari sisi bisnis. Covered Models yang ditetapkannya mewajibkan retensi 30 hari dalam deployment tertentu yang sebelumnya menggunakan zero data retention, dengan tinjauan manusia yang terkontrol dan pengecualian. Aturan ini memiliki batasan model, platform, dan kelayakan; ini bukan perubahan menyeluruh untuk setiap produk Claude. Paket konsumen dijelaskan tidak terdampak karena permukaan tersebut memang sudah menyimpan input dan output. 9

Pemantauan keselamatan memiliki tujuan yang sah. Tantangan rekayasanya adalah memenuhi tujuan itu sambil meminimalkan informasi sensitif yang tersedia bagi sistem pemantauan dan peninjau. Alasan keselamatan tidak membuat pertanyaan privasi lenyap.

Kontroversi matematika: tuduhan yang belum terselesaikan, masalah kepercayaan yang nyata

Kontroversi pada September 2026 seputar pengumuman Navier–Stokes OpenAI memunculkan kekhawatiran yang berbeda: apa yang terjadi ketika asisten yang membantu riset privat dimiliki oleh perusahaan yang juga melakukan risetnya sendiri?

Sengketa itu menyangkut karya matematika yang belum dipublikasikan dan soal atribusi. Pelaporan menggambarkan matematikawan Tristan Buckmaster dan Levent Alpöge menggunakan alat AI dalam pekerjaan mereka, dan Buckmaster mempertanyakan apakah materi privat mereka telah berkontribusi pada hasil OpenAI. 10

OpenAI membantah versi tersebut. Tanggapan yang dipublikasikannya menyatakan bahwa baik para penelitinya maupun agennya tidak melihat karya pasangan itu sebelum publikasi. Dalam pembaruan bertanggal 10 September, OpenAI juga menyatakan bahwa penyelidikan telah menyingkirkan adanya pengaruh dari prompt Codex Buckmaster selama dua bulan sebelumnya, termasuk melalui pelatihan. Pernyataan yang dibatasi waktu itu lebih spesifik daripada versi sebelumnya dalam beberapa pelaporan. 11

Versi-versi yang beredar di publik masih diperselisihkan. Sumber-sumber yang ditinjau di sini tidak secara independen menetapkan bahwa OpenAI menggunakan percakapan privat tersebut untuk menghasilkan hasilnya.

Meski demikian, sengketa ini menyingkap pertanyaan yang layak dijawab dengan jelas: ketika orang membawa karya yang belum selesai ke AI, apa yang melindungi nilai informasional dari karya itu? Menghapus nama penulis dari sebuah pembuktian tidak menghapus pembuktiannya. Menganonimkan strategi komersial tidak menjadikan strategi itu milik publik.

Itulah sebabnya privasi yang kuat membutuhkan perlindungan baik untuk identitas maupun konten. Pengguna seharusnya dapat memahami apakah materi mereka dapat masuk ke alur kerja pelatihan, riset, evaluasi, atau peninjauan—dan kontrol teknis apa yang menegakkan batas-batas tersebut.

Empat pertanyaan yang tidak boleh pernah dilebur menjadi satu

Sebagian besar kebingungan muncul karena “private” diperlakukan sebagai satu sifat tunggal. Dalam praktiknya, ada empat pertanyaan terpisah yang menentukan apa yang terjadi pada sebuah percakapan.

Pelatihan: Dapatkah konten membantu mengembangkan atau meningkatkan model? Opt-out mengubah satu penggunaan informasi yang diizinkan. Itu tidak serta-merta mengubah apakah informasi tersebut ditransmisikan atau disimpan.

Akses: Sistem dan orang mana yang dapat memeriksanya? Enkripsi selama transmisi dan penyimpanan itu penting, tetapi itu tidak otomatis mencegah layanan yang berwenang mendekripsi konten untuk pemrosesan atau peninjauan.

Retensi: Apa yang tetap ada, di mana, dan berapa lama? Menghapus chat dari antarmuka, menghapus catatan produksi, membuat cadangan kedaluwarsa, dan mengecualikan data dari pelatihan di masa depan adalah operasi yang berbeda.

Tindakan: Apa yang bisa dibaca, diubah, atau dikirim oleh asisten yang terhubung? Setelah ia dapat bekerja melalui akun Anda, privasi juga bergantung pada izin dan kontrol atas data yang keluar.

Perbandingan privasi yang berguna memisahkan pertanyaan-pertanyaan itu. Langganan berbayar, sakelar pelatihan, atau label tugas privat tidak dapat menjawab keempatnya sekaligus.

Bagaimana layanan-layanan ini dibandingkan

Tabel di bawah ini berfokus pada penggunaan individu kecuali jika cakupan yang berbeda dinyatakan. Tabel ini merangkum dokumentasi yang ditinjau, bukan hasil audit keamanan independen.

Layanan	Posisi pelatihan	Batas terpisah yang perlu dipahami
ChatGPT	Konten individu dapat digunakan untuk peningkatan; kontrol mengecualikan percakapan baru dan tugas Codex. Temporary Chat dikecualikan. 4, 5	Akses yang diizinkan dan retensi tetap merupakan hal yang terpisah. Codex juga memiliki pengaturan pelatihan lingkungan penuh yang berbeda.
Claude	Peningkatan model konsumen bergantung pada pilihan pengguna; umpan balik dan penggunaan terkait keselamatan memiliki aturan terpisah. Incognito dikecualikan dari peningkatan umum. 6	Pengecualian peninjauan dan retensi tetap berlaku. Covered Models komersial tertentu memiliki persyaratan retensi tambahan. 7–9
Cursor	Privacy Mode mengecualikan data pelanggan dari pelatihan Cursor dan menjelaskan pengaturan tanpa retensi oleh penyedia, dengan tunduk pada pengecualian yang dinyatakan. 12	Permintaan tetap melewati backend Cursor. Investigasi penyalahgunaan, caching, dan pemberitahuan khusus model tetap penting.
Perplexity	Pengumpulan untuk pelatihan AI konsumen diaktifkan secara default, termasuk pada Pro dan Max; pengguna dapat memilih untuk menolak ke depannya. 13	Memilih keluar tidak menghentikan pemrosesan untuk operasi layanan atau kepatuhan hukum. Ketentuan Enterprise berbeda.
Manus	Dokumentasi Team mencantumkan opsi untuk menolak pelatihan; tinjauan ini tidak dapat memverifikasi aturan pelatihan definitif untuk paket individu. 15	Tugas individu yang privat secara default menjelaskan visibilitas berbagi, bukan pembatasan menyeluruh atas penggunaan oleh penyedia. 14
Meta’s Muse	Dokumentasi peluncuran menjelaskan pelatihan pada data interaksi yang telah disanitasi secara default, dengan opsi opt-out. 16	Sanitasi sebelum pelatihan tidak sama dengan masking sebelum inferensi. Pembatasan operator saat peluncuran berbeda dari Confidential VM yang direncanakan.
Dvina	Percakapan, file, prompt, dan data workspace tidak digunakan untuk melatih model AI. 17, 18	Masking otomatis menangani batas yang lebih awal: pengenal pribadi yang terdeteksi diganti sebelum pemrosesan model.

Rincian di bawah ini menjelaskan di mana perbedaan-perbedaan ini menjadi penting dalam penggunaan sehari-hari.

ChatGPT dan Claude: tindakan yang Anda ambil mengubah aturannya.

OpenAI memungkinkan pengguna menonaktifkan pelatihan tanpa menghapus riwayat chat biasa. Temporary Chat lebih lanjut mengubah penanganan suatu percakapan, tetapi dokumentasinya tetap mengizinkan peninjauan penyalahgunaan dan menjelaskan periode penghapusan 30 hari. Pengguna Codex juga harus membedakan pengaturan konten tingkat akun dari pengaturan lingkungan penuh yang terpisah. 4, 5

Pada Claude, umpan balik layak mendapat perhatian khusus. Anthropic mengatakan bahwa tanda jempol ke atas, jempol ke bawah, atau laporan bug dapat melibatkan penyimpanan percakapan terkait hingga lima tahun dan menggunakannya untuk tujuan termasuk pelatihan model. Mengaktifkan peningkatan model umum juga memungkinkan materi yang memenuhi syarat dan telah dihilangkan identitasnya tetap berada dalam pipeline pelatihan hingga lima tahun. Itu bukan aturan yang sama dengan penghapusan chat biasa. 6, 7

Karena itu, seseorang dapat membuat beberapa keputusan privasi di dalam satu produk tanpa menyadari bahwa itu adalah keputusan yang terpisah. Desain produk seharusnya memperjelas perbedaan-perbedaan itu pada titik penggunaan.

Cursor dan Perplexity: label produk bukanlah batas pemrosesan.

Privacy Mode milik Cursor memberikan pembatasan yang bermakna pada pelatihan dan retensi oleh penyedia. Namun, ini tidak menjadikan editor hanya lokal: Cursor mengatakan permintaan tetap berjalan melalui backend-nya, bahkan dengan API key yang disediakan pengguna. Dokumentasinya juga menjelaskan caching file terenkripsi sementara dan pengecualian yang terkait dengan investigasi penyalahgunaan atau model yang ditetapkan. 12

Perplexity menggambarkan perbedaan yang lain. Akun Free, Pro, dan Max-nya berada di bawah kontrol pelatihan konsumen, dengan pengumpulan diaktifkan secara default. Opsi opt-out yang dipublikasikan berlaku untuk data yang dikumpulkan setelahnya, bukan penghapusan retroaktif atas data pelatihan sebelumnya. Membeli langganan pribadi tidak menjadikannya akun Enterprise. 13

Dalam kedua kasus tersebut, pertanyaan yang relevan adalah apa yang diubah oleh mode dan akun yang dipilih—bukan apa yang tampaknya disiratkan oleh nama produknya.

Manus dan Muse: workspace privat tetap memerlukan batas yang eksplisit.

Manus mengatakan tugas individu bersifat privat kecuali dibagikan. Dokumentasi Team-nya juga menjelaskan bahwa pemilik dapat mengakses konten sesi tim. Ini adalah aturan visibilitas yang berguna, tetapi tidak menetapkan kebijakan pelatihan individu. Halaman privasi lengkap Manus tidak dapat diambil untuk tinjauan ini, sehingga pertanyaan itu tetap belum terverifikasi alih-alih diisi dari paket lain. 14, 15

Dokumentasi peluncuran Muse sangat eksplisit tentang perbedaan antara pembatasan operasional dan pencegahan teknis. Meta mengatakan Secure VM pada saat peluncuran membatasi akses staf melalui kebijakan, tetapi tidak mencegah akses ketika diperlukan untuk mengoperasikan, mendukung, atau mengamankan layanan. Confidential VM yang dimaksudkan untuk secara kriptografis mencegah akses operator dijelaskan sebagai sesuatu yang akan datang dan masih dalam pengujian terbatas. Perlindungan yang direncanakan tidak seharusnya dihitung sebagai sesuatu yang sudah tersedia bagi semua orang. 16

Muse juga menjauhkan kredensial konektor yang sebenarnya dari agen utamanya dan menempatkan persetujuan tindakan di bawah otoritas izin yang terpisah. Ini menggambarkan prinsip yang berharga: agen seharusnya tidak menerima rahasia atau izin hanya karena hal itu mungkin terasa praktis. 16

Pindahkan perlindungan ke titik sebelum paparan

Pengecualian pelatihan mengatur salah satu penggunaan data. Masking mengubah data yang tersedia untuk diproses. Retensi yang dibatasi mengurangi salinan yang tetap tersisa. Kontrol izin membatasi apa yang dapat dilakukan agen. Perlindungan-perlindungan ini saling melengkapi, dan tahap tempat masing-masing bekerja itu penting.

Pertimbangkan sebuah permintaan ilustratif: menulis email tindak lanjut kepada klien di alamat email tertentu. Model mungkin memerlukan tujuan, nada, dan komitmen yang relevan. Model mungkin tidak memerlukan nama atau alamat asli klien untuk menyusun pesannya. Mengganti pengenal yang terdeteksi tersebut dengan placeholder sebelum inferensi mengurangi data yang diterima model sambil tetap mempertahankan struktur tugas yang berguna.

Itu berbeda dengan mengirim teks asli dan berjanji akan menghapus pengenal sebelum digunakan di tahap lain nanti.

Prinsip yang sama berlaku melampaui pengenal pribadi. Riset rahasia memerlukan kontrol atas konten riset itu sendiri; akun yang terhubung memerlukan izin dengan cakupan sempit; catatan yang disimpan memerlukan masa simpan yang ditentukan dan pembatasan akses yang dapat ditegakkan. Penyamaran identitas adalah salah satu komponen dari desain tersebut, bukan pengganti untuk melindungi substansi sebuah penemuan atau dokumen.

Ada pekerjaan yang relevan di seluruh industri. OpenAI merilis Privacy Filter yang dapat dijalankan secara lokal pada April 2026, dan dokumentasi Muse dari Meta menjelaskan isolasi teknis serta desain confidential computing yang lebih kuat yang sedang dikembangkan. Upaya-upaya ini mendukung argumen untuk merekayasa privasi ke dalam sistem. Namun, perilisan alat atau roadmap dengan sendirinya bukan bukti bahwa setiap percakapan konsumen sudah menerima perlindungan yang sesuai. 16, 19

Standarnya haruslah perlindungan yang diterima seseorang dalam produk yang mereka gunakan hari ini.

Dvina: jadikan privasi bagian dari interaksi normal

Pendekatan Dvina menghadirkan perlindungan yang lebih awal ini ke dalam pengalaman menggunakan asisten. Desainnya yang terdokumentasi mendeteksi informasi pribadi sensitif secara lokal saat orang mengetik atau mengunggah konten, mengenkripsi data pribadi yang terdeteksi, dan mengganti data tersebut dengan placeholder sebelum pemrosesan model. Model bekerja dengan placeholder tersebut, bukan dengan pengenal asli yang terdeteksi. 17, 18

Perbedaannya bersifat praktis. Pengguna seharusnya tidak perlu menghentikan setiap tugas untuk menghapus nama dan detail kontak secara manual, atau hanya mengandalkan janji tentang apa yang akan terjadi setelah model menerimanya. Perlindungan seharusnya menyertai interaksi.

Dvina juga mengecualikan percakapan pengguna, file, prompt, dan data workspace dari pelatihan model. Kombinasi ini penting: komitmen untuk tidak melatih membatasi penggunaan ulang, sementara perlindungan pra-pemrosesan membatasi informasi pribadi yang terekspos ke model sejak awal. 17, 18

Lapisan lain juga mendukung pendekatan itu. Dvina menjelaskan penyimpanan percakapan terenkripsi, pemisahan antara pesan yang disimpan dan identitas pengguna, serta data yang di-host di UE dengan perlindungan setingkat GDPR. Masing-masing menangani bagian yang berbeda dari proses penanganan data, alih-alih meminta satu preferensi pelatihan menanggung seluruh bebannya. 17, 18

Perbedaan teknisnya jelas: pengenal pribadi yang terdeteksi diganti dalam input model sementara tugas di sekitarnya tetap tersedia untuk diproses. Privasi menjadi bagian dari aliran data, bukan sekadar preferensi yang harus diingat pengguna untuk dikelola.

Bagi saya, inilah arah yang lebih berguna bagi AI: memungkinkan orang membawa konteks yang bermakna ke dalam pekerjaan mereka sambil merancang sistem agar mengungkap lebih sedikit identitas mereka daripada yang dibutuhkan tugas tersebut.

Kesimpulan: privasi akan menentukan seberapa jauh orang mengizinkan AI masuk ke dalam hidup mereka

Asisten AI menjadi lebih berguna ketika mereka memahami lebih banyak keadaan kita. Itu menciptakan tanggung jawab untuk melindungi informasi di balik pemahaman tersebut. Meminta orang memberi akses yang lebih besar sambil hanya menawarkan halaman pengaturan lain bukanlah jawaban yang memadai.

Bukti menunjukkan beberapa risiko yang berbeda. Perangkat lunak dapat mengekspos data lintas akun. Percakapan yang disimpan dapat menjadi objek tuntutan hukum. Peninjauan yang diizinkan dapat terjadi tanpa adanya pelanggaran keamanan. Sengketa atas riset privat dapat merusak kepercayaan bahkan ketika tuduhannya belum ditetapkan secara independen.

Risiko-risiko tersebut memerlukan pekerjaan rekayasa, bukan sekadar perumusan yang lebih baik. Deteksi data sensitif, perlindungan pra-pemrosesan, pemisahan identitas, retensi terbatas, dan izin yang dapat ditegakkan harus mendapat perhatian berkelanjutan sebagai kemampuan dasar keselamatan AI. Kegunaan seorang asisten dan perlindungan bagi penggunanya harus maju bersama.

Dengan Dvina, kami membantu memimpin pergeseran itu dengan menjadikan perlindungan sebelum pemrosesan model sebagai bagian dari fondasi produk. Ambisinya bukan meminta lebih banyak kepercayaan melalui klaim yang lebih kuat. Tujuannya adalah mengurangi seberapa besar kepercayaan harus bertumpu pada janji semata.

Orang seharusnya dapat mencari bantuan, mengembangkan ide, dan membagikan konteks yang diperlukan untuk melangkah maju tanpa menganggap setiap percakapan sebagai potensi penyerahan privasi mereka. Membangun keyakinan itu adalah salah satu tugas terpenting AI ke depan.

Sumber dan cakupan

Sumber ditinjau pada 22 September 2026. Artikel ini mengacu pada dokumentasi penyedia dan pelaporan yang diatribusikan; ini bukan audit keamanan independen. Paket individual adalah cakupan perbandingan utama. Pengecualian komersial, API, dan yang spesifik model diidentifikasi secara terpisah. Bagian matematika membedakan kekhawatiran yang dilaporkan dari tanggapan terbaru OpenAI; tidak satu pun disajikan sebagai temuan independen. Aturan pelatihan paket individual Manus tetap belum terverifikasi karena kebijakan privasi lengkapnya tidak dapat diambil.