Sebelum Anda Berkongsi: Privasi AI Memerlukan Lebih Daripada Janji

Pengenalan: perbualan itu semakin menjadi hidup anda

Anda membuka pembantu AI untuk menulis balasan yang sukar. Anda menampal mesej itu, menerangkan hubungan tersebut, dan menambah beberapa butiran yang belum anda kongsikan di tempat lain. Pada hari lain, anda memuat naik kontrak, membincangkan idea yang belum siap, atau menyambungkan peti masuk anda supaya pembantu itu dapat memahami perkara yang memerlukan perhatian anda.

Tiada satu pun tindakan ini terasa seperti menerbitkan sesuatu. Anda sedang meminta bantuan.

Namun maklumat itu boleh melalui infrastruktur, sistem storan, proses semakan, dan kewajipan undang-undang yang sebahagian besarnya tidak kelihatan dari tetingkap perbualan. Sesuatu pembantu boleh terasa peribadi jauh lebih awal daripada cara ia mengendalikan data anda benar-benar memenuhi jangkaan itu.

Pendirian saya mudah: Privasi AI tidak sepatutnya bergantung hanya pada apa yang dijanjikan syarikat untuk dilakukan selepas menerima maklumat anda. Ia juga sepatutnya bergantung pada apa yang dihalang oleh sistemnya daripada sampai kepada model sejak awal lagi. Dasar itu penting. Ia memerlukan perlindungan teknikal di belakangnya.

Saya menyediakan artikel ini dengan sokongan daripada pasukan Dvina. Artikel ini meneliti insiden yang didokumenkan dan amalan semasa merentas ChatGPT, Claude, Cursor, Perplexity, Manus, Muse milik Meta, dan Dvina. Tujuannya adalah untuk menerangkan mengapa privasi mesti menjadi keutamaan kejuruteraan yang utama apabila AI semakin terlibat dalam kehidupan kita—dan bagaimana Dvina mendekati tanggungjawab itu.

Apa yang diberitahu oleh insiden-insiden ini

Kebimbangan ini bukan hipotesis semata-mata. Namun jenis bukti yang berbeza mendedahkan masalah yang berbeza. Pendedahan data yang disahkan, semakan manusia yang dibenarkan, dan dakwaan tentang penyalahgunaan penyelidikan tidak sepatutnya dipersembahkan seolah-olah semuanya peristiwa yang sama.

Pendedahan ChatGPT pada 2023: kegagalan dalam sistem itu sendiri.

Pada 20 Mac 2023, pepijat perisian membolehkan sesetengah pengguna ChatGPT melihat tajuk daripada sejarah perbualan pengguna aktif lain. OpenAI berkata mesej pertama bagi perbualan yang baru dicipta juga mungkin telah kelihatan dalam keadaan tertentu. Siasatannya mengenal pasti kemungkinan pendedahan maklumat berkaitan pembayaran bagi 1.2% pelanggan Plus yang aktif dalam tempoh sembilan jam tertentu. Nombor kad penuh tidak didedahkan. OpenAI menampal pepijat itu dan memaklumkan pengguna yang terjejas. 1

Pengajarannya bukanlah bahawa kelemahan yang sama masih terbuka. Pengajarannya ialah komitmen privasi semata-mata tidak dapat menghalang sistem daripada memulangkan maklumat kepada orang yang salah. Pengasingan, semakan akses, dan jumlah maklumat yang boleh dikenal pasti yang tersedia untuk didedahkan semuanya penting.

Litigasi The New York Times: pemadaman berdepan dengan kewajipan undang-undang.

Pada 2025, OpenAI berdepan dengan perintah mahkamah yang mewajibkan pemeliharaan data yang sebaliknya akan dipadamkan. Kemas kini Oktober syarikat itu menyatakan bahawa kewajipan luas untuk mengekalkan data baharu tanpa had telah berakhir pada 26 September 2025, manakala set sejarah terhad tertentu kekal di bawah tahanan undang-undang. Keperluan pemeliharaan asal mengecualikan produk tertentu dan aturan pengekalan sifar data. 2

Perkembangan kemudian perlu dibaca secara berasingan: pada Disember 2025, Reuters melaporkan bahawa seorang hakim mengarahkan OpenAI untuk mengemukakan 20 juta log sembang yang dinyahnamakan dalam kes hak cipta itu, sambil menolak bantahannya dan bergantung pada penyahpengenalan serta perlindungan kawal selia. Ini ialah perintah penzahiran bukti, bukannya penerbitan sembang peribadi semua orang di internet. 3

Secara bersama, peristiwa ini menunjukkan mengapa tetapan pemadaman tidak menyelesaikan setiap persoalan tentang maklumat yang disimpan. Sebaik sahaja satu salinan wujud, kewajipan di luar kawalan pengguna boleh mempengaruhi apa yang berlaku kepadanya. Mengurangkan pengekalan yang tidak perlu mengubah pendedahan itu sebelum pertikaian bermula.

Semakan manusia: akses boleh dibenarkan tanpa berlakunya pelanggaran.

Dokumentasi pengguna OpenAI secara jelas membenarkan akses terhad oleh kakitangan yang diberi kuasa dan penyedia perkhidmatan bagi tujuan tertentu, termasuk siasatan keselamatan, sokongan, hal undang-undang, dan penambahbaikan model yang layak. Panduan pengguna Anthropic membenarkan kakitangan yang ditetapkan menyemak perbualan untuk penguatkuasaan dasar penggunaan, dengan akses berasingan yang dikaitkan dengan maklum balas yang diberikan dengan persetujuan. 4, 8

Ini ialah laluan akses yang didokumenkan, bukan khabar angin. Ia tidak membuktikan bahawa pekerja membaca setiap perbualan. Namun, ia membuktikan bahawa antara muka sembang yang kelihatan peribadi tidak semestinya menjadi penghalang teknikal terhadap akses oleh penyedia.

Dokumentasi semasa Anthropic menambah satu contoh penting dari sisi perniagaan. Covered Models yang ditetapkannya memerlukan pengekalan selama 30 hari dalam penempatan tertentu yang sebelum ini menggunakan pengekalan sifar data, dengan semakan manusia terkawal dan pengecualian. Peraturan itu mempunyai sempadan model, platform, dan kelayakan; ia bukan perubahan menyeluruh kepada setiap produk Claude. Pelan pengguna diterangkan sebagai tidak terjejas kerana permukaan tersebut sememangnya sudah mengekalkan input dan output. 9

Pemantauan keselamatan mempunyai tujuan yang sah. Cabaran kejuruteraan ialah memenuhi tujuan itu sambil meminimumkan maklumat sensitif yang tersedia kepada sistem pemantauan dan penyemak. Justifikasi keselamatan tidak menghapuskan persoalan privasi.

Kontroversi matematik: dakwaan yang belum diselesaikan, masalah kepercayaan yang nyata

Kontroversi pada September 2026 sekitar pengumuman Navier–Stokes oleh OpenAI menimbulkan kebimbangan yang berbeza: apa yang berlaku apabila pembantu yang membantu penyelidikan peribadi dimiliki oleh syarikat yang turut menjalankan penyelidikannya sendiri?

Pertikaian itu melibatkan kerja matematik yang belum diterbitkan dan soal pengiktirafan. Laporan menggambarkan ahli matematik Tristan Buckmaster dan Levent Alpöge menggunakan alat AI dalam kerja mereka, dan Buckmaster mempersoalkan sama ada bahan peribadi mereka telah menyumbang kepada hasil OpenAI. 10

OpenAI mempertikaikan versi itu. Respons yang diterbitkannya menyatakan bahawa penyelidiknya mahupun ejennya tidak melihat kerja pasangan itu sebelum penerbitan. Dalam kemas kini bertarikh 10 September, ia seterusnya menyatakan bahawa siasatan telah menolak sebarang pengaruh daripada prompt Codex Buckmaster sepanjang dua bulan sebelumnya, termasuk melalui latihan. Kenyataan yang terhad pada tempoh masa itu lebih khusus daripada versi awal dalam sesetengah laporan. 11

Versi awam tentang perkara ini masih dipertikaikan. Sumber yang diteliti di sini tidak secara bebas membuktikan bahawa OpenAI menggunakan perbualan peribadi tersebut untuk menghasilkan keputusannya.

Namun begitu, pertikaian ini mendedahkan satu persoalan yang wajar dijawab dengan jelas: apabila orang membawa kerja yang belum siap kepada AI, apakah yang melindungi nilai maklumat kerja itu? Membuang nama pengarang daripada sesuatu bukti tidak membuang bukti itu. Menyahkenal pasti strategi komersial tidak menjadikan strategi itu milik awam.

Itulah sebabnya privasi yang kukuh memerlukan perlindungan bagi identiti dan kandungan. Pengguna sepatutnya dapat memahami sama ada bahan mereka boleh masuk ke dalam aliran kerja latihan, penyelidikan, penilaian, atau semakan—dan kawalan teknikal apa yang menguatkuasakan sempadan tersebut.

Empat soalan yang tidak sepatutnya sekali-kali digabungkan menjadi satu

Sebahagian besar kekeliruan datang daripada menganggap “peribadi” sebagai satu sifat tunggal. Dalam amalan, empat soalan berasingan menentukan apa yang berlaku kepada sesuatu perbualan.

Latihan: Bolehkah kandungan itu membantu membangunkan atau menambah baik model? Pilihan untuk menarik diri mengubah satu penggunaan maklumat yang dibenarkan. Ia tidak semestinya mengubah sama ada maklumat itu dihantar atau disimpan.

Akses: Sistem dan orang manakah yang boleh memeriksanya? Penyulitan semasa penghantaran dan penyimpanan adalah penting, tetapi ia tidak secara automatik menghalang perkhidmatan yang diberi kuasa daripada menyahsulit kandungan untuk pemprosesan atau semakan.

Pengekalan: Apa yang kekal, di mana, dan untuk berapa lama? Mengalih keluar sembang daripada antara muka, memadam rekod pengeluaran, menamatkan tempoh sandaran, dan mengecualikan data daripada latihan masa hadapan ialah operasi yang berbeza.

Tindakan: Apakah yang boleh dibaca, diubah, atau dihantar oleh pembantu yang disambungkan? Setelah ia boleh berfungsi melalui akaun anda, privasi juga bergantung pada kebenaran dan kawalan ke atas data yang keluar.

Perbandingan privasi yang berguna mengekalkan soalan-soalan itu secara berasingan. Langganan berbayar, suis latihan, atau label tugasan peribadi tidak dapat menjawab keempat-empatnya sekali gus.

Bagaimana perkhidmatan ini dibandingkan

Jadual di bawah memberi tumpuan pada penggunaan individu melainkan skop lain dinyatakan. Ia merumuskan dokumentasi yang diteliti, bukan hasil audit keselamatan bebas.

Perkhidmatan	Pendirian latihan	Sempadan berasingan yang perlu difahami
ChatGPT	Kandungan individu boleh digunakan untuk penambahbaikan; kawalan mengecualikan perbualan baharu dan tugasan Codex. Temporary Chat dikecualikan. 4, 5	Akses yang dibenarkan dan pengekalan kekal sebagai perkara berasingan. Codex juga mempunyai tetapan latihan persekitaran penuh yang tersendiri.
Claude	Penambahbaikan model pengguna bergantung pada pilihan pengguna; maklum balas dan penggunaan berkaitan keselamatan mempunyai peraturan berasingan. Incognito dikecualikan daripada penambahbaikan umum. 6	Pengecualian semakan dan pengekalan masih terpakai. Covered Models komersial tertentu mempunyai keperluan pengekalan tambahan. 7–9
Cursor	Privacy Mode mengecualikan data pelanggan daripada latihan Cursor dan menerangkan aturan tiada pengekalan oleh penyedia, tertakluk pada pengecualian yang dinyatakan. 12	Permintaan masih melalui backend Cursor. Siasatan penyalahgunaan, caching, dan notis khusus model tetap penting.
Perplexity	Pengumpulan untuk latihan AI pengguna diaktifkan secara lalai, termasuk pada Pro dan Max; pengguna boleh memilih untuk menarik diri secara prospektif. 13	Menarik diri tidak menghentikan pemprosesan untuk operasi perkhidmatan atau pematuhan undang-undang. Terma Enterprise adalah berbeza.
Manus	Dokumentasi Team menyenaraikan pilihan untuk menarik diri daripada latihan; semakan ini tidak dapat mengesahkan peraturan latihan muktamad bagi pelan individu. 15	Tugasan individu yang peribadi secara lalai menerangkan keterlihatan perkongsian, bukan sekatan menyeluruh terhadap penggunaan oleh penyedia. 14
Meta’s Muse	Dokumentasi pelancaran menerangkan latihan pada data interaksi yang telah disanitasi secara lalai, dengan pilihan untuk menarik diri. 16	Sanitasi sebelum latihan tidak sama dengan masking sebelum inferens. Sekatan operator pada masa pelancaran berbeza daripada Confidential VM yang dirancang.
Dvina	Perbualan, fail, prompt, dan data ruang kerja tidak digunakan untuk melatih model AI. 17, 18	Masking automatik menangani sempadan yang lebih awal: pengecam peribadi yang dikesan digantikan sebelum pemprosesan model.

Butiran di bawah menerangkan di mana perbezaan ini menjadi penting dalam penggunaan harian.

ChatGPT dan Claude: tindakan yang anda ambil mengubah peraturannya.

OpenAI membenarkan pengguna mematikan latihan tanpa membuang sejarah chat biasa. Temporary Chat mengubah lagi cara sesuatu perbualan dikendalikan, tetapi dokumentasinya masih membenarkan semakan penyalahgunaan dan menerangkan tempoh pemadaman selama 30 hari. Pengguna Codex juga patut membezakan antara tetapan kandungan seluruh akaun dengan tetapan persekitaran penuh yang berasingan. 4, 5

Dengan Claude, maklum balas wajar diberi perhatian khusus. Anthropic menyatakan bahawa tanda suka, tanda tidak suka, atau laporan pepijat boleh melibatkan penyimpanan perbualan berkaitan sehingga lima tahun dan menggunakannya untuk tujuan termasuk latihan model. Mengaktifkan penambahbaikan model umum juga membolehkan bahan yang layak dan dinyahpengenalan kekal dalam saluran latihan sehingga lima tahun. Itu bukan peraturan yang sama seperti pemadaman chat biasa. 6, 7

Oleh itu, seseorang boleh membuat beberapa keputusan privasi dalam satu produk tanpa menyedari bahawa itu ialah keputusan yang berasingan. Reka bentuk produk sepatutnya menjelaskan perbezaan tersebut pada titik penggunaan.

Cursor dan Perplexity: label produk bukan sempadan pemprosesan.

Privacy Mode Cursor menyediakan sekatan yang bermakna terhadap latihan dan pengekalan oleh penyedia. Ia tidak menjadikan editor itu setempat sahaja: Cursor menyatakan bahawa permintaan masih melalui backendnya, walaupun dengan kunci API yang dibekalkan pengguna. Dokumentasinya juga menerangkan caching fail sementara yang disulitkan serta pengecualian yang berkaitan dengan siasatan penyalahgunaan atau model yang ditetapkan. 12

Perplexity menggambarkan perbezaan yang lain. Akaun Free, Pro, dan Max tertakluk pada kawalan latihan pengguna, dengan pengumpulan diaktifkan secara lalai. Pilihan untuk menarik diri yang diterbitkan terpakai pada data yang dikumpulkan selepas itu, bukan penyingkiran retroaktif data latihan terdahulu. Membeli langganan peribadi tidak menjadikannya akaun Enterprise. 13

Dalam kedua-dua kes, soalan yang relevan ialah apa yang diubah oleh mod dan akaun yang dipilih—bukan apa yang seolah-olah disiratkan oleh nama produk.

Manus dan Muse: ruang kerja peribadi masih memerlukan sempadan yang jelas.

Manus menyatakan bahawa tugasan individu adalah peribadi melainkan dikongsi. Dokumentasi Teamnya juga menerangkan bahawa pemilik boleh mengakses kandungan sesi pasukan. Ini ialah peraturan keterlihatan yang berguna, tetapi ia tidak menetapkan dasar latihan individu. Halaman privasi penuh Manus tidak dapat diambil untuk semakan ini, jadi persoalan itu kekal tidak disahkan dan bukannya diisi daripada pelan lain. 14, 15

Dokumentasi pelancaran Muse luar biasa jelas tentang perbezaan antara sekatan operasi dan pencegahan teknikal. Meta menyatakan bahawa Secure VM pada masa pelancaran mengehadkan akses kakitangan melalui dasar tetapi tidak menghalang akses apabila diperlukan untuk mengendalikan, menyokong, atau melindungi perkhidmatan. Confidential VM yang bertujuan untuk menghalang akses operator secara kriptografi diterangkan sebagai akan datang dan dalam ujian terhad. Perlindungan yang dirancang tidak sepatutnya dikira sebagai sudah tersedia kepada semua orang. 16

Muse juga menjauhkan kelayakan penyambung sebenar daripada ejen utamanya dan meletakkan kelulusan tindakan di bawah kuasa kebenaran yang berasingan. Ini menggambarkan prinsip yang bernilai: ejen tidak sepatutnya menerima rahsia atau kebenaran hanya kerana ia mungkin memudahkan. 16

Alihkan perlindungan ke titik sebelum pendedahan

Pengecualian latihan mengawal satu penggunaan data. Masking mengubah data yang tersedia untuk pemprosesan. Pengekalan terhad mengurangkan salinan yang kekal. Kawalan kebenaran mengehadkan apa yang boleh dilakukan oleh ejen. Perlindungan ini saling melengkapi, dan peringkat pada mana setiap satunya beroperasi adalah penting.

Pertimbangkan satu permintaan contoh: tulis e-mel susulan kepada seorang klien di alamat e-mel tertentu. Model mungkin memerlukan tujuan, nada, dan komitmen yang berkaitan. Ia mungkin tidak memerlukan nama sebenar atau alamat klien untuk merangka mesej itu. Menggantikan pengecam yang dikesan itu dengan pemegang tempat sebelum inferens mengurangkan maklumat yang diterima model sambil mengekalkan struktur tugasan yang berguna.

Itu berbeza daripada menghantar teks asal dan berjanji untuk membuang pengecam sebelum sebarang penggunaan kemudian.

Prinsip yang sama melangkaui pengecam peribadi. Penyelidikan sulit memerlukan kawalan ke atas kandungan penyelidikan itu sendiri; akaun yang disambungkan memerlukan kebenaran yang dihadkan dengan sempit; rekod yang disimpan memerlukan tempoh hayat yang ditakrifkan dan sekatan akses yang boleh dikuatkuasakan. Penyamaran identiti ialah satu komponen dalam reka bentuk itu, bukan pengganti kepada perlindungan terhadap inti sesuatu ciptaan atau dokumen.

Terdapat usaha yang berkaitan di seluruh industri. OpenAI mengeluarkan Privacy Filter yang boleh dijalankan secara setempat pada April 2026, dan dokumentasi Muse oleh Meta menerangkan pengasingan teknikal serta reka bentuk pengkomputeran sulit yang lebih kukuh yang sedang dibangunkan. Usaha-usaha ini menguatkan hujah bahawa privasi perlu direka masuk ke dalam sistem. Namun, pelancaran alat atau pelan hala tuju dengan sendirinya bukan bukti bahawa setiap perbualan pengguna sudah pun menerima perlindungan yang sepadan. 16, 19

Piawaian yang sepatutnya ialah perlindungan yang diterima seseorang dalam produk yang mereka gunakan hari ini.

Dvina: jadikan privasi sebahagian daripada interaksi biasa

Pendekatan Dvina membawa perlindungan lebih awal ini ke dalam pengalaman pembantu. Reka bentuknya yang didokumenkan mengesan maklumat peribadi sensitif secara setempat ketika orang menaip atau memuat naik kandungan, menyulitkan data peribadi yang dikesan, dan menggantikan pemegang tempat sebelum pemprosesan model. Model bekerja dengan pemegang tempat tersebut dan bukannya pengecam asal yang dikesan. 17, 18

Perbezaannya bersifat praktikal. Pengguna tidak sepatutnya perlu menghentikan setiap tugasan untuk membuang nama dan butiran hubungan secara manual, atau hanya bergantung pada janji tentang apa yang akan berlaku selepas model menerimanya. Perlindungan sepatutnya mengiringi interaksi itu.

Dvina juga mengecualikan perbualan pengguna, fail, prompt, dan data ruang kerja daripada latihan model. Gabungan ini penting: komitmen untuk tidak melatih mengehadkan penggunaan semula, manakala perlindungan pra-pemprosesan mengehadkan maklumat peribadi yang terdedah kepada model sejak awal lagi. 17, 18

Lapisan lain turut menyokong pendekatan itu. Dvina menerangkan penyimpanan perbualan yang disulitkan, pemisahan antara mesej yang disimpan dan identiti pengguna, serta data yang dihoskan di EU dengan perlindungan pada tahap GDPR. Setiap satu menangani bahagian yang berbeza dalam proses pengendalian, bukannya meminta satu keutamaan latihan menanggung keseluruhan beban. 17, 18

Perbezaan teknikalnya tepat: pengecam peribadi yang dikesan digantikan dalam input model sementara tugasan di sekelilingnya kekal tersedia untuk diproses. Privasi menjadi sebahagian daripada aliran data, bukannya sekadar satu keutamaan yang perlu diingati pengguna untuk diuruskan.

Bagi saya, inilah arah yang lebih berguna untuk AI: membolehkan orang membawa konteks yang bermakna ke dalam kerja mereka sambil mereka bentuk sistem supaya mendedahkan kurang identiti mereka daripada yang diperlukan oleh tugasan itu.

Kesimpulan: privasi akan menentukan sejauh mana orang membenarkan AI masuk ke dalam hidup mereka

Pembantu AI menjadi lebih berguna apabila mereka memahami lebih banyak tentang keadaan kita. Itu mewujudkan tanggungjawab untuk melindungi maklumat di sebalik pemahaman tersebut. Meminta orang memberikan akses yang lebih besar sambil hanya menawarkan satu lagi halaman tetapan bukanlah jawapan yang memadai.

Bukti menunjukkan beberapa risiko yang berbeza. Perisian boleh mendedahkan data merentas akaun. Perbualan yang disimpan boleh tertakluk kepada tuntutan undang-undang. Semakan yang dibenarkan boleh wujud tanpa pelanggaran keselamatan. Pertikaian mengenai penyelidikan peribadi boleh menjejaskan kepercayaan walaupun dakwaan itu belum dibuktikan secara bebas.

Risiko-risiko itu memerlukan kerja kejuruteraan, bukan sekadar kata-kata yang lebih baik. Pengesanan data sensitif, perlindungan pra-pemprosesan, pemisahan identiti, penyimpanan terhad, dan kebenaran yang boleh dikuatkuasakan patut diberi perhatian berterusan sebagai keupayaan keselamatan AI yang asas. Kegunaan sesuatu pembantu dan perlindungan penggunanya mesti maju bersama-sama.

Dengan Dvina, kami membantu menerajui perubahan itu dengan menjadikan perlindungan sebelum pemprosesan model sebahagian daripada asas produk. Cita-citanya bukan untuk meminta lebih banyak kepercayaan melalui dakwaan yang lebih kuat. Sebaliknya, ia adalah untuk mengurangkan sejauh mana kepercayaan perlu bergantung pada janji semata-mata.

Orang sepatutnya boleh mendapatkan bantuan, mengembangkan idea, dan berkongsi konteks yang diperlukan untuk bergerak ke hadapan tanpa menganggap setiap perbualan sebagai kemungkinan penyerahan privasi mereka. Membina keyakinan itu ialah salah satu tugas paling penting yang menanti AI.

Sumber dan skop

Sumber disemak pada 22 September 2026. Artikel ini bersandarkan dokumentasi penyedia dan laporan yang diatributkan; ia bukan audit keselamatan bebas. Pelan individu ialah skop perbandingan utama. Pengecualian komersial, API, dan khusus model dikenal pasti secara berasingan. Bahagian matematik membezakan kebimbangan yang dilaporkan daripada respons terkini OpenAI; kedua-duanya tidak dibentangkan sebagai dapatan bebas. Peraturan latihan pelan individu Manus masih belum dapat disahkan kerana dasar privasi penuhnya tidak dapat diperoleh.