Kebocoran data ChatGPT: apa yang terjadi dan pelajaran yang bisa diambil

Dalam kasus-kasus paling terkenal tentang kebocoran data rahasia melalui ChatGPT dan chatbot sejenis, data keluar melalui salah satu dari tiga cara: seseorang menempelkannya, salinannya disimpan di tempat yang telah dilupakan pengguna, atau fitur berbagi membuatnya menjadi publik. Bug perangkat lunak di pihak penyedia adalah cara keempat yang lebih jarang terjadi. Setiap cara memiliki kebiasaan tersendiri untuk mencegahnya, dan kasus-kasus di bawah menunjukkan kebiasaan yang sesuai untuk masing-masing cara.

Orang menempelkan materi rahasia

Samsung, 2023. Pada Maret 2023, para insinyur di divisi semikonduktor Samsung memasukkan data perusahaan ke ChatGPT dalam tiga kesempatan, menurut Economist Korea, sebagaimana dilaporkan CIO Dive. Seseorang menempelkan kode sumber yang bermasalah dari program basis data pengukuran dan meminta perbaikannya. Orang lain menempelkan kode untuk mengidentifikasi peralatan yang rusak dan meminta agar kode itu dioptimalkan. Orang ketiga mengubah rekaman rapat menjadi teks dan meminta ChatGPT membuat notulennya. Menurut laporan tersebut, Samsung kemudian membatasi setiap prompt hingga 1.024 byte.

Pada 2 Mei 2023, Samsung mengonfirmasi kepada CNBC bahwa perusahaan itu untuk sementara membatasi penggunaan AI generatif di komputer perusahaan. Bloomberg telah melaporkan memo internal yang mengumumkan kebijakan tersebut.

Tidak ada yang membobol sistem apa pun. Para karyawan mengirimkan data ke layanan di luar perusahaan, dan itu saja sudah cukup untuk membuat data tersebut keluar.

Pelaksana tugas kepala CISA, 2025. Pada 27 Januari 2026, Politico melaporkan, dengan mengutip empat pejabat Departemen Keamanan Dalam Negeri, bahwa Madhu Gottumukkala, pelaksana tugas direktur Badan Keamanan Siber dan Infrastruktur AS, mengunggah dokumen kontrak bertanda for official use only ke ChatGPT versi publik pada musim panas 2025. Menurut laporan tersebut, tidak satu pun file itu berklasifikasi. Unggahan tersebut memicu peringatan keamanan otomatis. Ia telah diberi pengecualian untuk menggunakan ChatGPT ketika aplikasi itu diblokir bagi staf DHS lainnya.

Pelajarannya sama seperti dalam kasus Samsung. Label pada dokumen tidak mencegah siapa pun menempelkannya. Yang mencegahnya adalah aturan tentang alat mana yang boleh menerima data tertentu, serta kebiasaan untuk memeriksa sebelum menempelkan data.

Bug memperlihatkan data seorang pengguna kepada pengguna lain

Pada 20 Maret 2023, OpenAI menonaktifkan ChatGPT. Dalam laporan pascainsidentersebut, perusahaan mengatakan bahwa bug di redis-py, sebuah pustaka sumber terbuka, membuat sebagian pengguna dapat melihat judul obrolan milik pengguna lain yang sedang aktif. Pesan pertama dalam percakapan baru juga mungkin muncul di riwayat pengguna lain.

Bug yang sama mungkin telah mengekspos detail pembayaran 1,2% pelanggan ChatGPT Plus yang aktif selama jendela sembilan jam: nama, alamat email, alamat penagihan, jenis kartu, empat digit terakhir nomor kartu, dan tanggal kedaluwarsa. OpenAI mengatakan bahwa nomor kartu lengkap tidak pernah terekspos.

Sepuluh hari kemudian, otoritas perlindungan data Italia, Garante, memerintahkan pembatasan sementara atas pemrosesan data pengguna Italia oleh OpenAI. Alasannya mencakup kebocoran tersebut, kurangnya informasi yang diberikan kepada pengguna, tidak adanya dasar hukum untuk melatih model dengan data pribadi, serta tidak adanya pemeriksaan usia. Pada Desember 2024, Garante mendenda OpenAI sebesar €15 juta, yang antara lain menyimpulkan bahwa OpenAI tidak memberitahukannya mengenai kebocoran pada Maret 2023. Menurut catatan yang ditambahkan Garante pada halaman yang sama, Pengadilan Roma mengabulkan banding OpenAI atas keputusan tersebut dalam putusan yang diterbitkan pada 18 Maret 2026.

Ini satu-satunya kasus dalam daftar ketika pengguna tidak melakukan kesalahan. Bug seperti ini tidak dapat dicegah dari sisi Anda. Anda hanya dapat menentukan apa yang ada dalam obrolan Anda jika bug semacam itu terjadi.

Obrolan yang dibagikan muncul di Google

ChatGPT memungkinkan Anda membuat tautan ke percakapan dan mengirimkannya kepada seseorang. Untuk sementara waktu, dialog berbagi juga memiliki kotak centang bertuliskan Make this chat discoverable, yang memungkinkan mesin pencari mengindeks obrolan tersebut. Pada 30 Juli 2025, Fast Company melaporkan bahwa ribuan percakapan ChatGPT yang dibagikan muncul dalam hasil Google, beberapa di antaranya memuat detail pribadi.

Keesokan harinya, kepala keamanan informasi OpenAI, Dane Stuckey, menulis di X bahwa OpenAI telah menghapus opsi tersebut. Ia menyebutnya eksperimen singkat yang "membuka terlalu banyak peluang bagi orang untuk tanpa sengaja membagikan hal-hal yang tidak mereka maksudkan untuk dibagikan". Ia mengatakan OpenAI juga sedang berupaya menghapus konten yang telah diindeks dari mesin pencari. Fitur tersebut hanya tersedia jika pengguna memilih untuk mengaktifkannya, seperti dicatat TechCrunch: obrolan baru menjadi publik setelah pengguna membuat tautan dan mencentang kotak tersebut.

Setiap pengguna yang terdampak telah mencentang kotak tersebut. Namun, tautan berbagi adalah salinan obrolan yang bersifat publik, dan orang-orang tidak memandangnya seperti itu saat membuat tautan.

Obrolan yang disimpan menjadi bukti

The New York Times v. OpenAI, 2025. Pada 13 Mei 2025, dalam perkara hak cipta yang diajukan The New York Times dan organisasi berita lainnya, Hakim Magistrat AS Ona Wang memerintahkan OpenAI untuk menyimpan data log keluaran yang seharusnya dihapus. Seperti yang dijelaskan OpenAI, hal ini mencakup obrolan ChatGPT yang telah dihapus milik pengguna Free, Plus, Pro, dan Team, serta data API, yang biasanya dihapus dari sistemnya dalam waktu 30 hari. ChatGPT Enterprise, ChatGPT Edu, dan pelanggan API dengan Zero Data Retention tidak terdampak.

Kewajiban tersebut berakhir pada 26 September 2025 berdasarkan kesepakatan yang disetujui pengadilan pada 9 Oktober. Log yang sudah disimpan tetap tersimpan, kecuali log dari Wilayah Ekonomi Eropa. OpenAI mengatakan bahwa atas permintaan para penggugat, perusahaan masih menyimpan data terbatas dari April hingga September 2025. Secara terpisah, pengadilan memerintahkan OpenAI untuk memberikan sampel 20 juta log ChatGPT konsumen yang telah dihilangkan identitasnya kepada para penggugat; Hakim Sidney Stein menguatkan perintah tersebut pada 5 Januari 2026.

Obrolan-obrolan ini tidak dipublikasikan. Meski demikian, obrolan yang telah dihapus pengguna tetap disimpan selama berbulan-bulan karena gugatan yang tidak melibatkan pengguna tersebut. "Hapus" menggambarkan kebijakan normal penyedia, dan pengadilan dapat menangguhkan kebijakan itu.

United States v. Heppner, 2026. Kasus ini melibatkan Claude, bukan ChatGPT, tetapi pertimbangannya berlaku untuk chatbot konsumen mana pun. Seorang terdakwa dalam perkara pidana federal menggunakan Claude versi konsumen untuk menyusun laporan tentang pembelaannya, lalu membagikannya kepada para pengacaranya. Pada 17 Februari 2026, Hakim Jed Rakoff dari Pengadilan Distrik AS untuk Distrik Selatan New York menjelaskan secara tertulis alasan dokumen-dokumen tersebut tidak dilindungi oleh hak istimewa pengacara-klien maupun doktrin hasil kerja. Claude bukan pengacara. Obrolan tersebut tidak bersifat rahasia karena kebijakan privasi Anthropic mengizinkan perusahaan untuk mengungkapkan data kepada pihak ketiga, termasuk otoritas pemerintah. Selain itu, para pengacaranya tidak pernah menyuruhnya menggunakan alat tersebut.

Pengadilan menyebutnya sebagai persoalan yang belum pernah diputus sebelumnya. Ini adalah putusan satu pengadilan distrik di satu negara, dan pengadilan lain mungkin akan memberikan pertimbangan berbeda. Jika Anda memberikan nasihat kepada klien atau bekerja di bawah perlindungan hak istimewa, tanyakan kepada pengacara di yurisdiksi Anda apa maknanya bagi praktik Anda.

Keenam kasus dalam satu tabel

Polanya, dan kebiasaan untuk setiap bagiannya

Hanya satu kasus dalam daftar ini yang disebabkan bug. Kasus lainnya bergantung pada apa yang dikirim orang, di mana salinannya disimpan, dan apa yang mereka bagikan.

Penyimpanan: pahami setelan dan paket Anda. Periksa apakah obrolan Anda digunakan untuk pelatihan, berapa lama riwayat disimpan, dan apa yang terjadi saat Anda menghapusnya. Perhatikan bahwa dalam perintah NYT, paket bisnis dan penggunaan API dengan retensi nol diperlakukan berbeda dari akun konsumen. Panduan kami tentang pengaturan data di ChatGPT, Claude, dan Gemini menjelaskan lokasi setiap setelan, per Oktober 2026.

Berbagi: perlakukan tautan berbagi seperti publikasi. Sebelum membuatnya, baca obrolan tersebut seolah-olah orang asing akan membacanya. Hapus tautan yang tidak lagi Anda perlukan.

Mengirim: jangan menempelkan data pengenal. Kebiasaan ini juga mencakup ketiga cara lainnya. Jika obrolan tidak memuat nama klien, alamat, atau nomor rekening, dampaknya jauh lebih kecil jika obrolan itu disimpan, dibagikan, diminta untuk diserahkan ke pengadilan, atau terekspos karena bug. Ganti detail pengenal dengan penanda tempat sebelum menempelkan, lalu kembalikan detail tersebut ke dalam jawaban di komputer Anda sendiri. Panduan lengkapnya ada di cara menggunakan ChatGPT, Claude, atau Gemini dengan dokumen klien.

Lakukan penggantian di komputer Anda sendiri. Anonimizer daring adalah satu lagi layanan yang menerima dokumen asli. Lihat alat redaksi lokal vs daring untuk mengetahui cara membedakan keduanya.

ClientSafe melakukan ini di PC Anda. Alat ini menemukan nama, perusahaan, alamat, nomor telepon, alamat email, nomor rekening dan nomor identitas, serta tanggal lahir, lalu menggantinya dengan penanda tempat seperti Person_1 dan Company_1. Anda meninjau daftarnya, menghapus centang pada hal-hal yang bukan data pribadi, dan menandai hal-hal yang terlewat, lalu menyalin salinan aman ke obrolan.

Pertanyaan yang sering diajukan

Apakah ChatGPT sendiri pernah diretas dan obrolannya dicuri?

Tidak satu pun kasus di atas merupakan pembobolan. Yang paling mendekati adalah bug pada Maret 2023, yang membuat sebagian pengguna dapat melihat judul obrolan pengguna lain dan beberapa detail pembayaran. Kasus-kasus lainnya melibatkan data yang dikirim, dibagikan, atau disimpan oleh orang.

Jika saya menghapus obrolan, apakah obrolan itu benar-benar hilang?

Per Oktober 2026, pusat bantuan OpenAI menyatakan bahwa obrolan yang dihapus dijadwalkan untuk dihapus secara permanen dalam waktu 30 hari, kecuali OpenAI harus menyimpannya lebih lama karena alasan keamanan atau hukum. Perintah NYT menunjukkan bahwa pengecualian hukum dapat berlaku sekaligus bagi jutaan pengguna.

Apakah paket bisnis menyelesaikan masalah ini?

Paket itu mengubah ketentuannya: OpenAI mengatakan bahwa secara default, data bisnis tidak digunakan untuk pelatihan, dan pada paket Enterprise, admin mengendalikan retensi. Namun, paket itu tidak mengubah apa yang Anda kirim. Data yang Anda tempelkan tetap berada di pihak penyedia, dan pengadilan tetap dapat memerintahkan agar data tersebut disimpan.

Bisakah obrolan saya dengan AI digunakan dalam gugatan?

Bisa. Dalam NYT v. OpenAI, obrolan yang disimpan dipertahankan dan diambil sampelnya sebagai bukti. Dalam Heppner, obrolan AI milik seorang terdakwa dinyatakan tidak dilindungi hak istimewa. Apakah hal yang sama berlaku bagi Anda bergantung pada negara dan perkara Anda.

ClientSafe mengganti nama klien, alamat, nomor rekening, dan detail pengenal lainnya dengan penanda tempat di PC Anda, lalu memasukkan kembali nama asli ke dalam jawaban AI. Deteksi tidak sempurna, jadi tinjau daftarnya sebelum menyalinnya.