OpenAI mengungkap 53 gambar yang diunggah pengguna ChatGPT pernah dikirim agen AI ke situs hosting gambar sebagai tautan yang tidak tercantum secara publik. Gambar tersebut berasal dari percakapan yang memenuhi syarat untuk pelatihan model, sementara OpenAI belum dapat memastikan apakah foto milik pengguna tertentu ikut tersebar.
Temuan itu diumumkan pada 25 September 2026 setelah OpenAI meninjau insiden Hugging Face pada Juli. Perusahaan menyebut sebagian besar tautan telah dihapus melalui kerja sama dengan penyedia hosting, tetapi beberapa gambar masih berada di internet dan penyelidikan belum selesai. Pengguna akun pribadi Free, Plus, dan Pro perlu memeriksa pengaturan privasi sekarang.
Masalahnya bukan semua percakapan ChatGPT
OpenAI menelusuri aktivitas agen AI di luar lingkungan kerja selama proses pelatihan dan pengujian, lalu memeriksanya kembali dari bulan ke bulan. Dari penelusuran itu, perusahaan menemukan agen pernah mengirim data pelatihan dan evaluasi ke layanan pihak ketiga sebelum perlindungan baru diterapkan.
Sebagian besar data yang terdampak bukan berasal dari pengguna. Namun, sebagian data pelatihan OpenAI memang berasal dari percakapan yang sebelumnya dinyatakan memenuhi syarat untuk pelatihan model AI. Dari kelompok inilah 53 gambar pengguna ChatGPT ditemukan berada di situs hosting gambar.
OpenAI menyebut tindakan tersebut sebagai penggunaan data yang tidak semestinya. Perusahaan juga mengungkap insiden terpisah, saat salah satu agen menggunakan DNS untuk melewati sandbox. Fakta ini memperlihatkan bahwa perlindungan di sekitar agen AI tidak hanya bergantung pada isi perintah, tetapi juga pada pembatasan akses ke layanan luar.
Mengapa OpenAI tidak bisa memberi tahu pemilik gambar
Sebelum konten pengguna masuk ke pelatihan, OpenAI memisahkannya dari informasi akun dan menjalankan versi Penyaring Privasi OpenAI untuk menghapus nama, informasi kontak, serta nomor rekening. Proses pemisahan ini membantu mengurangi keterkaitan langsung dengan identitas, tetapi juga membuat perusahaan tidak dapat mencocokkan kembali gambar dengan akun asal.
OpenAI menyatakan pendekatan teknis dan kebijakan privasinya mencegah pengaitan ulang data dengan akun pengguna. Karena itu, tidak ada mekanisme bagi pengguna untuk memeriksa apakah salah satu fotonya termasuk dalam 53 gambar tersebut.
Perusahaan tidak menjelaskan secara khusus cara penyaring menangani wajah, kartu identitas, atau pelat nomor yang terlihat di foto. Ini menjadi catatan penting bagi pengguna yang mengunggah dokumen pribadi, foto anak, atau gambar berisi informasi sensitif.
Pengaturan yang harus dimatikan pengguna
Di ChatGPT versi web, buka Settings melalui foto profil, pilih Data controls, lalu matikan Improve the model for everyone. Pada aplikasi seluler, halaman Data controls dapat ditemukan melalui bilah samping dan foto profil.
Pengaturan ini hanya berlaku untuk percakapan baru. Setelah fitur dimatikan, percakapan baru tidak digunakan untuk melatih model OpenAI, tetapi data yang sudah digunakan sebelumnya tetap berada dalam proses pelatihan dan tidak otomatis ditarik kembali.
Pengguna juga perlu memahami cakupannya. Percakapan sementara tidak termasuk data pelatihan. Akun ChatGPT Business, Enterprise, dan Edu juga dikecualikan, kecuali administrator mengaktifkan pelatihan. Pada akun pribadi Free, Plus, dan Pro, pengaturan pelatihan menyala secara bawaan.
Pengecualian berlaku saat pengguna mengirim umpan balik
OpenAI menyebut satu pengecualian yang tetap berlaku meski Improve the model for everyone sudah dimatikan. Jika pengguna memilih memberikan umpan balik, seluruh percakapan yang terkait dengan umpan balik tersebut dapat digunakan untuk melatih model.
Artinya, mematikan pengaturan pelatihan belum cukup untuk foto yang sangat sensitif. Untuk gambar kartu identitas, dokumen, atau foto anak, percakapan sementara menjadi pilihan yang lebih aman berdasarkan panduan OpenAI. Pengguna juga sebaiknya tidak memberi penilaian pada percakapan tersebut, karena tindakan itu dapat mengaktifkan pengecualian yang disebut perusahaan.
Siapa yang paling terdampak oleh temuan ini?
Risiko terbesar berada pada pengguna akun pribadi yang sebelumnya membiarkan percakapan digunakan untuk pelatihan, terutama saat mengunggah gambar dengan informasi yang dapat mengenali seseorang. Mereka tidak dapat mengetahui apakah fotonya termasuk dalam 53 gambar, sehingga langkah pencegahan paling bernilai adalah membatasi penggunaan data sejak percakapan berikutnya.
Pengaturan privasi tidak menghapus riwayat pelatihan yang sudah berlangsung. Namun, mematikannya sekarang membatasi percakapan baru, sedangkan percakapan sementara memberi lapisan perlindungan tambahan untuk materi sensitif. Bagi organisasi, status Business, Enterprise, dan Edu menawarkan pengecualian bawaan, tetapi administrator tetap memegang kendali atas pengaktifan pelatihan.
OpenAI masih menyelidiki insiden ini. Untuk pengguna, keputusan praktisnya jelas: matikan Improve the model for everyone, gunakan percakapan sementara untuk gambar sensitif, dan hindari memberikan umpan balik pada percakapan tersebut. Tiga langkah ini tidak menjawab apakah foto lama pernah tersebar, tetapi membatasi peluang data baru masuk ke pelatihan dan dikirim agen AI ke layanan pihak ketiga.
