OpenAI Rilis Pengenal Gambar CSAM Gratis, ChatGPT Bekukan Akun Pelanggar 24 Jam

OpenAI mengumumkan paket baru untuk melawan materi pelecehan seksual anak (CSAM) pada Senin, 16 November 2026. Paket itu berisi pengenal gambar yang bisa mendeteksi materi pelecehan — termasuk yang dibuat AI — serta peringatan baru di dalam ChatGPT bagi pengguna yang mencoba mencari materi semacam itu.

Ringkasan

  • OpenAI merilis pengenal gambar CSAM yang mendeteksi materi baru, termasuk hasil buatan AI, dan memberikannya gratis lewat API untuk organisasi yang sudah diverifikasi.
  • Pengujian awal menunjukkan alat itu menandai 48 persen lebih sedikit gambar untuk ditinjau, sementara jumlah materi pelecehan yang ditemukan tetap sama.
  • ChatGPT kini menampilkan peringatan, menghapus percakapan yang ditandai, dan menangguhkan akun pelanggar selama 24 jam; pelanggaran berulang bisa berujung penutupan akun atau laporan ke pihak berwenang.

Pengenal ini bekerja dengan cara yang berbeda dari deteksi lama. Selama ini industri mengandalkan pencocokan hash, yaitu membandingkan sidik digital sebuah gambar dengan daftar materi yang sudah diketahui dan dikatalogkan. Cara itu tidak berdaya menghadapi gambar yang baru dibuat kemarin oleh model generatif. Pengenal OpenAI justru mencari tanda-tanda visual pelecehan pada gambar yang belum pernah tercatat, lalu memberi skor supaya peninjau manusia tahu gambar mana yang perlu didahulukan.

OpenAI mengembangkan alat ini bersama National Center for Missing and Exploited Children (NCMEC), lembaga nirlaba Amerika yang mengelola CyberTipline, pusat pelaporan eksploitasi anak secara daring. Akses ke pengenal ini dibagikan lewat Tech Coalition dan ROOST, dan organisasi yang lolos verifikasi bisa memakainya tanpa biaya melalui API OpenAI. Pada hari yang sama, OpenAI menerbitkan kartu model untuk alat tersebut, yang menjelaskan dua skor terpisah: satu untuk dugaan CSAM, satu lagi untuk dugaan CSAM hasil AI.

Di sisi pengguna, ChatGPT kini menampilkan layar peringatan saat seseorang mencoba mencari materi yang menseksualisasi anak. Peringatan itu menjelaskan bahwa perilaku tersebut berbahaya — termasuk bila materinya dibuat AI — dan mengarahkan pengguna ke layanan dukungan khusus untuk berhenti. Percakapan yang ditandai dihapus dan akses ke ChatGPT dijeda selama 24 jam. Pelanggaran berulang bisa berujung pembatasan yang lebih lama, penutupan akun permanen, atau laporan ke pihak berwenang. Pesan dan panduan ini disusun bersama organisasi pencegahan seperti Protect Children dan Lucy Faithfull Foundation, serta peneliti dari University of Kent dan University of Tasmania.

Dalam pengujian awal bersama mitra, OpenAI melaporkan pengenal barunya menandai 48 persen lebih sedikit gambar untuk ditinjau dibanding perkakas yang sudah ada, dengan jumlah materi pelecehan yang ditemukan nyaris sama — dan gambar yang ditandai kira-kira dua kali lebih mungkin benar-benar berisi materi pelecehan. Mitra fal menemukan 72 persen penanda berkeyakinan tinggi yang dikonfirmasi peninjau sebagai materi baru yang belum pernah ditemukan. Invideo AI melaporkan satu dari empat kasus yang ditandai berujung pemblokiran akun, sementara SafetyKit mendeteksi 90 persen kasus gambar atau animasi yang menseksualisasi anak, dengan positif palsu di bawah 1 persen pada konten dewasa yang legal. OpenAI menegaskan skor dari alat ini bukan vonis: peninjau manusia tetap yang memastikan dan melaporkan.

Paket yang sama memuat panduan bagi developer yang memakai perkakas OpenAI — langkah praktis untuk mencegah, mendeteksi, dan membantu pengguna melaporkan materi pelecehan — serta perkakas dan pelatihan bagi unit penegak hukum yang menangani kasus keamanan anak. OpenAI menyebut langkah ini melanjutkan Child Safety Blueprint yang dirilis pada April 2026.

Bagi pengguna di Indonesia, perubahan yang paling terasa ada di ChatGPT. Intervensi baru ini mulai digulirkan bertahap ke akun personal di seluruh dunia pada pertengahan November, jadi percobaan mencari materi pelecehan lewat ChatGPT kini langsung dihentikan dengan peringatan dan jeda 24 jam. Pengenal gambarnya sendiri bukan untuk pengguna umum: hanya organisasi yang sudah diverifikasi yang bisa mengaksesnya lewat API.

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *

Scroll to Top