Alat deteksi gambar kecerdasan buatan (AI) terbaru milik Meta gagal mengidentifikasi sebagian gambar hasil buatan model AI-nya sendiri setelah gambar tersebut dipotong atau di-crop, berdasarkan analisis yang dilakukan terhadap 40 gambar hasil model Muse Image. Temuan ini menyoroti tantangan besar dalam memverifikasi gambar buatan AI setelah mengalami perubahan umum, kelemahan yang berpotensi mempersulit identifikasi konten deepfake di tengah tahun politik yang sibuk termasuk pemilu paruh waktu Amerika Serikat.
Meta memperkenalkan alat deteksi tersebut sebagai versi pratinjau bersamaan dengan peluncuran model penghasil gambar barunya, Muse Image, pekan ini. Dari 40 gambar yang dihasilkan menggunakan Muse Image, alat tersebut berhasil memverifikasi seluruh gambar asli buatan AI, namun gagal memverifikasi 55 persen dari gambar yang sama setelah dipotong menjadi sekitar sepertiga hingga setengah dari ukuran aslinya.
Sistem Watermark Content Seal dan Keterbatasannya
Di situs resminya, Meta menyebutkan bahwa alat deteksi pratinjau tersebut dapat mengidentifikasi gambar buatan AI-nya sendiri, bahkan setelah dipotong, melalui sistem watermark tak terlihat bernama Content Seal yang disematkan pada setiap gambar hasil Muse Image. Sistem ini dirancang untuk membantu pengguna memverifikasi apakah suatu gambar dibuat oleh model AI milik Meta atau tidak.
Ketika dimintai tanggapan mengenai hasil analisis tersebut, Meta menegaskan bahwa alat tersebut masih berstatus pratinjau. Perusahaan menyatakan bahwa watermark dirancang agar tetap utuh setelah proses penyuntingan umum, namun sinyal watermark tersebut berpotensi hilang jika gambar dipotong secara signifikan.
Perusahaan teknologi rival seperti Google dan OpenAI sebelumnya juga telah memperingatkan bahwa alat deteksi milik mereka sendiri tidak sepenuhnya kebal terhadap berbagai teknik perubahan gambar. Hal ini menunjukkan bahwa tantangan deteksi watermark bukan persoalan yang eksklusif dihadapi Meta semata.
Pendapat Ahli Soal Keterbatasan Deteksi Berbasis Watermark
Siwei Lyu, profesor ilmu komputer di State University of New York at Buffalo yang meneliti forensik gambar AI, mengatakan dirinya belum mengevaluasi alat milik Meta secara langsung namun menegaskan bahwa sistem berbasis watermark memang memiliki keterbatasan bawaan. "Watermark-based methods can be highly effective when the watermark remains intact, but any modification that removes or weakens the embedded signal — such as cropping, resizing, heavy compression, or editing — may reduce their effectiveness, depending on how the watermark is designed," kata Lyu.
Sarah Barrington, peneliti AI sekaligus kandidat PhD di UC Berkeley School of Information, menilai bahwa teknologi watermark tetap menjanjikan bagi masa depan konten buatan AI meski memiliki batasan kemampuannya sendiri. "Like many preventive cybersecurity or physical security measures, it may not be fully watertight, but even if we catch only 90% of cases, that's still a great leap from 0," ujar Barrington menegaskan bahwa kemajuan parsial tetap lebih baik dibandingkan tidak ada sistem deteksi sama sekali.
Desakan Oversight Board Meta soal Konten AI Menyesatkan
Pada Maret lalu, Oversight Board milik Meta, badan yang terdiri dari sejumlah pakar dan berwenang mengeluarkan keputusan mengikat serta rekomendasi terkait isu konten di seluruh platform media sosial perusahaan tersebut, mendesak Meta untuk berbuat lebih banyak dalam menangani proliferasi konten buatan AI yang menyesatkan di platform-platformnya. Badan tersebut turut mendorong perusahaan untuk berinvestasi lebih besar pada alat deteksi yang lebih kuat dan andal.
Rekomendasi dari Oversight Board tersebut mencakup investasi pada sistem yang lebih tangguh guna memastikan keaslian gambar yang dibagikan secara daring, terutama pada periode dengan risiko misinformasi tinggi seperti siklus pemilu. Temuan terbaru mengenai kelemahan alat deteksi Meta ini pun semakin memperkuat urgensi rekomendasi tersebut untuk segera ditindaklanjuti secara serius oleh perusahaan.
Dengan meningkatnya kekhawatiran seputar penyebaran konten deepfake menjelang pemilu paruh waktu Amerika Serikat, kegagalan alat deteksi Meta dalam mengenali gambar yang telah dipotong menegaskan bahwa teknologi watermark saja belum cukup untuk menjamin verifikasi konten AI secara menyeluruh, sehingga dibutuhkan kombinasi metode deteksi tambahan guna menekan risiko penyebaran informasi menyesatkan di platform digital.
Editor : ALengkong