Gambar yang dihasilkan AI semakin mendominasi hasil pencarian Google dalam beberapa bulan terakhir, mengalahkan hasil yang sah dan mempersulit pengguna menemukan apa yang sebenarnya mereka cari. Sebagai tanggapan, Google mengumumkan pada hari Selasa bahwa mereka akan mulai memberi label pada hasil pencarian gambar yang dihasilkan dan diedit AI dalam beberapa bulan mendatang.
Perusahaan akan menandai konten tersebut melalui jendela “Tentang gambar ini” dan akan diterapkan pada fitur Penelusuran, Google Lens, dan Circle to Search milik Android. Google juga menerapkan teknologi tersebut pada layanan iklannya dan mempertimbangkan untuk menambahkan tanda serupa pada video YouTube, tetapi akan “memberikan informasi lebih lanjut mengenai hal itu di akhir tahun,” menurut pengumuman tersebut.
Google akan mengandalkan metadata Coalition for Content Provenance and Authenticity (C2PA) untuk mengidentifikasi gambar yang dihasilkan AI. Itu adalah kelompok industri yang diikuti Google sebagai anggota komite pengarah di awal tahun. “Metadata C2PA” ini akan digunakan untuk melacak asal gambar, mengidentifikasi kapan dan di mana gambar dibuat, serta peralatan dan perangkat lunak yang digunakan dalam pembuatannya.
Sejauh ini, sejumlah tokoh besar industri telah bergabung dengan C2PA, termasuk Amazon, Microsoft, OpenAI, dan Adobe. Akan tetapi, standar itu sendiri kurang mendapat perhatian dari produsen perangkat keras dan saat ini hanya dapat ditemukan pada beberapa model kamera Sony dan Leica. Beberapa pengembang perangkat AI terkemuka juga menolak untuk mengadopsi standar tersebut, seperti Black Forrest Labs, yang membuat model Flux yang dimanfaatkan Grok untuk pembuatan gambarnya.
Jumlah penipuan daring yang memanfaatkan deepfake buatan AI telah meningkat pesat dalam dua tahun terakhir. Pada bulan Februari, misalnya, seorang pemodal yang berbasis di Hong Kong ditipu untuk mentransfer $25 juta kepada penipu yang menyamar sebagai CFO perusahaan selama panggilan konferensi video. Pada bulan Mei, sebuah studi oleh penyedia verifikasi Sumsub menemukan bahwa penipuan yang menggunakan deepfake meningkat 245% secara global antara tahun 2023 dan 2024, dengan peningkatan 303% khususnya di AS.
“Aksesibilitas publik terhadap layanan ini telah menurunkan hambatan masuk bagi para pelaku kejahatan dunia maya,” kata David Fairman, kepala petugas informasi dan kepala petugas keamanan APAC di Netskope kepada CNBC pada bulan Mei. “Mereka tidak perlu lagi memiliki keterampilan teknologi khusus.”
