JAKARTA – Pemilik platform X (sebelumnya Twitter), Elon Musk, akhirnya mengambil langkah tegas dengan membatasi fitur penyuntingan foto berbasis kecerdasan buatan (AI) pada asisten digitalnya, Grok. Kebijakan ini diambil setelah fitur tersebut disalahgunakan oleh pengguna untuk membuat konten tidak pantas, termasuk foto bugil palsu (deepfake) dan konten tak senonoh lainnya yang melibatkan tokoh publik.
Sebelumnya, Grok memberikan kebebasan bagi pengguna premium untuk melakukan manipulasi foto melalui perintah teks (prompt) yang sangat fleksibel. Namun, minimnya filter keamanan membuat fitur ini memicu gelombang kritik karena dianggap memfasilitasi pelecehan digital dan penyebaran konten asusila.
Poin-poin utama terkait pembatasan ini meliputi:
-
Filter Kata Kunci: X mulai menerapkan filter ketat terhadap kata kunci (prompt) yang merujuk pada ketelanjangan, kekerasan ekstrem, dan pembuatan gambar tokoh politik tanpa izin.
-
Keamanan Tokoh Publik: Langkah ini bertujuan untuk melindungi individu dari ancaman pornografi non-konsensual berbasis AI yang semakin meresahkan di platform tersebut.
-
Tekanan Regulator: Pembatasan ini juga diduga sebagai respons terhadap tekanan dari regulator global yang menuntut tanggung jawab penyedia teknologi AI dalam menjaga etika dan keamanan digital.
Meskipun fitur edit foto masih tersedia, pengguna kini tidak lagi bisa secara bebas menciptakan konten manipulatif yang melanggar standar komunitas. Elon Musk menyatakan bahwa langkah ini perlu diambil demi menjaga keseimbangan antara kebebasan berekspresi dan keamanan pengguna di ekosistem X.
