MANADOPOST.ID- Dunia kecerdasan buatan kembali diguncang setelah laporan terbaru menunjukkan bahwa banyak perusahaan AI masih gagal dalam melindungi privasi data pengguna.
Laporan yang diterbitkan oleh PTech Partners ini menyoroti lemahnya tata kelola data dan minimnya penerapan kebijakan etika dalam industri AI global.
Menurut analisis tersebut, lebih dari 60% perusahaan AI masih belum memiliki sistem keamanan data yang memenuhi standar internasional.
Hal ini membuat data pribadi pengguna seperti rekaman suara, foto, dan teks bisa terekspos tanpa disadari.
Beberapa startup AI bahkan diketahui masih menyimpan data pengguna di server yang tidak terenkripsi.
Kondisi ini menimbulkan kekhawatiran besar di kalangan regulator dan masyarakat yang semakin bergantung pada layanan AI.
Pakar keamanan siber menyebutkan bahwa sebagian besar perusahaan terlalu fokus pada performa model tanpa memperhatikan keamanan data.
Masalah ini semakin kompleks karena data AI sering digunakan untuk melatih model tanpa persetujuan pengguna.
Dalam beberapa kasus, data sensitif seperti informasi kesehatan juga ditemukan digunakan tanpa izin eksplisit.
Laporan itu juga mengungkap bahwa kebanyakan perusahaan AI belum siap menghadapi regulasi privasi baru yang lebih ketat di Eropa dan Asia.
Salah satu penyebab utama adalah kurangnya tim khusus yang menangani keamanan data dan audit internal AI.
Menurut PTech Partners, situasi ini bisa menjadi bumerang besar bagi industri jika tidak segera ditangani.
Para ahli menilai bahwa kegagalan menjaga privasi bisa menurunkan kepercayaan publik terhadap penggunaan AI di masa depan.
Laporan tersebut juga menyoroti pentingnya penerapan prinsip Responsible AI dalam setiap fase pengembangan produk.
Dengan prinsip ini, setiap sistem AI harus transparan, aman, dan adil dalam memproses data manusia.
Sejumlah negara mulai menyiapkan undang-undang baru yang akan memaksa perusahaan untuk lebih terbuka soal sumber data AI.
Analis memperkirakan bahwa tahun 2026 akan menjadi masa penentuan bagi industri AI dalam hal etika dan privasi.
Jika tidak ada perubahan signifikan, potensi pelanggaran data dapat meningkat hingga 40% dalam dua tahun ke depan.
Fenomena ini menjadi pengingat bahwa inovasi teknologi harus selalu berjalan beriringan dengan tanggung jawab moral dan sosial.
Privasi bukan sekadar fitur tambahan, tapi fondasi utama kepercayaan dalam dunia AI modern. (AR)
Editor : Prisilia Rumengan