Perkembangan teknologi Generative AI (GenAI) dalam beberapa tahun terakhir telah membawa perubahan signifikan di berbagai sektor industri. Namun, bersamaan dengan kemajuan tersebut, ancaman terhadap keamanan dan kurangnya strategi perlindungan data masih menjadi isu yang cukup mencemaskan. Data dari laporan NTT Data Indonesia menunjukkan bahwa banyak pelaku bisnis di Indonesia belum sepenuhnya menyadari risiko yang menyertai penggunaan teknologi ini.
Menurut laporan tersebut, meskipun 45% Chief Information Security Officers (CISO) merasakan kekhawatiran terkait keamanan data, hanya 19% dari seluruh eksekutif yang menunjukkan kekhawatiran serupa. Hal ini menunjukkan adanya kesenjangan dalam pemahaman dan perhatian terhadap ancaman yang ditimbulkan oleh GenAI. Banyak perusahaan yang menerapkan teknologi ini tanpa memahami fundamental dan logika di baliknya, yang bisa berpotensi menimbulkan masalah ketika diimplementasikan dalam skala bisnis.
GenAI juga memiliki risiko yang bisa dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab. "GenAI dapat digunakan oleh hacker dan pelaku kejahatan, dan ia juga tidak sepenuhnya tahan terhadap serangan," kata Hendra, seorang ahli keamanan, dalam pemaparannya. Ia menekankan bahwa jika data yang digunakan dalam GenAI "diracuni," dampaknya bisa sangat merugikan.
Salah satu tantangan paling signifikan yang dihadapi dalam implementasi GenAI adalah ketidaktransparanan model yang sering beroperasi sebagai "black box," di mana algoritma yang digunakan dalam pengambilan keputusan tidak jelas. Hal ini meningkatkan risiko manipulasi data serta memperburuk masalah informasi yang salah (hallucinations). Lebih dari 80% responden dalam laporan juga menyatakan bahwa regulasi yang mengatur penggunaan GenAI masih belum jelas, sehingga menghambat investasi dan pengembangan lebih lanjut.
Risiko penyimpanan data juga patut dicermati. Banyak organisasi yang bergantung pada layanan cloud publik, yang meskipun memberikan fleksibilitas, dapat menyebabkan potensi kebocoran data jika tidak dikelola dengan bijak. Oleh karena itu, penetapan strategi tata kelola data yang kokoh sangat penting untuk menjaga keamanan dan privasi data.
Dalam rangka menghadapi tantangan yang ada, laporan NTT Data merekomendasikan beberapa langkah strategis yang dapat diterapkan oleh organisasi untuk memastikan implementasi GenAI yang aman dan efektif. Berikut adalah empat langkah yang diusulkan:
Strategi dan Transformasi: GenAI harus diintegrasikan dengan strategi bisnis, bukan sekadar dilihat sebagai proyek teknologi. Saat ini, 51% organisasi belum menyelaraskan strategi GenAI dengan tujuan bisnis mereka. Penting bagi perusahaan untuk mengidentifikasi area bisnis yang dapat dioptimalkan dengan GenAI serta mengadopsi pendekatan berbasis eksperimen dalam investasi.
Infrastruktur Teknologi: Keberhasilan GenAI sangat tergantung pada ekosistem teknologi yang ada. Sebanyak 90% eksekutif mengaku bahwa infrastruktur lama mereka menjadi penghambat pemanfaatan GenAI. Oleh karena itu, penerapan cloud computing dan penguatan keamanan data melalui enkripsi serta autentikasi multi-faktor menjadi langkah krusial dalam menciptakan ekosistem yang aman dan efisien.
Sumber Daya Manusia dan Budaya Organisasi: Kurangnya keterampilan tenaga kerja menjadi tantangan, di mana 67% eksekutif merasa karyawan mereka belum siap dalam menggunakan GenAI. Investasi dalam pelatihan dan pengembangan budaya kerja yang mendukung kolaborasi antara manusia dan AI sangat penting agar GenAI dapat berfungsi sebagai alat untuk meningkatkan produktivitas.
- Etika, Keamanan, dan Keberlanjutan: Risiko keamanan seperti misinformasi dan penyalahgunaan data menjadi perhatian besar bagi 89% eksekutif. Organisasi perlu melakukan audit berkala, memastikan transparansi model AI, serta mengintegrasikan prinsip keberlanjutan dalam penggunaan daya komputasi untuk meminimalkan dampak lingkungan.
Seiring dengan perkembangan teknologi GenAI yang semakin pesat, menjadikan keamanan siber dan tata kelola data sebagai prioritas utama dalam setiap organisasi yang mengadopsinya adalah langkah yang tidak dapat diabaikan. Dengan mengambil langkah-langkah pencegahan dan perlindungan yang tepat, organisasi dapat mengurangi risiko dan memastikan penerapan GenAI yang lebih aman serta bertanggung jawab.
