0
0
Risiko ini menggarisbawahi pentingnya mengambil tindakan pencegahan yang diperlukan saat mengintegrasikan AI Generatif seperti ChatGPT.
ChatGPT dan Kecerdasan Buatan Generatif (AI) lainnya menimbulkan ancaman jangka panjang bagi masyarakat karena potensinya untuk membocorkan data pribadi dan perusahaan yang bersifat rahasia dan sensitif.
Menurut laporan baru-baru ini oleh Team8, sebuah perusahaan Israel yang berspesialisasi dalam keamanan siber, data, dan fintech; ketika perusahaan mengadopsi teknologi AI Generatif, mereka dapat membuka kemungkinan untuk melepaskan informasi konsumen dan bisnis yang sensitif dan pribadi seperti kekayaan intelektual, informasi rahasia, kode sumber, dan rahasia dagang.
Menurut Gizmochina, laporan tersebut lebih lanjut menyatakan bahwa ada kemungkinan besar bahwa data akan dibagikan dengan pihak ketiga secara lebih sering dan tidak dapat diprediksi, mengingat penerimaan AI Generatif secara luas dan integrasinya dengan aplikasi pihak ketiga.
Selain kebocoran data, AI Generatif juga dapat digunakan oleh pelaku ancaman untuk tujuan yang tidak bertanggung jawab, seperti serangan phishing, rekayasa sosial, penipuan, dan aktivitas jahat lainnya. Apalagi dengan Generative AI, menulis malware akan menjadi lebih mudah dan meluas.
Laporan tersebut juga menyoroti potensi risiko yang ditimbulkan oleh aplikasi pihak ketiga yang menggunakan aplikasi AI Generatif, sehingga memungkinkan akses tidak sah ke email dan browser web. Jika terjadi lubang seperti itu, penyerang dapat bertindak atas nama pengguna.
Risiko ini menggarisbawahi pentingnya mengambil tindakan pencegahan yang diperlukan saat menggabungkan AI Generatif, seperti memprioritaskan pertimbangan keamanan dan privasi, dan melakukan penilaian menyeluruh terhadap kemungkinan implikasi sebelum penerapan.
Selain itu, laporan tersebut juga memberikan beberapa solusi bagi perusahaan yang mengerjakan AI Generatif. Untuk mengelola risiko yang terkait dengan AI Generatif, mengidentifikasi risiko yang relevan dan memahami potensi dampaknya terhadap organisasi adalah suatu keharusan.
Di sisi lain, memilih penyedia AI Generatif yang tepat yang memberikan opsi keamanan dan kebijakan khusus kepada pelanggan mereka, seperti retensi data dan opsi opt-out, juga terbukti bermanfaat. . Selain itu, menilai potensi alternatif lokal dapat bermanfaat.
Sebagai informasi, Generative AI merupakan teknologi AI yang dapat menghasilkan teks, gambar atau media lain sebagai respon atas instruksi yang diberikan. Sistem ini menggunakan model generatif, termasuk model bahasa besar, untuk menghasilkan data baru dan unik.
Tidak seperti AI konvensional yang terutama berfokus pada tugas-tugas seperti mengidentifikasi pola, menyempurnakan analitik, mengkategorikan data, dan mendeteksi penipuan, fungsi utama AI Generatif adalah menghasilkan konten baru, respons dalam obrolan, desain, data sintetis, dan bahkan pemalsuan mendalam.
Menurut perusahaan konsultan manajemen Gartner, 10% dari semua data yang dihasilkan akan dihasilkan oleh AI Generatif pada tahun 2025. Beberapa contoh terbaik dari AI Generatif termasuk ChatGPT OpenAI, Bard Google, dan lainnya.
