Mengamankan Pengalaman Pelanggan Berbasis AI: Mengintegrasikan AI dengan Keamanan Siber

Saat ini, organisasi secara progresif mengadopsi dan mengintegrasikan kecerdasan buatan dalam skala besar – mengubah cara mereka bekerja setiap hari.

AI dapat mengubah operasi layanan pelanggan Anda dalam jangka panjang sekaligus menawarkan peluang baru yang menarik bagi perusahaan Anda. Penelitian baru menunjukkan bahwa individu yang dapat menggunakan alat kecerdasan buatan (AI) generatif memiliki kinerja 14% lebih baik dibandingkan mereka yang tidak menggunakan alat tersebut, dan AI dalam teknologi pemasaran kini menjadi taruhannya.

Namun, masih ada pertanyaan besar: bagaimana Anda berencana mengatasi kekhawatiran seputar keamanan dan kepercayaan informasi?

Ingat, dunia usaha sangat ingin memanfaatkan potensi AI sambil menjelajahi lanskap kompleks pemanfaatan data yang aman dan etis. Hal ini menjadikan keamanan siber AI sebagai pertimbangan utama, bahkan saat Anda meningkatkan pengalaman pelanggan.

Persimpangan AI dan Keamanan Siber Saat Mengelola Data Pelanggan

73% profesional di bidang penjualan, layanan, pemasaran, dan perdagangan yang disurvei baru-baru ini mengatakan bahwa AI generatif membawa risiko keamanan baru. Lebih dari 60% orang yang ingin menerapkan AI harus memikirkan cara melakukannya dengan aman sekaligus menjaga data sensitif. Risiko-risiko yang disebutkan sebelumnya sangat signifikan terutama pada sektor-sektor yang diatur secara ketat, seperti kesehatan dan jasa keuangan.

Ketika pelanggan berinteraksi dengan bisnis di berbagai platform di dunia yang semakin saling terhubung, tidak dapat disangkal bahwa organisasi mengumpulkan banyak sekali informasi pelanggan.

Namun, mereka diwajibkan secara hukum untuk melindungi data yang telah mereka kumpulkan, seperti informasi pengidentifikasi pribadi (PII), informasi kesehatan pribadi (PHI), dan informasi keuangan pengidentifikasi pribadi (PIFI), yang semuanya mungkin digunakan untuk mengidentifikasi atau menemukan seorang individu.

Pelanggaran keamanan bukan hanya insiden ketidakpatuhan tetapi juga mengikis kepercayaan pelanggan dan niat baik pasar. Misalnya, perusahaan jasa keuangan Equifax membutuhkan waktu hampir satu tahun untuk pulih di pasar setelah membiarkan data pelanggan disusupi.

Tantangan ini semakin diperburuk dalam konteks AI generatif. Gen AI menghasilkan data baru yang secara kontekstual serupa dengan data pelatihan; oleh karena itu, tidak ada informasi sensitif yang boleh disertakan dalam materi ini.

Kemungkinan menghasilkan konten yang secara tidak sengaja melanggar PII seseorang tetap tinggi jika Anda tidak fokus pada keamanan siber dan privasi AI.

Risiko Utama Keamanan Siber dalam Sistem Berbasis AI yang Harus Diketahui Pemimpin Pemasaran

Meskipun mengintegrasikan AI ke dalam pengalaman konsumen memiliki beberapa manfaat, hal ini juga menimbulkan beberapa risiko keamanan siber. Ini adalah :

1. Masalah privasi dan perlindungan data

Informasi pribadi yang dikumpulkan, dianalisis, dan disimpan mungkin terbukti penting bagi kinerja algoritme AI Anda. Namun, pengungkapan ilegal mungkin terjadi karena tidak adanya langkah-langkah keamanan siber untuk AI. Contoh kode yang belum diuji dapat mengakibatkan chatbot menampilkan riwayat pembelian masing-masing pengguna kepada pengguna lain saat terlibat dalam percakapan langsung. Hal ini melanggar peraturan privasi secara signifikan.

Sistem AI yang tidak aman atau lemah dapat memberikan banyak informasi konsumen kepada peretas. Bayangkan sebuah skenario ketika enkripsi data konsumen yang Anda simpan perlu ditingkatkan, atau kontrol akses belum diterapkan. Inilah sebabnya 42% merek menganggap keseimbangan keamanan siber dan kepuasan pelanggan sebagai tantangan paling signifikan pada tahun 2023.

2. Kerentanan terhadap serangan khusus AI

Ketika pengalaman pelanggan AI menjadi lebih umum, pelaku kejahatan sedikit tertinggal. Contoh umum keracunan data adalah memanipulasi atau merusak data yang digunakan untuk melatih model pembelajaran mesin dan pembelajaran mendalam. Serangan ini – yang terkadang disebut “keracunan model” – berupaya mengganggu ketepatan output dan pengambilan keputusan AI.

Demikian pula, serangan permusuhan dapat mengancam operasi data pelanggan. Mereka menghasilkan kumpulan data yang terlihat dalam kondisi baik tetapi menyebabkan klasifikasi yang tidak akurat dalam alur kerja pembelajaran mesin. Peretas mencapai hal ini dengan meluncurkan serangan dalam bentuk “kebisingan” palsu, yang menyebabkan kesalahan klasifikasi AI/ML.

Serangan eksfiltrasi memperburuk situasi. Mereka mungkin digunakan untuk mencuri data pelatihan; misalnya, individu jahat mendapatkan akses ke kumpulan data dan salah menaruhkan, mentransfer, atau menyedot data. Selain itu, seiring dengan meningkatnya prediktabilitas model gen AI, petunjuk spesifik dapat menyebabkan pengungkapan informasi tambahan yang tidak diinginkan.

3. Tantangan kepatuhan dan peraturan

AI yang menerima masukan dari individu dengan bias laten dapat menghasilkan program yang tidak tepat, sehingga menimbulkan risiko ketidakpatuhan dan berpotensi merugikan kinerja keuangan Anda. Misalnya, ketika Amazon menerapkan kerangka AI untuk menyaring kandidat, algoritme tersebut menunjukkan bias terhadap resume yang dikirimkan oleh kandidat laki-laki.

Dalam hal pengalaman pelanggan AI, bayangkan chatbot yang sebagian besar dilatih menggunakan data yang disediakan oleh konsumen yang telah melakukan pembelian dengan harga tinggi – sehingga dapat merespons pertanyaan produk. Chatbot mungkin menawarkan deskripsi singkat dan tidak terlalu membantu untuk menjawab pertanyaan pelanggan mengenai produk yang murah dan terjangkau.

Teknologi yang diskriminatif dan bias (baik disengaja atau tidak) dapat menyebabkan kerugian yang signifikan terhadap status kepatuhan dan kinerja keuangan perusahaan. Selain itu, AI mempunyai potensi besar untuk digunakan secara tidak etis, yang berarti bahwa organisasi mungkin mengambil keputusan yang membuat mereka terkena tanggung jawab antimonopoli.

Misalnya, jika sebuah organisasi secara salah memilih untuk memanfaatkan AI dalam pengambilan keputusan penetapan harga, hal ini dapat mengganggu persaingan pasar yang sehat, pengawasan regulasi, dan kemungkinan sanksi.

Praktik Terbaik untuk Melindungi Sistem Pengalaman Pelanggan AI

Untungnya, mengatasi tantangan seputar keamanan siber AI bukanlah hal yang mustahil, dan dengan melakukan langkah-langkah yang tepat, merek dapat terus memperoleh manfaat dari kekuatan kecerdasan buatan dalam operasional pelanggan mereka.

1. Menerapkan kontrol akses yang lebih kuat

Bisnis harus menyiapkan kontrol akses berbasis peran dan proses verifikasi pengguna untuk mencegah akses tidak sah ke catatan pelanggan dan aplikasi AI. Hal ini melibatkan penerapan langkah-langkah untuk membatasi akses, seperti kata sandi terikat waktu, autentikasi multifaktor, dan sebagian besar kebijakan hak istimewa kecil.

2. Enkripsi data pelanggan saat bergerak dan diam

Enkripsi melindungi data di setiap tahap siklus hidupnya – di seluruh transfernya ke dan dari aplikasi AI. Misalnya, TLS dan SSL banyak digunakan dalam protokol transit. Untuk lebih melindungi data saat disimpan, bisnis dapat menerapkan strategi enkripsi file atau enkripsi database, termasuk kumpulan data pelatihan AI.

3. Mengadopsi komputasi awan rahasia

Komputasi awan rahasia dapat melindungi data bahkan ketika sedang diproses; ini menjadikannya sangat penting untuk pengalaman pelanggan AI. Perlindungan ini menggunakan strategi algoritmik seperti lingkungan eksekusi tepercaya dan enkripsi homomorfik untuk menjamin keamanan dan privasi data, apa pun tahap pemrosesannya.

3. Lakukan uji deteksi toksisitas dan landasan pada sistem AI generatif Anda

Deteksi toksisitas adalah metode yang dapat mendeteksi konten berbahaya, termasuk perkataan yang mendorong kebencian dan stereotip negatif. Menggunakan model pembelajaran mesin (ML) untuk menganalisis dan memberi peringkat respons yang diberikan oleh LLM memastikan bahwa keluaran apa pun – apa pun generasinya – produktif dari perspektif bisnis.

Selanjutnya, dengan “mendasarkan” model pada data aktual dan konteks terkait, landasan dinamis memandu respons LLM dengan data terkini dan tepat. Hal ini mencegah tanggapan yang salah yang tidak didasarkan pada kenyataan atau fakta atau “halusinasi AI”.

4. Menerapkan kebijakan penyimpanan data yang ketat

Organisasi harus menyimpan data pelanggan, paling banyak, diperlukan untuk operasi pelanggan BAU. Pemanfaatan kebijakan penyimpanan data konsumen akan mengimbangi risiko akses tidak sah dan pelanggaran keamanan siber AI. Hal ini memastikan kepatuhan terhadap undang-undang perlindungan data penting seperti GDPR, HIPAA, CCPA, dan lainnya sekaligus meningkatkan privasi.

5. Berlatih masking saat merumuskan kumpulan data pelatihan AI

Data yang dianonimkan digunakan sebagai pengganti informasi sensitif dan rahasia selama penyembunyian data untuk melindungi data pribadi dan mematuhi peraturan undang-undang. Saat melatih model AI, penyembunyian data dapat membantu menentukan bahwa semua informasi identitas pribadi, seperti nama, nomor telepon, dan alamat, telah dihapus. Hal ini tidak hanya membantu keamanan siber AI (dengan mengurangi potensi peretas), namun juga dapat mengurangi bias.

Membangun Kepercayaan Konsumen terhadap Sistem AI

Sulit dibayangkan untuk percaya bahwa dulunya orang-orang tidak percaya pada perdagangan elektronik! Sebelum industri tahunan senilai $1 triliun diterapkan secara luas, banyak konsumen tetap memiliki kekhawatiran tentang keamanan data rahasia dan keuangan mereka. Terdapat defisit kepercayaan – sebuah faktor penting yang dalam beberapa hal tidak berwujud (namun penting) agar ide baru dapat membuahkan hasil.

Kepercayaan akan menentukan sejauh mana bisnis dan konsumen berhasil menerima kebangkitan kecerdasan buatan, khususnya AI generatif.

Beberapa perusahaan mungkin berupaya mengubah inisiatif CX mereka tanpa melakukan tugas sulit dalam menghilangkan bias, menjamin perlindungan data, dan menawarkan transparansi sepanjang waktu.

Namun, upaya ini justru akan menentukan bagaimana orang (karyawan atau pelanggan Anda) akan percaya pada kekuatan transformatif AI yang luar biasa dan menghasilkan ROI maksimum bagi organisasi Anda dari pengalaman pelanggan AI.

Selanjutnya, baca whitepaper AWS tentang AI dan ML yang terdemokratisasi, dioperasionalkan, dan bertanggung jawab bagi para pemimpin bisnis. Silakan klik tombol media sosial di atas untuk membagikan artikel ini ke jaringan Anda.