Cara Membangun AI Etis yang Berfungsi

Sebelum menggunakan kecerdasan buatan (AI), tim harus memiliki kerangka kerja AI yang bertanggung jawab dan kotak alat, terlepas dari banyaknya keuntungan inovasi. AI adalah teknologi netral; itu secara intrinsik tidak etis atau tidak bermoral. Atau, AI adalah teknologi yang mematuhi norma dan standar masyarakat. Penting untuk menganalisis batasan, batasan, atau standar apa yang ada atau harus ditetapkan untuk mendukung AI etis.

Apa itu AI Etis?

Secara luas, AI etis dapat didefinisikan sebagai algoritme ilmu data yang membuat prediksi dan memicu tindakan yang tidak memihak — yaitu, tidak mendiskriminasi dalam hal jenis kelamin, seksualitas, ras, bahasa, kecacatan, atau fitur demografis lainnya — dan juga menetapkan fondasi untuk pengambilan keputusan bisnis yang lebih adil.

PwC mengidentifikasi atribut AI etis berikut:

• Interpretabilitas: Harus dapat menggambarkan proses pengambilan keputusan mereka secara keseluruhan.

• Keandalan: Harus berfungsi dalam batas-batas desainnya dan menghasilkan prediksi dan rekomendasi yang terstandarisasi dan dapat diulang.

• Keamanan: Harus diamankan dari risiko dunia maya, terutama yang ditimbulkan oleh pihak ketiga dan cloud.

• Akuntabilitas: Seharusnya secara khusus mengidentifikasi pemilik yang bertanggung jawab atas konsekuensi etis dari penggunaan model AI.

• Manfaat: Harus memprioritaskan kebaikan bersama, fokus pada keberlanjutan, kolaborasi, dan transparansi.

• Privasi: Harus menyebarkan kesadaran tentang data yang diperoleh dan digunakan.

• Agensi manusia: Harus memfasilitasi lebih banyak pengawasan dan partisipasi manusia.

• Keabsahan: Harus mematuhi hukum dan semua pedoman yang berlaku.

• Keadilan: Tidak boleh berprasangka buruk terhadap individu atau kelompok.

• Keamanan: Tidak boleh membahayakan kesehatan fisik atau mental individu.

Sayangnya, etika AI BUKAN standar industri secara default, dan beberapa perusahaan menghadapi rintangan dalam penerapannya. Dalam survei baru-baru ini, responden menyadari pentingnya etika AI, tetapi mewujudkan janji ini lebih sulit daripada yang terlihat. Sembilan dari sepuluh (90%) eksekutif puncak setuju bahwa standar moral dalam pembuatan dan penggunaan teknologi baru dapat memberikan keunggulan kompetitif bagi organisasi. Meskipun demikian, sekitar dua pertiga (64%) eksekutif puncak telah mengamati adanya bias dalam sistem AI yang digunakan oleh organisasi mereka.

3 Jalan menuju Membangun Ethical AI

Ada tiga metodologi tipikal untuk memitigasi risiko etika yang terkait dengan data dan AI: metode akademik, metode korporat, dan metode regulasi. Ahli etika, yang sering ditemukan di departemen filsafat, pandai mengidentifikasi kesulitan etika, asal-usulnya, dan cara bernalar di sekitarnya.

Strategi “on-the-ground” datang berikutnya. Biasanya, ahli teknologi, analis data, dan manajer produk adalah orang-orang yang mengajukan pertanyaan penting di dalam organisasi. Mereka terbiasa mengajukan pertanyaan terkait risiko yang relevan dengan bisnis karena merekalah yang menciptakan produk untuk mencapai tujuan bisnis tertentu.

Sekarang ada perusahaan (belum lagi pemerintah) yang menerapkan norma etika AI tingkat tinggi. Google dan Microsoft, misalnya, memproklamirkan nilai-nilai mereka bertahun-tahun yang lalu. Mengingat keragaman nilai perusahaan di berbagai sektor, informasi dan kebijakan etika AI harus disesuaikan dengan persyaratan hukum dan komersial unik organisasi. Ada beberapa langkah yang dapat Anda, sebagai pemimpin bisnis, lakukan untuk mencapai hal ini.

Langkah-langkah untuk Membangun Ethical AI yang Berfungsi

Untuk membangun AI etis sejak awal, (alih-alih menyesuaikan sistem AI yang ada dengan etika), ingatlah langkah-langkah berikut:

1. Tentukan kesepakatan umum tentang apa arti etika AI

Deskripsi ini harus tepat dan praktis untuk semua pemangku kepentingan utama perusahaan. Membuat tim ahli lintas fungsi untuk menyarankan semua aktivitas tentang pengembangan, produksi, dan penerapan ML dan AI etis juga merupakan ide yang sangat bagus.

2. Dampak Katalog AI pada sistem bisnis

Komponen penting dalam mengembangkan kerangka kerja AI etis adalah mendokumentasikan penggunaan AI perusahaan. Bisnis ini dengan cepat mengadopsi AI, terutama dalam avatar sistem pemberi rekomendasi, bot, pemodelan segmentasi pelanggan, mesin penetapan biaya, dan deteksi anomali. Pemantauan rutin terhadap teknik AI tersebut dan proses atau aplikasi di dalamnya sangat penting untuk mencegah ancaman logistik, reputasi, dan keuangan terhadap perusahaan Anda.

3. Buat data dan kerangka kerja risiko etis AI yang disesuaikan dengan industri Anda.

Kerangka kerja yang efektif mencakup, pada dasarnya, artikulasi nilai-nilai etika perusahaan, model tata kelola yang diusulkan, dan deskripsi tentang bagaimana konfigurasi ini akan dipertahankan. Sangat penting untuk membangun KPI dan program QA untuk mengevaluasi kemanjuran berkelanjutan dari pendekatan AI yang etis.

Kerangka komprehensif juga menjelaskan penggabungan manajemen risiko etis ke dalam operasi. Itu harus mencakup prosedur yang jelas untuk melaporkan masalah etika kepada pimpinan senior atau komite etika.

4. Optimalkan panduan dan alat AI etis untuk manajer produk

Meskipun kerangka kerja Anda memberikan panduan pada tingkat yang lebih luas, rekomendasi pada tingkat produk harus tepat. Algoritme pembelajaran mesin standar mengenali pola yang terlalu rumit untuk dipahami manusia. Masalahnya adalah sering kali timbul konflik antara memberikan hasil yang dapat dijelaskan di satu sisi dan akurat di sisi lain.

Manajer produk harus mampu melakukan trade-off ini. Jika keluaran tunduk pada kendala yang menuntut penjelasan, seperti ketika lembaga keuangan harus menjelaskan mengapa permohonan pinjaman ditolak, maka ketelitian akan menjadi penting. Manajer produk harus memiliki alat untuk mengukur kepentingannya dalam kasus penggunaan tertentu.

5. Memantau dampak dan melibatkan pemangku kepentingan

Menciptakan kesadaran perusahaan, komite etika, pemilik produk yang berpengetahuan luas, manajer, arsitek, dan analis data adalah semua komponen dari proses pengembangan, dan idealnya, prosedur pembelian. Karena kelangkaan sumber daya, manajemen waktu, dan ketidakmampuan yang lebih besar — ​​dan jelas — untuk meramalkan semua cara di mana hal-hal yang serba salah, sangat penting untuk memantau efek informasi dan produk AI di pasar.

Contoh AI Etis: Analisis Sentimen

Contoh yang sangat baik dalam mengintegrasikan keadilan dan inklusivitas adalah penilaian sentimen — untuk menyiapkan model ML guna membedakan sentimen positif dan negatif dalam data tekstual, seseorang harus menawarkan data pelatihan yang memadai dalam konteks sosial dan linguistik.

Dalam skenario sosiolinguistik, bahasa apa yang Anda gunakan? Apakah Anda mempertimbangkan impor budaya yang lebih luas yang akan bertahan seiring dengan tag emosi Anda? Sudahkah Anda memperhitungkan varian linguistik regional? Masalah-masalah ini berkaitan dengan komponen pengenalan ucapan otomatis (ASR) dan pemrosesan bahasa alami (NLP) dari kecerdasan buatan etis.

Jika model ASR Anda hanya dilatih dalam bahasa Inggris AS, misalnya, Anda mungkin mengalami masalah transkripsi saat memproses varian bahasa Inggris lainnya. Dalam hal ini, variasi utama antara bahasa Inggris Amerika dan Australia mencakup pengucapan r dalam situasi linguistik tertentu dan variasi pengucapan vokal dalam kata-kata, yang harus dimasukkan ke dalam sistem AI.

Menggunakan AI Secara Etis

Selain membangun AI yang etis, penggunaannya juga harus diperhatikan dan diatur. Ketika individu diberi imbalan finansial untuk tindakan tidak etis, standar etika dirusak. Ingat, penerapan sistem yang tidak adil dapat menyebabkan kerugian, dan bukan ketidaksetaraan, ketidakjelasan, atau fitur teknis lainnya.

Sebagai contoh, ambil algoritme Deepfake, teknik AI yang sering digunakan untuk tujuan jahat. Sebagian besar deepfake online dibuat tanpa izin korban. Meskipun dimungkinkan untuk memastikan bahwa jaringan permusuhan generatif yang digunakan membangun Deepfakes bekerja sama baiknya pada orang-orang dari semua warna kulit dan jenis kelamin, peningkatan/koreksi keadilan ini tidak penting — mengingat bahwa algoritme yang sama digunakan untuk maksud lain yang lebih merusak.

AI etis harus dijalin ke dalam setiap langkah alur kecerdasan buatan, mulai dari saat membuat konsep algoritme hingga pengembangan, serta penggunaan dan pemeliharaan yang berkepanjangan. Seperti yang dijelaskan artikel ini, ada lima langkah yang perlu diikuti saat mengembangkan AI etis, bersama dengan menggunakan kumpulan data etis untuk pelatihan model AI dan pendidikan pengguna.