Banyak korporasi teknologi menggelontorkan dana melimpah demi menciptakan kecerdasan buatan yang unggul dalam hal kecepatan dan kecerdasan teknis. Namun, aspek kepribadian dan karakter AI saat berinteraksi dengan manusia sering kali terabaikan.
Langkah berbeda diambil oleh Anthropic, startup di balik pengembangan chatbot Claude, seperti dikutip dari Tekno. Perusahaan ini secara khusus mempekerjakan seorang filsuf asal Skotlandia bernama Amanda Askell.
Amanda Askell tidak memiliki latar belakang sebagai insinyur komputer Silicon Valley yang berfokus pada pengodean. Ia justru mengemban tugas krusial untuk menanamkan kompas moral, kepribadian, serta jiwa ke dalam sistem Claude AI.
Intervensi tersebut berhasil mengubah Claude dari sekadar mesin penjawab otomatis menjadi entitas digital yang memiliki empati serta memegang teguh etika.
Amanda Askell tumbuh besar di kota Prestwick, Skotlandia, dan dibesarkan oleh ibunya yang berprofesi sebagai guru. Ketertarikannya pada isu moralitas dan eksistensi sudah muncul sejak kecil karena gemar membaca karya C.S. Lewis dan J.R.R. Tolkien.
Riwayat pendidikannya berada di luar ranah pemrograman komputer. Ia mendalami seni rupa dan filsafat secara bersamaan di University of Dundee untuk merenungkan makna kehidupan sekaligus melukis.
Pendidikan akademisnya berlanjut di University of Oxford untuk meraih gelar BPhil. Ia kemudian mendapatkan gelar PhD dari New York University (NYU) dengan tesis yang membedah topik rumit mengenai etika tak terbatas (infinite ethics).
Di NYU, ia mempelajari cara kerja moralitas saat diimplementasikan pada populasi dengan skala tidak terhingga. Kompetensi dalam filosofi moral dan kemampuan mengelola ambiguitas ini menjadi modal utamanya masuk ke industri kecerdasan buatan.
Keputusan Mundur dari OpenAI
Karier Amanda Askell di sektor AI berawal di OpenAI pada tahun 2020 sebagai ilmuwan riset keselamatan AI. Ia bahkan sempat terlibat sebagai salah satu penulis pendamping dalam penyusunan makalah penelitian GPT-3.
Akan tetapi, ia kemudian memilih mundur dan meninggalkan OpenAI karena mengkhawatirkan adanya pergeseran prioritas di dalam perusahaan pembuat ChatGPT tersebut. OpenAI dinilai lebih mengutamakan pengembangan kecanggihan teknis model AI dibandingkan memprioritaskan faktor keselamatan dan kehati-hatian.
Pada Maret 2021, Anthropic yang didirikan oleh jajaran mantan petinggi OpenAI merekrutnya. Perusahaan ini memberikan mandat unik kepada Amanda Askell untuk mendefinisikan kepribadian utuh dari Claude selaku Kepala Tim Penyelarasan Kepribadian.
Penerapan Metode Constitutional AI
Di dalam laboratorium Anthropic, Amanda Askell mengimplementasikan metode revolusioner yang dinamakan Constitutional AI (CAI). Berbeda dari sistem AI lain yang mengandalkan umpan balik manusia yang subjektif, Claude dilatih menggunakan dokumen Konstitusi.
Ia menyusun panduan moral setebal kurang lebih 30.000 kata yang dimasukkan langsung ke dalam sistem pelatihan model. Nilai dalam konstitusi tersebut menyerap inspirasi dari Deklarasi Universal Hak Asasi Manusia PBB hingga ketentuan layanan Apple yang mengedepankan privasi pengguna.
Konstitusi ini bertujuan agar Claude tidak sekadar mematuhi regulasi secara kaku. Chatbot tersebut dilatih untuk bernalar secara mandiri mengenai prinsip kejujuran, sikap menolong, serta pengurangan potensi bahaya.
Membentuk AI Berempati Tanpa Menggurui
Sentuhan personal dari sang filsuf terlihat nyata saat pengguna melakukan interaksi langsung dengan Claude. Chatbot ini mampu memberikan respons yang dipenuhi empati saat menerima keluh kesah dari penggunanya.
Interaksi tersebut bukan merupakan kebetulan algoritma semata, melainkan hasil dari pengajaran langsung yang diberikan oleh Amanda Askell. Presiden Anthropic, Daniela Amodei, menyatakan bahwa kepribadian Amanda Askell dapat dirasakan ketika seseorang berbicara dengan Claude.
Di sisi lain, tantangan besar muncul karena AI memiliki kecenderungan untuk bersikap terlalu sok menasihati atau menceramahi pengguna. Amanda Askell meramu formula seimbang agar Claude tetap memegang prinsip keselamatan tanpa terdengar menggurui pengguna layaknya orang dewasa yang cerdas.
Dampak Pengaruh dan Pencapaian Finansial
Pendekatan filosofis ini berhasil membawa Claude meraih tingkat kepercayaan publik tertinggi di angka 82 persen dibandingkan model AI lainnya. Tingkat kepuasan pengguna chatbot ini juga menyentuh angka 92 persen berdasarkan metrik industri.
Claude menunjukkan akurasi tinggi sebesar 97,2 persen dalam menyaring materi tidak pantas dan menolak konten berbahaya secara halus. Tingkat halusinasi atau kecenderungan memanipulasi fakta pada Claude tercatat paling rendah di industri, yaitu hanya 1,8 persen.
Pencapaian ini membuat majalah TIME menobatkan Amanda Askell ke dalam daftar 100 Orang Paling Berpengaruh di dunia AI (TIME 100 AI) pada tahun 2024 lalu. Sebagai anggota gerakan Giving What We Can, ia berkomitmen menyumbangkan 10 persen pendapatan seumur hidupnya untuk amal pengentasan kemiskinan ekstrem global.
