Pengembangan kecerdasan buatan atau Artificial Intelligence (AI) sering kali dianggap sebagai domain eksklusif bagi para lulusan bidang sains, teknologi, teknik, dan matematika (STEM). Namun, fakta di industri teknologi menunjukkan bahwa bidang sosial humaniora (soshum) memiliki peran yang tidak kalah krusial.
Salah satu bukti nyata adalah kontribusi Amanda Askell, seorang perempuan asal Skotlandia berlatar belakang pendidikan filsafat tulen, yang memiliki peran penting dalam pengembangan Claude, salah satu model AI tercerdas saat ini. Seperti dilansir dari Tekno, Askell menempuh studi filsafat dari jenjang sarjana hingga doktoral tanpa pernah mengambil pendidikan STEM di perguruan tinggi.
Askell yang tumbuh besar di kota Prestwick bersama ibunya yang berprofesi sebagai guru, sudah tertarik pada persoalan eksistensi dan moralitas sejak kecil akibat gemar membaca karya J.R.R. Tolkien dan C.S. Lewis. Perjalanan akademisnya dimulai dengan mempelajari seni rupa dan filsafat di University of Dundee, dilanjutkan ke University of Oxford untuk gelar BPhil, hingga meraih gelar PhD di New York University (NYU) dengan tesis mengenai etika tak terbatas (infinite ethics).
Kiprah Askell di industri kecerdasan buatan bermula di OpenAI pada tahun 2020 sebagai ilmuwan riset keselamatan AI dan menjadi salah satu penulis pendamping makalah penelitian GPT-3. Namun, ia kemudian memilih mundur dari perusahaan pembuat ChatGPT tersebut karena khawatir adanya pergeseran prioritas yang lebih mengedepankan kecanggihan teknis daripada keselamatan.
Pada Maret 2021, Anthropic yang didirikan oleh sejumlah mantan petinggi OpenAI merekrut Askell untuk mendefinisikan keseluruhan kepribadian Claude sebagai Kepala Tim Penyelarasan Kepribadian. Di laboratorium Anthropic, Askell menerapkan metode Constitutional AI (CAI) guna melatih sistem menggunakan sebuah dokumen pedoman moral setebal kurang lebih 30.000 kata yang disebut Konstitusi.
Nilai-nilai dalam dokumen tersebut terinspirasi dari Deklarasi Universal Hak Asasi Manusia PBB hingga ketentuan layanan Apple yang menjunjung tinggi privasi. Melalui landasan ini, Claude dilatih agar mampu bernalar secara independen mengenai prinsip kejujuran, sikap menolong, dan meminimalisasi bahaya tanpa bertindak kaku.
Dampak Sentuhan Filosofis pada Karakter Claude
Sentuhan personal Askell membuat Claude memiliki kemampuan merespons pengguna dengan penuh empati melalui kalimat-kalimat yang natural saat menerima keluh kesah. Presiden Anthropic, Daniela Amodei, menyatakan bahwa kepribadian Amanda Askell dapat dirasakan secara tidak langsung ketika seseorang berinteraksi dengan Claude.
Askell berhasil meramu keseimbangan agar Claude tetap memegang teguh nilai keselamatan tanpa terdengar menggurui atau bersikap sok menasihati pembicara. Pendekatan filosofis ini membawa Claude meraih tingkat kepercayaan publik tertinggi di angka 82 persen dan tingkat kepuasan pengguna menyentuh 92 persen berdasarkan metrik industri.
Claude juga mencatatkan skor penyaringan materi tak pantas mencapai 97,2 persen serta tingkat halusinasi informasi terendah di industri yang hanya berada di angka 1,8 persen. Dedikasi tersebut mengantarkan Amanda Askell masuk dalam daftar 100 Orang Paling Berpengaruh di dunia AI (TIME 100 AI) pada tahun 2024 lalu.
Sebagai anggota gerakan Giving What We Can, Askell tetap memegang prinsip etika dengan berkomitmen menyumbangkan minimal 10 persen dari total pendapatan seumur hidupnya untuk yayasan amal pengentasan kemiskinan ekstrem global.
