Chatbot kecerdasan buatan Claude dikenal memiliki perbedaan unik karena mampu memberikan respons yang terasa sangat manusiawi dan hangat. Ketika pengguna membagikan keluh kesah atau masalah pekerjaan, mesin ini tidak membalas dengan template kaku khas robot.
Claude sering kali dipuji sebagai AI yang paling memanusiakan penggunanya berkat kemampuan merespons penuh empati. Kemampuan ini ternyata bukan hasil dari kebetulan algoritma semata, melainkan dirancang oleh seorang filsuf perempuan asal Skotlandia bernama Amanda Askell.
Kehadiran Amanda Askell menjadi anomali di Silicon Valley yang umumnya didominasi oleh para insinyur komputer, seperti dilansir dari Tekno. Askell menjabat sebagai Kepala Tim Penyelarasan Kepribadian di Anthropic dengan tugas utama menanamkan kompas moral dan mendefinisikan kepribadian Claude.
Askell tumbuh besar di kota Prestwick, Skotlandia, dan dibesarkan oleh ibunya yang berprofesi sebagai guru. Ketertarikannya pada pertanyaan eksistensi dan moralitas bermula sejak kecil dari hobi membaca karya J.R.R. Tolkien serta C.S. Lewis.
Latar belakang pendidikannya sangat jauh dari dunia pemrograman komputer. Askell mempelajari seni rupa dan filsafat secara bersamaan di University of Dundee, kemudian meraih gelar BPhil di University of Oxford, dan menyelesaikan gelar PhD di New York University (NYU).
Tesis Askell di NYU membahas etika tak terbatas (infinite ethics) yang bergulat dengan cara kerja moralitas pada populasi berskala tidak terhingga. Berbekal filosofi moral tersebut, Askell kemudian melangkah masuk ke industri kecerdasan buatan.
Perjalanan karier Askell di industri AI dimulai di OpenAI pada tahun 2020 sebagai ilmuwan riset yang fokus pada keselamatan AI. Ia bahkan ikut menjadi salah satu penulis pendamping untuk makalah penelitian GPT-3 yang monumental.
Namun, Askell akhirnya memutuskan mundur dan meninggalkan OpenAI karena merasa khawatir terhadap pergeseran prioritas perusahaan tersebut. OpenAI dinilai lebih mengedepankan kecanggihan teknis model AI dibandingkan memprioritaskan faktor keselamatan dan kehati-hatian.
Pada Maret 2021, Anthropic yang didirikan oleh barisan mantan petinggi OpenAI merekrut Askell. Startup ini menugaskan Askell untuk mendefinisikan keseluruhan kepribadian Claude secara utuh.
Metode Constitutional AI dan Masa Depan Claude
Askell menerapkan metode revolusioner bernama Constitutional AI (CAI) di laboratorium Anthropic. Metode ini melatih Claude menggunakan sebuah naskah moral setebal kurang lebih 30.000 kata yang disuntikkan langsung sebagai Konstitusi sistem.
Nilai-nilai di dalam naskah tersebut mengambil inspirasi dari Deklarasi Universal Hak Asasi Manusia PBB hingga ketentuan layanan Apple. Dokumen ini bertujuan agar Claude mampu bernalar secara independen mengenai prinsip kejujuran, sikap menolong, dan meminimalisasi bahaya.
Sentuhan personal sang filsuf membuat Claude mampu memberikan respons empatis yang natural kepada para penggunanya. Presiden Anthropic, Daniela Amodei, menyatakan bahwa pengguna hampir bisa merasakan sedikit kepribadian Amanda Askell di dalam Claude.
Askell juga harus berjuang mengatasi kecenderungan AI agar tidak menjadi terlalu sok menasihati atau berlebihan dalam memberikan ceramah moral. Hasilnya, Claude kini mampu memperlakukan pengguna layaknya orang dewasa yang cerdas untuk diajak berdiskusi mendalam.
