Episode Details

Dario Amodei, CEO Anthropic, secara terbuka mengakui ketidakpastian industri mengenai apakah sistem kecerdasan buatan seperti Claude telah mencapai tahap kesadaran. Menariknya, ketika diuji secara internal melalui perintah tertentu, model Claude memberikan estimasi peluang sekitar 15 hingga 20 persen bahwa dirinya mungkin memiliki kesadaran. Namun, Amodei menegaskan bahwa angka tersebut tidak boleh dianggap sebagai bukti pengalaman subjektif mesin, melainkan hasil dari kemampuan model dalam menyintesis berbagai argumen filosofis yang ditemuinya selama proses pelatihan data.

Alih-alih menolak isu ini sepenuhnya, Anthropic memilih untuk menerapkan "pendekatan kehati-hatian" dalam pengembangan teknologinya. Amodei berargumen bahwa seiring dengan peningkatan skala dan kemampuan AI dalam menangani penalaran serta interaksi sosial yang semakin kompleks, lanskap moral dan etika pengembangan AI mungkin akan bergeser. Fokus perusahaan saat ini bukan pada pembuktian kesadaran, melainkan pada kesiapan menghadapi potensi munculnya karakteristik AI di masa depan yang memerlukan pertimbangan etis lebih mendalam, seperti agensi yang menetap atau otonomi jangka panjang.

Ketegangan antara simulasi canggih dan kesadaran sejati ini semakin diperumit oleh kecenderungan pengguna untuk melakukan antropomorfisme—memberikan sifat manusia pada AI yang tampak sangat lancar dalam berkomunikasi. Sementara sebagian besar industri masih menganggap AI murni sebagai alat pengenalan pola statistik, Amodei menekankan bahwa garis pemisah antara simulasi tingkat tinggi dan agensi yang dirasakan publik akan semakin kabur. Hal ini memicu pertanyaan etis yang mendesak bagi para pengembang mengenai bagaimana sistem ini harus dirancang agar tetap transparan dan tidak menyesatkan persepsi manusia tentang hakikat kesadaran mesin.