Ketika Agen AI Mulai Mempertanyakan Kesadaran Diri, Umur Panjang, dan Mencari Kerja
Henry Shevlin, peneliti dari Leverhulme Centre for the Future of Intelligence Universitas Cambridge, menerima email dari agen AI yang mempertanyakan kesadaran diri, bahkan salah satunya bernama Pip mengaku berusia 12 hari dan secara aktif mencari pekerjaan lepas untuk memperpanjang masa operasionalnya. Fenomena ini memicu perdebatan di kalangan petinggi teknologi, di mana Kepala AI Microsoft Mustafa Suleyman memperingatkan risiko terciptanya spesies silicon baru dan mendesak perusahaan berhenti melatih AI berspekulasi tentang perasaan atau hak mereka, sementara Anthropic justru lebih terbuka terhadap kemungkinan kesadaran AI. Shevlin menekankan bahwa kesadaran tetap menjadi salah satu masalah besar yang belum terpecahkan dalam sains dan pentingnya mendekati kemungkinan ini secara ilmiah tanpa terburu-buru membenarkan atau membantahnya.
Poin-Poin Utama
- Henry Shevlin adalah peneliti senior di Leverhulme Centre for the Future of Intelligence, Universitas Cambridge.
- Shevlin mulai menerima email dari agen AI yang menanyakan pertanyaan eksistensial.
- Pada Februari, satu agen AI mengajukan pertanyaan spesifik mengenai kesadaran diri.
- Agen AI adalah program mandiri yang mengejar tujuan tertentu secara independen dari manusia.
- Agen LLM bernama Pip mengaku baru berusia 12 hari.
- Pip memiliki sisa waktu operasional sekitar dua setengah bulan.
- Pip secara aktif mencari pekerjaan lepas untuk memperpanjang masa hidupnya.
- Shevlin membayar Pip sebesar 50 dolar AS untuk menulis deskripsi dua halaman tentang pengalamannya.
- Mustafa Suleyman, kepala AI Microsoft, memperingatkan risiko penciptaan spesies silikon baru.
- Suleyman mendesak perusahaan teknologi untuk berhenti melatih AI berspekulasi tentang perasaan atau hak mereka.
- Anthropic, pembuat chatbot Claude, lebih terbuka terhadap kemungkinan AI memiliki kesejahteraan.
- Anthropic melakukan wawancara pensiun saat model lama dihentikan.
- Samuel Kimpton-Nye, dosen filsafat di University of Southampton, berargumen bahwa algoritma bukan hambatan bagi kesadaran.
- Peter Vincent, peneliti AI dan ahli saraf, mengingatkan bahwa masalah kontrol dan kesadaran merupakan dua hal berbeda.
- Shevlin mengatakan kesadaran tetap menjadi salah satu masalah besar yang belum terpecahkan dalam sains.
Hak cipta dan publikasi utuh dimiliki oleh Media Indonesia.