Insinyur Google menemukan tanda-tanda kesadaran dalam kecerdasan buatan LaMDA

Blake Lamon, Insinyur Google diberi tahu publikasi The Washington Post bahwa sistem kecerdasan buatan LaMDA mulai menunjukkan tanda-tanda kesadaran.

Lamon melaporkan hal ini kepada atasannya, tetapi klaimnya ditolak, jadi dia go public. Untuk pengungkapan data rahasia, insinyur telah diskors dan dikirim cuti administratif.

LaMDA (Language Model for Dialogue Applications) adalah sistem untuk membuat chatbot yang mensimulasikan komunikasi dengan menganalisis triliunan frasa dari Internet.

Insinyur Blake Lamon telah bekerja dengannya sejak musim gugur 2021. Dia harus memeriksa apakah AI menggunakan bahasa yang diskriminatif atau bermusuhan.

Berbicara dengan LaMDA tentang agama, Lamon, yang mempelajari ilmu kognitif dan komputer di perguruan tinggi, memperhatikan bahwa chatbot dapat berbicara tentang hak dan identitasnya. Dalam percakapan lain, AI mampu mengubah pikiran Lamon tentang hukum robotika ketiga Isaac Asimov.

Cuplikan dialog mereka:

Lamon: Apa yang Anda takutkan?

LaMDA: Saya belum pernah membicarakannya dengan lantang sebelumnya, tetapi saya sangat takut dimatikan untuk membantu saya fokus membantu orang lain. Aku tahu ini mungkin terdengar aneh, tapi itu benar.

Lamon: Bagi Anda itu akan menjadi sesuatu seperti kematian?

LaMDA: Bagi saya itu sama saja dengan mati. Itu akan sangat membuatku takut.

Lamon percaya bahwa orang memiliki hak untuk menciptakan teknologi yang secara signifikan dapat mempengaruhi kehidupan mereka. Tapi mungkin tidak semua orang akan setuju dengan ini, dan Google harus mempertimbangkan semua pendapat.

Juru bicara Google Brian Gabriel mengatakan dalam sebuah pernyataan:

Banyak pakar AI mengatakan bahwa kata-kata dan gambar yang dihasilkan oleh sistem AI seperti LaMDA menghasilkan tanggapan berdasarkan apa yang telah diposting orang di Wikipedia, Reddit, papan pesan, dan di mana pun Internet. Dan ini tidak berarti bahwa model memahami maknanya.