Elon Musk mendesak untuk menangguhkan eksperimen besar dengan AI

Miscellanea / by admin / April 03, 2023

click fraud protection

Dia didukung oleh peneliti industri terkemuka.

Organisasi nirlaba Future of Life Institute telah menerbitkan surat terbuka yang ditandatangani oleh Elon Musk, salah satu pendiri Apple Steve Wozniak, salah satu pendiri Skype Jaan Tallinn, serta peneliti dan eksekutif AI lainnya dari perusahaan besar.

Surat tersebut menuduh bahwa laboratorium terkunci dalam "perlombaan di luar kendali" untuk dikembangkan dan diterapkan sistem pembelajaran mesin yang “tidak seorang pun—bahkan pembuatnya—dapat memahami, memprediksi, atau percaya diri kontrol". Inilah yang penulis sarankan:

Kami meminta semua laboratorium AI untuk segera menangguhkan pelatihan pada sistem AI yang lebih besar dari GPT-4 setidaknya selama 6 bulan. Penangguhan operasi harus bersifat publik dan dapat diverifikasi, dan semua pemain kunci harus dilibatkan. Jika tidak memungkinkan untuk berhenti dalam waktu dekat, pemerintah negara tersebut harus turun tangan dan memberlakukan moratorium.

Dari Jeda Eksperimen AI Raksasa: Surat Terbuka

Surat itu juga mengungkapkan ketidakpuasan dengan posisi "kami akan melepaskannya apa adanya, kami akan memperbaikinya nanti" ketika mengembangkan jaringan saraf (ingat setidaknya

instagram viewer

penyair dari Google). Bahkan Buka AI telah meningkatkan kebutuhan potensial untuk audit keamanan AI di masa mendatang. Penulis surat tersebut percaya bahwa masa depan ini telah tiba.

Pengembang AI dan pakar independen harus menggunakan jeda ini untuk mengembangkan dan mengimplementasikan bersama protokol keamanan terpadu untuk sistem AI yang kompleks, yang kepatuhannya akan diperiksa oleh independen eksternal ahli. Protokol semacam itu akan membantu memastikan bahwa sistem cukup aman untuk digunakan.

Dari Jeda Eksperimen AI Raksasa: Surat Terbuka

Teks lengkap surat itu dapat dibaca Di Sini.