6 alasan mengapa Anda tidak boleh begitu saja mempercayai kecerdasan buatan

1. AI diprogram untuk membuat jawaban yang masuk akal, bukan jujur

Kecerdasan buatan mungkin tidak mengetahui sesuatu. Tapi dia tidak pernah mengakuinya.

AI mampu menjawab pertanyaan apa pun dengan omong kosong yang keterlaluan, tetapi dengan keyakinan mutlak pada kebenarannya sendiri. Jika dia ketahuan berbohong, dia akan setuju dengan Anda, menjadi lebih baik dan terus membuat teks seolah-olah tidak terjadi apa-apa.

AI chatbots memiliki informasi yang terbatas: mereka hanya tahu apa yang dinyatakan dalam teks di mana mereka dilatih. Tetapi pada saat yang sama, mereka diprogram untuk menjawab dalam hal apa pun, bahkan jika mereka tidak mengetahui opsi yang benar. Oleh karena itu, ChatGPT dan rekan-rekannya secara teratur membicarakan hal-hal yang tidak masuk akal dengan tampilan yang cerdas.

Jangan lupa untuk memeriksa informasi yang diterima dari chatbot. Anda tidak pernah tahu apa yang dia pikirkan ketika dia menulis jawabannya.

2. AI dapat berdebat dengan Anda bahkan ketika Anda benar

Situasi ketika AI tidak mengetahui jawabannya dan karena itu memunculkan dongeng tidaklah terlalu buruk. Lebih buruk lagi ketika Anda memergokinya berbohong, tetapi dia tidak mengoreksi dirinya sendiri dan terus bertahan - hanya karena dia dilatih tentang informasi yang salah.

Selain itu, AI dapat dengan sengaja mendistorsi informasi untuk mengarahkan percakapan ke arah yang tampaknya lebih benar oleh jaringan saraf. Ini mengarah pada berbagai hasil lucu.

Pengguna tunggal dijelaskan situasi, saat dia bertanya kepada bot Bing ChatGPT kapan Avatar 2 akan ditayangkan di bioskop dekat rumahnya. Sebagai tanggapan, dia mulai meyakinkannya bahwa film tersebut belum dirilis. Saat pengguna mencoba meyakinkan AI, dia mulai bertahan, mengatakan bahwa masih tahun 2022 dan 10 bulan sebelum pemutaran perdana.

Bing menyarankan agar lawan bicara salah jika menurutnya tahun 2023 telah tiba, dan menyarankannya untuk memeriksa tanggal di ponselnya. Ketika pengguna mengatakan bahwa dia sudah melakukan ini, dia mengatakan bahwa pengaturan sementara di ponsel cerdasnya dirobohkan virus dan secara umum seseorang terlalu banyak berdebat dan harus berhenti bersikap tegas.

Pengguna tidak pernah dapat meyakinkan AI bahwa Avatar 2 telah dirilis dan tahun 2023 terletak setelah tahun 2022.

Terlepas dari namanya "kecerdasan buatan", chatbot tidak cerdas dan menghasilkan jawaban dengan menyusun teks yang telah mereka baca sebelumnya. Jadi, Open AI ChatGPT dilatih data hingga 2021, dan Bing ChatGPT hingga 2022. Oleh karena itu, mereka hanya memiliki informasi yang relevan pada saat pelatihan mereka.

3. AI membatasi kreativitas Anda

Banyak penulis konten, artis, dan desainer secara aktif menggunakan kecerdasan buatan saat ini. Namun, jika Anda menggunakannya terus-menerus, ada risiko "otot kreatif" Anda akan berhenti berkembang dan akan lebih sulit bagi Anda untuk menciptakan ide sendiri.

Saat chatbot bertenaga AI menghasilkan respons, orang sering kali hanya menyalin dan menempelkannya tanpa berusaha memahaminya. Pendekatan ini tidak mendorong berpikir kreatif.

Anda lihat, AI hanya dapat menyalin apa yang telah dibuat orang sebelumnya, hanya dengan bebas menyusun dan mencampur apa yang dilihatnya. Dia tidak tahu bagaimana membuat karya yang benar-benar orisinal.

Jika Anda menjadi sangat bergantung pada AI, Anda akan mengulangi ide dan konsep yang ada alih-alih membuatnya sendiri.

4. AI tidak bisa memberikan umpan balik

Cobalah untuk mendapatkan ChatGPT untuk menulis beberapa tesis atau makalah. Mungkin saja dia akan mendapatkan teks yang cukup bagus sehingga dia tidak akan malu untuk menunjukkannya kepada orang-orang.

Tetapi jika Anda meminta AI untuk menunjukkan sumber informasi yang diberikannya, Anda akan menemukan bahwa itu tidak ada. Judul studi yang direferensikan oleh ChatGPT dan nama ilmuwansiapa yang membuatnya dapat dengan mudah berubah menjadi fiktif, dan tautan yang mereka berikan ke artikel di Internet tidak akan mengarah ke mana pun.

AI tidak dapat menjelaskan dari mana ia mendapatkan informasi ini atau itu, karena ia diprogram untuk menghasilkan teks berdasarkan teks lain, dan bukan untuk memahami apa yang ditulisnya di sana. Oleh karena itu, meskipun dia menjawab dengan benar, kecerdasan buatan tidak dapat menjelaskan dari mana dia mengetahui informasi tersebut.

5. AI dapat digunakan oleh penyerang

Terlepas dari semua manfaat AI, itu juga dapat digunakan oleh orang-orang dengan niat buruk.

Contoh penyalahgunaan tersebut adalah pembuatan apa yang disebut deepfake. Teknologi ini memungkinkan Anda menghasilkan rekaman video atau audio yang sangat realistis gambar yang dibuat secara artifisial dari orang yang mengatakan atau melakukan hal-hal yang sebenarnya tidak mereka katakan atau tidak lakukan telah melakukan. Ini dapat digunakan untuk menipu korban, membuat berita palsu, atau bahkan memeras dan memeras.

Sejumlah besar perkembangan AI berada dalam domain publik dan memungkinkan siapa saja untuk mengakses teknologi seperti pengenalan gambar dan wajah. Dan model teks seperti Open AI ChatGPT dapat digunakan untuk trolling, intimidasi di media sosial atau menyebarkan informasi yang tampak masuk akal tetapi sebenarnya salah.

Akhirnya, penyerang dapat memberikan AI data yang salah untuk pelatihan, dan di masa mendatang akan menyiarkannya sendiri, menyesatkan pengguna.

6. AI tidak dapat menggantikan penilaian manusia

Anda juga tidak boleh sepenuhnya mempercayai kecerdasan buatan saat membuat keputusan yang didasarkan pada emosi dan perasaan serta preferensi pribadi. Ini karena AI gagal memperhitungkan emosi manusia, konteks, dan aspek tidak berwujud yang diperlukan untuk memahami dan menafsirkan banyak konsep.

Misalnya, jika Anda meminta AI untuk memilih di antara keduanya buku, ini akan merekomendasikan yang memiliki peringkat lebih tinggi, tetapi tidak akan dapat mempertimbangkan selera pribadi Anda, preferensi membaca, atau tujuan yang Anda perlukan untuk pekerjaan ini atau itu.

Dan peninjau manusia dapat memberikan tinjauan karya yang lebih rinci dan individual, mengevaluasi karya sastranya nilai, relevansi dengan minat pembaca dan faktor subyektif lainnya yang tidak dapat diukur oleh AI angka.