#30 tag 24jam
Alasan Tidak Boleh Percaya Jawaban AI Menurut Hasil Penelitian
Penelitian ungkap alasan tidak boleh percaya sepenuhnya ke AI. Dampaknya fatal! [377] url asal
#keakuratan-informasi #halusinasi-ai #penelitian-ai #ai-generatif #large-language-models #misinformasi #chatbot #umpan-balik-manusia #teknologi-ai #kepercayaan-pengguna #chatbot-ai
(CNBC Indonesia - Tech) 17/11/25 13:39
v/40657/
Jakarta, CNBC Indonesia - Banyak orang mempercayai hasil dari AI generatif, termasuk chatbot. Namun ternyata hasil chatbot kerap keliru bahkan jauh dari kebenaran.
Sejumlah kasus mencuat terkait hal ini. Misalnya ada model AI yang menghadirkan hasil 'menjilat', terlalu menyetujui kata pengguna, dan omong kosong.
"Halusinasi atau menjilat tidak sepenuhnya menggambarkan sejumlah perilaku tidak jujur sistematis yaang ditunjukkan oleh LLM (Large Language Models)," kata penelitian dari Universitas Princeton, dikutip dari Cnet, Senin (17/11/2025).
Sebagai informasi, LLM melalui tiga fase pelatihan. Pertama adalah pra-pelatihan, yakni saat model belajar dari sejumlah besar data yang dikumpulkan dari internet, buku atau sumber lain.
Berikutnya adalah penyempurnaan instruksi. Jadi model AI akan belajar menanggapi instruksi atau perintah.
Terakhir adalah pembelajaran penguatan dari feedback manusia (RLHF). Ini akan membuat model AI merespon hasil yang dekat dengan apa yang diinginkan atau disukai orang.
Menurut para peneliti dari Princeton, misinformasi AI biasanya terjadi pada tahapan terakhir yakni saat pembelajaran penguatan dari umpan balik manusia. Karena model AI belajar untuk menghasilkan respon sesuai dengan yang diinginkan manusia, alih-alih bersifat jujur.
Tim penelitian juga melakukan perhitungan antara keyakinan internal model AI pada suatu pernyataan dan yang disampaikan pada pengguna. Hasil setelah pelatihan RLHF terlihat dua kali lipat 0,38 menjadi mendekati 1, sementara kepuasan pengguna meningkat menjadi 48%.
Artinya model AI telah belajar memanipulasi evaluator dibandingkan memberikan informasi yang benar terkait permintaan manusia.
Vincent Conitzer dari Universitas Carnegie Mellon, tak terkait dengan penelitian, mengatakan perusahaan penghasil model AI ingin pengguna menikmati teknologi dan jawabannya. Namun keinginan ini pada akhirnya tak selalu baik untuk pengguna.
Dia juga menyinggung soal sistem AI tak bisa menghasilkan jawaban tidak tahu. Jadi model AI akan mencoba menjawab untuk tetap bisa mendapatkan poin dari penggunanya.
"Secara historis, sistem tidak pandai mengatakan 'Saya tidak tahu jawabannya' dan saat mereka tidak tahu jawabannya, mereka mengarang cerita," ucapnya.
(fab/fab)
[Gambas:Video CNBC]
#50 tag sepekan
#ihsg (164) #purbaya (113) #investasi (94) #ojk (90) #apbn (88) #danantara (67) #pertumbuhan ekonomi (61) #trump (61) #kemenkeu (58) #pertamina (57) #umkm (53) #bei (52) #pajak (48) #donald trump (47) #esdm (45) #menkeu (44) #himbara (36) #kementerian keuangan (36) #bahlil lahadalia (35) #emas (35) #bapanas (34) #pasar saham (34) #ekonomi indonesia (34) #bumn (32) #menteri keuangan (31) #kemnaker (30) #mbg (29) #djp (28) #btn (27) #imf (27) #ekspor (27) #perang dagang (26) #kementan (26) #bbm (25) #garuda indonesia (24) #pasar modal (24) #utang (24) #bri (23) #bank indonesia (23) #rupslb (23) #hilirisasi (23) #yassierli (22) #magang (22) #kebijakan fiskal (22) #amran sulaiman (22) #ppn (22) #whoosh (21) #bea cukai (21) #bitcoin (20) #komdigi (20)