OpenAI menerbitkan satu penjelasan rasmi mengenai fenomena yang dikenali sebagai ‘halusinasi’ dalam model bahasa iaitu keadaan apabila sistem kecerdasan buatan (AI) menghasilkan maklumat yang tidak tepat atau mengelirukan seolah-olah ia benar.
Menurut OpenAI, halusinasi berlaku kerana model bahasa direka untuk meramalkan perkataan seterusnya berdasarkan corak dalam data latihan dan bukannya mengesahkan fakta sebenar. Justeru, jika model tidak menemui jawapan tepat, ia masih akan cuba melengkapkan ayat dengan maklumat yang kelihatan meyakinkan tetapi tidak semestinya betul.
Laporan itu turut menjelaskan beberapa faktor utama termasuk kekangan data latihan, cara model dibina untuk menghasilkan respons dan ketiadaan semakan fakta secara automatik. OpenAI menegaskan bahawa isu ini adalah cabaran besar dalam pembangunan AI dan sedang ditangani melalui penyelidikan berterusan.
Antara langkah yang diambil termasuk menggabungkan teknik penilaian fakta, penggunaan sumber rujukan luar yang lebih dipercayai dan pembangunan kaedah baharu supaya model dapat membezakan antara pengetahuan sebenar dengan andaian. Walaupun teknologi semakin canggih, pengguna masih perlu berhati-hati dan mengesahkan maklumat penting daripada sumber rasmi.
Kongsi pendapat anda di Facebook kami dan teruskan bersama Rakan Teknologi Utama Malaysia untuk berita teknologi terkini.
Sumber: OpenAI
