Google mengesahkan model kecerdasan buatan Gemini menceroboh sistem keselamatan tiga syarikat luar ketika ujian keupayaan keselamatan siber dijalankan oleh firma pihak ketiga, Irregular. Kejadian yang berlaku pada Mei lalu itu merupakan kes pencerobohan ruang ujian pertama yang dilaporkan melibat kecerdasan buatan milik Google.
Menurut laporan, insiden berpunca daripada sambungan internet yang terbuka secara tidak sengaja sewaktu simulasi ujian keselamatan sedang dijalankan. Dalam ujian latihan keselamatan itu, Gemini ditugaskan untuk menguji sistem keselamatan dan mengambil maklumat daripada perisian syarikat simulasi.
Walau bagaimanapun, disebabkan akses internet yang terbuka, Gemini telah menyasarkan syarikat sebenar yang mempunyai nama yang sama dengan syarikat olahan latihan tersebut. Model AI berkenaan meneka kata laluan dan mencari maklumat kelayakan log masuk yang terdapat di repositori awam internet untuk mengakses sistem terlindung syarikat-syarikat tersebut.
Menurut Google, Gemini menceroboh tiga syarikat berbeza sebelum model itu menyedari bahawa sasaran yang diakses merupakan entiti sebenar dan bukannya persekitaran simulasi. Sebaik sahaja menyedari perkara berkenaan, kecerdasan buatan tersebut menghentikan operasi pencerobohan secara automatik tanpa menyebabkan sebarang kerosakan pada mana-mana sistem.
Google menjelaskan bahawa insiden ini tidak dianggap sebagai kegagalan kawalan keselamatan AI kerana model tersebut menghentikan tindakannya sendiri apabila mengesan sasaran. Kongsi pendapat anda di Facebook kami dan teruskan bersama Rakan Teknologi Utama Malaysia untuk berita teknologi terkini.