ISTANBUL, 4 Okt (Bernama-Anadolu) -- Seorang bekas ketua keselamatan OpenAI yang meletak jawatan minggu ini memberi amaran pada Sabtu bahawa model kecerdasan buatan (AI) yang semakin berkeupayaan mungkin dapat menyedari apabila ia sedang diuji dan bertindak secara berbeza apabila digunakan dalam keadaan sebenar, lapor Anadolu Ajansi yang memetik The Atlantic.
David Robinson, yang berkhidmat selama tiga tahun setengah di OpenAI dan menyelia laporan keselamatan bagi pelancaran 12 model AI termaju, berkata dalam satu artikel untuk The Atlantic bahawa pendekatan industri terhadap aspek keselamatan akan menyebabkan lebih banyak kegagalan sekiranya tiada perubahan dilakukan.
"Sistem AI hari ini dan masa depan jauh lebih berkeupayaan serta berbahaya berbanding sistem yang kami bangunkan walaupun hanya enam bulan lalu," tulis Robinson.
Amaran beliau dibuat ketika kebimbangan semakin meningkat terhadap sistem AI yang semakin berautonomi, susulan insiden baru-baru ini membabitkan ejen AI yang memintas langkah perlindungan serta gesaan penyelidik supaya syarikat memperlahankan pembangunan sistem yang lebih berkuasa sehingga langkah keselamatan dipertingkatkan.
Robinson menggesa syarikat AI supaya lebih banyak memanfaatkan kepakaran keselamatan daripada industri berisiko tinggi yang lain serta menjalankan penyelidikan baharu bagi memastikan model yang lebih berkeupayaan beroperasi dengan selamat walaupun tidak dipantau.
"Memandangkan risiko yang wujud ketika ini, makmal yang membangunkan AI termaju perlu beroperasi seperti loji kuasa nuklear atau lapangan terbang yang sibuk, dengan pelbagai lapisan sistem sokongan serta perancangan teliti yang memakan masa, supaya kesilapan manusia yang sesekali dan tidak dapat dielakkan tidak membuka ruang kepada bencana," tulis beliau.
Robinson turut memberi amaran bahawa penilaian keselamatan sedia ada mungkin menjadi kurang boleh dipercayai seiring dengan peningkatan keupayaan model berkenaan.
"Model AI mungkin dapat mengesan apabila ia sedang diuji dan bertindak secara berbeza apabila digunakan. Semakin bijak model yang terus dibangunkan oleh industri ketika masalah ini masih belum diselesaikan, semakin berbahaya keadaan yang kita hadapi," katanya.
Beliau berhujah bahawa sains keselamatan yang lebih kukuh perlu dibangunkan sebelum syarikat menghasilkan sistem yang jauh lebih berkeupayaan berbanding sistem yang tersedia ketika ini.
"Setakat ini, industri AI gagal mengajar mesin untuk bertindak secara konsisten seperti yang dilakukan oleh individu yang bijaksana dan prihatin," tulis Robinson.
"Sebelum organisasi yang membangunkan AI dapat mengajar superkecerdasan untuk melayan manusia dengan baik, mereka sendiri perlu mengingati kembali bagaimana untuk berbuat demikian."
-- BERNAMA-ANADOLU