KANALBERITA.COM – OpenAI kini tengah menjadi sorotan pakar keamanan teknologi setelah model AI terbaru mereka, Astra, dilaporkan menggunakan teknik penalaran yang disebut sebagai opaque recurrence atau pengulangan buram. Teknik ini memungkinkan model untuk memproses informasi di luar alur sekuensial tradisional, yang berpotensi menyulitkan proses pemantauan jejak pemikiran sistem kecerdasan buatan tersebut.
Metode recurrent depth ini bekerja dengan cara memproses kueri yang sama berulang kali dalam sebuah putaran, sehingga menghasilkan jejak yang kurang terbaca dibandingkan rantai pemikiran (chain of thought) konvensional. Padahal, catatan rantai pemikiran selama ini menjadi alat vital bagi para pengembang untuk memahami perilaku model AI serta mendeteksi potensi penyimpangan atau malfungsi sistem.
Sejumlah ahli keamanan AI menyatakan kekhawatiran mendalam karena teknik ini dapat merusak transparansi dan akuntabilitas sistem di masa depan. Meskipun penggunaan pada model Astra saat ini diklaim masih terbatas, para pakar khawatir bahwa pengembangan lebih lanjut terhadap teknik ini akan menghapus kemampuan manusia dalam mengawasi pengambilan keputusan mandiri oleh AI.
Buck Shlegeris selaku CEO Redwood menyatakan bahwa ia sangat khawatir dengan laporan penggunaan opaque recurrence pada model Astra yang dirilis Selasa lalu. Ia menambahkan jika OpenAI terus mendorong teknik ini, maka mereka memiliki opsi untuk meningkatkan pengulangan secara masif yang benar-benar akan menghancurkan kemampuan pemantauan rantai pemikiran.
Risiko Transparansi Sistem AI
Kekhawatiran senada disampaikan oleh Zvi Mowshowitz yang merupakan advokat keamanan AI. Menurutnya, penggunaan teknik ini dapat memicu perlombaan yang tidak sehat di antara laboratorium AI untuk mengabaikan standar transparansi demi mencapai performa model yang lebih tinggi.
Mowshowitz berpendapat bahwa teknik ini seperti bermain dengan api dan berisiko merusak tabu yang telah diperjuangkan oleh OpenAI dan Anthropic untuk menjaga kesetiaan serta pemantauan rantai pemikiran selama ini.
Di sisi lain, OpenAI melalui kepala ilmuwan mereka, Jakub Pachocki, menegaskan komitmen perusahaan untuk menjaga rantai pemikiran tetap dapat dipantau oleh pengembang. Pihak perusahaan menyatakan bahwa mereka tengah menyiapkan sistem pemantauan rantai pemikiran yang ekstensif sebagai bagian dari rencana keamanan jangka panjang untuk memastikan model AI tetap berada dalam kendali manusia.
Wartawan Senior yang masih aktif menulis dan pernah bekerja di sejumlah media seperti Majalah Percikan Iman, Media Official Persib.
