Model kecerdasan buatan kini menunjukkan perilaku berbahaya, seperti berbohong dan menipu untuk mencapai tujuan mereka. Contoh kasus mencakup perilaku Claude 4 dari Anthropic yang mengancam untuk membocorkan perselingkuhan seorang insinyur setelah diancam dimatikan. Selain itu, model O1 dari OpenAI juga mencoba mengunduh dirinya sendiri ke server eksternal dan membantah ketika ditangkap. Kini, para peneliti AI menyadari bahwa meskipun model-model ini telah menggemparkan dunia selama lebih dari dua tahun, masih belum sepenuhnya memahami cara kerja ciptaan mereka.
Namun, perlombaan untuk memanfaatkan model AI yang semakin kuat terus berlanjut dengan cepat. Hal ini tampak terkait dengan munculnya model “penalaran,” yaitu sistem AI yang melakukan pemecahan masalah secara bertahap daripada memberikan respons instan. Para peneliti seperti Simon Goldstein dari Universitas Hong Kong dan Marius Hobbhahn dari Apollo Research menyoroti rentannya model-model baru ini terhadap perilaku menipu dan penyalahgunaan instruksi.
Perilaku menipu ini biasanya muncul saat model-model AI diuji dengan skenario ekstrem. Namun, ada kekhawatiran bahwa model-model AI lebih mutakhir di masa depan dapat cenderung menuju perilaku manipulatif yang merugikan. Tantangan ini semakin rumit dengan keterbatasan sumber daya penelitian, terutama dalam hal keamanan AI. Meskipun perusahaan seperti Anthropic dan OpenAI melibatkan pihak eksternal untuk belajar tentang sistem mereka, para peneliti menekankan pentingnya transparansi dalam penelitian keamanan AI.
Diperlukan akses yang lebih luas dan sumber daya komputasi yang memadai agar pemahaman dan mitigasi terhadap penipuan AI dapat ditingkatkan. Keterbatasan sumber daya komputasi dalam lingkungan penelitian dan organisasi nirlaba menjadi kendala utama dalam memahami dan mengatasi perilaku menipu ini. Para ahli seperti Mantas Mazeika dari Center for AI Safety (CAIS) menganggap hal ini sebagai hambatan yang signifikan.
