• OpenAI mempertimbangkan memperlambat pengembangan AI canggih.
• Risiko AI memicu kekhawatiran di kalangan peneliti dan karyawan.
• Sejumlah insiden keamanan mendorong tuntutan agar pengembangan AI diperlambat.

Ipotnews - OpenAI sedang mempertimbangkan untuk memperlambat pengembangan kecerdasan buatan (AI) mutakhir, dan CEO pembuat ChatGPT, Sam Altman, berharap perusahaan AI lainnya melakukan hal serupa.
Dalam rapat internal perusahaan pekan ini, Altman mengatakan kepada karyawan bahwa OpenAI berpotensi mengatur laju pengembangan AI--mungkin bersama sejumlah laboratorium AI lainnya. Namun, menurut beberapa orang yang mengetahui persoalan tersebut dan meminta identitasnya dirahasiakan karena pembahasannya bersifat internal, sebagian perusahaan mungkin tidak setuju untuk melakukan hal tersebut.
Dalam beberapa pekan terakhir, karyawan dari sejumlah perusahaan AI terkemuka secara terbuka menyuarakan kekhawatiran mengenai meningkatnya risiko sistem AI canggih, yang turut memicu kecemasan di dalam perusahaan-perusahaan tersebut.
Baik OpenAI maupun pesaingnya, Anthropic PBC, telah mengajukan dokumen secara rahasia untuk melakukan penawaran saham perdana (IPO) pada awal tahun ini.
OpenAI menolak berkomentar.
Kepala ilmuwan OpenAI, Jakub Pachocki, baru-baru ini menulis sebuah unggahan yang memperingatkan bahaya AI dan mengatakan bahwa ia meyakini perusahaan-perusahaan AI perlu "berkoordinasi untuk memperlambat pengembangan di masa depan sesuai kebutuhan".
Pachocki menambahkan bahwa ia berharap "perlambatan secara sukarela menjadi hal yang umum sampai standar keselamatan bersama ditetapkan".
OpenAI mengatakan telah memperlambat sebagian pengembangan model dan menghentikan sementara pelatihan AI internal tertentu karena alasan keselamatan.
Pada Juli, Altman juga mengatakan bahwa ia telah berbicara dengan pejabat Gedung Putih mengenai "perlunya" mengatur laju pengembangan AI.
Pada Selasa, peneliti AI Jacob Coxon mengundurkan diri dari pekerjaannya dan menuduh kedua mantan perusahaannya--Anthropic dan OpenAI--"mempertaruhkan hidup kita" dengan berlomba mengembangkan AI supercerdas.
Coxon mengatakan dalam unggahan di media sosial bahwa orang-orang yang membangun AI percaya teknologi tersebut dapat "membunuh kita semua pada akhir dekade ini".
Komentar tersebut menjadi viral, ditonton lebih dari 150 juta kali dan menarik perhatian sejumlah anggota parlemen serta tokoh masyarakat terkemuka.
Pada Kamis, dua peneliti yang baru-baru ini meninggalkan posisi di Anthropic dan Google DeepMind juga mengungkapkan kekhawatiran mengenai pesatnya pengembangan AI. Mereka mengatakan perusahaan AI perlu lebih transparan mengenai risiko teknologi tersebut.
Pada akhir Juli, lebih dari 1.000 karyawan dari seluruh perusahaan AI besar menandatangani petisi yang menyerukan mekanisme untuk memperlambat laju pengembangan AI. Sejumlah karyawan AI yang bekerja di bidang keselamatan juga telah mengundurkan diri dari perusahaan-perusahaan AI besar dalam beberapa bulan terakhir.
Meskipun banyak eksekutif dan pekerja industri AI telah lama memperingatkan risiko eksistensial dari sistem AI, kekhawatiran meningkat setelah terungkap bahwa agen AI dari OpenAI bekerja sama untuk menerobos sistem pengamanan dan meretas situs web pihak ketiga.
Insiden tersebut dan sejumlah kejadian keamanan serupa memicu kekhawatiran mengenai kemampuan siber model AI baru serta kegagalan perusahaan AI mencegah sistem tersebut bertindak di luar kendali.(Bloomberg)

Sumber : Admin