Perusahaan teknologi Anthropic mengusulkan agar ada penundaan atau jeda sementara dalam pengembangan kecerdasan buatan (AI) untuk memberikan kesempatan bagi masyarakat dan penelitian untuk menyesuaikan diri dengan kemajuan teknologi yang terjadi.
Dalam kutipan yang diambil dari siaran Engadget pada hari Jumat (5/6), Anthropic melalui sebuah tulisan di blog menyatakan bahwa perkembangan AI berlangsung sangat pesat dan tren saat ini adalah menuju sistem yang mampu menciptakan generasi baru dari dirinya sendiri.
Anthropic menegaskan bahwa AI yang dapat menciptakan dirinya sendiri bisa “memberikan manfaat besar bagi dunia,” namun juga dapat “menyebabkan risiko manusia kehilangan kontrol atas sistem AI. “
Oleh sebab itu, perusahaan mengusulkan penundaan atau jeda sementara secara global dalam pengembangan AI.
Usulan ini berdasarkan temuan dari Anthropic Institute, sebuah divisi riset yang didirikan oleh perusahaan pada bulan Maret yang lalu.
Ketika mengumumkan pendirian lembaga tersebut, Anthropic mengungkapkan bahwa tujuannya adalah untuk “memberikan informasi kepada dunia” mengenai berbagai tantangan yang muncul bersamaan dengan pengembangan sistem AI yang semakin canggih.
Bersama dengan mitra kolaborator, institut tersebut meneliti apa saja yang diperlukan untuk menciptakan sistem yang memungkinkan adanya penundaan atau penghentian sementara dalam pengembangan AI.
Jika perusahaan-perusahaan AI sepakat untuk memperlambat kemajuan teknologi ini, maka penting untuk ada mekanisme yang dapat memverifikasi bahwa semua pihak benar-benar mengikuti kesepakatan.
Tanpa adanya pengawasan, terdapat risiko bahwa beberapa perusahaan akan diam-diam melanjutkan pengembangan AI dan akhirnya unggul dari para pesaingnya.
“Penundaan atau penghentian yang berarti memerlukan beberapa laboratorium AI besar yang terdepan dalam pengembangan teknologi di berbagai negara untuk setuju berhenti dalam kondisi yang sama,” demikian tulis Anthropic.
Usulan tersebut hanya dapat dilaksanakan jika seluruh perusahaan AI di seluruh dunia dapat berkumpul dan berkomitmen untuk menghentikan sementara upaya pengembangan AI.
Menurut Anthropic, hal ini bukan sesuatu yang tidak mungkin. Perusahaan berencana untuk melakukan diskusi dengan para pembuat kebijakan, peneliti, dan perusahaan AI lainnya tentang isu ini dalam beberapa bulan ke depan.
Sebagaimana dirangkum oleh The Wall Street Journal, para kritik berpendapat bahwa peringatan dari Anthropic terkait pengembangan teknologi AI hanyalah strategi pemasaran, mungkin untuk menunjukkan diri sebagai perusahaan AI yang paling tidak bermasalah atau untuk menjadikan produknya tampak unggul.
