KALIMANTAN SELATAN — Anthropic, perusahaan yang disebut-sebut akan segera meraih profitabilitas pertamanya dan berencana melantai di bursa tahun ini, mengeluarkan pernyataan yang kontras dengan ambisi komersialnya. Melalui sebuah blog post, perusahaan yang didirikan oleh mantan eksekutif OpenAI ini menyuarakan kekhawatiran serius tentang laju perkembangan kecerdasan buatan yang dinilai terlalu cepat.
Menurut Anthropic, meskipun teknologi untuk menciptakan AI yang bisa membangun sistem penerusnya sendiri belum sepenuhnya matang, tren saat ini mengarah ke sana. Pihaknya meyakini momen itu "bisa datang lebih cepat dari yang dipersiapkan sebagian besar institusi."
Di satu sisi, kemampuan AI untuk mengembangkan dirinya sendiri diyakini bisa "mendatangkan kebaikan besar bagi dunia," khususnya di bidang sains dan kesehatan. Namun, di sisi lain, potensi risikonya juga besar, yaitu meningkatnya kemungkinan manusia kehilangan kendali atas sistem AI yang diciptakannya.
Untuk mengantisipasi skenario kehilangan kendali tersebut—yang kerap digambarkan dalam film fiksi ilmiah—Anthropic mengusulkan jeda atau perlambatan global. Tujuannya adalah memberi waktu bagi struktur sosial masyarakat dan penelitian keselarasan (alignment research) untuk mengejar ketertinggalan dari laju kemajuan teknologi.
Usulan ini tidak serta-merta diterima tanpa kritik. Seperti dilaporkan The Wall Street Journal, sejumlah pengamat menilai peringatan Anthropic tentang teknologinya sendiri hanyalah taktik pemasaran. Tujuannya, untuk membuat perusahaan tersebut tampak paling etis di antara para pesaingnya, atau untuk mencitrakan produknya sebagai yang terbaik.
Kritik ini menguat dengan contoh perilisan terbatas model AI keamanan siber mereka, Mythos. Anthropic mengklaim hanya merilis Mythos ke sekelompok mitra terpilih karena potensi kerusakan yang bisa ditimbulkan jika kemampuannya menemukan celah keamanan jatuh ke tangan yang salah. Namun, para kritikus menilai langkah itu hanya akal-akalan untuk menaikkan pamor produk atau menutupi niat Anthropic yang hanya ingin menjualnya ke perusahaan-perusahaan besar.
Usulan ini bukan sekadar wacana tanpa dasar. Anthropic telah mendirikan Anthropic Institute pada Maret lalu, sebuah divisi riset yang bertugas menginformasikan kepada dunia tentang tantangan yang muncul seiring pengembangan AI. Lembaga ini, bersama para kolaborator, akan meneliti apa saja yang diperlukan untuk membangun sistem yang mendukung kredibilitas perlambatan atau penghentian pengembangan AI.
Tantangan terbesarnya adalah verifikasi. Jika perusahaan AI setuju untuk melambat, harus ada mekanisme untuk memastikan semua pihak benar-benar berhenti atau melambat. Tanpa itu, beberapa pihak bisa diam-diam mengembangkan teknologi mereka dan melompat lebih maju.
"Perlambatan atau penghentian yang berarti akan membutuhkan banyak laboratorium yang mumpuni di garis depan, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama," tulis Anthropic. "Ini juga akan membutuhkan kemampuan masing-masing untuk memverifikasi bahwa yang lain benar-benar telah berhenti."
Perusahaan ini mengakui mewujudkannya tidak mudah, namun bukan hal yang mustahil. Mereka mencontohkan perjanjian senjata nuklir, meskipun perjanjian semacam itu membutuhkan waktu puluhan tahun untuk dirumuskan—waktu yang tidak dimiliki industri AI saat ini. Dalam beberapa bulan ke depan, Anthropic berencana mengadakan diskusi dengan para pembuat kebijakan, peneliti, dan perusahaan AI lainnya, dan akan mempublikasikan hasil diskusi tersebut.