CEO Anthropic, Dario Amodei, menegaskan secara terbuka bahwa Anthropic tidak pernah dan tidak sedang mengadvokasi larangan atas open-weights models. Pernyataan ini muncul di tengah perdebatan publik soal apakah pemerintah AS seharusnya melarang penggunaan open-weights models asal China oleh perusahaan-perusahaan AS.

Konteks: Mengapa Debat Ini Muncul?

Laporan menyebut sejumlah pejabat AS sedang mempertimbangkan larangan penggunaan open-weights models dari China. Sebagai respons, banyak perusahaan teknologi menandatangani surat terbuka yang mendukung open-weights models. Di tengah situasi itu, Anthropic dituduh ingin melarang open-weights models demi melindungi kepentingan bisnisnya sendiri.

Amodei menjelaskan sikapnya secara lugas: open-weights models yang tidak memiliki kapabilitas berbahaya adalah barang publik yang bernilai bagi bisnis, developer, dan peneliti.

Dua Skenario Risiko yang Sebenarnya Dikhawatirkan

Amodei membedakan antara larangan yang dia tolak dengan risiko nyata yang dia khawatirkan. Ada dua skenario utama:

Pertama, pemerintah otoriter, terutama Partai Komunis China (PKC) sebagai ancaman paling signifikan, membangun AI yang lebih kuat dari milik AS dan menggunakannya untuk keunggulan militer permanen atau represi rakyatnya sendiri. Risiko ini tidak ada hubungannya dengan apakah model dirilis dengan open weights atau tidak. Model paling berbahaya justru bisa jadi yang dilatih secara rahasia dan diserahkan langsung ke militer atau aparat intelijen.

Kedua, model AI yang sangat kuat bisa disalahgunakan untuk serangan siber atau serangan biologis, dan berpotensi memiliki masalah alignment yang serius. Di sini, open-weights models memang menghadirkan risiko lebih tinggi dibanding model tertutup, karena sangat sulit memasang pengaman atau memantau penggunaannya, dan begitu weights dirilis, tidak bisa ditarik kembali. Namun, melarang penggunaan model ini oleh perusahaan AS tidak menyelesaikan masalah karena pelaku kejahatan tidak mungkin adalah bisnis AS yang sah.

Tiga Langkah yang Didukung Anthropic

Alih-alih larangan menyeluruh, Amodei dan Anthropic secara konsisten mendukung tiga pendekatan:

Pertama, blokir ekspor chip canggih ke China. Chip komputasi adalah syarat utama untuk melatih model yang lebih kuat. China memiliki kapasitas produksi domestik yang terbatas, sehingga tanpa chip AS, mereka tidak bisa membangun model yang melampaui kemampuan AS. Ini disebut sebagai cara paling efisien dan langsung untuk memblokir risiko pertama, sekaligus secara tidak langsung membantu mengatasi risiko kedua.

Kedua, tindak tegas operasi distilasi skala industri. Distilasi adalah proses yang jauh lebih hemat komputasi dibanding melatih model dari nol. Proses ini memungkinkan China membangun model yang jauh lebih baik dari yang seharusnya bisa mereka capai dengan jumlah chip yang mereka miliki. Banyak perusahaan yang menjalankan operasi distilasi ini juga merilis open-weights models, tetapi open weights bukanlah inti masalahnya karena yang lebih relevan adalah bahwa operasi itu didukung oleh negara otoriter yang berupaya menyaingi AS di frontier AI. Anthropic sendiri secara aktif mengidentifikasi dan memblokir akun yang menggunakan model mereka untuk distilasi skala besar.

Ketiga, wajibkan safety testing untuk semua model yang cukup kuat, baik open maupun closed. Cara terbaik mengatasi risiko penyalahgunaan adalah dengan langsung menguji model untuk risiko siber, biologis, dan alignment sebelum dirilis. Apakah open-weights models menghadirkan risiko lebih tinggi atau tidak, dan apakah risiko itu bisa dimitigasi, seharusnya muncul dari pengujian, bukan diasumsikan lebih dulu. Untuk efektif, pengujian ini perlu bersifat global, mencakup juga model dari China.

Catatan Penting soal Surat Terbuka Industri

Amodei menyatakan setuju dengan sebagian isi surat terbuka yang didukung banyak perusahaan teknologi, yakni bahwa open weights memperluas akses ke ekonomi AI, memperkuat persaingan untuk sejumlah use case, dan memberi pelanggan kendali lebih besar. Namun dia tidak setuju dengan klaim bahwa open-weights models secara otomatis memudahkan pengembangan pengaman keamanan, atau bahwa akses luas ke kapabilitas AI selalu lebih menguntungkan pihak bertahan dibanding penyerang.

Sebagai contoh, dia mengungkapkan kekhawatiran soal asimetri antara penyerang dan pembela di bidang biologi: model AI yang cukup kuat mungkin bisa dengan cepat mengubah bahan yang tersedia luas menjadi senjata berbasis virus pandemi, sementara pertahanan terhadap agen semacam itu adalah tugas operasional bertahun-tahun. Pertanyaan-pertanyaan seperti ini seharusnya dijawab secara empiris lewat pengujian yang ketat sebelum model dirilis.

Kenapa Ini Relevan

Bagi pebisnis dan profesional Indonesia yang menggunakan atau mempertimbangkan adopsi AI, perdebatan ini relevan karena menyentuh lanskap regulasi global yang akan membentuk ekosistem AI dalam beberapa tahun ke depan. Kebijakan soal chip, distilasi, dan safety testing yang lahir dari diskusi ini akan memengaruhi model apa saja yang tersedia, bagaimana model itu bisa digunakan secara legal, dan standar keamanan apa yang perlu dipenuhi sebelum sebuah model boleh dipakai dalam konteks bisnis maupun riset.

Sumber: https://www.anthropic.com/news/position-open-weights-models