Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Anthropic Memperbarui Kebijakan Claude untuk Meningkatkan Keamanan AI

Pengembang model Claude Anthropic mengumumkan pembaruan penting dalam Usage Policy yang mengatur penggunaan Claude. Pembaruan kebijakan ini diperkenalkan pada 8 Oktober 2026 dan direncanakan mulai diterapkan pada 12 November 2026. Mengacu pada informasi resmi pengembang, mayoritas penyesuaian dimaksudkan untuk menjabarkan larangan sebelumnya. Hal ini menjadi relevan seiring kemampuan Claude yang terus berkembang. Akibat bertambahnya penerapan Claude pada berbagai bidang, tantangan keamanan menjadi semakin kompleks.

Dalam perkembangan sebelumnya, pemanfaatan asisten kecerdasan buatan lebih banyak digunakan untuk menyusun tulisan. Seiring kemajuan teknologi, agen kecerdasan buatan dirancang agar mampu menghubungkan berbagai layanan. Perkembangan ini memberikan manfaat produktivitas, tetapi di sisi lain menghadirkan kemungkinan penyalahgunaan ketika agen AI memperoleh akses yang tidak sesuai. Dengan mempertimbangkan perubahan kemampuan model, Anthropic menambahkan panduan penerapan kebijakan agar pengembang mengetahui batas penggunaan. Aturan penggunaan ini tidak dimaksudkan menghentikan penggunaan AI yang sah, melainkan menitikberatkan pada pencegahan risiko.

Kebijakan Claude Melarang Penyalahgunaan Akun Palsu dan Disinformasi

Salah satu perubahan utama adalah penyusunan bagian khusus tentang kampanye manipulatif. Anthropic memperkenalkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk mempertegas ketentuan terhadap aktivitas digital yang menyembunyikan identitas pengirim. Melalui aturan ini, Claude dilarang dimanfaatkan dalam mengembangkan infrastruktur operasi pengaruh yang menipu. Larangan tersebut ditujukan terhadap aktivitas komersial maupun politik. Dalam situasi tertentu, pembuatan akun yang berpura-pura menjadi masyarakat biasa bertentangan dengan ketentuan penggunaan apabila digunakan untuk memanipulasi persepsi. Melalui penegasan ini, organisasi memiliki acuan mengenai larangan manipulasi menggunakan kecerdasan buatan.

Selain mengatur kampanye manipulatif, Anthropic juga memperbarui ketentuan yang mengatur proses demokrasi. Aturan mengenai pemilihan umum telah diberi judul Do Not Undermine Democratic Processes untuk menekankan larangan manipulasi aktivitas demokrasi. Aktivitas yang tidak diperbolehkan antara lain upaya menyesatkan warga mengenai cara memilih. Di sisi lain, Anthropic menghapus larangan menyeluruh terhadap penargetan pesan pemilu secara umum. Keputusan perusahaan tersebut dimaksudkan agar komunikasi kewargaan yang tidak menipu. Meskipun pembatasan umum dikurangi, aktivitas menyesatkan tetap berada dalam batas larangan.

Aturan Claude tentang Senjata dan Pengawasan Semakin Diperjelas

Dalam aspek keamanan fisik, Anthropic menegaskan kembali larangan pemanfaatan AI untuk menciptakan sistem persenjataan. Perusahaan menjelaskan bahwa ketentuan tidak terbatas pada pembuatan senjata secara fisik. Komponen digital bagi sistem senjata tetap berada dalam aktivitas yang dilarang. Contohnya, pembuatan sistem yang mempersenjatai drone termasuk tindakan terlarang. Menurut Anthropic, pembaruan ini memperjelas batas penggunaan yang sebelumnya berlaku. Melalui ketentuan tersebut, organisasi harus mempertimbangkan fungsi perangkat lunak yang dikembangkan.

Sementara dalam bidang pengawasan, Anthropic memperjelas pembatasan terhadap pengawasan orang yang tidak memberikan izin. Larangan tersebut berlaku untuk pengawasan waktu nyata dan analisis rekaman terdahulu. Selain itu, Claude tidak diperkenankan menjalankan penentuan orang yang harus diselidiki dalam proses penegakan hukum. Walaupun terdapat pembatasan ketat, pengawasan yang memiliki dasar izin sah masih dapat diperbolehkan. Aktivitas yang dijelaskan perusahaan meliputi penelitian hukum dan kegiatan jurnalistik. Ketentuan tersebut membantu memperjelas penggunaan teknologi yang sah.

Anthropic Menetapkan Pengawasan Manusia pada Penggunaan Claude Berisiko Tinggi

Pembaruan kebijakan Claude menegaskan penerapan persyaratan penggunaan berisiko tinggi. Ketentuan khusus ini berkaitan dengan penggunaan AI yang dapat memengaruhi kesehatan, kesempatan bekerja, dan layanan penting. Apabila penggunaan memenuhi kriteria tertentu, Anthropic mewajibkan keterlibatan peninjau manusia yang kompeten. Melalui pengaturan ini, petugas yang memiliki kompetensi perlu memiliki kemampuan mengevaluasi serta mengubah rekomendasi AI bila diperlukan. Selain itu, individu yang terdampak wajib mendapatkan informasi bahwa rekomendasi melibatkan kecerdasan buatan.

Sebagai contoh, sistem AI yang memengaruhi keputusan pekerjaan mungkin harus menerapkan mekanisme evaluasi sebelum tindakan. Pengawasan ini dimaksudkan mengurangi ketergantungan penuh terhadap AI. Pendekatan ini perlu diperhatikan mengingat rekomendasi AI masih memiliki keterbatasan. Sebagai penjelasan penting, persyaratan tersebut bukan aturan baru sepenuhnya. Perusahaan lebih berfokus menjabarkan jenis penggunaan yang termasuk kategori berisiko tinggi. Berkat penyempurnaan aturan, penyedia layanan bisa mengevaluasi langkah keamanan sebelum menggunakan Claude secara luas.

Claude Memiliki Aturan Baru untuk Robot dan Perangkat Otonom

Melalui kemajuan kecerdasan buatan otonom, perangkat lunak AI modern memungkinkan penggunaan bersama robot dan perangkat keras. Penerapan teknologi tersebut memberikan kesempatan untuk otomatisasi industri, tetapi juga menimbulkan risiko keselamatan. Berdasarkan aturan yang disempurnakan, Anthropic menetapkan ketentuan bagi integrasi model dengan hardware yang bergerak apabila perangkat tersebut dapat menimbulkan cedera. Persyaratan ini dimaksudkan untuk mendukung kendali operasional ketika terjadi masalah.

Salah satu persyaratan utama adalah keterlibatan manusia dengan kewenangan operasional yang mampu memantau gerakan mesin. Operator tersebut perlu diberi kewenangan untuk mengintervensi tindakan perangkat. Sebagai perlindungan tambahan, mesin yang menggunakan Claude perlu mendukung keadaan aman apabila koneksi ke Claude terputus. Artinya, sistem memerlukan cara mempertahankan keselamatan ketika komunikasi mengalami kegagalan. Pengaturan demikian memiliki nilai keselamatan tinggi dalam otomatisasi fisik yang berinteraksi dengan manusia.

Masa Depan Penggunaan Claude yang Aman dan Bertanggung Jawab

Perubahan Usage Policy Claude menunjukkan peran aturan dalam pengembangan kecerdasan buatan yang lebih terarah. Dengan pembaruan yang diumumkan, Anthropic memperjelas pembatasan terhadap penipuan berbasis AI, aktivitas yang merusak pemilu, serta pengembangan senjata dan pengawasan tanpa izin. Pengembang Claude turut memperinci persyaratan perlindungan pada aplikasi berisiko tinggi. Tidak hanya berfokus pada dampak eksternal, ketentuan mengenai perilaku kasar yang ekstrem dan berulang menjadi bagian baru dalam pedoman perilaku pengguna. Meskipun demikian, kritik biasa dan pengujian model tetap diperbolehkan. Menurut Anda, apakah pengawasan teknologi AI yang semakin ketat akan mendorong pengembangan sistem yang lebih bertanggung jawab? Mari berbagi pemikiran mengenai masa depan keamanan kecerdasan buatan.