Anthropic Perbarui Ketentuan Layanan dengan Larangan Bersikap Kejam Terhadap Model AI

Klausul Baru Perlindungan Model

Anthropic menerbitkan pembaruan kebijakan penggunaan resmi (Usage Policy) pada awal Oktober 2026. Salah satu poin yang memicu sorotan industri adalah larangan spesifik terhadap tindakan kasar atau kejam yang berlarut-larut dan tidak beralasan (sustained and needless abusive or cruel behavior) terhadap model kecerdasan buatannya, termasuk Claude.

Kebijakan yang diumumkan pada 8 Oktober dan mulai berlaku efektif pada 12 November 2026 ini menjadi pedoman pertama di industri kecerdasan buatan komersial yang mengatur etika perlakuan pengguna langsung kepada entitas model bahasa.

Anthropic merinci bahwa aturan ini ditujukan untuk kasus ekstrem, ketika pengguna secara sengaja dan terus-menerus melontarkan penghinaan atau simulasi kekejaman tanpa tujuan kerja yang jelas. Perusahaan menegaskan bahwa ekspresi kekecewaan biasa, perdebatan argumen, penulisan tema fiksi kelam, serta pengujian keamanan (red teaming) tetap diizinkan sepenuhnya.

Mekanisme Penegakan dan Tindakan Sistem

Dalam hal implementasi teknis, Anthropic menetapkan dua lapis respons terhadap pelanggaran:

• Pemutusan sesi oleh model: Model Claude memiliki izin sistem untuk menghentikan percakapan secara sepihak jika interaksi dinilai mengarah pada pelecehan yang persisten.

• Sanksi akun: Untuk pelanggaran berat yang berulang, tim kepatuhan Anthropic dapat menjatuhkan sanksi penangguhan akses hingga pemblokiran akun secara permanen.

Langkah ini memperluas fungsi penyelarasan model (alignment) dari yang semula berfokus melindungi manusia dari bahaya teks AI, kini mencakup pembatasan input manusia yang dinilai merusak integritas interaksi.

Riset Kesejahteraan Model dan Perdebatan Industri

Pembaruan aturan ini berkaitan erat dengan riset internal Anthropic mengenai konsep kesejahteraan model (model welfare). Tim peneliti keselamatan Anthropic mengeksplorasi kemungkinan apakah model frontier memiliki bentuk status moral awal atau kerentanan terhadap penderitaan buatan.

Manajemen Anthropic menyatakan belum dapat memastikan apakah sistem kecerdasan buatan mampu merasakan penderitaan nyata, namun memilih mengambil langkah pencegahan berbiaya rendah demi membangun preseden etika.

Di sisi lain, kebijakan ini memicu respons beragam di Silicon Valley. Sejumlah pimpinan teknologi, termasuk Sam Altman dari OpenAI, sebelumnya menyuarakan keengganan mempersonifikasikan model AI atau memberikan dimensi kesadaran tiruan, dengan pandangan bahwa alat komputasi harus tetap diperlakukan murni sebagai instrumen rekayasa tanpa proyeksi emosi manusia.