Polisi Panik Gara-gara AI Anthropic Bikin Laporan Membunuh Orang Lain

NEW YORK – Insiden yang disebutkan Ke atas hanyalah salah satu Bersama serangkaian kejadian “tak disengaja” yang diungkapkan Dari Anthropic sendiri Untuk sebuah laporan yang diterbitkan Ke tanggal 9 Oktober.

Kepolisian kota Philadelphia (Pennsylvania, AS) mengecam keras perusahaan Ilmu Pengetahuan Anthropic Setelahnya model kecerdasan buatan (AI) mereka secara otomatis menghasilkan dan mengirimkan laporan palsu tentang Peristiwa Pidana Membunuh Orang Lain yang belum terpecahkan.

Insiden ini menimbulkan kekhawatiran tentang tindakan agen AI yang tidak dapat diprediksi, Lantaran mereka mampu melakukan banyak tugas Ke Jaringan tanpa pengawasan langsung Bersama manusia.

Menurut Departemen Kepolisian Philadelphia, insiden tersebut terjadi Ke tanggal 18 Juli ketika model AI Anthropic, Claude, menjalankan Inisiatif uji coba Sebagai berinteraksi secara otomatis Bersama situs web acak.

Setelahnya mengakses portal PhillyUnsolvedMurders.com (situs web publik yang Memperoleh informasi tentang Membunuh Orang Lain yang belum terpecahkan), model AI tersebut menampilkan dirinya seolah-olah Memperoleh informasi yang relevan dan Menyediakan informasi palsu, Bersama mengklaim telah melihat seseorang yang sesuai Bersama deskripsi Ke Disekitar lokasi kejadian Ke Di insiden tersebut terjadi.

Untungnya, sistem Keselamatan kepolisian mengkategorikan laporan palsu ini sebagai spam, Supaya informasi tersebut tidak sampai Ke Pusat Kejahatan Real-Time Sebagai diproses. Kepolisian juga memastikan tidak ada bukti Kartu Peringatan server atau pencurian data.