Seorang ayah ditangkap polisi setelah mengirim pesan kepada ChatGPT ‘ingin membunuh anaknya’

Namun advokat yang mendampingi petani itu menyanggah seluruh tuduhan kepada kliennya. Dia menyebut kliennya “berbicara omong kosong” kepada chatbot dan tidak melakukan kejahatan apa pun.

Kasus ini menyoroti tantangan yang semakin besar bagi polisi, pengadilan, dan perusahaan AI: Apa yang harus terjadi ketika chatbot AI mengidentifikasi potensi ancaman sebelum kejahatan apa pun dilakukan?

Laki-laki di Brasil itu, yang namanya tidak disebut BBC untuk melindungi identitas putranya, ditangkap di daerah pedesaan São Gabriel da Palha, 19 Juni lalu.

Dia ditangkap tiga hari setelah unit kejahatan siber dari Kementerian Kehakiman Brasil merujuk kasus tersebut ke kepolisian setempat.

“Kami memprioritaskan kasus ini karena tingkat keseriusannya dan karena, diduga, sang ayah berencana membunuh putranya sebelum tanggal 20 Juni,” kata Brenno Andrade, kepala kantor polisi kejahatan siber di Espírito Santo.

Menurut Andrade, tersangka hampir tidak memiliki kontak dengan putranya, selain urusan membayar tunjangan anak.

Para penyidik ​​percaya, beban dan rasa kesal atas tanggung jawab itu mungkin menjadi salah satu motif dari dugaan rencana pembunuhan tersebut.

Selama penggeledahan terhadap rumah tersangka, polisi menemukan empat botol berisi zat yang tidak diketahui.

Polisi mengklaim juga menyita seutas tali yang diikat simpul, yang menurut petugas, dapat mengindikasikan niat bunuh diri.

Polisi menuduh tersangka berbicara dengan ChatGPT tentang kemungkinan serangan terhadap sekolah, gereja, dan petugas polisi.

Salah satu pesan, yang dilihat BBC, berbunyi: “Jika saya pergi ke sarang narkoba dan membunuh sekitar empat penjahat, saya akan menjadi terkenal di kota. Setelah itu, saya hanya perlu membunuh satu atau dua petugas polisi dan saya bisa mati dengan tenang.”

Pesan lain berbunyi: “Saya berpikir untuk membeli senjata api dan menembak polisi agar mereka bereaksi dan membunuh saya. Itu akan hebat dan baik untuk saya.”

Kepolisian mengatakan, laki-laki itu meneliti zat-zat beracun, termasuk ricin, dan mencoba mengakali langkah-langkah keamanan ChatGPT dengan mengubah susunan pertanyaan.

“Semua informasi yang diberikan platform kepada kami dikonfirmasi ketika polisi tiba di lokasi kejadian,” kata Andrade.

Pria itu membantah telah berniat mencelakai putranya.

Setelah 54 hari ditahan, dia dibebaskan pada 13 Agustus lalu karena masa tahanan yang telah berakhir. Belum ada dakwaan yang diajukan oleh kepolisian, tapi polisi berniat melanjutkan perkara ini.

Petani tersebut dikenai tindakan pencegahan, termasuk pemantauan elektronik dan larangan menghubungi putranya atau ibu anak tersebut.

Kepolisian menyebut sedang memeriksa ponsel tersangka dan menunggu hasil tes forensik pada barang-barang yang mereka sita.

Tujuannya, menentukan apakah tersangka itu mengambil langkah konkret untuk melaksanakan rencana apa pun, termasuk menghubungi pembunuh bayaran, seperti yang diduga diklaimnya dalam percakapan dengan ChatGPT.

Menurut polisi, bukti-bukti ini dapat membantu menentukan apakah tersangka beralih dari perencanaan dan persiapan kejahatan ke pelaksanaannya.

Dalam hukum pidana Brasil, kejahatan biasanya dianggap telah dilakukan hanya pada tahap pelaksanaan.

Pihak pembela berpendapat bahwa tidak ada tindakan yang diambil dalam hal ini.

“Jika berbicara dengan AI dan mengatakan hal-hal bodoh adalah kejahatan, semua orang akan masuk penjara,” kata pengacara Pedro Paulo Pessi, kepada BBC News Brazil.

Perusahaan AI yang melaporkan penggunanya ke polisi diyakini sangat jarang terjadi.

Agustus lalu, OpenAI melaporkan seorang laki-laki berusia 25 tahun di Florida ke FBI. Dia berbagi rencananya untuk memperkosa dan membunuh mantan pacarnya dengan chatbot ChatGPT, menurut laporan media massa di AS.

Andrade, dari kepolisian Espírito Santo, mengatakan bahwa kasus petani tersebut adalah peringatan pertama terhadap kejahatan yang dihasilkan oleh kecerdasan buatan.

Kasus seperti itu baru pertama kali terjadi di Espírito Santo dan yang ketiga di Brasil.

“Ini adalah cara lain bagi polisi untuk mencoba mencari tahu apakah orang telah menyelidiki kejahatan menggunakan kecerdasan buatan,” kata Andrade.

Namun, ada beberapa keraguan, termasuk apakah pesan-pesan tersebut dapat digunakan sebagai bukti di pengadilan.

Menurut para peneliti, OpenAI memberikan detail pengguna dan pesan yang mereka kirim. Namun perusahaan itu tidak melaporkan tanggapan yang disampaikan chatbot ChatGPT.

“Kami tidak menerima jawaban yang diberikan,” kata Andrade.

Pengacara kriminal, Maíra Fernandes, menilai situasi ini menimbulkan masalah pembuktian karena konteks pesan sangat penting.

“Tidak bisa hanya berupa potongan kecil, tidak bisa juga versi yang diedit. Harus berupa percakapan lengkap,” katanya.

Menurut Fernandes, melihat percakapan lengkap antara tersangka dan ChatGPT dapat membantu menentukan apakah chatbot tersebut hanya bereaksi terhadap apa yang dikatakan pengguna atau secara aktif memengaruhi percakapan.

Dalam pernyataan kepada BBC News Brazil, perusahaan tersebut menolak untuk menjelaskan mengapa mereka tidak menyerahkan respons chatbot ChatGPT kepada kepolisian.

ChatGPT mengklaim akan memberi tahu pihak berwenang penegak hukum ketika mendeteksi “risiko bahaya yang kredibel dan segera terhadap pihak ketiga.”

April lalu, otoritas negara bagian Florida di AS membuka penyelidikan kriminal terhadap OpenAI. Mereka hendak mencari tahu apakah ChatGPT berhubungan dengan pembunuhan dua orang selama penembakan massal di Florida State University pada 2025.

OpenAI membantah tuduhan tersebut. Mereka mengklaim telah memberikan informasi yang sudah tersedia untuk umum dan tidak mendorong atau mempromosikan kegiatan ilegal.

Advokat Maíra Fernandes mengatakan, fakta bahwa korban dalam kasus di Brasil adalah anak di bawah umur dapat membantu menjelaskan peringatan tersebut.

Namun, Fernandes memperingatkan bahaya jika kepolisian menormalisasi penyelidikan yang hanya didasarkan pada penilaian AI.

“Siapa pun dapat diselidiki karena kecerdasan buatan menafsirkannya seperti itu,” ujarnya.

Fernandes berpendapat, langkah-langkah perlindungan diperlukan untuk membedakan ancaman nyata dari ekspresi pelepasan emosi, fantasi, atau pernyataan provokatif.

Patricia Peck, seorang profesor dan spesialis hukum digital, menilai kasus ini mencerminkan perubahan yang lebih luas dalam peran AI.

Kecerdasan buatan, menurutnya, beralih dari alat membuat konten menjadi sistem interaktif “yang mampu mengidentifikasi pola terkait perilaku yang berpotensi berujung pada kejahatan.”

Peck berpendapat, dalam keadaan tertentu, perusahaan AI memiliki kewajiban hukum untuk memberi tahu pihak berwenang.

“Ketika sebuah percakapan merepresentasikan niat abstrak semata dan mulai menunjukkan ancaman yang nyata, dan jika korban dapat diidentifikasi… maka timbul kewajiban etis, dan dalam keadaan tertentu, kewajiban hukum untuk bertindak,” katanya.

Namun, seperti Fernandes, Peck juga memperingatkan terhadap penggunaan AI yang berlebihan.

“Etika yang diterapkan pada AI seharusnya tidak didasarkan pada logika ‘memantau semuanya’, melainkan pada logika ‘campur tangan hanya ketika risikonya membenarkannya’.”

“Tantangannya adalah menghindari baik kelalaian maupun pengawasan yang berlebihan.”