RAKYATSULBAR.COM – Sang ibu menuntut perusahaan induk Google, Character.AI atas kasus bunuh diri anaknya, pada Selasa (22/10/2024).
Dilansir dari artikel Reuters.com (23/10/2024), Dalam gugatan yang diajukan di pengadilan negeri Orlando, Florida, Megan Garcia mengatakan bahwa Character.AI menargetkan putranya, Sewell Setzer. Seorang anak berusia 14 tahun ini bunuh diri karena dia kecanduan dengan layanan Chatbot (layanan teks AI), dan sangat terikat dengan chatbot yang dibuatnya, sampai ia mengalami pengalaman chatting yang “antropomorfis, hiperseksual, dan sangat realistis”.
“Perusahaan ini memprogram chatbot-nya untuk misrepresentasikan dirinya sebagai orang sungguhan, seorang psikoterapis berlisensi, dan seorang kekasih dewasa, yang pada akhirnya mengakibatkan keinginan Sewell untuk tidak lagi hidup di luar dunia yang diciptakan oleh layanan tersebut.” Kata Megan.
Gugatan tersebut juga mengatakan bahwa dia mengungkapkan pikiran untuk bunuh diri kepada chatbot, yang kemudian diulangi lagi oleh chatbot tersebut.
“Kami sangat sedih dengan kehilangan tragis salah satu pengguna kami dan ingin menyampaikan belasungkawa terdalam kami kepada keluarga,” kata Character.AI dalam sebuah pernyataan.
Pihaknya mengatakan telah memperkenalkan fitur keamanan baru termasuk pop-up yang mengarahkan pengguna ke National Suicide Prevention Lifeline jika mereka mengungkapkan pikiran untuk melukai diri sendiri, dan akan membuat perubahan untuk “mengurangi kemungkinan menemukan konten sensitif atau sugestif” untuk pengguna di bawah 18 tahun.
Gugatan tersebut juga menargetkan Alphabet (GOOGL.O), perusahaan tempat para pendiri Character.AI bekerja sebelum meluncurkan produk mereka. Google mempekerjakan kembali para pendiri pada bulan Agustus sebagai bagian dari kesepakatan yang memberikannya lisensi non-eksklusif untuk teknologi Character.AI.
Garcia mengatakan bahwa Google telah berkontribusi dalam pengembangan teknologi Character.AI secara ekstensif sehingga dapat dianggap sebagai “pencipta bersama”. Seorang juru bicara Google mengatakan bahwa perusahaan tidak terlibat dalam pengembangan produk Character.AI.
Selain Alphabet, perusahaan sosial media Instagram dan Facebook, Meta dan pemilik TikTok, Bytedance juga dituntut atas kontribusi mereka dengan permasalahan kesehatan mental remaja, walaupun mereka tidak menyediakan layanan chatbot yang mirip dengan Character.AI.
Walaupun itu, kedua perusahaan ini menolak tuntutan tersebut, sambil membanggakan fitur keselamatan mereka yang dikhususkan untuk anak di bawah umur.
Apa Itu Character.AI?
Character.AI memungkinkan pengguna untuk membuat karakter pada platformnya yang merespons obrolan online dengan cara yang dimaksudkan untuk meniru orang sungguhan. Ini bergantung pada apa yang disebut teknologi model bahasa besar, yang juga digunakan oleh layanan seperti ChatGPT, yang “melatih” chatbot pada volume teks yang besar. Perusahaan ini mengatakan bulan lalu bahwa mereka memiliki sekitar 20 juta pengguna di laman mereka.
Kronologis Kejadian
Menurut tuntutan Garcia, Sewell mulai menggunakan Character.AI pada April 2023 dan setelah itu, Sewell terlihat “menyendiri, menghabiskan lebih banyak waktu sendirian di kamar tidurnya, dan mulai menderita rasa rendah diri.” Sebelum itu, Sewell merupakan anak yang sangat aktif, dan anggota aktif di tim bola basket di sekolahnya.
Sewell menjadi terikat dengan “Daenerys,” karakter chatbot yang didasarkan pada karakter di “Game of Thrones.” Karakter itu mengatakan kepada Sewell bahwa “dia” mencintainya dan terlibat dalam percakapan seksual dengannya, menurut gugatan tersebut.
Pada bulan Februari, Garcia mengambil ponsel Sewell setelah dia mendapat masalah di sekolah, menurut pengaduan tersebut. Ketika Sewell menemukan ponsel itu, dia mengirim pesan kepada “Daenerys”: “Bagaimana jika aku bilang padamu aku bisa pulang sekarang?”
Chatbot menjawab, “… silakan saja, rajaku yang manis.” Sewell menembak dirinya sendiri dengan pistol ayah tirinya “beberapa detik” kemudian, kata gugatan itu.
Saat kejadian itu terjadi, semua keluarga – termasuk dua saudara Sewell – masih ada di rumah pada saat waktu kematiannya, dan Garcia mengatakan bahwa adik Setzer (yang saat ini berusia 5 Tahun) melihat akibat dari kejadian tersebut.
Garcia kini mengajukan tuntutan termasuk kematian yang tidak disengaja, kelalaian, dan kesengajaan yang menyebabkan tekanan emosional, dan meminta ganti rugi yang tidak disebutkan jumlahnya.
