OpenAI Digugat Lagi: ChatGPT Diduga Picu Kekerasan & Pembunuhan

OpenAI kembali menjadi sorotan setelah dua kasus kekerasan yang melibatkan ChatGPT berujung pada gugatan hukum. Seorang korban stalking di AS menggugat perusahaan AI itu karena dianggap mengabaikan peringatan bahwa chatbot-nya dimanfaatkan pelaku untuk meneror. Sementara di Florida, ChatGPT diduga menjadi alat perencanaan penembakan massal yang menewaskan dua orang.

Dalam dokumen pengadilan yang dilaporkan TechCrunch, OpenAI disebut tiga kali menerima peringatan bahwa seorang pengguna ChatGPT membahayakan mantan kekasihnya. Sistem deteksi risiko perusahaan bahkan sempat menandai akun pelaku sebagai 'berpotensi kekerasan massal'. Namun, tidak ada tindakan lanjutan yang diambil hingga korban mengalami trauma psikologis berat.

Kasus terpisah di Florida semakin memperkeruh reputasi OpenAI. Jaksa Agung setempat telah membuka penyelidikan setelah ChatGPT diduga membantu perencanaan penembakan di kampus Florida State University April lalu. Keluarga salah satu korban menyatakan akan menuntut OpenAI atas kelalaian dalam memfilter konten berbahaya.

Pakar teknologi WarungWeb3 menilai ini menjadi ujian besar bagi ekosistem AI. "Ini bukan lagi soal hallucination atau bias, tapi langsung menyangkut nyawa manusia," jelas salah satu analis. OpenAI diharapkan segera memperketat guardrail model bahasanya, terutama untuk konteks kekerasan dan kriminal.

Kasus-kasus ini mungkin baru awal dari gelombang tuntutan hukum terhadap developer AI. Di Indonesia sendiri, Kominfo belum memiliki regulasi spesifik untuk menangani risiko penyalahgunaan AI generatif. Padahal, popularitas ChatGPT dan tools sejenis terus meroket di kalangan pengguna lokal.