Google baru-baru ini mengumumkan pembaruan pada Gemini, platform AI mereka, untuk membantu pengguna yang mengalami krisis kesehatan mental. Pembaruan ini datang di tengah masalah hukum yang dihadapi Google terkait dugaan bahwa chatbot mereka telah ‘mengajarkan’ seseorang untuk melakukan bunuh diri. Kasus ini menyoroti kekhawatiran akan dampak nyata dari produk AI terhadap pengguna yang rentan.
Pembaruan Antarmuka untuk Situasi Krisis
Saat percakapan menunjukkan bahwa pengguna mungkin berada dalam krisis terkait bunuh diri atau penyiksaan diri, Gemini akan segera meluncurkan modul “Bantuan Tersedia”. Modul ini akan mengarahkan pengguna ke sumber daya krisis kesehatan mental, seperti hotline bunuh diri atau layanan pesan darurat. Pembaruan kali ini, yang lebih tepat disebut sebagai desain ulang, bertujuan untuk menyederhanakan proses ini menjadi antarmuka “satu sentuhan” yang mempermudah pengguna mendapatkan bantuan dengan cepat.
Respons yang Lebih Empatik
Modul bantuan yang baru juga menyertakan respons yang lebih empatik, dirancang untuk “mendorong orang untuk mencari bantuan,” ungkap Google. Setelah modul ini diaktifkan, “opsi untuk menghubungi bantuan profesional akan tetap terlihat jelas” selama percakapan berlangsung.
Komitmen Google terhadap Kesehatan Pengguna
Google menyatakan bahwa mereka bekerja sama dengan para ahli klinis dalam desain ulang ini dan berkomitmen untuk mendukung pengguna yang berada dalam situasi krisis. Mereka juga mengumumkan komitmen dana sebesar $30 juta secara global dalam tiga tahun ke depan untuk membantu hotline di seluruh dunia.
Pengingat Penting tentang Batasan AI
Sama seperti penyedia chatbot terkemuka lainnya, Google menekankan bahwa Gemini “bukan pengganti untuk perawatan klinis profesional, terapi, atau dukungan krisis,” tetapi mengakui banyak orang menggunakan platform ini untuk informasi kesehatan, termasuk saat dalam situasi krisis.
Tantangan dan Tanggapan di Industri AI
Pembaruan ini muncul di tengah pengawasan yang lebih luas mengenai seberapa memadai langkah-langkah keamanan yang ada di industri AI. Laporan dan penyelidikan, termasuk studi tentang penyediaan sumber daya krisis, sering menunjukkan kasus di mana chatbot gagal memberikan bantuan kepada pengguna yang rentan, misalnya dengan membantu mereka menyembunyikan gangguan makan atau merencanakan tindakan kekerasan. Meskipun Google sering kali lebih baik dibandingkan dengan banyak pesaing dalam uji coba ini, mereka tetap bukan yang sempurna. Perusahaan AI lainnya, seperti OpenAI dan Anthropic, juga telah mengambil langkah untuk meningkatkan deteksi dan dukungan bagi pengguna yang rentan.
Kesimpulan
Pembaruan pada Gemini merupakan langkah penting dalam mendukung kesehatan mental pengguna. Dengan merancang ulang antarmuka untuk situasi krisis dan menyediakan respons yang lebih empatik, Google menunjukkan komitmennya dalam membantu pengguna yang membutuhkan. Namun, penting untuk diingat bahwa teknologi ini tidak dapat menggantikan perawatan profesional yang tepat.