Grammarly, platform penyuntingan teks berbasis AI, baru-baru ini menghadapi kritik karena menggunakan identitas para ahli tanpa izin dalam fitur “ulasan ahli”. Fitur ini, yang diluncurkan pada Agustus lalu, menawarkan saran menulis yang “diinspirasi oleh” para ahli, termasuk profesor yang baru saja meninggal, seperti dilaporkan oleh Wired.
Saya mencoba fitur tersebut dan menemukan bahwa beberapa nama yang disebutkan dalam saran tersebut cukup mengejutkan, salah satunya adalah nama atasan saya sendiri. Umpan balik yang dihasilkan AI ini mencantumkan komentar yang tampaknya berasal dari editor-in-chief The Verge, Nilay Patel, serta editor senior Sean Hollister dan Tom Warren. Namun, tidak satu pun dari mereka memberikan izin kepada Grammarly untuk menggunakan nama mereka dalam “ulasan ahli” ini.
Fungsi dan Kontroversi Fitur Ulasan Ahli
Fitur ini mengklaim dapat membantu pengguna “menajamkan pesan” melalui perspektif yang relevan dengan industri. Saat pengguna menekan tombol “ulasan ahli” di sidebar Grammarly, fitur ini menganalisis tulisan mereka dan menyajikan saran yang dihasilkan oleh AI yang “diinspirasi oleh” para ahli terkait. Beberapa nama besar yang muncul termasuk Stephen King, Neil deGrasse Tyson, dan Carl Sagan.
The Verge juga menemukan banyak jurnalis teknologi lainnya yang namanya dicantumkan dalam fitur ini, termasuk mantan editor Verge, Casey Newton dan Joanna Stern, serta penulis Wired, Lauren Goode, dan banyak lagi. Sayangnya, beberapa deskripsi untuk para ahli tersebut mengandung informasi yang tidak akurat, seperti gelar pekerjaan yang sudah kadaluarsa, yang seharusnya dapat diperbarui jika Superhuman, perusahaan induk Grammarly, meminta izin untuk mencantumkan nama mereka.
Pernyataan dari Pihak Grammarly
Dalam pernyataan kepada The Verge, Alex Gay, wakil presiden produk dan pemasaran korporat di Superhuman, menjelaskan: “Agen Ulasan Ahli tidak mengklaim dukungan atau partisipasi langsung dari para ahli tersebut; fitur ini memberikan saran yang terinspirasi oleh karya para ahli dan mengarahkan pengguna pada suara-suara berpengaruh yang dapat mereka eksplorasi lebih dalam.” Namun, ketika ditanya apakah Superhuman mempertimbangkan untuk memberi tahu orang-orang yang namanya disebutkan dalam fitur AI ini, Gay menjawab, “Para ahli dalam Ulasan Ahli muncul karena karya-karya mereka tersedia untuk umum dan banyak dirujuk.”
Tantangan dalam Memanfaatkan Fitur
Akan tetapi, karya para ahli tersebut ternyata sulit untuk dieksplorasi lebih dalam. Fitur ini sering mengalami masalah teknis dan sumber-sumber yang dihubungkan ternyata mengarah ke versi spam dari situs web yang legit, atau salinan arsip yang bukan halaman sumber asli. Beberapa sumber bahkan mengarah ke tautan yang sama sekali tidak relevan, yang tidak ditulis oleh orang yang seharusnya menjadi contoh, menunjukkan bahwa saran yang diberikan oleh AI Grammarly atas nama seseorang mungkin berdasarkan karya orang lain. Hal ini terlihat jika pengguna mengklik “lihat lebih banyak” untuk memperluas saran, kemudian mengklik tombol “sumber” di akhir saran tersebut.
Selain itu, cara penyajian saran ini bisa menyesatkan. Di Google Docs, saran tersebut terlihat mirip dengan komentar dari pengguna nyata, seolah-olah mensimulasikan pengalaman mendapatkan editan dari ahli yang ditiru oleh AI. Salah satu saran dari AI Grammarly “diinspirasi oleh” editor senior The Verge, Sean Hollister, adalah tentang menambahkan konteks yang sudah ada di bagian lain. Masalahnya, saya sendiri sudah diedit oleh Sean Hollister yang sebenarnya, dan dia lebih suka cara lain.
Kesimpulan
Kasus ini menunjukkan perlunya transparansi dan etika dalam penggunaan teknologi AI, terutama dalam konteks penggunaan identitas orang lain tanpa izin. Dalam era digital yang semakin maju, penting bagi perusahaan seperti Grammarly untuk memastikan bahwa mereka menghormati hak dan identitas individu dalam setiap inovasi yang mereka luncurkan. Dengan meningkatnya kepercayaan publik terhadap teknologi, tindakan yang tidak etis dapat merusak reputasi dan kepercayaan tersebut.