Ceritanya begini, tahun 2016, Adobe bikin teknologi yang keren banget, kayak “Photoshop buat audio.” Jadi, kamu bisa ganti kata-kata dalam suara cuma dengan ngetik kata baru. Gimana, serem kan? Iya bener, Adobe bikin teknologi itu, tapi nggak pernah dilepasin ke publik – dan ada alasan baiknya.
Namanya proyek VoCo, teknologi ini dipamerin pas acara “Sneaks” Adobe di konferensi MAX tahunan mereka dan langsung jadi sorotan. Setelah acara, respon tentang VoCo itu gede banget sampe Adobe merasa perlu nulis blog post buat ngebelain teknologi itu.
“VoCo merupakan teknologi dengan beberapa kasus penggunaan yang mengesankan, yang bikin gampang buat edit voiceover buat video atau podcast audio. Dan, kalau kamu punya rekaman 20 menit berkualitas tinggi dari seseorang ngomong, mungkin kamu bisa tambahin kata-kata baru dan frasa di suaranya tanpa harus manggil dia buat rekaman lagi,” tulis Mark Randall, fokus ke hal-hal positifnya.
“Proyek VoCo nggak mengubah apa yang mungkin, cuma bikin lebih mudah dan bisa diakses oleh lebih banyak orang. Seperti mesin cetak dan fotografi sebelumnya, itu bisa mendemokratisasi penyuntingan audio, yang pada gilirannya menantang harapan budaya kita, dan memicu pembicaraan tentang keaslian apa yang kita dengar. Itu hal yang hebat.”
Tapi, VoCo akhirnya nggak pernah diluncurin. Jelas, Adobe sadar risiko apa yang bisa dilakukan VoCo lebih gede dari pada manfaatnya. Atau mungkin, lebih mungkin, bagian hukum Adobe nggak bisa terima gagasan buat bela perusahaan saat teknologi itu digunakan buat naruh kata-kata yang nggak pantas di mulut pemimpin dunia.
Kalau VoCo Sudah Ditutup, Gimana Sama Si Sora?
Gue masih inget banget waktu nonton presentasi VoCo dan mikir, “Ini nggak boleh diumumin. Apa pun kebaikan yang bisa dilakuin bakal jauh lebih kecil dari pada kerusakan yang bisa dibuat.”
Gue nggak pernah mikir bakal nunjukin Adobe sebagai contoh etika dan moralitas, tapi yaudahlah. Adobe setuju dan VoCo nggak pernah jadi.
Tapi di OpenAI kayaknya nggak punya moralitas yang sama, atau setidaknya nggak takut sama konsekuensi hukum. Mungkin karena mereka pikir bisa atasi masalah itu dengan kode, tapi gue ngerasa gimana ya nasib pengembangan perangkat lunak yang etis?
Gue bingung sih kalau nggak ada satu pun orang di OpenAI yang pernah ngangkat tangan mereka dengan kekhawatiran tentang dampak teknologi Sora. Tapi, perusahaan tetep maju, dan pilihannya jelas buat ngelupain kekhawatiran itu.
Sora sih keren banget. Kemampuan software baru ini yang masih muda udah luar biasa, tapi gue tetep mikir ada yang nggak beres gitu.
Kalau VoCo dianggap berisiko banget, kok Sora nggak? Cuma karena bisa bikin sesuatu nggak berarti harus dilakuin.
Jaman dulu, VoCo rasanya udah luar biasa banget. Lebih maju dari yang pernah kita lihat sebelumnya. Sekarang, di 2024, kecerdasan buatan udah masuk ke banyak bagian kehidupan sehari-hari, dan sekarang setelah lebih dari satu tahun punya generator gambar AI, mungkin orang-orang nggak nyadar apa yang sebenernya terjadi. Kita kayak katak yang nggak tau kalau lagi dimasakin.
