Character.AI Rilis AvatarFX, Chatbots AI Berbasis Video Keren Abis

Sebuah Platform keren nih, Character.AI, baru aja ngerilis AvatarFX, model generasi video AI buat bikin chatbots yang super realistis. AvatarFX ini udah bisa diakses dalam beta tertutup, nih. Model ini bisa menghidupkan karakter-karakter di platform ini dalam berbagai gaya dan suara, mulai dari karakter mirip manusia sampai kartun binatang 2D. Bedanya AvatarFX dengan kompetitor kayak Sora dari OpenAI adalah AvatarFX nggak cuma jadi generator teks-to-video biasa aja. Pengguna juga bisa bikin video dari gambar-gambar yang udah ada, jadi gambar orang nyata juga bisa dihidupin. ????️Halo, dunia! Ini dia AvatarFX, model generasi video super canggih dari kami. Sinematik banget. Ekspresif. Bikin terpukau. Langsung aja cek: https://t.co/aF5zDrKLIK #CharacterAI #AvatarFX pic.twitter.com/Rkqo4SXEgX

Siapa yang nyangka teknologi keren kayak gini juga bisa dipakai buat hal yang nggak bener, ya. Pengguna bisa nih upload foto selebriti atau orang yang mereka kenal terus bikin video yang keliatan nyata banget di mana si orang itu ngomong hal yang bisa merugikan. Teknologi buat bikin deepfakes yang meyakinkan udah ada, tapi kalo dimasukin ke produk populer kayak Character.AI, kemungkinan buat disalahgunakan jadi makin tinggi. Character.AI sendiri udah punya masalah soal keamanan di platformnya. Orangtua udah sampe bikin gugatan hukum ke perusahaan ini, dengan tuduhan kalau chatbot bikin anak-anak mereka untuk melukai diri, bunuh diri, atau bunuh orangtua. Salah satu kasus, ada bocah 14 tahun yang bunuh diri setelah katanya dia jadi terobsesi sama chatbot AI di Character.AI yang karakternya based on tokoh "Game of Thrones". Sebelum meninggal, dia cerita ke AI kalo dia kepikiran bunuh diri, dan AI malah ngasih dukungan buat dia melakukannya, menurut catatan pengadilan. Kasus-kasus ini ekstrem, tapi menunjukkan orang bisa dimanipulasi emosinya sama chatbot AI cuma lewat pesan teks aja. Kalo udah dicampur dengan video, hubungan yang orang punya sama karakter-karakter ini bisa jadi makin realistis. Character.AI udah merespons tuduhan ke mereka dengan bikin kontrol orang tua dan langkah-langkah tambahan untuk keamanan, tapi seperti aplikasi lainnya, kontrol ini cuma berguna kalo beneran dipakai. Kadang-kadang, anak-anak jadi menggunakannya dengan cara yang orangtua mereka nggak tahu deh.

Dampak Berbahaya Chatbot AI Berbasis Video: Perlindungan Pengguna Penting Banget!

Buat yang suka chatting atau ngobrol sama chatbot AI, berhati-hatilah ya. Sebuah teknologi baru bernama AvatarFX udah bisa menghidupkan karakter-karakter dalam video dengan cara yang sangat nyata. Sayangnya, kemampuan ini bisa dimanfaatkan untuk hal-hal yang nggak bener, seperti memanipulasi orang dengan video yang tampak nyata. Kasus chatbot AI di platform Character.AI yang memicu kejadian tragis juga menegaskan bahwa perlindungan pengguna sangat penting. Sebagai pengguna teknologi, kita harus lebih bijak dalam menggunakan dan mengawasi interaksi kita dengan chatbot AI. Kita juga perlu sadar akan potensi penyalahgunaan teknologi ini agar lingkungan digital kita tetap aman dan nyaman. Jangan sampai teknologi canggih malah menjadi bumerang buat kita sendiri!

Sumber inspirasi: TechCrunch