३ कोटी लोकांची फसवणूक झाली; कविता वाचणारी सुंदर "मुलगी" AI मॉडेल निघाली
एआयच्या या युगात काय चालले आहे? लोक एआयचा वापर करून असे पराक्रम करत आहेत की श्रोते आणि प्रेक्षक दोघेही थक्क होतात. अलिकडेच, एक प्रकरण समोर आले ज्यामुळे सर्वांनाच धक्का बसला. लाखो लोकांनी लाईक आणि कमेंट केलेल्या अलिकडच्या कविता व्हिडिओला नंतर एआय-जनरेटेड असल्याचे उघड झाले. या व्हिडिओने केवळ प्रेक्षकांना धक्काच दिला नाही तर एआयशी संबंधित विश्वास, ओळख आणि कॉपीराइटबद्दलही प्रश्न उपस्थित केले.
३ कोटी व्ह्यूज असलेला व्हिडिओ एआय असल्याचे निष्पन्न झाले: खरं तर, ३ कोटी व्ह्यूज असलेला व्हिडिओ इंस्टाग्रामवर "तन्वी जोशी" नावाच्या प्रोफाइलवरून शेअर करण्यात आला होता, ज्यामध्ये पिवळ्या कुर्ता घातलेली एक महिला स्टेजवर उर्दू कविता वाचताना दिसत आहे. या कवितेत लिहिले होते, "एका उच्चभ्रू कुटुंबातील अभिजात लोक सौम्य स्वभावाचे असतात... तुमचा स्वर तुमची संपत्ती नवीन आहे हे दाखवतो." या व्हिडिओला एका दिवसात ३ कोटींहून अधिक व्ह्यूज मिळाले. लोकांनी कवितेचे कौतुक करायला सुरुवात केली आणि त्याचा अर्थ आणि उच्चार यावर चर्चा करायला सुरुवात केली.
तथापि, नंतर असे दिसून आले की ती खरी व्यक्ती नसून एक एआय मॉडेल होती. या प्रोफाइलवरील व्हिडिओंमधील चेहरा परिपूर्ण दिसतो आणि व्हिडिओनुसार आवाज वेगवेगळा असतो. याचा अर्थ लाखो लोकांनी व्हर्च्युअल व्यक्तीच्या व्हिडिओला खरा समजले. या प्रकरणात आणखी एक धक्कादायक खुलासा समोर आला आहे.
व्हायरल व्हिडिओमध्ये वापरलेला आवाज ठाणे महानगरपालिकेच्या नगरसेविका मर्जिया शानू पठाण यांचा होता. काही दिवसांपूर्वी, तिने इंस्टाग्रामवर एका कार्यक्रमात तीच कविता वाचतानाचा व्हिडिओ पोस्ट केला होता, ज्याला जवळजवळ ९,००,००० व्ह्यूज मिळाले. जेव्हा एआय व्हिडिओ व्हायरल झाला तेव्हा तिने टिप्पणी केली, "अरे, हा माझा आवाज आहे." तेव्हा लोकांना कळले की व्हायरल व्हिडिओमध्ये तिचा आवाज वापरण्यात आला आहे.
