स्कैमर्स एआई वॉइस का इस्तेमाल कर रहे हैं ताकि प्रियजनों का रूप धारण कर लाखों की चोरी की जा सके

तकनीक की दुनिया में कुछ समय के लिए AI एक केंद्रीय विषय रहा है, क्योंकि Microsoft अपने उत्पादों को ChatGPT के साथ जारी रखता है और Google अपने स्वयं के AI उत्पादों को आगे बढ़ाने का प्रयास करता है। जबकि एआई में कुछ वास्तविक प्रभावशाली चीजें करने की क्षमता है – जैसे पाठ की एक पंक्ति के आधार पर छवियां उत्पन्न करना – हम बमुश्किल विनियमित प्रौद्योगिकी के नकारात्मक पक्ष को और अधिक देखना शुरू कर रहे हैं। इसका ताजा उदाहरण एआई वॉइस जेनरेटर है, जिसका इस्तेमाल लोगों को उनके पैसे से ठगने के लिए किया जा रहा है।

एआई वॉयस जेनरेशन सॉफ्टवेयर हाल ही में काफी सुर्खियां बटोर रहा है, ज्यादातर वॉयस एक्टर्स की आवाज चुराने के लिए। प्रारंभ में, स्पीकर की ध्वनि और स्वर को आश्वस्त करने के लिए सॉफ्टवेयर के लिए केवल कुछ वाक्यों की आवश्यकता थी। तकनीक तब से उस बिंदु तक विकसित हो गई है जहां संवाद के कुछ सेकंड ही किसी की सटीक नकल करने के लिए पर्याप्त हैं।

की एक नई रिपोर्ट में वाशिंगटन पोस्ट, हजारों पीड़ित दावा कर रहे हैं कि उन्हें अपनों का नाटक करने वाले धोखेबाजों द्वारा धोखा दिया गया है। कथित तौर पर, कपटी घोटाले अमेरिका में 2022 में 36,000 से अधिक मामलों के साथ धोखाधड़ी का दूसरा सबसे लोकप्रिय प्रकार बन गया है। उन 36,000 मामलों में से, 5,000 से अधिक पीड़ितों को फोन के माध्यम से उनके पैसे से ठग लिया गया, FTC अधिकारियों के अनुसार कुल $11 मिलियन का नुकसान हुआ। .

एक कहानी जो सामने आई, उसमें एक बुजुर्ग दंपति शामिल थे, जिन्होंने अपने बेटे से बात करने पर विश्वास करने के बाद बिटकॉइन टर्मिनल के माध्यम से एक स्कैमर को $ 15,000 से अधिक भेजे। एआई आवाज ने दंपति को आश्वस्त किया था कि एक कार दुर्घटना में अमेरिकी राजनयिक की हत्या के बाद उनका बेटा कानूनी संकट में था।

कहानी में पीड़ितों की तरह, ये हमले ज्यादातर बुजुर्गों को लक्षित करते हैं। यह कोई आश्चर्य की बात नहीं है क्योंकि जब वित्तीय घोटालों की बात आती है तो बुजुर्ग सबसे कमजोर होते हैं। दुर्भाग्य से, अदालतों ने अभी तक यह फैसला नहीं किया है कि एआई वॉयस जेनरेटर या एआई तकनीक के अन्य रूपों के कारण होने वाले नुकसान के लिए कंपनियों को उत्तरदायी ठहराया जा सकता है या नहीं।