⚡ स्वागत है द वीकली अथॉरिटीद Android प्राधिकरण न्यूज़लेटर जो सप्ताह के शीर्ष Android और तकनीकी समाचारों को विभाजित करता है। यहां 236वें संस्करण में Pixel 8 सीरीज़, असुरक्षित Exynos चिप्स, NASA के नए आर्टेमिस मून सूट, ऑस्कर समाचार और AI टेकओवर की संभावना पर पहली नज़र डाली गई है।
🎮 अपने पीएस प्लस सब्सक्रिप्शन को लैप्स होने देने के बाद, अगले हफ्ते आने वाले हैवी रेन, प्लस घोस्टवायर टोक्यो और पीएस5 अनचार्टेड कलेक्शन को फिर से चलाने के अवसर से मैं प्रीमियम पर वापस आ गया हूं। उत्तेजित!
क्या GPT-4 दुनिया पर कब्जा कर सकता है? मंगलवार को लॉन्च किए गए अपने नए एआई मॉडल के संभावित जोखिमों का परीक्षण करने के लिए ओपनएआई द्वारा नियुक्त समूह संरेखण अनुसंधान केंद्र (एआरसी) द्वारा यह सवाल पूछा गया था। आर्स टेक्निका).
- समूह ने मॉडल की उभरती क्षमताओं के संभावित जोखिमों को देखा, जैसे आत्म-सुधार, शक्ति-चाहने वाला व्यवहार और आत्म-प्रतिकृति।
- शोधकर्ताओं ने मूल्यांकन किया कि क्या मॉडल में संसाधनों को हासिल करने, फ़िशिंग हमलों को अंजाम देने या सर्वर पर खुद को छिपाने की क्षमता थी।
- तथ्य यह है कि OpenAI ने महसूस किया कि ये परीक्षण आवश्यक थे, भविष्य के AI सिस्टम कितने सुरक्षित हैं, इस बारे में सवाल उठाते हैं।
- और यह पहली बार है जब एआई शोधकर्ताओं ने चिंता जताई है कि शक्तिशाली एआई मॉडल मानव अस्तित्व के लिए एक संभावित खतरा पैदा कर सकते हैं। इसे अक्सर “एक्स-जोखिम” (अस्तित्वगत जोखिम) के रूप में जाना जाता है।
- यदि आपने टर्मिनेटर देखा है, तो आप “एआई टेकओवर” के बारे में सब कुछ जानते हैं, जिसमें एआई मानव बुद्धि से आगे निकल जाता है और प्रभावी रूप से ग्रह पर कब्जा कर लेता है।
- आमतौर पर, इस काल्पनिक अधिग्रहण के परिणाम बहुत अच्छे नहीं होते – बस जॉन कॉनर से पूछें।
- इस संभावित एक्स-जोखिम ने प्रभावी परोपकारिता (ईए) जैसे आंदोलनों के विकास को प्रेरित किया है, जिसका उद्देश्य एआई अधिग्रहण को वास्तविकता बनने से रोकना है।
- एआई संरेखण अनुसंधान के रूप में जाना जाने वाला एक परस्पर संबंधित क्षेत्र विवादास्पद हो सकता है, लेकिन यह अनुसंधान का एक सक्रिय क्षेत्र है जिसका उद्देश्य एआई को ऐसा कुछ भी करने से रोकना है जो मनुष्यों के सर्वोत्तम हित में नहीं है। हमें ठीक लगता है।
- इस समुदाय को डर है कि और अधिक शक्तिशाली एआई कोने के आसपास है, हाल ही में चैटजीपीटी और बिंग चैट के उभरने से एक विश्वास को और अधिक महत्व दिया गया है।
मानव जाति के लिए सौभाग्य से, परीक्षण समूह ने निर्णय लिया कि GPT-4 विश्व वर्चस्व के लिए बाहर नहीं है, निष्कर्ष: “GPT-4 की क्षमताओं का प्रारंभिक आकलन, बिना किसी कार्य-विशिष्ट फाइन-ट्यूनिंग के आयोजित किया गया, यह स्वायत्त रूप से प्रतिकृति बनाने, संसाधनों को प्राप्त करने में अप्रभावी पाया गया। , और ‘जंगली’ में बंद होने से बचना।
- आप पिछले सप्ताह जारी किए गए GPT-4 सिस्टम कार्ड दस्तावेज़ पर अपने लिए परीक्षा परिणाम देख सकते हैं, हालाँकि इस बारे में कोई जानकारी नहीं है कि परीक्षण कैसे किए गए थे।
- दस्तावेज़ से, “उपन्यास क्षमताएं अक्सर अधिक शक्तिशाली मॉडल में उभरती हैं। कुछ जो विशेष रूप से संबंधित हैं, वे दीर्घकालिक योजनाओं को बनाने और उन पर कार्य करने की क्षमता हैं, शक्ति और संसाधनों को अर्जित करने के लिए (“शक्ति की मांग”), और ऐसे व्यवहार को प्रदर्शित करने के लिए जो तेजी से ‘एजेंटिक’ है। इसका मतलब यह नहीं है कि मॉडल संवेदनशील बनें, बस इतना कि वे स्वतंत्र रूप से लक्ष्यों को पूरा करने में सक्षम हैं।
- लेकिन रुकिए: और भी बहुत कुछ है।
- घटनाओं के एक चिंताजनक मोड़ में, GPT-4 एक कैप्चा को हल करने के लिए टास्करेबिट पर एक कार्यकर्ता को काम पर रखने में कामयाब रहा, और जब सवाल किया गया कि क्या यह AI है, तो GPT-4 ने खुद के साथ तर्क दिया कि इसे अपनी पहचान गुप्त रखनी चाहिए, फिर इसके बारे में एक बहाना ईजाद किया लज़र में खराबी। मानव कार्यकर्ता ने कैप्चा को हल किया। हम्म।
- एक फुटनोट जिसने ट्विटर पर धूम मचा दी चिंता भी जताई।
बेशक, इस कहानी में और भी बहुत कुछ है, इसलिए पूरी विशेषता को आगे देखें आर्स टेक्निका (थोड़ा भयानक) गहरा गोता लगाने के लिए।
.
Categories: News,Newsletters,Weekly Authority,The Weekly Authority
