शीर्षक
पूर्व गूगल सुरक्षा प्रमुख ने चेतावनी दी: एआई बच्चों पर सोशल मीडिया से भी बड़ा खतरा
परिचय
अल्फाबेट की ट्रस्ट एंड सेफ़्टी टीम के पूर्व प्रमुख टॉम सिगेल ने इस सप्ताह गूगल से अपनी इस्तीफे के बाद नई भूमिका स्वीकार करते हुए कहा कि कृत्रिम बुद्धिमत्ता (एआई) का विकास बच्चों के लिए सोशल मीडिया से भी अधिक हानिकारक हो सकता है। उन्होंने एआई कंपनियों को धीमा करने, कड़े नियम लागू करने और बच्चों की सुरक्षा के लिए स्पष्ट मानक स्थापित करने का आह्वान किया।
मुख्य घटनाक्रम
सिगेल ने मंगलवार को घोषणा की कि वे कॉमन सेंस मीडिया, एक बाल-ऑनलाइन वकालत संगठन, के साथ जुड़कर युवा एआई सुरक्षा संस्थान (Youth AI Safety Institute) के पहले कार्यकारी निदेशक बनेंगे। यह संस्था एआई के उपयोग से बच्चों पर पड़ने वाले प्रभावों का अध्ययन करेगी। एंथ्रोपिक और ओपनएआई फाउंडेशन, ओपनएआई के नियंत्रण में नॉन‑प्रॉफिट, इस संस्था के प्रमुख समर्थक हैं।
सिगेल ने गूगल में 2004 से 2019 तक कार्य किया, जहाँ उन्होंने ट्रस्ट एंड सेफ़्टी विभाग का नेतृत्व किया। उन्होंने गूगल को “सुरक्षित ऑनलाइन स्थानों के निर्माण में ठहराव” के कारण छोड़ दिया। बाद में उन्होंने ट्रस्टलैब नामक स्टार्ट‑अप की सह‑स्थापना की, जो कंपनियों को सुरक्षा ख़तरों का पता लगाने के उपकरण देता है। इस महीने की शुरुआत में उन्होंने सीईओ पद से इस्तीफा दिया और नई भूमिका संभाली।
महत्वपूर्ण जानकारी
सिगेल ने एआई कंपनियों को तत्काल कदम उठाने का आग्रह किया, जिसमें शामिल हैं:
– उम्र सत्यापन: एंथ्रोपिक और ओपनएआई को अधिक कठोर आयु जाँच लागू करनी चाहिए ताकि नाबालिगों को उनके चैटबॉट्स तक पहुँच न मिले।
– सुरक्षा मोड बंद: गूगल को अपने सर्च इंजन में एआई ओवरव्यू और एआई मोड को बंद करने का विकल्प जोड़ना चाहिए, जैसा कि वे पहले से यौन स्पष्ट सामग्री को फ़िल्टर करने का विकल्प देते हैं।
– स्वतंत्र मानक: कॉमन सेंस मीडिया में सिगेल का लक्ष्य एआई टूल्स के लिए “कार दुर्घटना परीक्षण” के समान स्वतंत्र मानक विकसित करना है, जिससे सार्वजनिक उपलब्ध एआई टूल्स के जोखिम का मापन हो सके।
सिगेल ने जोखिमों को “आत्महत्या, मनोविकृति से लेकर संज्ञानात्मक निर्भरता” तक विस्तृत किया। उन्होंने बताया कि एआई पर अत्यधिक निर्भरता से युवा लोगों की आलोचनात्मक सोच कम हो सकती है, जिसे “संज्ञानात्मक ऑफ़लोडिंग” कहा जाता है।
संबंधित बयान
गूगल के प्रवक्ता ने कहा कि माता-पिता के पास बच्चे के सर्च इंजन तक पहुँच पूरी तरह बंद करने का नियंत्रण है। उन्होंने यह भी जोड़ा कि गूगल के एआई टूल्स “कठोर परीक्षण” और “बच्चों की सुरक्षा” पर केंद्रित हैं।
ओपनएआई के प्रवक्ता ने बताया कि कंपनी “खाता और व्यवहार संकेत” के साथ-साथ स्वयं-रिपोर्टेड आयु का उपयोग करके नाबालिग उपयोगकर्ताओं की पहचान करती है। उन्होंने कहा कि कोई भी एकल आयु आश्वासन विधि पूर्ण नहीं है, लेकिन वे लगातार इन प्रणालियों का परीक्षण और सुधार करते रहते हैं। एंथ्रोपिक ने तुरंत टिप्पणी नहीं की।
प्रभाव या संदर्भ
सिगेल की चेतावनी सोशल मीडिया के पिछले अनुभवों को याद दिलाती है, जहाँ कंपनियों को लाखों डॉलर का भुगतान और हजारों मुकदमे झेलने पड़े। अब एआई के तेज़ी से बढ़ते विकास के साथ, नियामकों को भी कदम उठाने की ज़रूरत है। विश्व भर में सरकारें नाबालिगों के प्लेटफ़ॉर्म उपयोग पर प्रतिबंध लगाने के प्रयास में लगी हैं।
सिगेल का यह कदम एआई सुरक्षा के क्षेत्र में एक नई दिशा दिखाता है। यदि एआई कंपनियाँ सहयोग करती हैं, तो यह उद्योग के लिए एक सकारात्मक बदलाव ला सकता है, अन्यथा वे मुकदमों और नियामक दंड का सामना कर सकती हैं।
निष्कर्ष
पूर्व गूगल सुरक्षा प्रमुख टॉम सिगेल की नई भूमिका और उनके द्वारा उठाए गए चेतावनी भरे बिंदु एआई के बच्चों पर संभावित जोखिमों को उजागर करते हैं। वे एआई कंपनियों से आग्रह करते हैं कि वे तुरंत आयु सत्यापन, सुरक्षा मोड बंद करने और स्वतंत्र मानकों के निर्माण के माध्यम से बच्चों की सुरक्षा सुनिश्चित करें। यदि उद्योग इस दिशा में कदम नहीं बढ़ाता, तो एआई का विकास बच्चों के लिए सोशल मीडिया से भी अधिक खतरनाक साबित हो सकता है।