यह संपादकीय लेख E295: इंजीनियरिंग लीडर्स के लिए संचार नामक श्रृंखला का हिस्सा है। इस पाठ्यक्रम में, इंजीनियरिंग में मास्टर डिग्री प्राप्त करने वाले छात्रों को एक ऐसे विषय को प्रस्तुत करने की चुनौती दी गई थी जो उन्हें रुचिकर लगे और जिसे तकनीकी और गैर-तकनीकी पाठकों के व्यापक समूह तक पहुँचाना था। यह एक राय का लेख है, इसलिए यहाँ व्यक्त किए गए विचार न तो यूसी बर्कले और न ही फंग इंस्टीट्यूट के हैं और न ही उनके द्वारा समर्थित हैं।
आपने आखिरी बार कब किसी ऐसे व्यक्ति से बात की थी जिसके राजनीतिक विचार आपसे भिन्न हों? क्या उन बातचीत में किसी ने भी विवादित “तथ्य” का ज़िक्र किया? क्या आपने अपने किसी परिचित को अपने राजनीतिक विचारों पर और अधिक दृढ़ होते देखा है?
ब्राउन विश्वविद्यालय के अर्थशास्त्रियों द्वारा 2020 में किए गए एक अध्ययन के अनुसार , संयुक्त राज्य अमेरिका अन्य प्रमुख लोकतांत्रिक देशों की तुलना में अधिक तेज़ी से राजनीतिक रूप से ध्रुवीकृत हो रहा है। इसका एक कारण पिछले दशक में इंटरनेट और सोशल मीडिया का बढ़ता प्रभाव है। हाल के वर्षों में, सोशल मीडिया साइटें उपयोगकर्ताओं की भागीदारी और ऐप पर बिताए गए समय को बढ़ाने के लिए डिज़ाइन किए गए अनुशंसा एल्गोरिदम का उपयोग करने लगी हैं। दुर्भाग्य से, इन एल्गोरिदम के कुछ दुष्प्रभावों में सूचनात्मक प्रतिध्वनि कक्ष, गलत सूचनाओं का प्रसार, या उपयोगकर्ताओं को अत्यधिक चरम, संभावित रूप से हानिकारक विचारधाराओं वाले समुदायों से परिचित कराना शामिल है। ये कारक पिछले दशक में मीडिया और सरकार के प्रति राष्ट्रीय अविश्वास में वृद्धि, घरेलू आतंकवाद में वृद्धि और अमेरिका के भीतर राजनीतिक ध्रुवीकरण में वृद्धि में योगदान करते हैं।
अधिकांश सोशल मीडिया साइटें आपके ब्राउज़िंग इतिहास से डेटा एकत्र करती हैं ताकि एल्गोरिदम के माध्यम से साइटों पर आपके अनुभव को अधिक व्यक्तिगत बनाया जा सके। वे अनुशंसा और पूर्वानुमान एल्गोरिदम का उपयोग करके उन पृष्ठों का सुझाव देते हैं जो आपको पसंद आ सकते हैं, यह इस आधार पर होता है कि क्या आप कोई विशिष्ट नेटफ्लिक्स शो देखते हैं, आप इंस्टाग्राम पर किसे फॉलो करते हैं, या आपने Google पर क्या खोजा है। हालांकि इस प्रकार के एल्गोरिदम उपयोगकर्ता अनुभव को अनुकूलित करने में मदद करते हैं, लेकिन इनके संचालन और आधुनिक सूचना उपभोग पर इनके प्रभावों को लेकर कई नैतिक बहसें हुई हैं।
प्यू रिसर्च सेंटर के एक लेख में , लेखक रेनी और एंडरसन ने इस बात पर गहराई से विचार किया है कि कैसे एल्गोरिदम ऐसे प्रतिध्वनि कक्ष बनाते हैं जिनके परिणामस्वरूप लोगों के बीच बड़े राजनीतिक विभाजन पैदा होते हैं, क्योंकि वे अलग-अलग राजनीतिक विचारों वाले लोगों से बातचीत करने में असमर्थ हो जाते हैं। लेखकों का कहना है कि इसका कारण यह है कि एल्गोरिदम “कॉर्पोरेट डेटा संग्राहकों द्वारा निर्मित फ़िल्टर बुलबुले और साइलो बनाते हैं; वे लोगों को विचारों और विश्वसनीय सूचनाओं की व्यापक श्रृंखला तक पहुँचने से रोकते हैं और आकस्मिक खोजों को समाप्त कर देते हैं।” हम न केवल एक राष्ट्र के रूप में राजनीतिक रूप से अधिक विभाजित हो रहे हैं, बल्कि कुछ लोग अपने विश्वासों में इतने कट्टरपंथी हो रहे हैं कि नफरत फैलाने वाले समूहों और घरेलू आतंकवाद में भाग लेने वाले लोगों की संख्या में वृद्धि हुई है, इस हद तक कि घरेलू आतंकवाद के शोधकर्ता और अनुभवी सुरक्षा अधिकारी भी बेहद चिंतित हो गए हैं ।
एल्गोरिदम कॉर्पोरेट डेटा संग्राहकों द्वारा आकार दिए गए फ़िल्टर बुलबुले और साइलो बनाते हैं; वे लोगों को विचारों और विश्वसनीय जानकारी की एक विस्तृत श्रृंखला के संपर्क में आने से रोकते हैं और आकस्मिक खोजों को समाप्त करते हैं।
TikTok ऐप पर किए गए एक हालिया अध्ययन से पता चला है कि कैसे कोई उपयोगकर्ता बहुत कम समय में और सीमित मात्रा में सामग्री के आधार पर कट्टरपंथी बन सकता है। इस अध्ययन का सबसे महत्वपूर्ण परिणाम ट्रांसफोबिक सामग्री के साथ जुड़ने का प्रभाव था। जब कोई उपयोगकर्ता केवल ट्रांसफोबिक सामग्री के साथ इंटरैक्ट करने लगा, तो TikTok एल्गोरिदम ने तेजी से दक्षिणपंथी वीडियो अनुशंसाओं की संख्या और विविधता बढ़ा दी। टीम ने अनुशंसा एल्गोरिदम के आधार पर होमपेज पर मौजूद “फॉर-यू पेज” में दिखाए गए लगभग 450 वीडियो का विश्लेषण किया। हालांकि उन्होंने केवल ट्रांसफोबिक सामग्री के साथ इंटरैक्ट किया, फिर भी उन्होंने पाया कि “फॉर-यू पेज” तेजी से स्त्री द्वेष, नस्लवाद, श्वेत वर्चस्ववादी विश्वास, यहूदी-विरोध, षड्यंत्र, घृणा के प्रतीक और अन्य आम तौर पर घृणित या हिंसक वीडियो से भर गया। इन TikTok वीडियो की औसत लंबाई 20 सेकंड है, जिसका अर्थ है कि 450 वीडियो देखने के बाद उपयोगकर्ता ने ऐप पर लगभग दो घंटे बिताए हैं। सैद्धांतिक रूप से, कोई उपयोगकर्ता तीन घंटे से भी कम समय में राजनीतिक रूप से कट्टरपंथी बन सकता है। विडंबना यह है कि ट्रांसफोबिक सामग्री को साइट पर प्रतिबंधित किया जाना चाहिए क्योंकि यह टिकटॉक के व्यवहार संबंधी दिशानिर्देशों का उल्लंघन करती है।
मेटा, जो न केवल अपने मूल नाम वाले ऐप फेसबुक बल्कि इंस्टाग्राम, व्हाट्सएप और कई अन्य ऐप्स की भी मालिक कंपनी है, सोशल मीडिया के क्षेत्र में व्यापक पहुंच रखती है। पिछले पांच वर्षों में, मेटा को अपने एल्गोरिदम, गोपनीयता और उपभोक्ता डेटा के उपयोग से संबंधित कई अन्य आरोपों का सामना करना पड़ा है। 2016 के राष्ट्रपति चुनाव के समय के आसपास, मेटा (उस समय फेसबुक) ने एक अध्ययन किया जिसमें पाया गया कि उसके एल्गोरिदम चरमपंथी सामग्री के उपयोग में भारी वृद्धि के लिए जिम्मेदार थे। विशेष रूप से, अनुशंसा टूल के कारण सभी चरमपंथी समूहों में शामिल होने वालों में से 64% शामिल हुए। इनमें से अधिकांश चरमपंथी समूहों में शामिल होने वाले “ग्रुप्स यू शुड जॉइन” फीचर और “डिस्कवर” पेज के एल्गोरिदम का परिणाम थे। फेसबुक की अनुशंसा प्रणालियों और चरमपंथी समूहों में वृद्धि के बीच का संबंध हमारे वर्तमान राजनीतिक विभाजन के लिए एक गंभीर मुद्दा है।
अक्टूबर 2021 में, मेटा के कई कर्मचारियों ने मुखबिर बनकर कंपनी के भीतर मौजूद कई गंभीर नैतिक समस्याओं का खुलासा करने वाले आंतरिक दस्तावेज़ जारी किए। “द फेसबुक पेपर्स” के नाम से जाने जाने वाले इन दस्तावेज़ों से पता चलता है कि सोशल मीडिया की दिग्गज कंपनी अपने प्लेटफॉर्म और एल्गोरिदम के कारण उत्पन्न वैश्विक मुद्दों पर किस प्रकार बारीकी से नज़र रख रही थी। इसके अलावा, इन दस्तावेज़ों में इस बात का भी प्रमाण शामिल था कि चुनाव समाप्त होते ही कंपनी ने 2020 में गलत सूचनाओं के प्रसार को रोकने के लिए लागू किए गए उपायों को हटा दिया था। यह कंपनी अपने एल्गोरिदम की कार्यप्रणाली, डेटा माइनिंग की पहुंच और अपनी लापरवाही (चाहे अनजाने में हो या जानबूझकर) के प्रभाव से भली-भांति परिचित है, फिर भी वे इस तथ्य को शायद ही कभी स्वीकार करते हैं कि उनके प्लेटफॉर्म बड़ी मात्रा में गलत सूचनाओं के प्रसार को बढ़ावा देते हैं। इसके बजाय, वे समाज को लाभ पहुंचाने और कंपनी के लक्ष्यों को लाभ पहुंचाने के बीच संतुलन बनाने की कोशिश करते हैं; अक्सर वे कंपनी के लक्ष्यों को ही चुनते हैं।
मैंने सोशल मीडिया प्लेटफॉर्म और वेबसाइटों पर चरमपंथी राजनीतिक विचारों और समूहों के पनपने और फैलने के तरीकों के बारे में बात की है, जिसका एक कारण उनके अनुशंसा और पूर्वानुमान एल्गोरिदम का डिज़ाइन है। इन प्लेटफॉर्मों को चलाने वाली कंपनियां अपनी जानबूझकर की गई लापरवाही के परिणामों से पूरी तरह अवगत हैं, फिर भी उन्होंने इन ऐप्स और एल्गोरिदम के डिज़ाइन में सुधार के लिए बहुत कम प्रयास किए हैं। चूंकि सोशल मीडिया रोजमर्रा की जिंदगी के कई पहलुओं से गहराई से जुड़ गया है, इसलिए सूचना के स्रोत के रूप में सोशल मीडिया प्लेटफॉर्मों का उपयोग पूरी तरह से बंद करना लगभग असंभव होगा। इसके बजाय, इन कंपनियों द्वारा हमारे डेटा और इन साइटों पर प्रसारित होने वाली जानकारी को संभालने के तरीके के बारे में अधिक सार्वजनिक जागरूकता और पारदर्शिता होनी चाहिए, और जनता को नुकसान से बचाने के लिए अधिक कानून बनाए जाने चाहिए। इस बीच, उपयोगकर्ताओं को अपने व्यक्तिगत जीवन और समाज में सोशल मीडिया के कई संभावित खतरनाक प्रभावों के बारे में जागरूक होना चाहिए।
इन कंपनियों द्वारा हमारे डेटा को संभालने के तरीके, इन साइटों पर प्रसारित होने वाली जानकारी और जनता को नुकसान से बचाने के लिए और अधिक कानून बनाने के बारे में अधिक सार्वजनिक जागरूकता और पारदर्शिता होनी चाहिए।
