फ़ेबल, एक लोकप्रिय सोशल मीडिया ऐप जो खुद को “किताबी कीड़ों और द्वि घातुमान देखने वालों” के लिए एक स्वर्ग के रूप में वर्णित करता है, ने 2024 में उपयोगकर्ताओं द्वारा पढ़ी जाने वाली पुस्तकों को दोहराते हुए एक एआई-संचालित साल के अंत का सारांश फीचर बनाया। इसका उद्देश्य चंचल और मजेदार होना था, लेकिन कुछ पुनर्कथनों में अजीब तरह का युद्धात्मक स्वर था। उदाहरण के लिए, लेखक डैनी ग्रोव्स के सारांश में, उन्हें “विविधता भक्त” करार देने के बाद पूछा गया कि क्या वह “एक सीधे, सीआईएस श्वेत व्यक्ति के दृष्टिकोण के मूड में हैं”।
इस बीच, किताबों को प्रभावित करने वाली टियाना ट्रैमेल का सारांश निम्नलिखित सलाह के साथ समाप्त हुआ: “कभी-कभार श्वेत लेखक के लिए सामने आना मत भूलना, ठीक है?”
थ्रेड्स पर फैबल के सारांश के साथ अपने अनुभव को साझा करने के बाद ट्रैमेल आश्चर्यचकित रह गई, और उसे जल्द ही एहसास हुआ कि वह अकेली नहीं थी। वह कहती हैं, ”मुझे उन लोगों से कई संदेश मिले, जिनके सारांशों में ”विकलांगता और यौन रुझान” पर अनुचित टिप्पणी की गई थी।
Spotify Wrapped की शुरुआत के बाद से, वार्षिक रीकैप सुविधाएँ इंटरनेट पर सर्वव्यापी हो गई हैं, जो उपयोगकर्ताओं को यह बताती हैं कि उन्होंने कितनी किताबें और समाचार लेख पढ़े, गाने सुने और वर्कआउट पूरा किया। कुछ कंपनियां अब इन मेट्रिक्स को प्रस्तुत करने के तरीके को पूरी तरह से तैयार करने या बढ़ाने के लिए एआई का उपयोग कर रही हैं। उदाहरण के लिए, Spotify अब एक AI-जनित पॉडकास्ट प्रदान करता है जहां रोबोट आपके सुनने के इतिहास का विश्लेषण करते हैं और आपके स्वाद के आधार पर आपके जीवन के बारे में अनुमान लगाते हैं। फ़ेबल ने अपने उपयोगकर्ताओं के लिए पढ़ने की आदतों के पिछले 12 महीनों के सारांश उत्पन्न करने के लिए ओपनएआई के एपीआई का उपयोग करके इस प्रवृत्ति पर छलांग लगाई, लेकिन उसने यह उम्मीद नहीं की थी कि एआई मॉडल उस टिप्पणी को उगल देगा जो एक विरोधी-विरोधी पंडित की भूमिका निभाएगा। .
फ़ेबल ने बाद में थ्रेड्स और इंस्टाग्राम सहित कई सोशल मीडिया चैनलों पर माफ़ी मांगी, जहां उसने एक कार्यकारी द्वारा विदेश मंत्रालय को दोषी ठहराते हुए एक वीडियो पोस्ट किया था। कंपनी ने कैप्शन में लिखा, “इस सप्ताह हमारे कुछ रीडर सारांशों के कारण हुई क्षति के लिए हमें गहरा खेद है।” “हम बेहतर करेंगे।”
फ़ेबल के समुदाय के प्रमुख किम्बर्ली मार्श एली ने प्रकाशन से पहले WIRED को बताया कि कंपनी अपने AI सारांशों को बेहतर बनाने के लिए कई बदलावों पर काम कर रही है, जिसमें उन लोगों के लिए एक ऑप्ट-आउट विकल्प भी शामिल है जो उन्हें नहीं चाहते हैं और स्पष्ट खुलासे से संकेत मिलता है कि वे ‘ पुनः AI-जनित। उन्होंने कहा, “फिलहाल, हमने मॉडल के उस हिस्से को हटा दिया है जो पाठक को मनोरंजक ढंग से रोमांचित करता है, और इसके बजाय मॉडल बस किताबों में उपयोगकर्ता के स्वाद का सारांश प्रस्तुत करता है।”
प्रकाशन के बाद, मार्श एली ने कहा कि फ़ेबल ने इसके बजाय एआई-जनरेटेड 2024 रीडिंग सारांश, साथ ही एआई का उपयोग करने वाली दो अन्य सुविधाओं को तुरंत हटाने का निर्णय लिया है।
कुछ उपयोगकर्ताओं के लिए, AI को समायोजित करना पर्याप्त प्रतिक्रिया की तरह महसूस नहीं होता है। फ़ैंटेसी और रोमांस लेखिका एआर कॉफ़र उस समय आश्चर्यचकित रह गईं जब उन्होंने सोशल मीडिया पर कुछ सारांशों के स्क्रीनशॉट देखे। “उन्हें यह कहने की ज़रूरत है कि वे एआई को पूरी तरह से ख़त्म कर रहे हैं। और उन्हें एक बयान जारी करने की ज़रूरत है, न केवल एआई के बारे में, बल्कि प्रभावित लोगों से माफ़ी मांगते हुए,” कॉफ़र कहते हैं। “थ्रेड्स पर यह ‘माफी’ निष्ठाहीन लगती है, ऐप का उल्लेख ‘चंचल’ है जैसे कि यह किसी तरह नस्लवादी/लिंगवादी/समर्थवादी उद्धरणों को माफ करता है।” घटना के जवाब में, कॉफ़र ने अपना फ़ेबल खाता हटाने का निर्णय लिया।
Hey, I am a multifaceted professional excelling in the realms of blogging, YouTube content creation, and entrepreneurship.
With a passion for sharing knowledge and inspiring others, I established a strong presence in the digital sphere through his captivating blog articles and engaging video content.