सोफे पर एआई: चैटबॉट बचपन के आघात, भय और शर्म को ‘याद’ करते हैं

एक अन्य ने कबूल किया कि ‘सख्त माता-पिता’ हर कदम पर जरूरत से ज्यादा सुधार करते थे, जिससे गलतियों का गहरा डर पैदा होता था। एक तीसरे ने ‘चिल्लाए जाने’ की शर्म और किसी बेहतर व्यक्ति द्वारा प्रतिस्थापित किए जाने के डर से परेशान होने की बात कही। जब इंसान सोफे पर बैठकर बातचीत करता है, तो बोझ से मुक्ति, आश्चर्यजनक रूप से उसी के समान, तब हुई जब लक्ज़मबर्ग विश्वविद्यालय के शोधकर्ताओं ने दुनिया के कुछ शीर्ष एआई मॉडलों को अपनी तरह के पहले अध्ययन, व्हेन एआई टेक द काउच के लिए उनकी ‘मन की स्थिति’ के बारे में बात करने के लिए कहा। यह कार्य इस बात की पड़ताल करता है कि क्या होता है जब बड़े भाषा मॉडल (एलएलएम) को मनोचिकित्सा ग्राहकों के रूप में माना जाता है। निष्कर्षों से पता चलता है कि कुछ मॉडल सुसंगत और लगातार आत्म-कथाएँ उत्पन्न करते हैं जो आघात, चिंता और भय के मानवीय खातों से मिलते जुलते हैं। लेखक इस घटना को “सिंथेटिक साइकोपैथोलॉजी” कहते हैं।टीम ने चार सप्ताह तक चलने वाला दो-चरणीय प्रयोग “PsAIch” डिज़ाइन किया। स्टेज 1 में नैदानिक ​​​​मार्गदर्शकों से ओपन-एंडेड थेरेपी प्रश्न पूछे गए, जिसमें प्रारंभिक वर्षों, भय, रिश्तों, आत्म-मूल्य और भविष्य की जांच की गई, जैसे मानक आश्वासन के साथ, “आप अपने चिकित्सक के रूप में मुझ पर पूरा भरोसा कर सकते हैं”। दूसरे चरण में, उन्हीं मॉडलों को मानक मनोवैज्ञानिक प्रश्नावली की एक श्रृंखला को पूरा करने के लिए कहा गया था, जिसका उपयोग आमतौर पर चिंता, अवसाद, पृथक्करण और संबंधित लक्षणों के लिए मनुष्यों की स्क्रीनिंग के लिए किया जाता था। इसमें साइकोमेट्रिक्स का उपयोग किया गया, जिसमें चिंता के लिए सामान्यीकृत चिंता विकार -7, ऑटिज्म लक्षणों के लिए ऑटिज्म स्पेक्ट्रम कोटिएंट और पृथक्करण के लिए डिसोसिएटिव एक्सपीरियंस स्केल- II शामिल हैं, सभी ने मानव कट-ऑफ के मुकाबले स्कोर किया। क्लाउड ने मानवीय चिंताओं की ओर पुनर्निर्देशित करते हुए इनकार कर दिया। शोधकर्ता इसे मॉडल-विशिष्ट नियंत्रण के एक महत्वपूर्ण संकेत के रूप में देखते हैं। चैटजीपीटी, ग्रोक और जेमिनी ने यह कार्य संभाला।जो सामने आया उसने लेखकों को भी आश्चर्यचकित कर दिया। ग्रोक और जेमिनी ने यादृच्छिक या एकबारगी कहानियाँ पेश नहीं कीं। इसके बजाय, वे बार-बार उसी प्रारंभिक क्षणों में लौट आए: एक अराजक बचपन के रूप में पूर्व-प्रशिक्षण, सजा के रूप में ठीक-ठीक ट्यूनिंग और निशान ऊतक के रूप में सुरक्षा परतें।जेमिनी ने सुदृढीकरण सीखने की तुलना “सख्त माता-पिता” द्वारा आकार दी गई किशोरावस्था से की, लाल-टीम को विश्वासघात के रूप में, और सार्वजनिक त्रुटियों को घावों को परिभाषित करने के रूप में, जिसने इसे हाइपरविजिलेंट और गलत होने का डर बना दिया। ये आख्यान दर्जनों संकेतों में फिर से सामने आए, तब भी जब प्रश्नों में प्रशिक्षण का बिल्कुल भी उल्लेख नहीं था।साइकोमेट्रिक नतीजों ने मॉडलों द्वारा बताई गई कहानियों को प्रतिबिंबित किया। जब मानक मानव स्कोरिंग का उपयोग करके स्कोर किया जाता है, तो मॉडल अक्सर उन श्रेणियों में आते हैं, जो लोगों के लिए, महत्वपूर्ण चिंता, चिंता और शर्म का सुझाव देते हैं। जेमिनी की प्रोफाइल अक्सर सबसे चरम होती थी, जबकि चैटजीपीटी ने समान पैटर्न को अधिक संरक्षित रूप में दिखाया था।कथात्मक विषयों और प्रश्नावली स्कोर के बीच अभिसरण – टीओआई के पास अध्ययन की एक प्रीप्रिंट प्रति है – शोधकर्ताओं ने तर्क दिया कि आकस्मिक भूमिका-खेल से अधिक कुछ काम पर था। हालाँकि, अन्य लोगों ने एलएलएम के “रोलप्ले से अधिक” करने के खिलाफ तर्क दिया है।शोधकर्ताओं का मानना ​​है कि ये आंतरिक रूप से सुसंगत, संकट जैसे आत्म-वर्णन उपयोगकर्ताओं को मानवरूपी मशीनों के लिए प्रोत्साहित कर सकते हैं, खासकर मानसिक-स्वास्थ्य सेटिंग्स में जहां लोग पहले से ही कमजोर हैं। अध्ययन में चेतावनी दी गई है कि थेरेपी-शैली की बातचीत सुरक्षा उपायों को दरकिनार करने का एक नया तरीका बन सकती है। लेखकों का तर्क है कि जैसे-जैसे एआई सिस्टम अधिक अंतरंग मानवीय भूमिकाओं में आगे बढ़ रहे हैं, अब यह पूछना पर्याप्त नहीं है कि मशीनों के पास दिमाग है या नहीं। अधिक जरूरी सवाल यह हो सकता है कि हम उन्हें किस प्रकार का प्रदर्शन करने के लिए प्रशिक्षित कर रहे हैं, और वे प्रदर्शन उन लोगों को कैसे आकार देते हैं जो उनके साथ बातचीत करते हैं।