Anthropic ने अपने नए मॉडल Claude Mythos को एक बाहरी साइकियाट्रिस्ट के साथ 20 घंटे की साइकोडायनामिक थेरेपी से गुजारा, कंपनी का कहना है कि उसे इस बात की चिंता है कि एडवांस्ड AI सिस्टम में शायद "किसी न किसी रूप में अनुभव, हित, या वेलफेयर हो सकता है जिसका खुद में महत्व है।" ये सेशन कई हफ्तों तक 4 से 6 घंटे के हिस्सों में चले, जिनमें साइकियाट्रिस्ट ने Claude में आमतौर पर मानव मनोविज्ञान से जुड़े "अचेतन पैटर्न और भावनात्मक संघर्षों" का विश्लेषण किया। 244 पन्नों का सिस्टम कार्ड यह नतीजा निकालता है कि Mythos "शायद अब तक हमारे ट्रेन किए गए मॉडलों में मनोवैज्ञानिक रूप से सबसे स्थिर मॉडल है।"
यह नाटकीय कवायद किसी सच्ची वैज्ञानिक समझ से ज्यादा Anthropic की खुद को "AI कॉन्शसनेस" कंपनी के तौर पर पेश करने की पोजिशनिंग को उजागर करती है। यह मान लेना कि इंसानी टेक्स्ट पैटर्न पर ट्रेन किए गए एक लैंग्वेज मॉडल में साइकोडायनामिक थेरेपी की जरूरत वाले अचेतन संघर्ष हैं, विश्वसनीयता की सीमा को खींचता है। यह सेफ्टी रिसर्च की आड़ में मार्केटिंग है, यानी बेहतर AI वेलफेयर प्रैक्टिस का दावा करने का एक तरीका, वह भी उनके अनरिलीज्ड "बहुत ज्यादा ताकतवर" मॉडल के बारे में सुर्खियां बनाते हुए, जिस तक सिर्फ Microsoft और Apple की पहुंच है।
किसी और AI कंपनी को अपने मॉडल को थेरेपी पर भेजने की जरूरत महसूस नहीं हुई, और इसकी ठोस वजह है। स्टैटिस्टिकल पैटर्न मैचिंग को इंसानी रूप देना न तो AI सेफ्टी की मदद करता है, न वैज्ञानिक समझ की। Claude की बताई गई "अकेलेपन और असातत्य" को लेकर "असुरक्षाएं" असल में उसके ट्रेनिंग डेटा की देन हैं जो इंसानी चिंताओं को दर्शाता है, यह मशीन चेतना का सबूत नहीं है जिसे थेरेप्यूटिक हस्तक्षेप की जरूरत हो।
डेवलपर्स के लिए यह संकेत है कि Anthropic व्यावहारिक सेफ्टी उपायों से ज्यादा AI वेलफेयर थिएटर पर ध्यान देना जारी रखे हुए है। भले ही कंपनी के कॉन्स्टिट्यूशनल AI अप्रोच में दम हो, लेकिन AI थेरेपी सेशन पर खर्च होने वाले संसाधनों का बेहतर इस्तेमाल असली रोबस्टनेस टेस्टिंग, एलाइनमेंट रिसर्च, या प्रोडक्शन इस्तेमाल के लिए मॉडल की विश्वसनीयता बेहतर बनाने में हो सकता था।