OpenAI ने 8 अप्रैल को अपना चाइल्ड सेफ्टी ब्लूप्रिंट जारी किया, जिसमें जेनरेटिव AI क्षमताओं के आगे बढ़ने के साथ AI-जनरेटेड चाइल्ड सेक्शुअल एक्सप्लॉइटेशन मटीरियल से निपटने के उपायों की रूपरेखा दी गई है। यह ब्लूप्रिंट उन बढ़ती चिंताओं के बाद आया है कि गलत इरादे वाले लोग अवैध कंटेंट बनाने के लिए AI इमेज जनरेटर और टेक्स्ट मॉडल का इस्तेमाल कर रहे हैं, हालांकि OpenAI ने इस कदम को प्रेरित करने वाली किसी खास घटना की संख्या या डिटेक्शन दर का खुलासा नहीं किया है।
यह हफ़्तों के भीतर OpenAI की दूसरी बड़ी सेफ्टी पॉलिसी रिलीज़ है, इससे पहले मार्च में उन्होंने अपनी ओपन-सोर्स टीन सेफ्टी गाइडलाइंस जारी की थीं। यह पैटर्न प्रोएक्टिव सेफ्टी डिज़ाइन के बजाय रिएक्टिव पॉलिसी-मेकिंग की तरफ इशारा करता है, यानी शुरू से मज़बूत सुरक्षा बनाने के बजाय समस्या सामने आने के बाद डॉक्यूमेंट जारी करना। यह टाइमिंग EU के AI Act और AI-जनरेटेड CSAM को लक्षित करने वाले संभावित US संघीय कानून, दोनों तरफ से बढ़ रही रेगुलेटरी जांच के साथ भी मेल खाती है।
ब्लूप्रिंट की घोषणा में जो चीज़ गायब है, वह है ठोस एनफोर्समेंट डेटा। जब मैंने पिछले महीने उनकी टीन सेफ्टी पॉलिसी के रोलआउट को कवर किया था, तब भी यही एनफोर्समेंट गैप मौजूद था: ढेर सारी पॉलिसी भाषा, लेकिन ये उपाय प्रोडक्शन में असल में कैसे काम करते हैं इसके बारे में बहुत कम पारदर्शिता। डिटेक्शन एक्युरेसी रेट, फॉल्स पॉजिटिव हैंडलिंग या अपील प्रोसेस के बिना, ये ब्लूप्रिंट ऑपरेशनल सेफ्टी सिस्टम की जगह कानूनी कवर ज़्यादा लगते हैं।
OpenAI के API पर बनाने वाले डेवलपर्स के लिए, इसका मतलब है आगे कंटेंट फ़िल्टरिंग की और लेयर और संभवतः सख़्त यूसेज पॉलिसी। ऐसे एज-केस कंटेंट के लिए, जो उनके डिटेक्शन सिस्टम को ट्रिगर करता है, ज़्यादा सख़्त इनपुट मॉनिटरिंग और संभावित अकाउंट सस्पेंशन की उम्मीद करें। असली परीक्षा ब्लूप्रिंट खुद नहीं है: असली परीक्षा यह है कि क्या OpenAI आखिरकार ऐसे एनफोर्समेंट मेट्रिक्स प्रकाशित करेगा जो साबित करें कि ये पॉलिसी सिर्फ OpenAI को दायित्व से बचाने के बजाय बच्चों की असल में सुरक्षा करती हैं।