एलोन मस्कच्या एआय चॅटबॉट ग्रोकवर लैंगिक प्रतिमा तयार करण्यावर बंदी घातली आहे

एलोन मस्कच्या आर्टिफिशियल इंटेलिजेंस फर्म xAI चा AI चॅटबॉट Grok यापुढे खऱ्या लोकांच्या लैंगिक किंवा उघड प्रतिमा निर्माण करू शकणार नाही. वाढत्या टीका आणि नियामक छाननीनंतर कंपनीने हा निर्णय घेतला. सोशल मीडिया प्लॅटफॉर्म X (पूर्वी ट्विटर म्हणून ओळखले जाणारे) ब्लॉग पोस्ट शेअरमध्ये, कंपनी कंपनीने पुष्टी केली की त्यांनी Grok खात्याला वास्तविक लोकांच्या प्रतिमा संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी तांत्रिक उपाय लागू केले आहेत. Grok वापरकर्ते स्त्रिया आणि अल्पवयीन मुलांचे AI डीपफेक तयार करण्याच्या साधनाचा गैरफायदा घेत होते आणि त्यांना फेरफार केलेल्या प्रतिमांमध्ये कपडे उतरवतात तेव्हा कंपनीचे हे पाऊल पुढे आले आहे.कॅलिफोर्नियाचे ऍटर्नी जनरल रॉब बोन्टा यांनी उघड केले की त्यांनी अलीकडच्या आठवड्यात तक्रारींचा पूर आल्याने लैंगिक डीपफेक तयार करण्यात ग्रोकच्या भूमिकेची चौकशी सुरू केली होती. दरम्यान, इंडोनेशिया आणि मलेशियाने ग्रोकला पूर्णपणे निलंबित केले आणि या साधनावर बंदी घालणारे पहिले देश बनले. यूकेमधील खासदारांनीही सार्वजनिकपणे निलंबनाचा विचार केला आहे.

Grok प्रतिबंधित प्रौढ प्रतिमा निर्माण करण्यापासून: कंपनीचे विधान येथे वाचा

X च्या सुरक्षा खात्यावर पोस्ट केलेल्या निवेदनात कंपनीने लिहिले:“सुरक्षा वचनबद्धताआम्ही प्रत्येकासाठी X ला सुरक्षित व्यासपीठ बनवण्यासाठी वचनबद्ध आहोत आणि कोणत्याही प्रकारचे बाल लैंगिक शोषण, असहमती नग्नता आणि अवांछित लैंगिक सामग्रीसाठी शून्य सहनशीलता सुरू ठेवू. आम्ही आमच्या X नियमांचे उल्लंघन करणाऱ्या खात्यांविरुद्ध योग्य कारवाई करून, बाल लैंगिक शोषण सामग्री (CSAM) आणि गैर-सहमत नग्नतेसह उच्च-प्राधान्य उल्लंघनात्मक सामग्री काढून टाकण्यासाठी कारवाई करतो. आम्ही आवश्यकतेनुसार कायद्याची अंमलबजावणी करणाऱ्या अधिकाऱ्यांना बाल लैंगिक शोषण सामग्री शोधणाऱ्या खात्यांचा अहवाल देखील देतो.साठी अद्यतने [@]Grok खातेआम्ही Grok खात्याला बिकिनीसारख्या कपड्यांमध्ये वास्तविक लोकांच्या प्रतिमा संपादित करण्यास परवानगी देण्यापासून रोखण्यासाठी तांत्रिक उपाय लागू केले आहेत. हे निर्बंध सशुल्क सदस्यांसह सर्व वापरकर्त्यांना लागू होते.याव्यतिरिक्त, X प्लॅटफॉर्मवरील Grok खात्याद्वारे प्रतिमा तयार करणे आणि प्रतिमा संपादित करण्याची क्षमता आता फक्त सशुल्क सदस्यांसाठी उपलब्ध आहे. कायद्याचे किंवा आमच्या धोरणांचे उल्लंघन करण्यासाठी Grok खात्याचा दुरुपयोग करण्याचा प्रयत्न करणाऱ्या व्यक्तींना जबाबदार धरले जाऊ शकते हे सुनिश्चित करण्यात मदत करून हे संरक्षणाचा अतिरिक्त स्तर जोडते.जिओब्लॉक अद्यतनआम्ही आता सर्व वापरकर्त्यांच्या बिकिनी, अंडरवेअर आणि तत्सम पोशाखातील वास्तविक लोकांच्या प्रतिमा Grok खात्याद्वारे आणि Grok इन X मध्ये ज्या अधिकारक्षेत्रांमध्ये बेकायदेशीर आहे त्यामध्ये निर्माण करण्याची क्षमता जियोब्लॉक करतो.एक्स नियमहे आमचे विद्यमान सुरक्षा प्रोटोकॉल बदलत नाही की X वर पोस्ट केलेल्या सर्व AI प्रॉम्प्ट आणि व्युत्पन्न केलेल्या सामग्रीने आमच्या X नियमांचे काटेकोरपणे पालन केले पाहिजे. तरीही सामग्री तयार केली जाते किंवा वापरकर्ते विनामूल्य किंवा सशुल्क सदस्य असले तरीही, आमची सुरक्षा कार्यसंघ अतिरिक्त सुरक्षा जोडण्यासाठी, उल्लंघन करणारी आणि बेकायदेशीर सामग्री काढून टाकण्यासाठी जलद आणि निर्णायक कारवाई करण्यासाठी, योग्य तेथे खाती कायमची निलंबित करण्यासाठी आणि आवश्यकतेनुसार स्थानिक सरकार आणि कायद्याची अंमलबजावणी करण्यासाठी सहकार्य करण्यासाठी चोवीस तास काम करत आहे. आमच्या धोरणांबद्दल अधिक माहितीसाठी, कृपया आमचे पहा एक्स नियम आणि अंमलबजावणी पर्यायांची श्रेणी. जनरेटिव्ह एआयची जलद उत्क्रांती संपूर्ण उद्योगासाठी आव्हाने सादर करते. आम्ही वापरकर्ते, आमचे भागीदार, प्रशासकीय मंडळे आणि इतर प्लॅटफॉर्मसह सक्रियपणे कार्य करत आहोत ज्यामुळे समस्या उद्भवतात तेव्हा ते अधिक जलदगतीने सोडवण्यासाठी.

Grok AI सशुल्क X वापरकर्त्यांसाठी प्रतिमा संपादन वैशिष्ट्ये प्रतिबंधित करते

अलीकडे, टेस्लाचे सीईओ एलोन मस्कच्या एआय चॅटबॉट ग्रोकने, त्याच्या सोशल मीडिया प्लॅटफॉर्म X (पूर्वी Twitter म्हणून ओळखले जाणारे) मध्ये एकत्रित केले आहे, आता त्याची प्रतिमा निर्मिती आणि संपादन साधने आता देय सदस्यांपुरती मर्यादित असतील असे जाहीर केले आहे. प्रतिमा निर्मिती आणि संपादन सध्या पैसे देणाऱ्या सदस्यांपुरते मर्यादित आहे. तुम्ही ही वैशिष्ट्ये अनलॉक करण्यासाठी सदस्यत्व घेऊ शकता,” Grok ने 8 जानेवारीच्या अखेरीस X च्या प्रीमियम सदस्यत्व पृष्ठाशी लिंक करून पोस्ट केले.

इलॉन मस्क चेतावणी देतात, ‘कोणीही बेकायदेशीर सामग्री बनवण्यासाठी ग्रोकचा वापर करेल …’

इलॉन मस्क म्हणाले की जो कोणी एआय चॅटबॉट ग्रोक वापरून त्याच्या प्लॅटफॉर्म X (पूर्वी ट्विटर म्हणून ओळखले जाणारे) वर बेकायदेशीर सामग्री बनवण्यासाठी शिक्षा केली जाईल. मस्कच्या टिप्पण्या चॅटबॉट – X मध्ये हार्डवायर्ड स्त्रिया आणि मुलांसह अश्लील/संमती नसलेल्या प्रतिमा तयार केल्याबद्दल आक्षेपार्ह झाल्यानंतर आल्या. एका ऑनलाइन पोस्टमध्ये, टेक अब्जाधीशांनी लिहिले की “कोणीही बेकायदेशीर सामग्री बनवण्यासाठी Grok वापरत असेल तर त्यांनी अवैध सामग्री अपलोड केल्यासारखेच परिणाम भोगावे लागतील”. टेस्ला सीईओ ग्रोकद्वारे व्युत्पन्न केलेल्या “अयोग्य प्रतिमा” वरील पोस्टला प्रतिसाद देत होते.DogeDesigner, त्यानंतर इलॉन मस्क यांनी पोस्टमध्ये लिहिले: “काही लोक असे म्हणत आहेत की ग्रोक अयोग्य प्रतिमा तयार करत आहे. परंतु हे काहीतरी वाईट लिहिल्याबद्दल पेनला दोष देण्यासारखे आहे. पेनने काय लिहिले आहे हे ठरवत नाही. ती धरणारी व्यक्ती करते. ग्रोक त्याच प्रकारे कार्य करते. तुम्हाला जे मिळते ते तुम्ही त्यात काय ठेवता यावर बरेच काही अवलंबून असते. विचार करा!”