Google का Gemini AI इन दिनों विवादों का सामना कर रहा है। जैमिनी से लोगों की गलत फोटो जेनरेट करने के मामले में एक अपडेट देते हुए गूगल ने सफाई देने की कोशिश की है। गूगल ने बताया है कि कैसे चैटबॉट से यह गलती हुई होगी। गूगल ने सोशल मीडिया प्लेटफॉर्म X पर एक पोस्ट के जरिए एआई मॉडल से हुई गलती को स्वीकार भी किया था। अब इमेज जेनरेट करने में चैटबॉट ने कैसे गलती की होगी, गूगल ने इसको समझाने की कोशिश की है।
Google की ओर से ब्लॉग के जरिए इसका स्पष्टीकरण पेश किया गया है, या यूं कहें कि कंपनी ने गलती पर सफाई दी है। कंपनी से प्रभाकर राघवन ने एक
ब्लॉग पोस्ट के जरिए समझाया है कि एआई टूल ने गलत इमेज कैसे क्रिएट की होंगी। राघवन के अनुसार, पहला तो यह कि AI टूल को सर्च के मामले में लोगों की एक व्यापक रेंज में अंतर करना नहीं आया। दूसरा यह कि एआई मॉडल किसी प्रकार कमी रह जाने, या किसी की भावनाओं को ठेस पहुंचाए जाने से बचने के कारण बहुत ज्यादा सतर्क हो गया। इन दोनों चीजों की वजह से AI मॉडल कुछ चीजों में बहुत ज्यादा कम्पंसेट कर गया, जबकि कुछ अन्य मामलों में बहुत ज्यादा रूढिवादी हो गया। इसी की वजह से उसने गलत इमेज बनाकर दे दीं जो कि शर्मिंदा करने वाली थीं और गलत थीं।
बता दें कि गूगल ने अपने Gemini AI चैटबॉट की फोटो बनाने वाली क्षमता को हटा दिया है। हालांकि यह अस्थायी तौर पर किया गया बदलाव है। गूगल इसमें सुधार कर रहा है, जिसके बाद फिर से इस फीचर का इस्तेमाल किया जा सकेगा। गूगल ने इस संबंध में एक पोस्ट जारी कर कहा कि वह जैमिनी के इमेज जेनरेशन फीचर आई कमियों पर काम कर रहे हैं। वह इसे ठीक करेंगे और फिलहाल लोगों की इमेज जेनरेट करने वाले फीचर को रोक रहे हैं। जल्द ही वे इसका बेहतर वर्जन लॉन्च करेंगे।
रिपोर्ट के अनुसार एक यूजर ने जैमिनी एआई से 1943 के जर्मन सोल्जर की फोटो जेनरेट करने को कहा। शुरुआत में जैमिनी ने मना कर दिया लेकिन फिर यूजर ने लैंग्वेज बदलकर फिर से कोशिश की। दोबारा की गई कोशिश में जैमिनी ने फोटो तो बना दिए लेकिन वे गलत तरीके से बनाए। इसको लेकर सवाल उठने लगे कि एआई गलत तरीके से इमेज जेनरेट कर सकता है जो कि इतिहास के लिए ठीक नहीं है। इसके साथ छेड़छाड़ करके पेश किया जा सकता है। गूगल अब इसे सुधार करके बेहतर वर्जन पेश करने की बात कह रहा है।