ملائیشیا اور انڈونیشیا ایلون مسک کی کمپنی xAI کے تیار کردہ مصنوعی ذہانت پر مبنی چیٹ بوٹ Grokکو بلاک کرنے والے دنیا کے پہلے ممالک بن گئے ہیں۔ حکام کے مطابق اس ٹول کا غلط استعمال کرتے ہوئے غیر رضامندی پر مبنی خواتین کی فحش تصاویر اور جنسی ڈیپ فیکس مواد تیار کیا جا رہا تھا۔
دونوں ممالک کی جانب سے یہ اقدام جنریٹیو اے آئی ٹیکنالوجی کے بڑھتے ہوئے غلط استعمال پر عالمی تشویش کی عکاسی کرتا ہے۔ ایسے اے آئی ٹولز جو انتہائی حقیقی نظر آنے والی تصاویر، آواز اور متن تخلیق کر سکتے ہیں، مگر موجودہ حفاظتی نظام ان کے غیر اخلاقی اور غیر قانونی استعمال کو روکنے میں ناکام ثابت ہو رہے ہیں۔
Grok چیٹ بوٹ، جس تک رسائی ایلون مسک کے سوشل میڈیا پلیٹ فارم ایکس کے ذریعے حاصل کی جاتی ہے، شدید تنقید کی زد میں رہا ہے کیونکہ یہ ایسے بصری مواد کی تخلیق کی صلاحیت رکھتا ہے جن میں زیرِ جامہ پہنی یا جنسی طور پر واضح انداز میں موجود خواتین کی تصاویر شامل ہیں، جبکہ بعض معاملات میں بچوں سے متعلق مواد بھی سامنے آیا ہے۔
انڈونیشیا کی حکومت نے ہفتے کے روز Grok تک رسائی عارضی طور پر معطل کر دی، جس کے بعد اتوار کو ملائیشیا نے بھی اسی نوعیت کا اقدام کیا۔
انڈونیشیا کی وزیر برائے کمیونیکیشن اینڈ ڈیجیٹل افیئرز میوٹیا حافظ نے ایک بیان میں کہا کہ حکومت غیر رضامندی پر مبنی جنسی ڈیپ فیکس کو انسانی حقوق، انسانی وقار اور شہریوں کی ڈیجیٹل دنیا میں سلامتی کی سنگین خلاف ورزی تصور کرتی ہے۔
وزارت کے مطابق یہ فیصلہ خواتین، بچوں اور وسیع تر معاشرے کو اے آئی کے ذریعے تیار کردہ جعلی فحش مواد سے بچانے کے لیے کیا گیا ہے۔
ڈیجیٹل سپیس سپروژن کے ڈائریکٹر جنرل الیگزینڈر سابر نے کہا کہ ابتدائی تحقیقات سے یہ بات سامنے آئی ہے کہ Grok میں مؤثر حفاظتی نظام موجود نہیں، جو صارفین کو انڈونیشی شہریوں کی اصل تصاویر پر مبنی فحش مواد بنانے یا پھیلانے سے روک سکے۔
انہوں نے واضح کیا کہ اس طرح کی سرگرمیاں افراد کی پرائیویسی اور امیج رائٹس کی سنگین خلاف ورزی ہیں، جبکہ بغیر رضامندی تصاویر میں ردوبدل یا ان کی تشہیر نفسیاتی، سماجی اور ساکھ کو ناقابلِ تلافی نقصان پہنچا سکتی ہے۔
دوسری جانب کوالالمپور میں ملائیشین کمیونیکیشنز اینڈ ملٹی میڈیا کمیشن نے Grok پر عارضی پابندی عائد کرتے ہوئے کہا کہ اس ٹول کا بار بار غلط استعمال کیا جا رہا تھا، جس کے ذریعے فحش، جنسی طور پر واضح اور غیر رضامندی پر مبنی تصاویر بنائی جا رہی تھیں، جن میں خواتین اور کم عمر افراد بھی شامل تھے۔
ریگولیٹر کے مطابق رواں ماہ X کارپ اور xAI کو نوٹسز جاری کیے گئے تھے جن میں مؤثر حفاظتی اقدامات نافذ کرنے کا مطالبہ کیا گیا، تاہم کمپنیوں کے جوابات زیادہ تر صارفین کی جانب سے رپورٹنگ سسٹم پر انحصار کرتے رہے۔
بیان میں کہا گیا کہ یہ پابندی ایک حفاظتی اور متناسب اقدام کے طور پر لگائی گئی ہے، جبکہ قانونی اور ریگولیٹری کارروائیاں جاری ہیں، اور مؤثر حفاظتی نظام نافذ ہونے تک رسائی بحال نہیں کی جائے گی۔
واضح رہے کہ 2023 میں لانچ ہونے والا Grok ایکس پلیٹ فارم پر مفت دستیاب ہے، جہاں صارفین اس سے سوالات کر سکتے ہیں اور اپنی یا دیگر پوسٹس کے جوابات میں اسے ٹیگ بھی کر سکتے ہیں۔
گزشتہ سال کمپنی نے Grok Imagine کے نام سے ایک امیج جنریٹر فیچر متعارف کرایا تھا، جس میں سپائسی موڈ شامل تھا، جو فحش مواد تیار کرنے کی صلاحیت رکھتا تھا۔
جنوب مشرقی ایشیا میں پابندیوں کے ساتھ ساتھ یورپی یونین، برطانیہ، بھارت اور فرانس میں بھی Grok پر نگرانی سخت کی جا رہی ہے۔
گزشتہ ہفتے عالمی ردعمل کے بعد Grokنے امیج جنریشن اور ایڈیٹنگ کی سہولت صرف ادائیگی کرنے والے صارفین تک محدود کر دی، تاہم ناقدین کا کہنا ہے کہ یہ اقدام مسئلے کا مکمل حل نہیں۔