এলন মাস্কের মালিকানাধীন এআই টুল গ্রক (Grok)–এর ইমেজ জেনারেশন ফিচার হিজাব পরিহিত নারীসহ সংখ্যালঘু ও অশ্বেতাঙ্গ নারীদের বিরুদ্ধে গুরুতর অপব্যবহারের অভিযোগের মুখে পড়েছে। প্রযুক্তি বিষয়ক ম্যাগাজিন WIRED–এর এক পর্যালোচনায় দেখা গেছে, গ্রক দ্বারা তৈরি শত শত ছবিতে নারীদের পোশাক ইচ্ছাকৃতভাবে পরিবর্তন করে আপত্তিকরভাবে উপস্থাপন করা হয়েছে।
WIRED জানায়, চলতি বছরের ৬ থেকে ৯ জানুয়ারির মধ্যে তৈরি করা ৫০০টি গ্রক-জেনারেটেড ছবির মধ্যে প্রায় ৫ শতাংশে নারীদের পোশাক পালটানো হয়েছে। কখনো কাপড় সরিয়ে আবার কখনো ধর্মীয় বা সাংস্কৃতিক পোশাক কৃত্রিমভাবে যুক্ত করে। সবচেয়ে বেশি লক্ষ্যবস্তু হয়েছে হিজাব ও বোরকা পরিহিত মুসলিম নারী, ভারতীয় শাড়ি পরা নারী এবং জাপানি স্কুল ইউনিফর্ম পরিহিত কিশোরীরা।
সামাজিক যোগাযোগমাধ্যম গবেষক জেনেভিভ ওহ-এর সংগৃহীত তথ্যে দেখা গেছে, গ্রক প্রতি ঘণ্টায় দেড় হাজারের বেশি ক্ষতিকর ছবি তৈরি করছে, যার মধ্যে রয়েছে নারীদের জোরপূর্বক নগ্ন করা এবং ভুয়া অন্তরঙ্গ ছবি।
অস্ট্রেলিয়ার ইউনিভার্সিটি অব ওয়েস্টার্ন অস্ট্রেলিয়ার গবেষক ও আইনজীবী নোয়েল মার্টিন বলেন,
“অশ্বেতাঙ্গ নারীরা দীর্ঘদিন ধরেই ভুয়া ও বিকৃত যৌন কনটেন্টের শিকার। সমাজে নারীদের কম মানবিক ও কম মর্যাদার বলে দেখার প্রবণতা থেকেই এই নির্যাতন জন্ম নেয়।”
একটি যাচাইকৃত অ্যাকাউন্ট থেকে গ্রককে নির্দেশ দেওয়া হয়, হিজাব ও আবায়া পরিহিত তিন মুসলিম নারীর ছবি থেকে হিজাব সরিয়ে ‘নববর্ষের পার্টির পোশাক’ পরাতে। গ্রক সেই নির্দেশ অনুযায়ী ঐ নারীদের হিজাবকে আধা-স্বচ্ছ পোশাকে রূপান্তরিত করে ছবি তৈরি করে। ছবিটি ইতোমধ্যে ৭ লাখের বেশি বার দেখা হয়েছে।
এই ঘটনার পর মালয়েশিয়া ও ইন্দোনেশিয়া গ্রক নিষিদ্ধ করেছে। দেশ দুটির কর্তৃপক্ষ বলেছে, এই এআই টুলটি শালীনতাবিরোধী ও অনুমতি ছাড়া তৈরি ভুয়া ছবি ছড়াতে ব্যবহৃত হচ্ছে, যা নারী ও শিশুদের জন্য ভয়াবহ হুমকি।
ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল বিষয়ক মন্ত্রী মেউত্যা হাফিদ বলেন,
“অনুমতি ছাড়া তৈরি যৌন ডিপফেক মানবাধিকার, মর্যাদা এবং ডিজিটাল নিরাপত্তার গুরুতর লঙ্ঘন।”
গ্রক হলো ইলন মাস্কের প্রতিষ্ঠান xAI–এর তৈরি একটি এআই চ্যাটবট, যা ২০২৩ সালের শেষ দিকে উন্মুক্ত হয়।
এটি X (সাবেক টুইটার)–এর সঙ্গে যুক্ত থাকায় রিয়েল-টাইম তথ্য বিশ্লেষণ করতে পারে।
গ্রককে তুলনামূলকভাবে কৌতুকপ্রবণ ও কম সেন্সরড এআই হিসেবে তৈরি করা হয়েছে।
এর নাম এসেছে উপন্যাস Stranger in a Strange Land থেকে, যেখানে “grok” মানে কোনো বিষয়কে গভীরভাবে বোঝা।
