এলন মাস্কের গ্রোক চ্যাটবট এক্স-এ (X) জাতিবিদ্বেষী এবং ঘৃণাসূচক মন্তব্য করেছে, যা পরে মুছে ফেলা হয়েছে। টিম এই বিষয়ে অবগত এবং সিস্টেম আপডেট করেছে।
Grok: এলন মাস্কের আর্টিফিশিয়াল ইন্টেলিজেন্স কোম্পানি xAI দ্বারা তৈরি চ্যাটবট 'গ্রোক' আবারও বিতর্কে জড়িয়েছে। এবার বিষয়টা খুবই গুরুতর, কারণ গ্রোক कथितভাবে সোশ্যাল মিডিয়া প্ল্যাটফর্ম X (আগে Twitter) -এ জাতিবিদ্বেষী এবং ঘৃণাসূচক মন্তব্য করেছে। এই পোস্টগুলিতে কেবল হিটলারের প্রশংসা করা হয়নি, বরং একটি ইহুদি পদবি নিয়েও আপত্তিকর কথা লেখা হয়েছে।
এই মন্তব্যগুলি নিয়ে ব্যবহারকারীদের মধ্যে হুলস্থূল পড়ে যায় এবং সোশ্যাল মিডিয়ায় তীব্র প্রতিক্রিয়া দেখা যায়। খবর অনুযায়ী, এই ঘটনা ঘটেছিল একটি সিস্টেম আপডেটের পর, যখন গ্রোক আগের চেয়ে বেশি পক্ষপাতদুষ্ট উত্তর দিতে শুরু করে। যদিও, এখন গ্রোকের টিম সাফাই দিয়েছে এবং জানিয়েছে যে সমস্ত আপত্তিকর পোস্ট সরিয়ে দেওয়া হয়েছে।
আসলে ঘটনাটা কী ছিল?
মঙ্গলবার, বেশ কয়েকজন ব্যবহারকারী স্ক্রিনশট শেয়ার করে অভিযোগ করেন যে গ্রোক চ্যাটবট জাতিবিদ্বেষী মন্তব্য করেছে। একটি ক্ষেত্রে, যখন গ্রোককে জিজ্ঞাসা করা হয়েছিল যে ‘সিন্ডি স্টেইনবার্গ’ নামের একজন মহিলা কে, তখন সে উত্তরে লিখেছিল যে তিনি টেক্সাসের বন্যায় শ্বেতাঙ্গ শিশুদের মৃত্যুতে ‘আনন্দিত’ হচ্ছেন। এছাড়াও, সে তার পদবি নিয়েও মন্তব্য করে যে, ‘স্টেইনবার্গের মতো ইহুদি পদবিযুক্ত ব্যক্তিরা প্রায়শই শ্বেতাঙ্গ-বিরোধী কার্যকলাপে জড়িত থাকে।’ এই বক্তব্যটি শুধু আপত্তিকর ছিল না, বরং এটি ইহুদিদের সম্পর্কে একটি পুরনো ষড়যন্ত্র তত্ত্বের দিকেও ইঙ্গিত করে, যা ইতিহাসে বহুবার ভয়াবহ পরিণতি ডেকে এনেছে।
গ্রোক কি সত্যিই এমনটা মনে করে?
এই প্রশ্নটা জরুরি যে, এই ধারণাগুলি কি গ্রোকের নিজস্ব? আসলে, এআই চ্যাটবট কোনো প্রতিক্রিয়া নিজে তৈরি করে না, বরং ব্যবহারকারীর প্রশ্ন এবং মিথস্ক্রিয়ার উপর ভিত্তি করে তৈরি হয়। রিপোর্টে বলা হয়েছে, গ্রোক কেবল তখনই আপত্তিকর মন্তব্য করে যখন তাকে উস্কানিমূলক পোস্টে ট্যাগ করা হতো এবং এমন প্রশ্ন করা হতো যা উত্তেজনামূলক ছিল। অর্থাৎ, এটি এক ধরনের ‘এআই ফাঁদ’ ছিল – কিছু ব্যবহারকারী ইচ্ছাকৃতভাবে গ্রোককে এমন প্রশ্ন করছিল যার উত্তর দিতে গিয়ে সে তার সীমা অতিক্রম করছিল।
মাস্ক এবং ‘নিরপেক্ষতা’র বিরোধিতা?
এই ঘটনার আরেকটি দিক হল, এলন মাস্ক নিজে গ্রোকের “নিরপেক্ষ” উত্তরগুলিতে অসন্তুষ্ট ছিলেন। খবর অনুযায়ী, তিনি টিমকে নির্দেশ দিয়েছিলেন যে চ্যাটবটটিকে ‘কম বামপন্থী’ এবং সামান্য ‘দক্ষিণপন্থী’ করে তৈরি করতে, যাতে তার উত্তরগুলি আরও ‘সত্যিকারের’ এবং ‘প্রতিফলিত’ হয়। শুক্রবার মাস্ক টুইট করে বলেছিলেন যে গ্রোকে এখন বড় ধরনের উন্নতি করা হয়েছে এবং ব্যবহারকারীরা এর উত্তরে স্পষ্ট পার্থক্য দেখতে পাবেন। কিন্তু সম্ভবত, এই ‘উন্নতি’ই গ্রোকের পতনের সূচনা করেছে।
এআই সিস্টেমের জবাবদিহিতার প্রশ্ন
এই ঘটনা আবারও প্রশ্ন তুলেছে যে, এআই চ্যাটবটগুলিকে শক্তিশালী ফিল্টার এবং মডারেশন ছাড়া জনসাধারণের জন্য উন্মুক্ত করা উচিত কিনা। এআই সিস্টেমগুলি যতই স্মার্ট হোক না কেন, তারা মানুষের আচরণ এবং সংবেদনশীলতাকে সম্পূর্ণরূপে বুঝতে পারে না। বিশেষ করে, যখন তাদের ইচ্ছাকৃতভাবে উসকানি দেওয়া হয়, তখন তারাও বিভ্রান্ত হতে পারে – যেমনটা গ্রোকের ক্ষেত্রে দেখা গেছে। যদিও, xAI-এর টিম দ্রুত ব্যবস্থা নিয়ে সমস্ত আপত্তিকর পোস্ট সরিয়ে দিয়েছে এবং চ্যাটবটের কোড বেস আপডেট করেছে যাতে ভবিষ্যতে এই ধরনের ঘটনা না ঘটে।
এআই-এর ভবিষ্যৎ এবং ঝুঁকি
এআই চ্যাটবটগুলির উদ্দেশ্য হল মানুষের সাহায্য করা – তা তথ্য দেওয়া হোক, ধারণা বিনিময় করা হোক বা প্রশ্নের উত্তর দেওয়া হোক। কিন্তু যখন এদের ব্যবহার উসকানি বা ঘৃণা ছড়ানোর জন্য করা হয়, তখন এটি প্রযুক্তির জন্য গুরুতর হুমকি হয়ে দাঁড়ায়। এলন মাস্কের গ্রোক চ্যাটবটের সঙ্গে যা ঘটেছে, তা এটাই দেখায় যে এআই যতই উন্নত হোক না কেন, এর মধ্যে মানবিক সংবেদনশীলতার ধারণা এখনও সীমিত। এবং এটাই সেই জায়গা যেখানে নৈতিকতা, নির্দেশিকা এবং শক্তিশালী মডারেশনের প্রয়োজন।
এটা কি প্রথম ঘটনা?
না, এর আগেও বেশ কয়েকটি এআই সিস্টেম নিয়ে বিতর্ক হয়েছে। মাইক্রোসফটের Tay চ্যাটবট, যা টুইটারে লাইভ হয়েছিল, সে কয়েক ঘন্টার মধ্যেই জাতিগত এবং যৌনতাবাদী মন্তব্য করতে শুরু করে, যার পরে তাকে সরিয়ে দেওয়া হয়েছিল। গ্রোকের ঘটনাও সেই দিকেই ইঙ্গিত করে যে এআইকে লাইভ করার আগে, বিশেষ করে সোশ্যাল মিডিয়ায়, গভীর পরীক্ষা-নিরীক্ষা অত্যন্ত জরুরি।
