বিজ্ঞানপ্রযুক্তি ডেস্ক: এখন থেকে কোনো কিশোর-কিশোরী যদি ‘মেটা এআই’ চ্যাটবটের সঙ্গে আত্মহত্যা বা নিজের ক্ষতি করার বিষয়ে কোনো আলোচনা করে, তবে মেটা তাদের অভিভাবকদের সেটি জানিয়ে দেবে। বৃহস্পতিবার মেটা এ ঘোষণা দিয়েছে।

মেটা আরও জানিয়েছে, তারা এমন একটি প্রযুক্তি তৈরির কাজ করছে, যার মাধ্যমে কারো কথোপকথন থেকে যদি মনে হয় সে তাৎক্ষণিকভাবে আত্মহত্যার ঝুঁকিতে আছে, তবে সরাসরি জরুরি সেবার সঙ্গে যোগাযোগ করা সম্ভব হবে।

মেটা এবং অন্যান্য প্রযুক্তি কোম্পানিগুলো এখন নিয়ন্ত্রক সংস্থা ও অভিভাবকদের কাছ থেকে ব্যাপক চাপের মুখে রয়েছে।

মূলত এআই চ্যাটবটগুলো সংকটাপন্ন ব্যবহারকারী, বিশেষ করে কিশোর-কিশোরীদের সঙ্গে কীভাবে সাড়া দেয়, তা নিয়েই এই উদ্বেগ। এই দায়বদ্ধতার প্রশ্নটিই এখন এআই কোম্পানিগুলোকে তাদের পণ্যের নকশা এবং বিপণন কৌশল পরিবর্তনে বাধ্য করছে।

মেটা জানিয়েছে, তারা একটি বিশেষ এআই সিস্টেম তৈরি করেছে, যা কিশোর-কিশোরীদের এমন সব কথোপকথন শনাক্ত করতে পারবে, যেখানে তারা নিজেদের ক্ষতি করার বিষয়ে সরাসরি কোনো ইঙ্গিত দেয়।

মেটা একটি ব্লগ পোস্টে লিখেছে, আমরা বুঝি যে একজন অভিভাবকের জন্য এই ধরনের সতর্কতা পাওয়া কতটা যন্ত্রণাদায়ক হতে পারে।

তারা আরও বলেছে, এ কারণেই আমরা আমাদের শনাক্তকরণ প্রক্রিয়া উন্নত করার পাশাপাশি নিশ্চিত করছি যে, আমাদের এআই কোনো কথোপকথন শনাক্ত করলে তা পাঠানোর আগে মানুষের মাধ্যমে ম্যানুয়ালি যাচাই করা হবে। যদি কোনো কিশোর-কিশোরীর উদ্দেশ্য অস্পষ্ট থাকে, তবে আমরা সতর্কতার খাতিরে অভিভাবকদের জানিয়ে দেব। এতে হয়ত অনেক সময় অকারণেও অভিভাবকদের সতর্ক করা হতে পারে, তবে আমরা মনে করি এটি শুরু করার জন্য সঠিক পদক্ষেপ। আমরা বিষয়টি পর্যবেক্ষণ করব যাতে পরবর্তীতে আমরা আরও সঠিক সিদ্ধান্ত নিতে পারি।

মেটা জানিয়েছে, এই সতর্কতাগুলো এখন যুক্তরাষ্ট্র, যুক্তরাজ্য, অস্ট্রেলিয়া এবং কানাডায় ইনস্টাগ্রাম প্যারেন্টাল সুপারভিশন ব্যবহার করা অভিভাবকদের জন্য চালু হয়েছে। বছরের শেষ নাগাদ এটি বিশ্বব্যাপী ছড়িয়ে দেওয়া হবে।

এই আপডেটটি মেটার আগের সতর্কবার্তার ওপর ভিত্তি করে তৈরি, যা তারা ইতোমধ্যে অভিভাবকদের পাঠিয়ে থাকে যখন তাদের কিশোর বয়সী সন্তানরা ইনস্টাগ্রামে বারবার আত্মহত্যা বা আত্মহননের মতো বিষয়গুলো সার্চ করে। এছাড়া এটি এমন একটি ফিচারের ওপর ভিত্তি করে তৈরি, যা অভিভাবকদের তাদের কিশোর বয়সী সন্তান গত সপ্তাহে মেটা এআইর সঙ্গে কী কী বিষয়ে কথা বলেছে, তা দেখার সুযোগ দেয়।

মেটা আরও ঘোষণা করেছে, তাদের ‘লিমিটেড কন্টেন্ট’ সেটিংস, যা অভিভাবকদের তাদের কিশোর সন্তানদের ইনস্টাগ্রামে আরও সীমাবদ্ধ অভিজ্ঞতার মধ্যে রাখার সুযোগ দেয়, তা এখন থেকে মেটা এআইর ক্ষেত্রেও প্রযোজ্য হবে। মেটা এআই ইতোমধ্যে কিশোর-কিশোরীদের সঙ্গে যৌন বা রোমান্টিক বিষয় অথবা অ্যালকোহল সংক্রান্ত আলোচনা এড়িয়ে চলার জন্য প্রশিক্ষিত। এই ‘লিমিটেড কন্টেন্ট’ সেটিংস সেই সুরক্ষাকে আরও বাড়িয়ে দেবে, যার ফলে চ্যাটবটটি অনেক বেশি প্রম্পট বা অনুরোধ প্রত্যাখ্যান করবে।

পাশাপাশি মেটা জানিয়েছে, মেটা এআইর সঙ্গে কথোপকথনের সময় কোনো ব্যবহারকারী প্রাপ্তবয়স্ক বা কিশোর– যদি আত্মহত্যার ঝুঁকিতে আছে বলে মনে হয়, তবে তারা জরুরি সেবার সঙ্গে যোগাযোগ করবে। কেউ যদি ফেসবুক বা ইনস্টাগ্রামে এমন কিছু পোস্ট করে, যা থেকে মনে হয় সে ঝুঁকিতে আছে– এসব ক্ষেত্রে মেটা আগে থেকেই পদক্ষেপ নিয়ে আসছে। এখন চ্যাটবটের সঙ্গে হওয়া কথোপকথনের ক্ষেত্রেও একই পদ্ধতি কার্যকর করা হচ্ছে। সূত্র: টেকক্রাঞ্চ

রিপোর্টার্স২৪/ধ্রুব