পেনসিলভানিয়া: মেটা 9 জানুয়ারী, 2024-এ ঘোষণা করেছিল যে এটি ইনস্টাগ্রাম এবং Facebook-এ কিশোর-কিশোরীদের ব্যবহারকারীদের কোম্পানির ক্ষতিকারক মনে করে এমন সামগ্রী দেখা থেকে তাদের রক্ষা করবে। এর মধ্যে আত্মহত্যা এবং খাওয়ার ব্যাধি সম্পর্কিত বিষয়বস্তুও রয়েছে। ফেডারেল এবং রাজ্য সরকার কিশোর-কিশোরীদের সুরক্ষা প্রদানের জন্য সোশ্যাল মিডিয়া সংস্থাগুলির উপর চাপ বাড়ায় এই পদক্ষেপটি আসে। আমরা জানি যে কিশোর-কিশোরীরা সোশ্যাল মিডিয়াতে তাদের সমবয়সীদের কাছে সমর্থনের জন্য ফিরে আসে যা তারা অন্য কোথাও পেতে পারে না।

কিশোর-কিশোরীদের রক্ষা করার প্রচেষ্টা অসাবধানতাবশত তাদের পক্ষে সাহায্য পাওয়া কঠিন করে তুলতে পারে। কংগ্রেস সাম্প্রতিক বছরগুলিতে সোশ্যাল মিডিয়া এবং তরুণদের জন্য এটির ঝুঁকি সম্পর্কে বেশ কয়েকবার কথা বলেছে। মেটার সিইওরা, কমিটির চেয়ারম্যান এবং র‌্যাঙ্কিং সদস্য যথাক্রমে, সিনেটর ডিক ডারবিন (ডি-আইল.) এবং লিন্ডসে গ্রাহাম (আর-এস.সি.), শুনানির আগে একটি বিবৃতিতে বলেছিলেন যে প্রযুক্তি সংস্থাগুলিকে “শেষ পর্যন্ত শিশুদের রক্ষা করা উচিত, বিশেষ করে “আমরা নিরাপত্তা প্রদানে আমাদের ব্যর্থতা স্বীকার করতে বাধ্য হয়।”

আমি একজন গবেষক যিনি অনলাইন নিরাপত্তা নিয়ে গবেষণা করেন। আমার সহকর্মীরা এবং আমি কিশোর সোশ্যাল মিডিয়া ইন্টারঅ্যাকশন এবং ব্যবহারকারীদের রক্ষা করার জন্য প্ল্যাটফর্মের প্রচেষ্টার কার্যকারিতা অধ্যয়ন করছি। গবেষণা দেখায় যে যখন কিশোর-কিশোরীরা সামাজিক মিডিয়াতে বিপদের সম্মুখীন হয়, তখন তারা সমবয়সীদের কাছ থেকে বিশেষ করে সরাসরি মেসেজিংয়ের মাধ্যমে সমর্থন পায়। আমরা চিহ্নিত করেছি যে পদক্ষেপগুলি সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলি ব্যবহারকারীদের সুরক্ষার পাশাপাশি তাদের অনলাইন গোপনীয়তা এবং স্বায়ত্তশাসনের জন্য নিতে পারে৷ শিশুরা কি সম্মুখীন হয়?

সোশ্যাল মিডিয়াতে কিশোর-কিশোরীদের জন্য ঝুঁকির ব্যাপকতা সুপ্রতিষ্ঠিত। এই ঝুঁকিগুলি হয়রানি এবং ধমক থেকে দুর্বল মানসিক স্বাস্থ্য এবং যৌন শোষণ পর্যন্ত। তদন্তে প্রকাশিত হয়েছে যে মেটার মতো কোম্পানিগুলি জানত যে তাদের প্ল্যাটফর্মগুলি মানসিক স্বাস্থ্যের সমস্যাগুলিকে আরও বাড়িয়ে তোলে, যা তরুণদের মানসিক স্বাস্থ্যকে মার্কিন সার্জন জেনারেলের অগ্রাধিকারগুলির মধ্যে একটি করে তুলতে সহায়তা করে৷ বেশিরভাগই স্ব-প্রতিবেদিত ডেটা থেকে এসেছে যেমন কিশোর অনলাইন নিরাপত্তা গবেষণা সমীক্ষা। তরুণদের বাস্তব-বিশ্বের ব্যক্তিগত মিথস্ক্রিয়া এবং অনলাইন ঝুঁকি সম্পর্কে তাদের দৃষ্টিভঙ্গিগুলির আরও তদন্তের প্রয়োজন রয়েছে। এই প্রয়োজন মেটাতে, আমার সহকর্মীরা এবং আমি 7 মিলিয়নেরও বেশি সরাসরি বার্তা সহ তরুণদের Instagram কার্যকলাপের একটি বড় ডেটাসেট সংগ্রহ করেছি।

আমরা তরুণদের তাদের মিথস্ক্রিয়া বর্ণনা করতে এবং বার্তা সনাক্ত করতে বলেছি যা তাদের অস্বস্তিকর বা অনিরাপদ বোধ করে। এই ডেটাসেট ব্যবহার করে, আমরা দেখেছি যে তরুণদের জন্য সরাসরি কথোপকথন গুরুত্বপূর্ণ হতে পারে যারা দৈনন্দিন জীবনযাপন থেকে শুরু করে মানসিক স্বাস্থ্যের উদ্বেগগুলির বিষয়ে সমর্থন চাইছেন। আমাদের অনুসন্ধানগুলি দেখায় যে এই চ্যানেলগুলি তরুণরা তাদের জনসাধারণের মিথস্ক্রিয়াকে আরও গভীরভাবে আলোচনা করার জন্য ব্যবহার করেছিল। সেটিংসে পারস্পরিক বিশ্বাসের উপর ভিত্তি করে, কিশোর-কিশোরীরা সাহায্য চাইতে নিরাপদ বোধ করে।

গবেষণা দেখায় যে অনলাইন কথোপকথনের গোপনীয়তা তরুণদের অনলাইন নিরাপত্তার ক্ষেত্রে একটি গুরুত্বপূর্ণ ভূমিকা পালন করে এবং তবুও এই প্ল্যাটফর্মগুলিতে উল্লেখযোগ্য পরিমাণে ক্ষতিকারক কথোপকথন ব্যক্তিগত বার্তার আকারে আসে৷ আমাদের ডেটাসেটে ব্যবহারকারীদের দ্বারা পতাকাঙ্কিত অনিরাপদ বার্তাগুলির মধ্যে রয়েছে হয়রানি, যৌন বার্তা, যৌন আবেদন, নগ্নতা, পর্নোগ্রাফি, ঘৃণামূলক বক্তব্য, এবং অবৈধ কার্যকলাপের বিক্রয় বা প্রচার। যাইহোক, কিশোর-কিশোরীদের অনলাইন ঝুঁকি সনাক্ত এবং প্রতিরোধ করতে স্বয়ংক্রিয় প্রযুক্তি ব্যবহার করা আরও কঠিন হয়ে উঠেছে কারণ প্ল্যাটফর্মগুলি ব্যবহারকারীর গোপনীয়তা রক্ষা করার জন্য চাপের মধ্যে পড়েছে।

উদাহরণস্বরূপ, মেটা তার প্ল্যাটফর্মে সমস্ত বার্তাগুলির জন্য এন্ড-টু-এন্ড এনক্রিপশন প্রয়োগ করেছে যাতে বার্তা সামগ্রী সুরক্ষিত এবং শুধুমাত্র কথোপকথনে অংশগ্রহণকারীরা এটি অ্যাক্সেস করতে পারে। অতিরিক্তভাবে, আত্মহত্যা এবং খাওয়ার ব্যাধি সম্পর্কিত বিষয়বস্তু প্রতিরোধ করার জন্য মেটা যে পদক্ষেপগুলি নিয়েছে তা সেই সামগ্রীটিকে সর্বজনীনভাবে পোস্ট করা থেকে বিরত রাখে, এমনকি যদি একজন কিশোরের বন্ধু এটি পোস্ট করে থাকে। অতিরিক্তভাবে, Meta-এর বিষয়বস্তু কৌশল এমন অনিরাপদ কথোপকথনকে সম্বোধন করে না যা কিশোর-কিশোরীরা অনলাইনে জড়িত থাকে। ভারসাম্য

এমন পরিস্থিতিতে তরুণ ব্যবহারকারীদের গোপনীয়তাকে আক্রমণ না করে তাদের রক্ষা করাই প্রধান চ্যালেঞ্জ। এই লক্ষ্যে, আমরা কীভাবে অনিরাপদ বার্তা সনাক্ত করতে ন্যূনতম ডেটা ব্যবহার করতে পারি তা খুঁজে বের করার জন্য একটি গবেষণা পরিচালনা করেছি। আমরা বুঝতে চেয়েছিলাম কীভাবে ঝুঁকিপূর্ণ কথোপকথনের বিভিন্ন বৈশিষ্ট্য বা মেটাডেটা যেমন কথোপকথনের দৈর্ঘ্য, গড় প্রতিক্রিয়ার সময় এবং কথোপকথনের অংশগ্রহণকারীদের সম্পর্ক এই ঝুঁকিগুলি সনাক্তকারী মেশিন লার্নিং প্রোগ্রামগুলিতে অবদান রাখতে পারে। উদাহরণস্বরূপ, পূর্ববর্তী গবেষণায় দেখা গেছে যে ঝুঁকিপূর্ণ মিথস্ক্রিয়াগুলি সংক্ষিপ্ত এবং একতরফা হতে থাকে, যেমন অপরিচিত ব্যক্তিরা অবাঞ্ছিতভাবে কথোপকথনে অগ্রসর হয়।

আমরা দেখেছি যে আমাদের মেশিন লার্নিং প্রোগ্রাম 87% ক্ষেত্রে কথোপকথনের জন্য শুধুমাত্র মেটাডেটা ব্যবহার করে অনিরাপদ কথোপকথন সনাক্ত করতে সক্ষম হয়েছে। যাইহোক, সবচেয়ে কার্যকর পদ্ধতি হল টেক্সট, ছবি এবং কথোপকথনের ভিডিও বিশ্লেষণ করে ঝুঁকির ধরন এবং তীব্রতা সনাক্ত করা। এই ফলাফলগুলি অনিরাপদ কথোপকথনগুলিকে বিচ্ছিন্ন করার জন্য মেটাডেটার গুরুত্ব তুলে ধরে এবং কৃত্রিম বুদ্ধিমত্তা ঝুঁকি সনাক্তকরণ ডিজাইন করার জন্য প্ল্যাটফর্মগুলির জন্য নির্দেশিকা হিসাবে ব্যবহার করা যেতে পারে। প্ল্যাটফর্মগুলি সেই সামগ্রী স্ক্যান না করেই ক্ষতিকারক সামগ্রী ব্লক করতে মেটাডেটার মতো উচ্চ-স্তরের বৈশিষ্ট্যগুলি ব্যবহার করতে পারে।

উদাহরণস্বরূপ, একটি ক্রমাগত হয়রানিকারী যা একজন যুবক এড়াতে চায় সে মেটাডেটা তৈরি করবে – বারবার, সংক্ষিপ্ত, সম্পর্কহীন ব্যবহারকারীদের মধ্যে একমুখী যোগাযোগ – যা একটি AI সিস্টেম হয়রানিকারীকে থামাতে ব্যবহার করতে পারে। আদর্শভাবে, যুবক-যুবতীদের এবং তাদের তত্ত্বাবধায়কদের এনক্রিপশন, ঝুঁকি সনাক্তকরণ বা উভয়ই চালু করতে সক্ষম হওয়ার বিকল্প দেওয়া হবে যাতে তারা নিজেদের জন্য গোপনীয়তা এবং নিরাপত্তার বিষয়ে সঠিক পছন্দ করতে পারে।

(Feed Source: enavabharat.com)