ডেনমার্কের কল্যাণ সংস্থার অ্যালগরিদমপদ্ধতি নিয়ে অ্যামনেস্টি ইন্টারন্যাশনালের অনুসন্ধান

সম্পাদকদের নোট: আমাদের অনুসন্ধান সম্পর্কিত নির্দিষ্ট কিছু বিষয় নিয়ে জানতে চাইলে পিছিয়ে যায় ডেনিশ কর্তৃপক্ষ। সঙ্গতকারণেই তাদের প্রতিক্রিয়াগুলো প্রতিবেদনে যুক্ত করা হয়েছে।

দুই বছরেরও বেশি সময় ধরে, অ্যামনেস্টি ইন্টারন্যাশনালের অ্যালগরিদমিক অ্যাকাউন্টেবিলিটি ল্যাব (এএএল) ডেনমার্কের কল্যাণ সংস্থা উডবেটালিং ডেনমার্ক (ইউডিকে)-এর ওপর গভীর অনুসন্ধান চালায়। ইউরোপ জুড়ে কল্যাণ সহায়তা খাত নিয়ে যে সংকট তারই প্রতিফলন দেখা যায় সংস্থাটির কর্মকাণ্ডে। সাহায্যপ্রার্থীদের প্রতি বৈষম্যমূলক আচরণের কারণে পুরো পদ্ধতিটি প্রশ্নের সম্মুখীন হয়। অথচও এ পদ্ধতিতেই সাহায্যপ্রার্থীদের সুরক্ষা পাওয়ার কথা।

ইউরোপীয় সরকারগুলোর “ডেটা-নির্ভর” রাষ্ট্র গঠনের নিরলস প্রচেষ্টা চালিয়ে যাচ্ছে। কোডেড ইনজাস্টিস:সারভেইল্যান্স অ্যান্ড ডিসক্রিমিনেশন ইন ডেনমার্কস অটোমেটেড ওয়েলফেয়ার স্টেট শিরোনামের এই প্রতিবেদনটি এই চেষ্টার ফলে যে উদ্বেগজনক কর্মকাণ্ডের সৃষ্টি হয় তা বের করে আনে। আমরা জানতে পারি, এ অঞ্চল জুড়ে অভিবাসন নিয়ন্ত্রণ, সীমান্ত নীতির কাঠোর প্রয়োগ এবং সামাজিক সুরক্ষার আওতায় আসতে কেউ কোনো প্রতারণার আশ্রয় নিচ্ছে কিনা তা শনাক্তের জন্য কর্তৃপক্ষ কৃত্রিম বুদ্ধিমত্তা (এআই) এবং মেশিন-লার্নিং প্রযুক্তির প্রয়োগ করছে। এ ধরনের নজরদারি প্রতিবন্ধী থেকে শুরু করে প্রান্তিক জাতিগোষ্ঠী, অভিবাসী ও শরণার্থীদের প্রতি বড় ধরনের বৈষম্যের ঝুঁকি সৃষ্টি করে।

সামাজিক সুরক্ষার একটি বিশ্বস্ত ও উদার ব্যবস্থার জন্য ডেনমার্ক সুপরিচিত। যেখানে দেশের মোট দেশজ উৎপাদনের (জিডিপি) ২৬ শতাংশ সামাজিক কল্যাণে ব্যয় হয়। তবে দেশটিকে পূর্ণাঙ্গভাবে ডিজিটাল প্রযুক্তি নির্ভর করতে গিয়ে—বিশেষ করে কল্যাণ কর্মসূচী ঘিরে কোনো প্রতারণার ঘটনা ঘটলে তা শনাক্ত ও তদন্তের জন্য অ্যালগরিদম এবং কৃত্রিম বুদ্ধিমত্তার প্রয়োগ কীভাবে বৈষম্যমূলক পরিণতি ডেকে আনতে পারে, সেদিকে তেমন নজর দেওয়া হয়নি। পাশাপাশি, মিথ্যা অভিযোগে অভিযুক্ত হওয়া কিংবা এই নজরদারি ব্যবস্থার অধীনে থাকা মানুষগুলোর মনের ওপর যে ক্ষতিকর প্রভাব পড়ে—তাও খুব একটা বিবেচনায় নেওয়া হয়নি।

আমরা প্রতিবন্ধী ব্যক্তিদের সঙ্গে কথা বলেছি। তাঁরা আমাদের জানান, কল্যাণ সুবিধা পাওয়ার যোগ্যতা প্রমাণের জন্য তাদের যে কঠোর নজরদারির মধ্য দিয়ে যেতে হয় তা প্রচন্ড মানসিক চাপ তৈরি করে। ড্যানস্ক হ্যান্ডিক্যাপ ফাউন্ডেশনের সামাজিক ও শ্রমবাজার নীতি কমিটির চেয়ারপারসন বলেন, যাঁরা বারবার রাষ্ট্রীয় তদন্ত কর্মকর্তাদের জিজ্ঞাসাবাদের মুখোমুখি হন, তাঁরা প্রায়ই হতাশ হয়ে পড়েন। অসহায় ওই ব্যক্তিরা তাকে এটাও জানিয়েছেন যে, নাছোড়বান্দা এই তদন্ত ব্যবস্থা তাদের “ভেতর থেকে খেয়ে ফেলছে।”

সাক্ষাৎকার দিতে আসা এক ব্যক্তি এ তদন্তের ভয়াবহতা তুলে ধরতে গিয়ে অ্যামনেস্টি ইন্টারন্যাশনালকে বলেছেন: “[এটা] ঠিক বন্দুকের নলের সামনে বসে থাকার মতো। আমরা সবসময় ভয়ে ভয়ে থাকি। [এটা যেন] বন্দুক, দিনরাত আমাদের দিকে তাক করে রাখা হয়েছে।”

এ বর্ণনাগুলো কিছুই নয়, অনেকটা হিমশৈলীর চূড়া দেখার মতো। পানির নীচে গেলেই এর ভয়াবহতা আঁচ করা যায়। আমাদের অনুসন্ধানেও তেমন আরো কঠিন ও নির্মম সত্য উঠে এসেছে।

স্বেচ্ছাচারী সিদ্ধান্ত

ডেনমার্কে একাধিক সামাজিক নিরাপত্তা স্কিম রয়েছে। বিশেষ করে যেগুলো পেনশন ও শিশুদের দেখাশোনার সঙ্গে সম্পর্কিত। এর মাধ্যমে একক বা অবিবাহিত ব্যক্তিদের অতিরিক্ত অর্থ সহায়তা দেয়া হয়। সামাজিক সুরক্ষা কর্মসূচী ঘিরে জালিয়াতি ধরার লক্ষ্যে, কর্তৃপক্ষ “রিয়েলি সিঙ্গেল” গণনা পদ্ধতির প্রয়োগ করে ব্যক্তির জীবন ও পারিবারিক অবস্থা অনুমানের চেষ্টা করে।

রিয়েলি সিঙ্গেল জালিয়াতি নিয়ন্ত্রণ অ্যালগরিদমের একটি প্যারামিটার হল “অস্বাভাবিক” বা ব্যতিক্রমী ” জীবনযাপন প্যাটার্ন বা পারিবারিক অবস্থা। তবে, আইনে স্পষ্টভাবে এ শব্দগুলোর সংজ্ঞা দেয়া হয়নি। তাই একধরনের স্বেচ্ছাচারী সিদ্ধান্ত গ্রহণের সুযোগ রয়েছে।

ফলে অ্যালগরিদমটি সামাজিক সুরক্ষা কমসূচির আওতায় আসা মানুষকে নিশানা করার ঝুঁকি তৈরি করে বিশেষ করে যাঁদের অবস্থা ডেনিশ সমাজের প্রচলিত মানদণ্ডের তুলনায় ভিন্ন। যেমন, যাদের দুইটির বেশি সন্তান রয়েছে কিংবা যাঁরা যৌথ পরিবারে বসবাস করেন (অভিবাসী সম্প্রদায়গুলোর ক্ষেত্রে যা সাধারণ ঘটনা), অথবা প্রবীণ, যাঁরা অন্যদের সঙ্গে থাকেন।

“রিয়েলি সিঙ্গেল” মডেলে ব্যবহার করা হয়েছে শ্যাপ (শ্যাপলি অ্যাডিটিভ এক্সপ্ল্যানেশন) ভ্যালু। অ্যালগরিদমের ফলাফল কীভাবে তৈরি হয় তা বোঝাতে সাহায্য করে শ্যাপ। এটি প্রতিটি ইনপুট (যেমন: ডেটার বৈশিষ্ট্য বা স্কোর) কীভাবে মডেলের সিদ্ধান্তে প্রভাব ফেলে তা তুলে ধরে। এখানে আমরা দেখতে পাচ্ছি, আবাসন এবং বাসস্থান নিয়ে ইউডিকে বেশ কয়েকটি ইনপুট দিয়েছে (যেমন “হাউজিং স্কোর” ও “রিল- অ্যাটিপিক্যাল- রেসিডেন্ট স্কোর”), যেগুলোর অ্যালগরিদমে বেশ জোর দিয়ে তুলে ধরা হয়েছে। ফলে এগুলো অ্যালগরিদমের ফলাফলের ওপর উল্লেখযোগ্য প্রভাব ফেলে। ছবি: অ্যামনেস্টি টেক

ইউডিকের অ্যালগরিদমে জুড়ে দেওয়া হয়েছে “ফরেন অ্যাফিলিয়েশন” প্যারামিটার। এটি এমন ব্যক্তিদের শনাক্ত করতে পারে, যাঁরা পেনশন এবং শিশু সুরক্ষা ভাতা— দুটোই দাবি করেছেন। মডেল অ্যাব্রড নামে পরিচিত অ্যালগরিদমটি  “ফরেন অ্যাফিলিয়েশন” বা বৈদেশিক সংশ্লিষ্টতা বিষয়ক তথ্য দেয়। ইইএ (ইউরোপীয় অর্থনৈতিক এলাকা) তালিকায় নেই, এমন দেশের সাথে ব্যক্তির সম্পর্ক তুলে ধরে। এই গণনা পদ্ধতিটি জাতিগত পরিচয় অনুসারে বৈষম্য সৃষ্টি করে। এর প্যারামিটারগুলো প্রচলিত ডেনিশ সমাজের বাইরে থাকা ব্যক্তি ও গোষ্ঠীর বৈশিষ্ট্যগুলো চিহ্নিত করতে সক্ষম।

ইউডিকের ডেটা আর পাবলিক ডেটাবেস থেকে নেয়া লোকেদের ব্যক্তিগত তথ্যে সমন্বয় করে অ্যালগরিদমিক এই মডেলগুলোর কার্যকারিতা বাড়ানো হয়। সংগ্রহিত ডেটার মধ্যে একজন ব্যক্তির জাতিগত পরিচয়, স্বাস্থ্য, প্রতিবন্ধিতা, বা যৌন প্রবণতা সম্পর্কিত সংবেদনশীল তথ্যও রয়েছে। তথ্য নেওয়া হয় ব্যক্তির সোস্যাল মিডিয়া থেকেও। আর ব্যবহার করা হয় সামাজিক সুরক্ষা জালিয়াতি বিষয়ক তদন্তে—যা রীতিমতো ব্যক্তির গোপনীয়তার ওপর ন্যাক্করজনক হস্তক্ষেপের সামিল।

ডেনমার্ক সরকার দেশটির বৃহত্তম পেনশন প্রক্রিয়াকরণ সংস্থা এটিপিকে দরিদ্র কল্যান কর্মসূচী বা সামাজিক সুরক্ষা বিতরণের দায়িত্ব দিয়েছে। তাই ইউডিকের পাশাপাশি যৌথ ডেটা ইউনিটের জালিয়াতি নিয়ন্ত্রণ টুল নকশার জন্য এ সংস্থাটিও দায়বদ্ধ। অ্যালগরিদমিক মডেলগুলো তৈরি করতে এটিপি আবার অংশীদারিত্ব করেছে এনএনআইটির মতো বহুজাতিক কর্পোরেশনের সঙ্গে। সংস্থাটি এটিপির নির্দেশনা অনুসারে জালিয়াতি নিয়ন্ত্রণ অ্যালগরিদম তৈরি করেছে। আমরা এনএনআইটির সাথে যোগাযোগ করেছি, তবে গোপনীয়তা রক্ষার দোহাই দিয়ে সংস্থাটি ইউডিকে ও এটিপির সাথে তাদের চুক্তি সম্পর্কিত  অতিরিক্ত তথ্য আমাদের দেয়নি। ইউডিকে ও এটিপির সাথে চুক্তি করার আগে মানবাধিকারের বিষয়গুলো পর্যালোচনা করা হয়েছে কিনা—প্রকাশ করেনি সে বিষয়ক কোনো তথ্যও।

আমরা তিন ধাপে গবেষণাটি করেছি

ডেনমার্কের সামাজিক সুরক্ষা কর্মসূচী বিশ্লেষণে আমরা সোসিও-টেকনিক্যাল অ্যাপ্রোচ (প্রযুক্তি কীভাবে সামাজিক আচরণ, নীতিমালা বা মানবাধিকারকে প্রভাবিত করে) ব্যবহার করেছি। আমাদের গবেষণা ২০২২ সালের মে থেকে ২০২৪ সালের এপ্রিল পর্যন্ত তিনটি ধাপে সম্পন্ন হয়। এই গবেষণাটি ইউডিকের জালিয়াতি নিয়ন্ত্রণ অ্যালগরিদম সম্পর্কিত বিভিন্ন সংস্থার পূর্বপ্রকাশিত প্রতিবেদনের ওপর ভিত্তি করে তৈরি। এর মধ্যে রয়েছে ডেনিশ ইনস্টিটিউট ফর হিউম্যান রাইটস, জিআইজেএন সদস্য লাইটহাউস রিপোর্টস, এবং অ্যালগরিদম ওয়াচ।

প্রথম ধাপে, ২০২২ সালের মে থেকে ২০২৩ সালের এপ্রিল পর্যন্ত ডেস্কভিত্তিক গবেষণার মাধ্যমে অ্যামনেস্টি ইন্টারন্যাশনাল খতিয়ে দেখেছে যে, ডেনমার্কের কল্যাণ সংস্থার জালিয়াতি নিয়ন্ত্রণ পদ্ধতিগুলো মানবাধিকার বিষয়ক বড় ধরনের উদ্বেগ সৃষ্টি করে কিনা। আমরা সংশ্লিষ্ট বিভিন্ন তথ্য পর্যালোচনা করি। এর মধ্যে রয়েছে ইউডিকে এবং ডেনমার্কের সামাজিক সুরক্ষা কর্মসূচীর নিয়মকানুন সম্পর্কিত প্রতিবেদন, প্রবন্ধ এবং বিভিন্ন নথিপত্র। আমরা লাইটহাউস রিপোর্টস থেকে পাওয়া নথিগুলোও পর্যালোচনা করেছি। যেখানে সংস্থাটির জালিয়াতি নিয়ন্ত্রণ অ্যালগরিদমের বিশদ বর্ণনা দেয়া হয়েছে।

এই সময়কালে এবং পরবর্তীতে, আমরা লাইটহাউস রিপোর্টস ও পলিটিকেন পত্রিকার দুই সাংবাদিকদের সাথে দেখা করি। যাঁরা ডেটা এবং জালিয়াতি নিয়ন্ত্রণ পদ্ধতি নিয়ে অনুসন্ধান করেছেন ।

কল্যাণ সংস্থার সঙ্গে একযোগে সাহায্য দিচ্ছে এবং জালিয়াতি নিয়ন্ত্রণ অ্যালগরিদমের নকশা নিয়ে কাজ করেছে—বেসরকারি খাতের এমন সব কোম্পানির তথ্য আমরা ডেনমার্কের বিজনেস অথরিটির ওয়েবসাইট থেকে সংগ্রহ করি। ইউডিকের জালিয়াতি নিয়ন্ত্রণে অ্যালগরিদম তৈরির কাজ দেখাশোনা করে এটিপি। এই এটিপি ও এনএনআইটি কীভাবে তাদের কার্যক্রম পরিচালনা করে তা নিয়েও বিস্তর খোঁজ খবর করি।

বিস্তারিত সাক্ষাৎকার গ্রহণ

২০২৩ সালের সেপ্টেম্বর থেকে ২০২৪ সালের জানুয়ারি পর্যন্ত আমরা আমাদের অনুসন্ধানের দ্বিতীয় ধাপ নিয়ে কাজ করি। মোট ৩৪টি সাক্ষাৎকার নেওয়া হয়। এর মধ্যে ছিল ডেনমার্কের সরকারি কর্মকর্তা, সংসদ সদস্য, শিক্ষাবিদ, সাংবাদিক, এবং ভুক্তভোগী ব্যক্তি ও দলের সাথে অনলাইন ও সরাসরি সাক্ষাৎকার। এছাড়া ইউডিকে কীভাবে কাজ করে তা নিয়ে একটি প্রেজেন্টেশনও আমরা পর্যালোচনা করি। ২০২৪ সালের জানুয়ারিতে সংস্থাটির অফিসে এ প্রকল্পের দায়িত্বে থাকা দলের সঙ্গে সরাসরি কথা বলার সময় আমাদের এ প্রেজেন্টশনটি দেখানো হয়।

ভুক্তভোগীদের সাথে আমরা দুটি ফোকাস গ্রুপ আলোচনা করি। এতে কোপেনহেগেন, সিডডানমার্ক এবং জুটল্যান্ড অঞ্চলের লোকেরা অংশ নেন। আলোচনাটি ডান্স্ক হ্যান্ডিক্যাপ ফাউন্ডেশনের সহযোগিতায় অনুষ্ঠিত হয়।

এছাড়াও, শরণার্থী হিসেবে ডেনমার্কে এসেছিলেন, এমন ৬জন নারীর সাক্ষাৎকার নেয়া হয়েছে। যাঁরা সামজিক সুরক্ষা সুবিধা ভোগ করছেন। এদের মধ্যে অনেকেই এখন নাগরিক হিসেবে নিবন্ধিত কিংবা রেসিডেন্সি কার্ড পেয়েছেন। এই নারীদের মধ্যে দুইজন সিরিয়া, তিনজন ইরাক এবং একজন লেবানন থেকে এসেছেন। তিনজন নারীর বয়স ৫০ বছরের বেশি, এবং বাকি তিনজনের বয়স ৩৫ থেকে ৪৫ বছরের মধ্যে। এই নারীদের নির্বাচনে আমাদের সহায়তা করে মিনো ডেনমার্ক। পাশাপাশি আমরা স্থানীয় ও মাঠ পর্যায়ের নাগরিক সমাজের নেতাদের সাথেও দেখা করি।

তথ্য চেয়ে অনুরোধ

তৃতীয় ধাপে, ইউডিকে সিস্টেমের অভ্যন্তরীণ কার্যক্রম কীভাবে পরিচালিত হয়, সে সম্পর্কিত সামগ্রিক ধারণা নিয়ে কাজ করি। যেখনে প্রযুক্তিগত নকশা, পদ্ধতিগত পরিচ্ছন্নতা, অ্যালগরিদমের পেছনে যুক্তি এবং মূল বিষয়গুলো অন্তর্ভুক্ত ছিল। কাজটি করার জন্য আমরা জাতীয় ও আঞ্চলিক কর্মসংস্থান ও জালিয়াতি নিয়ন্ত্রণকারী সংস্থাগুলোর কাছে বিভিন্ন তথ্য চেয়ে (ফোয়া) অনুরোধ জমা দিই।

অ্যালগরিদমিক পদ্ধতি যাচাইয়ের জন্য প্রযুক্তিগত মূল্যায়ন অত্যন্ত গুরুত্বপূর্ণ। আদর্শ হচ্ছে এর জন্য ডকুমেন্টেশন, কোড এবং ডেটাতে প্রবেশের পুরোপুরি স্বাধীনতা থাকতে হবে।  তবে, কিছু ক্ষেত্রে মাত্র একটি বা দুটি উপাদান বিশ্লেষণের মাধ্যমেও এটি করা সম্ভব।

অ্যামনেস্টি ইন্টারন্যাশনালকে অ্যালগরিদমিক সিস্টেমের কিছু রেড্যাক্টেড ডকুমেন্টেশন (সংবেদনশীল তথ্য মুছে বা লুকিয়ে গোপনীয়তা রক্ষা করে যে নথি দেয়া হয়) সরবরাহ করে ইউডিকে। সংস্থাটি যদিও আমাদের সহযোগিতামূলক অডিটের অনুরোধগুলো বারবার প্রত্যাখ্যান করেছে, এবং জালিয়াতি শনাক্তকরণ অ্যালগরিদমে ব্যবহৃত কোড এবং ডেটাতে পূর্ণ অ্যাক্সেস দিতে অস্বীকৃতি জানিয়েছে।

এ বিষয়ে জানতে চাইলে ইউডিকে তাদের স্বচ্ছতার অভাবকে ন্যায্যতা দেয়ার প্রচেষ্টা হিসেবে বলে যে, তাদের কাছে আমরা যেসব ডেটার জন্য অনুরোধ করছি সেগুলো অত্যন্ত সংবেদনশীল। অ্যালগরিদমিক মডেলগুলোর তথ্য প্রকাশ করলে ইউডিকে কীভাবে সামাজিক সুরক্ষা বিতরণের বিষয়গুলো নিয়ন্ত্রণ করে সে সম্পর্কে জালিয়াতরা পরিচ্ছন্ন ধারণা পাবে। যা তাদের সিস্টেমকে কাজে লাগানোর সুযোগ তৈরি করে দিতে পারে বলে যুক্তি দেখায়।

এরপর ফোয়া অনুরোধের মাধ্যমে, আমরা ইউডিকের কাছে তাদের অ্যালগরিদমিক মডেলে তালিকাভুক্ত ব্যক্তিদের জনমিতিক তথ্য এবং প্রাপ্ত ফলাফল সরবরাহের অনুরোধ করি। আমাদের উদ্দেশ্য ছিল ডেটাগুলো পরোক্ষভাবে বৈষম্য তুলে ধরে কিনা তা পরীক্ষা করে দেখা। ইউডিকে আমাদের আবারো হতাশ করে অনুরোধ প্রত্যাখ্যান করে। জানায়, তাদের কাছে আমাদের অনুরোধকৃত জনমিতিক তথ্য নেই। যাদেরকে উচ্চ-ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করা হয়, সে সব তথ্যও নিয়মিতভাবে হালনাগাদ করা হয়। অর্থাৎ কোনো পুরোনো তথ্য সংরক্ষণ করা হয় না।

ডেনিশ কল্যাণ সংস্থার পক্ষ থেকে আমাদের আরও বলা হয়, অ্যালগরিদম পদ্ধতি ব্যবহার করে যেভাবে লোকেদের ঝুঁকিপূর্ণ হিসেবে চিহ্নিত করা হয়, সে সম্পর্কিত জনসংখ্যাগত তথ্যও তাদের কাছে নেই। তাই তা সরবরাহ করা সম্ভব নয়। যদিও এই তথ্যগুলো অত্যন্ত সংবেদনশীল। কিন্তু গোপনীয়তা লঙ্ঘিত হয় না, এমন তথ্য পাওয়া গেলে পক্ষপাত ও ন্যায্যতার পরীক্ষা করা অনেকটাই সহজ হতো। কিন্তু তথ্যগুলো না থাকায় তা আর যাচাই করা সম্ভব হয়নি।

অনুসন্ধানটি আমাদের যা শেখায়

যদিও প্রযুক্তিগত তথ্যে আমাদের সম্পূর্ণ প্রবেশাধিকার দেওয়া হয়নি। তবে যেসব তথ্য-উপাত্ত আমরা খুঁজে পেয়েছি, তার ভিত্তিতে আমরা ইউডিকের কর্মপদ্ধতি সম্পর্কে একটি ধারণা দাঁড় করাতে পেরেছি। মাতৃত্ব, শিশু এবং পেনশন মডেলের পূর্ণাঙ্গ তথ্য না পাওয়াটা মূলত অনুসন্ধানী সাংবাদিকদের পাশাপাশি মানবাধিকার নিয়ে কাজ করেন এমন সাংবাদিকদের জন্যও চ্যালেঞ্জের। বিশেষ করে যাঁরা সরকারী সংস্থাগুলোর তথাকথিত প্রতারণা নিয়ন্ত্রণ ব্যবস্থার ওপর আলো ফেলতে চান। এবং অ্যালগরিদমিক দায়বদ্ধতা নিশ্চিত করতে চান।

তবে, ইউডিকের কল্যাণ তহবিলের প্রতারণা নিয়ে কথা বলতে আগ্রহী ব্যক্তিদের খুঁজে বের করাটা আমাদের জন্য বেশ কঠিন ছিল। কর্তৃপক্ষের হয়রানির ভয়ে অনেকেই গবেষণায় অংশ নিতে চাননি। তবুও আমাদের অনুসন্ধানটি সম্ভব হয়েছে কারণ অনেক অংশীদার ও সহযোগী সংস্থার লোকেরা স্বইচ্ছায় আমাদের কাছে এসেছেন। ডেনিশ ওয়েলফেয়ার এজেন্সির কাজের ধরন নিয়ে কথা বলেছেন।

প্রযুক্তি ও সমাজের মধ্যকার সম্পর্ক নিয়ে করা সোশিও – টেকনিক্যাল অনুসন্ধানগুলো সাংবাদিক ও মানবাধিকার কর্মীদের জন্য গুরুত্বপূর্ণ। বিশেষ করে সরকারি খাতে এআই প্রযুক্তির ব্যবহার প্রান্তিক বা অবহেলিত মানুষগুলোর মানবাধিকার লঙ্ঘনকে বাড়িয়ে তুলছে কিনা—তা খতিয়ে দেখার জন্য। তবে যে প্রতিষ্ঠানগুলো প্রযুক্তি উদ্ভাবন ও প্রয়োগ করে, তাদের থেকে প্রযুক্তিকে আলাদা করা সম্ভব নয়। ডেনমার্কের ক্ষেত্রে, আমরা মানবিক অভিজ্ঞতা এবং ব্যক্তিগত গল্পগুলোকে অগ্রাধিকার দিয়েছি। যা নিশ্চিত করে, বারবার লক্ষ্যবস্তুর শিকার হওয়া মানুষদের ওপর সত্যিকার অর্থে কী ধরনের প্রভাব পড়ছে। আর আমরা তা সফলভাবে তুলে ধরেছি।

অ্যামনেস্টি টেকের অ্যালগরিদমিক অ্যাকাউন্টিবিলিটি ল্যাবে যুক্ত রয়েছেন সাত সদস্যের একটি বিশেষজ্ঞ দল, যাঁরা কল্যাণ সুবিধা এবং সামাজিক নিরাপত্তা ব্যবস্থায় অ্যালগরিদমিক সিস্টেমের ব্যবহার বৃদ্ধি নিয়ে গবেষণা করছেন। বিশ্বজুড়ে প্রান্তিক গোষ্ঠীর মানুষদের ওপর এ পদ্ধতির ক্ষতিকর প্রভাব নিয়ে অনুসন্ধান চালাচ্ছেন। এইআই ও অটোমেশন টুলের মানবাধিকার-বিষয়ক নিয়ন্ত্রণের পক্ষে কাজ করছেন।