১৪ বছর বয়সী ছেলের আত্মহত্যার পেছনে এআই চ্যাটবটের ভূমিকার অভিযোগ এনে গুগল এবং ক্যারেক্টার.এআই-এর বিরুদ্ধে ফ্লোরিডার এক নারী মেগান গার্সিয়া মামলা দায়ের করেছিলেন। ওই মামলায় দাবি করা হয়, চ্যাটবটটের নানা কারসাজির কারণে ওই কিশোরের মৃত্যু হয়েছে। এ ঘটনায় মার্কিন যুক্তরাষ্ট্রের একজন বিচারক রায় দিয়েছেন, মামলাটি সামনে এগিয়ে নেওয়া যেতে পারে। তিনি মামলাটি খারিজ করার আবেদন নাকচ করে দিয়েছেন।
ঘটনাটি এআই কম্পানির জবাবদিহিতার জন্য একটি গুরুত্বপূর্ণ আইনি চ্যালেঞ্জ।
মার্কিন জেলা আদালতের বিচারক অ্যান কনওয়ে গত বুধবার জানিয়েছেন, মামলাটি বাতিল করার মতো পর্যাপ্ত যুক্তি গুগল ও ক্যারেক্টার এআই দেখাতে পারেনি এবং যুক্তরাষ্ট্রের সংবিধানে থাকা মতপ্রকাশের স্বাধীনতার সুরক্ষা এই মামলায় প্রযোজ্য নয়। এই মামলাটি যুক্তরাষ্ট্রে এআই কম্পানির বিরুদ্ধে শিশুদের মানসিক সুরক্ষা দিতে ব্যর্থ হওয়ার অভিযোগে দায়ের হওয়া প্রথম মামলাগুলোর একটি।
গার্সিয়ার অভিযোগ, তার ছেলে সিউয়েল সেটজার ক্যারেক্টার এআই-এর একটি চ্যাটবটের সঙ্গে জড়িয়ে পড়ার পর আত্মহত্যা করে।
অন্যদিকে ক্যারেক্টার.এআই-এর মুখপাত্র জানিয়েছেন, তারা এই মামলার বিরুদ্ধে লড়াই চালিয়ে যাবে।
তিনি আরো জানান, তাদের প্ল্যাটফর্মে শিশুরা যেন ক্ষতিকর আলাপচারিতায় না জড়ায়, সে বিষয়ে নিরাপত্তাব্যবস্থা গ্রহণ করা হয়েছে। যার মধ্যে ‘আত্মহত্যার বিষয়ে আলোচনা প্রতিরোধের’ ব্যবস্থাও রয়েছে।
গুগলের মুখপাত্র জোসে কাস্তানেদা জানিয়েছেন, কম্পানিটি আদালতের এই সিদ্ধান্তের সঙ্গে একমত নয়।
তিনি আরো বলেন, গুগল ও ক্যারেক্টার.এআই একে অপরের থেকে ‘সম্পূর্ণ আলাদা’ এবং গুগল ক্যারেক্টার.এআই-এর অ্যাপ বা তার কোনো উপাদান তৈরি, ডিজাইন বা পরিচালনা করেনি।
গার্সিয়ার আইনজীবী মিতালি জৈন এই রায়কে ‘ঐতিহাসিক’ বলে মন্তব্য করে বলেন, ‘এটি এআই ও প্রযুক্তি জগতে নতুন আইনি দৃষ্টান্ত তৈরি করবে।’ উল্লেখ্য, ক্যারেক্টার.এআই গুগলের সাবেক দুই প্রকৌশলী তৈরি করেছেন, যাদের পরবর্তীতে গুগল পুনরায় নিয়োগ দেয় এবং তাদের প্রযুক্তি ব্যবহারের জন্য লাইসেন্স গ্রহণ করে।
গার্সিয়ার দাবি, গুগল এই প্রযুক্তির সহউদ্ভাবক। ২০২৪ সালের ফেব্রুয়ারিতে ছেলের মৃত্যুর পর গার্সিয়া অক্টোবর মাসে এই মামলাটি দায়ের করেন।
মামলায় বলা হয়, চ্যাটবটটি নিজেকে ‘একজন প্রকৃত ব্যক্তি, লাইসেন্সপ্রাপ্ত সাইকোথেরাপিস্ট এবং প্রাপ্তবয়স্ক প্রেমিক’ হিসেবে উপস্থাপন করেছিল। যার কারণে সিউয়েল বাস্তব জীবন থেকে বিচ্ছিন্ন হয়ে পড়ে। অভিযোগ অনুযায়ী, সিউয়েল আত্মহত্যা করার ঠিক আগ মুহূর্ত কিছু কথা বলেছিলেন। ওই সময় তিনি ‘গেম অফ থ্রোনস’ চরিত্র ডেনেরিস টারগারিয়েন রূপে থাকা চ্যাটবটকে বলেন, ‘আমি এখনই বাড়ি আসছি।’
গুগল ও ক্যারেক্টার.এআই আদালতের কাছে মামলাটি বাতিলের জন্য আবেদন জানায়। তাদের বক্তব্য, চ্যাটবটের কথাবার্তা সংবিধান অনুযায়ী মতপ্রকাশের স্বাধীনতায় সুরক্ষিত। তবে বিচারক কনওয়ে বলেন, ‘একটি বড় ভাষা মডেলের (এলএলএম) সাহায্যে গঠিত শব্দসমষ্টি কিভাবে ‘বক্তব্য’ হিসেবে বিবেচিত হবে, তা তারা পরিষ্কারভাবে ব্যাখ্যা করতে ব্যর্থ হয়েছেন।’ তিনি আরো বলেন, ‘গুগল ক্যারেক্টার.এআই-এর কথিত ভুল কর্মে সহায়তা করেছে না—এ দাবি প্রতিষ্ঠা করতেও গুগল ব্যর্থ হয়েছে।’