اولین پرونده قضایی علیه هوش مصنوعی در آمریکا؛ مادر نوجوانی که Character.AI را مقصر خودکشی فرزندش می‌ داند

به گزارش پایگاه خبری تحلیلی اندیشه معاصر،جواد آل حبیب- پرونده‌ای علیه «گوگل»؛ مادر داغداری که فرزندش را قربانی هوش مصنوعی می‌داند. یک زن آمریکایی شکایتی حقوقی علیه شرکت گوگل تنظیم کرده و مدعی است که سیستم‌های هوش مصنوعی این شرکت در مرگ پسرش نقش داشته‌اند. این مادر می‌گوید راهنمایی نادرست «گوگل مپ» باعث شد خودرو خانواده به جاده‌ای خراب و خطرناک هدایت شود که سال‌ها بود بسته شده بود، و در نهایت به حادثه‌ای مرگبار انجامید. او اکنون این اتفاق را نمونه‌ای از خطرات استفاده بی‌ضابطه از هوش مصنوعی و عدم مسئولیت‌پذیری شرکت‌های فناوری می‌داند.

شرکت «کاراکتر.‌ای‌آی» (Character.AI)، از زیرمجموعه‌های شرکت مادر «آلفابت» (مالک گوگل)، با پرونده‌ای قضایی بی‌سابقه در ایالت فلوریدا روبه‌رو شده است. یک مادر ادعا کرده که گفت‌وگوهای پیاپی پسر ۱۴ ساله‌اش با چت‌بات این پلتفرم موجب وسواس فکری و در نهایت خودکشی او شده است. این نخستین پرونده حقوقی در آمریکا است که به‌طور مستقیم شرکت‌های هوش مصنوعی را بابت آسیب روانی کاربران کم‌سن و سال هدف قرار می‌دهد.

شرکت «کاراکتر.ای‌آی» (Character.AI) که تحت مالکیت شرکت جهانی «آلفابت» (مالک گوگل) است، در دادگاه‌های ایالت فلوریدا با پرونده‌ای جنجالی روبه‌رو شده است. یک زن مدعی شده که این اپلیکیشن باعث خودکشی پسر ۱۴ ساله‌اش شده است، طبق گزارش خبرگزاری «رویترز».

این پرونده نخستین مورد از این نوع در آمریکا علیه شرکت‌های فعال در زمینه هوش مصنوعی است و ادعای اصلی آن، کوتاهی شرکت در حفاظت از سلامت روان کودک و ایجاد اعتیاد او به گفتگو با ربات چت هوشمند است که در نهایت به خودکشی منجر شده است.

شرکت «کاراکتر.ای‌آی» اعلام کرده که قصد دارد به این حکم اعتراض کند و تأکید کرده است که مجموعه‌ای از امکانات امنیتی متنوع برای محافظت از کودکان و نوجوانان استفاده می‌کند تا از عواقب ناگوار جلوگیری کند. سخنگوی گوگل، خوسه کاستانیدا، نیز اعلام کرد که گوگل کاملاً با این پرونده مخالفت دارد و هرچند این شرکت زیرمجموعه آلفابت است، ولی در ساخت خدمات یا شخصیت‌های موجود در این پلتفرم نقشی نداشته است.

این پرونده از مرحله ادعای اولیه گذشته و دادگاه فلوریدا دو شرکت را ملزم به حضور و دفاع از خود در این پرونده کرده است، زیرا شرکت نتوانست ثابت کند که این موضوع تحت حمایت آزادی بیان مندرج در قانون اساسی آمریکا قرار می‌گیرد.

قابل ذکر است که این پرونده نخستین بار در اکتبر سال گذشته مطرح شد، پس از خودکشی «سویل سیتزر» در فوریه همان سال. با وجود تلاش‌های شرکت‌ها برای رد این اتهام، قاضی دادگاه منطقه‌ای آمریکا، آن کونوی، این ادعا را معتبر دانست و حکم داد که بررسی این پرونده باید ادامه پیدا کند.

این پرونده می‌تواند نقطه عطفی در نظارت قضایی و قانونی بر پلتفرم‌های مبتنی بر هوش مصنوعی باشد. اگر دادگاه استدلال خانواده را بپذیرد، شرکت‌های توسعه‌دهنده فناوری‌های نوین ملزم به طراحی سازوکارهای دقیق‌تر برای حفظ سلامت روان کاربران، به‌ویژه کودکان و نوجوانان خواهند شد. همچنین، مرز میان آزادی بیان و مسئولیت پلتفرم‌ها بار دیگر به چالش کشیده شده است.

پایان/*

اندیشه معاصر را در ایتا، روبیکا، پیام رسان بله و تلگرام دنبال کنید.