اخبار فوری هوش مصنوعی | این ۷ کار را هرگز به هوش مصنوعی واگذار نکنید؛ از اطلاعات حساس بانکی تا تصمیم گیری های پزشکی و قضاوت های اخلاقی / هشدار کارشناسان: سپردن تصمیم های حساس به ماشین، خطر تحلیل قضاوت انسانی و نقض حریم خصوصی را به همراه دارد

به گزارش پایگاه خبری تحلیلی اندیشه معاصر؛ هوش مصنوعی اگرچه در بسیاری از کارها سرعت و دقت را بالا می‌برد، اما برخی حوزه‌ها وجود دارد که واگذاری کامل آنها به هوش مصنوعی می‌تواند خطرناک باشد و باعث تحلیل رفتن قضاوت انسانی، نقض حریم خصوصی یا حتی آسیب جدی شود. در ادامه به مهم‌ترین این حوزه‌ها اشاره می‌کنیم.

کارهایی که نباید به هوش مصنوعی واگذار کنیم
۱. واگذاری اطلاعات حساس و محرمانه
هرگز نباید اطلاعات هویتی (کد ملی، شماره پاسپورت، آدرس)، داده‌های مالی (شماره کارت، حساب بانکی، اطلاعات سرمایه‌گذاری)، رمزهای عبور و پرونده‌های پزشکی را در پرامپت‌های هوش مصنوعی وارد کنید. این اطلاعات می‌توانند در فرآیند آموزش مدل‌ها ذخیره شده یا در حملات سایبری مورد سوءاستفاده قرار گیرند. به عنوان یک قاعده کلی: اگر سندی را به یک غریبه نمی‌دهید، آن را در چت‌بات هم بارگذاری نکنید.

۲. تصمیم‌گیری‌های حساس درباره افراد
در حوزه‌هایی مانند استخدام، ارزیابی عملکرد، تأیید وام، پذیرش دانشگاه یا حتی تصمیمات قضایی، هوش مصنوعی می‌تواند الگوها را نشان دهد اما نباید تصمیم‌گیرنده نهایی باشد. این تصمیمات به قضاوت انسانی، درک زمینه عاطفی و پذیرش مسئولیت نیاز دارند و نمی‌توان مسئولیت آنها را به «سیستم» واگذار کرد. در پزشکی نیز سازمان جهانی بهداشت تأکید کرده که هوش مصنوعی باید از قضاوت بالینی انسان پشتیبانی کند، نه اینکه جایگزین آن شود.

۳. تشخیص پزشکی و سلامت روان
هوش مصنوعی نه می‌تواند معاینه فیزیکی انجام دهد و نه صلاحیت تشخیص بیماری را دارد. تکیه بر پاسخ‌های ماشینی در لحظات بحرانی سلامت روان می‌تواند خطرناک باشد، زیرا هوش مصنوعی فاقد همدلی واقعی، درک زبان بدن و نبوغ بالینی است. در شرایط اضطراری مانند بوی گاز یا علائم سکته، هر ثانیه‌ای که صرف تایپ کردن در چت‌بات شود، ثانیه‌ای است که از اقدام فوری غافل شده‌اید.

۴. اتخاذ تصمیمات اخلاقی و مبتنی بر ارزش‌ها
تصمیماتی که به ارزش‌ها، روابط، اعتماد و حساسیت‌های انسانی گره خورده‌اند، نباید به هوش مصنوعی سپرده شوند. هوش مصنوعی نمی‌تواند وزن عاطفی یک خبر بد، سیاست‌های پشت یک ارتقای شغلی یا شکنندگی اعتماد یک کارمند مضطرب را درک کند. وقتی تصمیم‌گیری به هوش مصنوعی واگذار می‌شود، خطر «سوگیری اتوماسیون» افزایش می‌یابد؛ یعنی انسان‌ها حتی وقتی هوش مصنوعی اشتباه می‌کند، به آن اعتماد می‌کنند.

۵. کارهایی که به مهارت‌های انسانی شما آسیب می‌زند
واگذاری کامل نوشتن، برنامه‌ریزی یا یادگیری به هوش مصنوعی می‌تواند به مرور توانایی‌های خود شما را تضعیف کند. همانطور که اتکای زیاد به GPS به ضعف در شناخت مسیرها منجر شده، سپردن هر صفحه سفید به هوش مصنوعی نیز می‌تواند قدرت ساختاردهی به افکار و استدلال را کاهش دهد. اگر قرار است مهارتی را حفظ کنید، باید بخشی از سختی آن را خودتان تجربه کنید.

۶. موقعیت‌هایی که داده‌ها ناقص یا نامطمئن هستند
هوش مصنوعی روی داده‌های نامنظم، قدیمی یا ناقص، خروجی‌های نادرست تولید می‌کند. اگر فرآیند یا داده‌های شما کیفیت لازم را ندارند، ابتدا باید آنها را اصلاح کنید و سپس به سراغ هوش مصنوعی بروید.

۷. کارهای ساده‌ای که با کد یا قاعده ساده قابل حل هستند
اگر منطق کار را می‌توان در چند خط کد نوشت یا با یک چک‌لیست ساده انجام داد، استفاده از هوش مصنوعی فقط پیچیدگی و هزینه اضافه ایجاد می‌کند. برای کارهای تکراری و پرتکرار با خروجی قطعی، سیستم‌های قاعده‌محور بهتر عمل می‌کنند.

هوش مصنوعی یک وسوسه بزرگ با خود آورده است: هر کاری را که می‌شود به ماشین سپرد، چرا خودمان انجام دهیم؟ اگر AI می‌تواند متن را خلاصه کند، چرا کامل بخوانیم؟ اگر می‌تواند پاسخ سؤال را بنویسد، چرا برای صورت‌بندی پاسخ تلاش کنیم؟ و اگر می‌تواند تحلیل کند، استدلال بسازد و پیشنهاد بدهد، چه مقدار از فرایند شناخت باید همچنان بر عهده خود انسان باقی بماند؟

یونسکو در سپتامبر ۲۰۲۶ و در جریان «هفته یادگیری دیجیتال»، در معرفی برندگان جایزه ICT in Education به مسئله‌ای با عنوان Cognitive Offloading یا «برون‌سپاری شناختی» توجه کرده است؛ خطری که در آن یادگیرنده به‌تدریج تفکر و قضاوت انتقادی خود را به سامانه‌های هوش مصنوعی واگذار می‌کند.

البته برون‌سپاری شناختی پدیده تازه‌ای نیست. انسان همیشه بخشی از بار ذهنی خود را به ابزارها منتقل کرده است. نوشتن حافظه را بیرونی کرد، ماشین‌حساب محاسبه را آسان کرد و موتور جست‌وجو نیاز به حفظ حجم بزرگی از اطلاعات را کاهش داد. تمدن انسانی اساساً بدون چنین ابزارهایی قابل تصور نیست.

بنابراین مسئله، برون‌سپاری «بار شناختی» نیست؛ برون‌سپاری «قابلیت شناختن» است.

ماشین‌حساب می‌تواند یک محاسبه طولانی را انجام دهد، درحالی‌که من هنوز می‌دانم مسئله چیست، چرا باید محاسبه شود و آیا پاسخ معقول است. اما اگر صورت‌بندی مسئله، انتخاب شواهد، استدلال، نقد و تصمیم را نیز یکجا به ماشین بسپارم، دیگر فقط از یک ابزار استفاده نکرده‌ام؛ بخشی از عاملیت شناختی خود را نیز واگذار کرده‌ام.

هوش مصنوعی مولد این مرز را حساس‌تر کرده است، زیرا برخلاف بسیاری از فناوری‌های قبلی، فقط «کار» را انجام نمی‌دهد؛ وارد همان فرایندهایی شده است که نظام تربیتی قرار بوده در انسان پرورش دهد: خواندن، نوشتن، تحلیل، استدلال، خلاقیت و قضاوت.

از همین‌جا یک پرسش اساسی برای آینده مدرسه شکل می‌گیرد: کدام فعالیت‌های شناختی را، حتی وقتی امکان واگذاری آن‌ها به AI وجود دارد، نباید به ماشین واگذار کنیم؟

اگر هدف تکلیف فقط تولید یک مقاله هزارکلمه‌ای باشد، AI می‌تواند آن را انجام دهد. اما اگر هدف این بوده که دانش‌آموز مسئله‌ای را بفهمد، منابع را مقایسه کند، استدلال بسازد و از موضع خود دفاع کند، یک متن خوب دیگر نشانه کافی برای تحقق یادگیری نیست. هوش مصنوعی در واقع ضعف قدیمی نظام آموزشی را آشکار کرده است: ما بارها محصول یادگیری را با خود یادگیری اشتباه گرفته‌ایم.

نمونه‌هایی که یونسکو در سال ۲۰۲۶ برجسته کرده نیز از همین جهت جالب‌اند. در پروژه فنلاندی «Generation AI»، دانش‌آموز صرفاً مصرف‌کننده AI نیست؛ فناوری را بررسی و نقد می‌کند و در طراحی آن مشارکت دارد. در پروژه «Redação Paraná» برزیل نیز دانش‌آموز ابتدا می‌نویسد، سپس AI بازخورد می‌دهد، معلم مداخله می‌کند و دانش‌آموز دوباره متن خود را بازنویسی می‌کند.

منطق تربیتی این تجربه‌ها را می‌توان در یک جمله خلاصه کرد: اول خودت فکر کن؛ سپس از AI کمک بگیر؛ و در نهایت دوباره خودت داوری کن.

این اصل ما را به تمایز دیگری می‌رساند: تفاوت میان اصطکاک زائد و اصطکاک تربیتی. فناوری می‌تواند جست‌وجوی مکانیکی، رونویسی یا کارهای تکراری را حذف کند؛ اما درگیری با مسئله، تحمل ابهام، اشتباه‌کردن، ساختن استدلال و دفاع از یک تصمیم، «اتلاف وقت» نیستند. بخش مهمی از تربیت دقیقاً در همین اصطکاک‌ها اتفاق می‌افتد.

از این منظر، باسوادترین فرد در عصر AI الزاماً کسی نیست که بهترین پرامپت را می‌نویسد؛ شاید کسی باشد که می‌داند چه چیزی را نباید به هوش مصنوعی واگذار کند.

همان‌طور که در عصر خودرو هنوز ورزش می‌کنیم تا بدنمان تحلیل نرود، شاید در عصر AI نیز به «ورزش شناختی» نیاز داشته باشیم؛ موقعیت‌هایی که انسان عمداً خودش می‌خواند، می‌نویسد، استدلال می‌کند و تصمیم می‌گیرد.

مسئله اصلی Cognitive Offloading این نیست که هوش مصنوعی چه مقدار از کار ذهن ما را انجام خواهد داد؛ مسئله این است که پس از سال‌ها زندگی در کنار ماشینی که می‌تواند بخواند، بنویسد و تحلیل کند، چه مقدار از توان خواندن، نوشتن، تحلیل و داوری هنوز در خود ما باقی خواهد ماند؟ و این، پیش از آنکه مسئله فناوری باشد، مسئله تربیت است.

پایان/*

اندیشه معاصر را در ایتا، روبیکا، پیام رسان بله و تلگرام دنبال کنید.