جوانان و وسوسه واگذاری فکر به هوش‌مصنوعی/ در ستایش تردید در عصر پاسخ‌های آماده / هراس از واگذاری حق اندیشیدن به ماشین

جوانان و وسوسه واگذاری فکر به هوش‌مصنوعی/ در ستایش تردید در عصر پاسخ‌های آماده / هراس از واگذاری حق اندیشیدن به ماشین

نسلی که از هوش مصنوعی استفاده نکند، احتمالا بخشی از فرصت‌های آموزشی و شغلی آینده را از دست می‌دهد. اما نسلی که هر پرسش، تصمیم و نوشته‌ای را به آن بسپارد، ممکن است توانایی مهم‌تری را فراموش کند: ایستادن بر پای قضاوت خود. مساله بر سر انتخاب میان انسان و ماشین نیست. مساله این است که پس از دریافت پاسخ ماشین، آیا هنوز ذهنی مستقل برای تردید کردن، سنجیدن و مخالفت‌ کردن باقی مانده است؟

گروه اندیشه: علی خورسند جلالی در روزنامه اعتماد به هوش مصنوعی پرداخته و این که برخلاف ابزارهای پیشین، با ورود به قلمرو تفکر، به نقطه‌ای تبدیل شده که پیش‌تر محل تردید و تلاش ذهنی انسان بود. وسوسه سرعت و پاسخ‌های آراسته، نسل جوان را در معرض خطر واگذاری استقلال فکری، پذیرش بی‌چون‌و چرای نادرستی‌ها و افتادن در دام پاسخ‌های آماده قرار داده است. جلالی معتقد است راهکار، نه ممنوعیت و نه تسلیم محض، بلکه کسب «سواد الگوریتمی» است؛ مهارتی که به کاربر می‌آموزد ماشین را به دستیار فکری تبدیل کند، نه صاحب و جایگزین اندیشه خویش. این مطلب را در ادامه می خوانید:

****

 هوش مصنوعی قرار بود بخشی از کارهای وقت‌گیر ما را انجام دهد، اما حالا آرام‌آرام به قلمرو دیگری وارد شده است: قلمرو فکر کردن. دانش‌آموزی که برای نوشتن تکلیفش از یک چت‌بات کمک می‌گیرد، دانشجویی که خلاصه کتاب را می‌خواهد، کارجویی که تنظیم رزومه‌اش را به آن می‌سپارد و جوانی که برای پاسخ‌ دادن به یک پیام شخصی از آن مشورت می‌گیرد، همگی با صورت‌های مختلف یک پرسش روبه‌رو هستند: مرز میان «کمک‌ گرفتن از ابزار» و «واگذاری فکر» کجاست؟ این مرز به‌آسانی دیده نمی‌شود.

ماشین‌حساب هنگامی وارد زندگی ما شد که کمتر کسی تصور می‌کرد استفاده از آن به معنای کنار گذاشتن ریاضیات است. موتورهای جست‌وجو نیز دسترسی به اطلاعات را آسان کردند، بی‌آنکه لزوما جای تحلیل را بگیرند. هوش مصنوعی اما تفاوت مهمی دارد. این ابزار فقط اطلاعات را پیدا نمی‌کند؛ آنها را مرتب می‌کند، میانشان ارتباط می‌سازد، نتیجه می‌گیرد و پاسخی منسجم و خوش‌خوان تحویل می‌دهد. درست در همان نقطه‌ای ظاهر می‌شود که پیش‌تر محل مکث، تردید و تلاش ذهنی انسان بود.

برای نسل جوان، جذابیت چنین ابزاری قابل فهم است. او در جهانی زندگی می‌کند که سرعت به یک ارزش تبدیل شده است. باید زودتر درس بخواند، مهارت بیاموزد، وارد بازار کار شود، تولید محتوا کند و به انبوه پیام‌ها و درخواست‌ها پاسخ دهد. در چنین شرایطی، هوش مصنوعی مانند دستیاری همیشه حاضر وارد میدان می‌شود؛ دستیاری که خسته نمی‌شود، سرزنش نمی‌کند و برای هر پرسشی پاسخی در آستین دارد. وسوسه اصلی نیز همین‌جاست: وقتی می‌توان در چند ثانیه پاسخ گرفت، چرا باید ساعت‌ها خواند، خطا کرد و دوباره از ابتدا نوشت؟

اما فکر کردن فقط رسیدن به پاسخ نیست. بخش مهمی از آن در همان مسیر دشوار و گاه کلافه‌کننده شکل می‌گیرد: در پیدا نکردن واژه مناسب، مقایسه دو روایت، کنار گذاشتن یک استدلال ضعیف و بازنویسی متنی که در نسخه نخست خوب از آب درنیامده است. اگر این فرآیند حذف شود، ممکن است محصولی آراسته در اختیار داشته باشیم، اما الزاما چیزی نیاموخته‌ایم. متنی که جوان با کمک هوش مصنوعی تحویل می‌دهد شاید از نوشته معمول او منظم‌تر باشد، ولی پرسش مهم این است که چه مقدار از منطق و محتوای آن را واقعا فهمیده است.

خطر دیگر، لحن مطمئن هوش مصنوعی است. انسان‌ها معمولا تردید خود را با مکث، احتیاط یا عباراتی مانند «نمی‌دانم» نشان می‌دهند. هوش مصنوعی می‌تواند اطلاعات نادرست را نیز با همان نظم و اطمینانی بیان کند که اطلاعات درست را عرضه می‌کند. منبعی بسازد که وجود ندارد، نقل‌قولی را به شخصی نسبت دهد که هرگز آن را نگفته یا میان چند واقعیت، رابطه‌ای خیالی برقرار کند. برای جوانی که هنوز معیارهای ارزیابی منابع را نیاموخته ، شکل حرفه‌ای پاسخ ممکن است جای اعتبار آن را بگیرد. به این ترتیب، مساله فقط دریافت اطلاعات غلط نیست، عادت‌ کردن به پذیرش پاسخ‌های آماده است.

ممنوعیت، پاسخ مناسبی به این وضعیت نیست. نمی‌توان نسلی را که قرار است در جهان هوش مصنوعی تحصیل و کار کند، از مهم‌ترین ابزار زمانه خود دور نگه داشت. همان‌طور که نادیده ‌گرفتن این ابزار خطاست، تحویل‌ دادن بی‌قید و شرط ذهن به آن نیز خطاست. آنچه جوانان نیاز دارند، مجموعه‌ای از ممنوعیت‌ها نیست؛ سواد تازه‌ای است که به آنها بیاموزد چگونه از هوش مصنوعی استفاده کنند، بی‌آنکه اختیار اندیشیدن را به آن واگذار کنند.

نخستین اصل این سواد، حفظ فاصله با پاسخ است. پاسخ هوش مصنوعی باید نقطه آغاز بررسی باشد، نه پایان آن. ادعاهای مهم، آمارها، نام‌ها و ارجاعات باید با منابع مستقل سنجیده شوند. اصل دوم، شفافیت است. اگر مقاله، گزارش یا اثری با کمک هوش مصنوعی تولید شده، پنهان ‌کردن این همکاری اعتماد دیگران را مخدوش می‌کند. اصل سوم نیز حفاظت از حریم خصوصی است. اطلاعات خانوادگی، پزشکی، مالی و شغلی نباید صرفا به این دلیل که مخاطب ما ظاهرا یک ماشین است، بدون ملاحظه دراختیار آن قرار گیرد.

اصل مهم‌تر شاید این باشد که استفاده از هوش مصنوعی باید پس از شکل‌گیری پرسش آغاز شود. کسی که هنوز مساله را برای خودش روشن نکرده، معمولا اولین صورت‌بندی ماشین را می‌پذیرد و در همان چارچوب باقی می‌ماند. بهتر است جوان ابتدا برداشت، پرسش یا پیش‌نویس خود را بنویسد و سپس از هوش مصنوعی برای نقد، مقایسه یا تکمیل آن کمک بگیرد. در این حالت، ماشین دستیار فکر باقی می‌ماند؛ نه صاحب آن.

هوش مصنوعی همچنین می‌تواند نابرابری تازه‌ای ایجاد کند. در ظاهر، همه به یک ابزار دسترسی دارند؛ اما کیفیت پاسخ به کیفیت پرسش وابسته است. کسی که دانش اولیه، قدرت نوشتن، زبان و توانایی تشخیص خطا دارد، استفاده دقیق‌تری از آن خواهد کرد. در مقابل، کاربری که فاقد این مهارت‌هاست، بیشتر در معرض پاسخ‌های سطحی یا نادرست قرار می‌گیرد. شکاف آینده فقط میان دارندگان و فاقدان فناوری نخواهد بود؛ میان کسانی است که می‌توانند با ماشین فکر کنند و کسانی که اجازه می‌دهند ماشین به جای آنها فکر کند.

نسلی که از هوش مصنوعی استفاده نکند، احتمالا بخشی از فرصت‌های آموزشی و شغلی آینده را از دست می‌دهد. اما نسلی که هر پرسش، تصمیم و نوشته‌ای را به آن بسپارد، ممکن است توانایی مهم‌تری را فراموش کند: ایستادن بر پای قضاوت خود. مساله بر سر انتخاب میان انسان و ماشین نیست. مساله این است که پس از دریافت پاسخ ماشین، آیا هنوز ذهنی مستقل برای تردید کردن، سنجیدن و مخالفت‌ کردن باقی مانده است؟

۲۱۶۲۱۶