هوش مصنوعی، بیهوشی و امکانهای نامرئی: چرا هزینهها زودتر از فایدهها دیده میشوند؟
از اتاق عمل قرن نوزدهم تا چتباتهای امروز؛ نگاهی فلسفی به نوآوریهایی که زیانشان قابل اندازهگیری است اما مهمترین فایدههایشان هنوز زبان و مفهوم پیدا نکردهاند
نوآوریهای بزرگ معمولاً با یک سوءتفاهم تاریخی وارد زندگی ما میشوند: هزینههایشان فوری، روشن و قابل اندازهگیری است، اما مهمترین فایدههایشان هنوز زبان، نهاد و تجربه لازم برای دیدهشدن را پیدا نکردهاند. همین مسئله امروز در بحث هوش مصنوعی، آموزش، تفکر، حافظه و آینده کار فکری به شکلی جدی تکرار میشود. برای فهم این وضعیت، باید از اتاق عمل قرن نوزدهم شروع کنیم؛ جایی که درد، زمان و تیغ جراحی مرزهای امکان را تعیین میکردند.
پیش از بیهوشی: وقتی جراحی به اندازه تحمل درد بیمار محدود بود
پیش از سال ۱۸۴۶، جراح تنها تا جایی میتوانست پیش برود که بیمارِ هوشیار در چند دقیقه تحمل میکرد. بیمار را دستیاران نگه میداشتند یا به تخت عمل میبستند. حتی در اوایل دهه ۱۹۶۰ در سیسیل، عمل لوزهبرداری مادرِ راوی این بحث کموبیش به همین شیوه انجام شده بود؛ یعنی میراث پزشکی پیشابیهوشی، در برخی نقاط، بسیار دیرتر از تصور ما ادامه داشت.
در آن جهان، شهرت جراح به «اقتصاد حرکت» وابسته بود؛ یعنی اینکه با کمترین حرکت و در کوتاهترین زمان کار را تمام کند. هر ثانیه عمل، یک ثانیه رنج آگاهانه بود. «رابرت لیستون» (Robert Liston)، جراح مشهور، میتوانست یک پا را در کمتر از ۳۰ ثانیه قطع کند؛ نه از سر نمایش، بلکه چون ضرورت چنین بود.
به همین دلیل، جراحیها عمدتاً به سطح بدن محدود میشدند: قطع عضو، تخلیه آبسه و برداشتن تومورهای سطحی. هیچ بیمار هوشیاری نمیتوانست کار طولانی و دقیق درون قفسه سینه، شکم یا جمجمه را تاب بیاورد. پس مسئله فقط راحتی بیمار نبود؛ خودِ نقشه امکانات جراحی کوچک و محدود بود.
مخالفت با بیهوشی؛ خطایی از سر جهل نبود
وقتی اتر و کلروفرم وارد پزشکی شدند، بسیاری از چهرههای معتبر پزشکی آمریکا و بریتانیا با بیهوش کردن بیمار مخالفت کردند. امروز شاید این مخالفت عجیب به نظر برسد، اما در زمان خود، کاملاً بیدلیل و خام نبود.
«جان پولارد هریسون» (John Pollard Harrison)، از کالج پزشکی اوهایو و نایبرئیس وقت «انجمن پزشکی آمریکا» (American Medical Association)، در سال ۱۸۴۹ نوشت: «درد درمانگر است؛ کنشهای زندگی بهوسیله آن حفظ میشوند؛ اگر تحریک ناشی از درد نبود، جراحیها بیشتر به مرگ میانجامیدند.»
این جمله امروز ممکن است بیرحمانه به نظر برسد، اما باید آن را در چارچوب پزشکی زمان فهمید. درد برای برخی پزشکان نشانه فعالیت حیاتی بدن بود، نه فقط تجربهای آزارنده.
«چارلز میگز» (Charles Meigs)، استاد مامایی در «کالج پزشکی جفرسون» (Jefferson Medical College) در فیلادلفیا، درد زایمان را نمود مطلوب، سالم و محافظهکارانهای از نیروی زندگی میدانست. برخی جراحان نیز استدلال میکردند بیمار هوشیار میتواند محل عمل را تأیید کند، هنگام جراحی در تصمیمها کمک کند و بازخورد تشخیصی زنده بدهد؛ اموری که با بیهوشی از دست میرفت.
نگرانیهای ایمنی نیز واقعی بودند. گزارشهای مرگومیر ناشی از کلروفرم افزایش یافت و در گزارش کمیته «انجمن سلطنتی پزشکی و جراحی» (Royal Medical and Chirurgical Society) در سال ۱۸۶۴، ۱۲۳ مرگ ناشی از کلروفرم ثبت شد.
پس مخالفت اولیه با بیهوشی، صرفاً محافظهکاری کور نبود. این مخالفت بر بهترین شواهد بالینی در دسترس آن دوره تکیه داشت.
اما چیزی وجود داشت که هیچکدام از منتقدان نمیتوانستند ببینند: بیهوشی قرار بود جراحی قلب باز، پیوند عضو، جراحی مغز و اعصاب و کل معماری تخصصی جراحی مدرن را ممکن کند. فایده بیهوشی فقط این نبود که همان جراحیهای قدیمی را کمدردتر کند؛ بیهوشی «فضای امکان» تازهای ساخت که از درون عمل جراحی سال ۱۸۴۶ اصلاً قابل تصور نبود.
عدم تقارن خوانایی: هزینهها واضحاند، فایدههای عمیق هنوز زبان ندارند
اینجا با الگویی فلسفی روبهرو هستیم که میتوان آن را «عدم تقارن خوانایی» نامید. یعنی چه؟
یک نوآوری وارد میشود. هزینههای آن فوراً دیده میشوند، چون در مقایسه با وضع موجود قابل سنجشاند. ابزارهای ارزیابی قدیمی دقیقاً برای اندازهگیری همین چیزها ساخته شدهاند. اما عمیقترین فایدهها وابسته به عملها، نهادها و مفاهیمی هستند که هنوز وجود ندارند.
منتقدان متخصص اغلب درست میگویند؛ اما درباره بخشی از واقعیت که قابل دیدن است. مشکل این نیست که آنها ناداناند. مشکل این است که واژگان و معیارهای ارزیابیِ بهارثرسیده از گذشته، فقط نوع خاصی از هزینه را میبیند. در لحظه بحرانیِ ظهور فناوری، هیچ ارزیابی کاملی نمیتواند فایدههای عمیق را ثبت کند، چون زبان توصیف آن فایدهها خود یکی از چیزهایی است که نوآوری بعداً پدید میآورد.
اپلیکیشنهای دوستیابی: زیانهای واقعی، اثرهای غیرقابل پیشبینی
نمونه معاصر این الگو را میتوان در اپلیکیشنهای دوستیابی دید. «الی فینکل» (Eli Finkel) و دیگران نشان دادهاند که دوستیابی از طریق اپلیکیشن میتواند اضافهبار انتخاب ایجاد کند، شکلگیری تعهد را تضعیف کند و رشد مهارتهای رابطهای را کاهش دهد؛ مهارتهایی که شیوههای قدیمیتر آشنایی، طبیعیتر پرورش میدادند.
ادبیات تجربی درباره تنهایی، کاهش نرخ ازدواج در میان جوانان و فروپاشی آغاز رابطه عاشقانه حضوری و غیررسمی اکنون گسترده است. منتقدان در اینجا چیزهای واقعی را ثبت میکنند و شواهدشان جدی است؛ درست شبیه شواهد هریسون درباره بیهوشی.
اما این شواهد نمیتوانند همه اثراتی را ببینند که خودِ وجود اپلیکیشنها پدید آورده است؛ اثراتی که ده سال پیش در بحث درباره «تیندر» (Tinder) بهراحتی قابل بیان نبودند.
برای مثال، فضای عمومی بهآرامی تغییر کرده است. وجود کانالی جایگزین برای آغاز رابطه عاشقانه، جایگاه هنجاری نزدیک شدن حضوری در خیابان، کافه یا محل کار را تضعیف کرده است. زنان امروز خیابان، کافه و محیط کار را به شیوهای تجربه میکنند که برای سال ۱۹۹۵ شاید کاملاً نامأنوس بود.
بخشی از مزاحمتهای پراکندهای که پیشتر در محیطهای فیزیکی رخ میداد، به پلتفرمها منتقل شده است؛ جایی که دستکم تعامل دیجیتال را میتوان فیلتر کرد، مسدود کرد، گزارش داد و بررسیپذیر ساخت. این به معنای بیخطر بودن پلتفرمها نیست، اما تفاوت مهمی میان مزاحمت خیابانی و تعاملی وجود دارد که امکان ثبت و کنترل بیشتری دارد.
دوستیابی آنلاین و افزایش ازدواجهای میاننژادی
اثرهای عمیقتر اپلیکیشنهای دوستیابی فقط به سطح تعامل فردی محدود نیست. اقتصاددانان «خوسوئه اورتگا» (Josué Ortega) و «فیلیپ هرگوویچ» (Philipp Hergovich) در سال ۲۰۱۸، با استفاده از مدل رسمی «نظریه تطبیق» و دادههای ایالتی پذیرش اینترنت پهنباند بهعنوان شاخصی برای دوستیابی آنلاین، نشان دادند دوستیابی آنلاین با افزایش سریع ازدواجهای میاننژادی در آمریکا طی دو دهه گذشته سازگار است.
منطق ماجرا ساده اما مهم است. مردم پیشتر معمولاً درون شبکههای اجتماعی موجود خود ازدواج میکردند و این شبکهها از نظر نژادی جداافتاده بودند. هر کانالی که غریبهها را از شبکههای مختلف به هم وصل کند، حتی با میزان پذیرش متوسط، انتظار میرود نوعی ادغام اجتماعی ایجاد کند.
از سوی دیگر، جامعهشناس «مایکل روزنفلد» (Michael Rosenfeld) و همکارانش، با تکیه بر دادههای طولی نماینده جمعیت ملی، نشان دادند که از حدود سال ۲۰۱۳، رایجترین شیوه آشنایی زوجهای متفاوت آمریکایی، آشنایی آنلاین بوده است. تا سال ۲۰۱۷ نیز حدود ۶۵ درصد زوجهای مشابه از همین طریق با هم آشنا شده بودند.
نکته مهمتر اینکه اگر مدتزمان رابطه را در نظر بگیریم، نرخ جدایی و رضایت رابطه میان زوجهایی که از طریق اپلیکیشن با هم آشنا شدهاند و زوجهایی که از طریق دوستان به هم رسیدهاند، تفاوت معناداری ندارد.
گرامافون و ترس جان فیلیپ سوسا از نابودی موسیقی آماتور
در سال ۱۹۰۶، آهنگساز آمریکایی «جان فیلیپ سوسا» (John Philip Sousa) در مجله «اپلتون» (Appleton’s Magazine)، از جایگاهی کاملاً معتبر در مرکز اقتدار موسیقایی زمان خود، استدلال کرد که گرامافون موسیقی آماتور را نابود خواهد کرد.
او از نظر تجربی درباره بخشی از آینده درست میگفت: پیانوی خانگی یا پیانوی سالن پذیرایی در نیمقرن بعدی رو به افول رفت. اما چیزی را نمیتوانست ببیند: استودیوی ضبط بهعنوان ابزار خلاق، نمونهبرداری صوتی، آهنگسازی چندلایه و ژانرهایی که اساساً بدون صدای ضبطشده قابل تصور نیستند.
در سال ۱۹۰۶، اینها «گفتنی» نبودند؛ نه چون کسی کمهوش بود، بلکه چون به فناوریها، عملها و دستهبندیهای زیباییشناختیای وابسته بودند که خودِ رسانه ضبط باید ابتدا آنها را به وجود میآورد.
حتی تصویر تاریخی سوسا نیز این حس را تقویت میکند: عکسی سیاهوسفید از مردی ریشدار با لباس آراسته که بیرون ساختمانی دستش را بالا برده است؛ تصویری منسوب به کتابخانه کنگره که گویی مردی از جهان موسیقی پیشاضبط، رو به آیندهای اشاره میکند که خودش نمیتوانست کامل ببیند.
روشنایی برقی: وقتی مقایسه درست، آینده را نمیبیند
این الگو در نوآوریهای زیرساختی هم دیده میشود. در دهه ۱۸۸۰، مهندسان گاز استدلال میکردند روشنایی برقی اولیه از گاز ضعیفتر است. در مقایسهای که انجام میدادند، درست میگفتند.
اما آن مقایسه نمیتوانست چیزی مهمتر را ببیند: زیرساختی که برای رساندن نور برقی ساخته میشد، یعنی ژنراتورها، خطوط انتقال و شبکههای توزیع، بعدها به بستر تمدن الکترونیکی گستردهتری تبدیل شد؛ تمدنی شامل تلفن، رادیو، رایانش و پخش همگانی.
مسیر از روشنایی برقی تا ترانزیستور طولانی بود و از اختراعها و رشتههایی میگذشت که در سال ۱۸۸۵ هنوز وجود نداشتند. از درون مناظره روشنایی دهه ۱۸۸۰، پیشبینی ترانزیستور عملاً ممکن نبود.
افلاطون، نوشتار و ترس از فراموشی
این بحث حتی از همه نمونههای مدرن قدیمیتر است. در «فایدروس» (Phaedrus)، افلاطون از زبان «تاموس» (Thamus) هشدار میدهد که نوشتار حافظه را فرسوده میکند.
این هشدار درباره چیزی که میدید، غلط نبود. جایگزینی سنتهای شفاهیِ حفظشده با اسناد نوشتاری، یک دگرگونی فرهنگی واقعی بود. اما تاموس نمیتوانست درباره اموری هشدار دهد که هنوز واژگان لازم برای آنها وجود نداشت: دانش انباشتی مبتنی بر ارجاع نوشتاری پایدار، منطق صوری که اساساً برای رشد خود به نمادگذاری نیاز دارد، و علم تجربی که شیوههای شواهدی آن از سند بلندمدت و ثبت نوشتاری جداشدنی نیست.
به بیان ساده، نوشتار شاید بخشی از حافظه شفاهی را ضعیف کرد، اما شکلهایی از دانایی را ساخت که بدون نوشتار اصلاً ممکن نبودند.
هوش مصنوعی و بازگشت نگرانی تاموس
اکنون همین الگو در بحث هوش مصنوعی دیده میشود. سازوکاری که منتقدان امروز ثبت میکنند، همان چیزی است که تاموس از آن میترسید: وقتی ابزاری یک عملیات شناختی را بهطور قابل اعتماد انجام میدهد، توانایی درونی انسان برای انجام آن عملیات، در اثر کماستفاده شدن، میل به ضعف پیدا میکند.
این نگرانی فقط ادبی یا فلسفی نیست. شواهد تجربی نیز دارد. افرادی که میدانند میتوانند چیزی را در «گوگل» (Google) جستوجو کنند، حافظه ضعیفتری نسبت به خود آن اطلاعات نشان میدهند. کاربران عادتکرده به «جیپیاس» (GPS) نیز کاهش قابل اندازهگیری در جهتیابی فضایی وابسته به هیپوکامپ نشان میدهند.
مدلهای زبانی بزرگ، یا «الالامها» (LLMs)، عملیات شناختی بسیار گستردهتری از مسیریابی یا یادآوری اطلاعات عمومی را خودکار میکنند. بنابراین از نظر اصولی دلیلی نداریم که انتظار داشته باشیم این سازوکار در مقیاس بزرگتر عمل نکند.
شواهد نگرانکننده درباره افت شناختی در استفاده از هوش مصنوعی
بدنه روبهرشدی از شواهد نشان میدهد این نگرانی بیپایه نیست. در یک پیشچاپ سال ۲۰۲۵، پژوهشگر «ناتالیا کوسمینا» (Nataliya Kosmyna) و همکارانش فعالیت مغزی افراد را هنگام مقالهنویسی پایش کردند. شرکتکنندگانی که با «چتجیپیتی» (ChatGPT) مینوشتند، نسبت به کسانی که بدون کمک مینوشتند، اتصال عصبی بهطور معناداری ضعیفتری نشان دادند. این اثر حتی وقتی بعداً از همان افراد خواسته شد بدون کمک بنویسند، ادامه یافت.
«حمسا بستانی» (Hamsa Bastani) و همکارانش آزمایشی میدانی با نزدیک به هزار دانشآموز دبیرستانی انجام دادند. دانشآموزانی که از یک معلم خصوصی استاندارد هوش مصنوعی استفاده کردند، در امتحان نهایی بدون کمک، ۱۷ درصد بدتر از گروهی عمل کردند که اصلاً هوش مصنوعی نداشتند. اما نسخهای از همان ابزار که برای «داربستبندی یادگیری» طراحی شده بود، یعنی به جای دادن پاسخ آماده، مسیر یادگیری را حمایت میکرد، چنین افتی ایجاد نکرد.
در یک کارآزمایی تصادفی درباره مهندسان نرمافزاری که در حال یادگیری یک کتابخانه تازه «پایتون» (Python) بودند، پژوهشگران هوش مصنوعی «جودی هانون شن» (Judy Hanwen Shen) و «الکس تمکین» (Alex Tamkin) گزارش کردند کسانی که از دستیار کدنویسی هوش مصنوعی استفاده کردند، در پرسشهای اشکالزدایی و فهم مفهومی نمره بسیار پایینتری گرفتند.
پژوهش «النا هایانگ لی» (Elena Hayoung Lee) و همکارانش نیز نشان داد استفاده منفعلانه از هوش مصنوعی، یعنی کپیکردن مستقیم خروجی آن، اعتماد افراد به توانایی خود و حس معناداری کار را تضعیف میکند. اما همکاری فعال، یعنی اینکه فرد ابتدا خودش پیشنویس بسازد و سپس با کمک هوش مصنوعی آن را اصلاح کند، هر دو کیفیت را حفظ میکند.
این یافتهها جدیاند و پژوهشگرانشان کار دقیقی انجام دادهاند. اما در چارچوب بحث حاضر، آنها نسخه هوش مصنوعیِ مخالفت هریسون با بیهوشیاند: دقیق، مستند و ناتوان از دیدن مهمترین چیزی که شاید بعداً رخ دهد. هوش مصنوعی احتمالاً شدیدترین نمونه «عدم تقارن خوانایی» است که جهان تاکنون با آن روبهرو شده است.
تجربه کار فکری با مدلهای زبانی: فایدهای که از قبل نام نداشت
پس از دو سال کار با ابزارهایی که برخی شواهد میگویند شناخت را تضعیف میکنند، تجربهای شکل میگیرد که البته نباید آن را بهتنهایی مبنای نتیجهگیری عمومی دانست. تجربه یک فیلسوف، شواهد کافی برای حکم کلی نیست. اما شکل این تجربه برای فهم استدلال مهم است.
انتظار اولیه از هوش مصنوعی چیزهای آشکار بود: مرور ادبیات سریعتر، پیشنویسهای تمیزتر و زمان کمتر برای بخشهای مکانیکی نوشتن دانشگاهی. این مزایا واقعاً به دست آمدند، اما جالبترین بخش ماجرا نبودند.
پیش از این ابزارها، هزینه کاوش یک پرسش بالا بود. ایدهای امیدبخش به ذهن میرسید، چند روز مطالعه پیرامونی لازم داشت، سپس استدلالی مقدماتی شکل میگرفت، بعد مشکلی پیدا میشد، و پس از دو یا سه هفته تازه معلوم میشد آیا پرسش ارزش دنبال کردن دارد یا نه.
مشکل این بود که هزینه فهمیدنِ بنبست بودن یک پرسش، تقریباً با هزینه فهمیدنِ جدی بودن آن برابر بود. باید بخش بزرگی از کار را انجام میدادی تا بفهمی اصلاً ارزشش را داشته یا نه.
هرکس سه هفته روی استدلالی کار کرده و بعد، مثلاً یک بعدازظهر سهشنبه در سال ۲۰۲۶، فهمیده کسی در سال ۲۰۱۹ تقریباً همان ایده را منتشر کرده، این حس را میشناسد. آن هفتهها دیگر شبیه یادگیری مفید نیستند؛ بیشتر شبیه اتلاف به نظر میرسند. همین تجربه باعث میشود پرسش بعدی را با احتیاط بیشتری شروع کنیم.
این ساختار هزینه، فرد را در انتخاب پرسشها محافظهکار میکند و باعث میشود پرسشی را که چند هفته روی آن سرمایهگذاری شده، بهسختی رها کند. از نگاه نظری، این همان «سوگیری هزینه ازدسترفته» است؛ یعنی چون برای چیزی وقت گذاشتهایم، ترک آن را دشوارتر مییابیم. اما در لحظه، اغلب شبیه وظیفهشناسی و جدیت علمی احساس میشود.
با مدلهای زبانی، هزینه کاوش مقدماتی فرو ریخت. میتوان استدلالی را طرح کرد، نخستین اعتراضهای جدی را شناسایی کرد، سنجید آیا آن اعتراضها مرگبارند یا نه، و در یک بعدازظهر به داوری موقت رسید؛ نه در دو هفته.
این فقط افزایش سرعت نیست. اثر عمیقتر در چیزی است که آدم حاضر میشود رها کند. کنار گذاشتن پرسشی پس از یک بعدازظهر کار، اصلاً شبیه رها کردن پرسشی پس از سه هفته نیست. وقتی هزینه کاوش پایین میآید، دلبستگی ناشی از هزینه ازدسترفته نیز کاهش مییابد. پرسشهای بد زودتر و بیشتر کنار گذاشته میشوند و پرسشهایی که باقی میمانند، بهترند.
در نتیجه، تعداد ایدههای بررسیشده بیشتر میشود و مجموعه کاری هم بزرگتر و هم دقیقتر گزینش میشود. این نتیجه نه با برنامهای از پیش طراحیشده، بلکه از درگیری پایدار با ابزاری به دست میآید که هزینه کاوش را تغییر داده است.
مهارتی که کسی آموزش نمیدهد: شناسایی پرسش خوب
مهمترین مهارتی که در این فرایند رشد میکند، چیزی است که میتوان آن را «شناسایی پرسش» نامید: توانایی یافتن مسئلههایی که هم مهماند و هم قابل پیگیری.
این مهارت در زندگی دانشگاهی حیاتی است. بسیاری از مسیرهای پژوهشی نه با پاسخهای خوب، بلکه با پرسشهای خوب ساخته میشوند. با این حال، کمتر کسی مستقیماً آموزش میدهد چگونه باید پرسشی را پیدا کرد که ارزش عمر پژوهشی داشته باشد.
اینجاست که فایده هوش مصنوعی از جنس «پاسخ دادن سریعتر» نیست؛ بلکه از جنس بازآرایی خودِ عمل پژوهش است. یعنی تمرکز از تولید پاسخ برای پرسشهای موجود، به یافتن پرسشهای بهتر منتقل میشود.
هزینه واقعی: شاید در گفتوگوی زنده ضعیفتر شویم
اما هزینهها را نباید پنهان کرد. توانایی نگه داشتن یک موضع پیچیده بهصورت شفاهی، زیر فشار، در سمینار یا گفتوگو، ممکن است بهتر نشود و حتی کمی افت کند. وقتی کاوش مقدماتی ارزان میشود، زمان کمتری صرف کلنجار رفتن با استدلالها از اصول اولیه میشود؛ همان کلنجاری که روانی فکری لازم برای پاسخگویی زنده را میسازد.
دوستانی که نسبت به این موضوع هشدار میدهند، نگرانی بیجایی ندارند. شکل اختلاف آموزنده است: هزینه فوراً قابل توصیف است، چون از ظرفیتی کم میکند که سالها تمرین شده است. اما فایده، پیش از تجربه نامرئی بود و فقط پس از وقوع، بدیهی به نظر میرسد.
مرور ادبیات سریعتر و پیشنویس تمیزتر، در مقایسه با این دگرگونی، چیزی شبیه امتیاز کوچکی است که تاموس برای نوشتار میپذیرفت: نوشتار میتواند یادآور خوبی باشد. اما اهمیت واقعی نوشتار در جای دیگری بود؛ در ساختن علم، منطق و دانش انباشتی.
البته همین که اکنون میتوان این فایده را نامگذاری کرد، تا حدی علیه نسخه بسیار افراطی استدلال است. هرچه بتوانیم نام ببریم، از قلمرو ناخوانا وارد قلمرو خوانا شده است. اما نکتهای باقی میماند: پیشاپیش کسی نگفته بود مدلهای زبانی بزرگ عمل پژوهش را حول یافتن پرسش خوب بازسازماندهی میکنند.
حتی زبان توصیف این تغییر نیز تا حدی محصول کار با همین ابزارهاست. خوانندهای هم که این ادعا را ارزیابی میکند، خود در جهانی داوری میکند که همین فناوریها در حال دگرگون کردن آناند. ما بیرون از این عدم تقارن نایستادهایم؛ درون آن هستیم.
حکمرانی هوش مصنوعی: چرا سیاستگذار هزینهها را بهتر میبیند؟
این عدم تقارن فقط مشکل کاربران فردی نیست. هر نهاد حکمرانی که باید تصمیمهای خود را بر شواهد مستند بنا کند، با آن روبهروست.
تنظیمگری که باید نشان دهد با دقت و مسئولیت عمل کرده، همیشه هزینههای مستند را دفاعپذیرتر از فایدههای اندازهناپذیر میبیند. هزینهها شاهدند؛ امکانها هنوز شاهد ندارند.
این نقطه کور حتی در نظریهپردازی رسمی نیز دیده میشود.
مدل دارون عجماوعلو: وقتی دانش جمعی ممکن است کوچک شود
در یک مقاله کاری تازه، «دارون عجماوعلو» (Daron Acemoglu)، برنده نوبل اقتصاد ۲۰۲۴، همراه با «دینگون کونگ» (Dingwen Kong) و «آسومان اوزداگلار» (Asuman Ozdaglar)، مدلی ریاضی درباره پیامد اتکای فزاینده انسانها به هوش مصنوعی در تصمیمهایی ساختهاند که پیشتر خودشان درباره آنها فکر میکردند.
مدل آنها سازوکاری واقعی و مهم را ثبت میکند. وقتی افراد خودشان مسئلهای را حل میکنند، در کنار پاسخ، دانشی تولید میکنند که وارد ذخیره مشترک دانش میشود. دیگران بعداً از همین ذخیره استفاده میکنند. اما کمک هوش مصنوعی به هر فرد پاسخ فوری بهتری میدهد، درحالیکه کار شناختی تولیدکننده آن ذخیره مشترک را آرامآرام حذف میکند.
مدل نشان میدهد در شرایطی معقول، این روند میتواند به وضعیتی پایدار برسد که در آن پایگاه دانش جمعی کوچکتر میشود، هرچند تصمیمهای فردی همچنان در سطح محلی عقلانیاند.
پیشنهاد سیاستی این مدل، محدود کردن عمدی دقت هوش مصنوعی است؛ یعنی ابزار آنقدر دقیق و کامل نباشد که انسانها دیگر مجبور نشوند کار فکری را خودشان انجام دهند. هدف این است که ذخیره دانش عمومی همچنان بازتولید شود.
این مدل زیباست و سازوکاری واقعی را نشان میدهد. اما یک محدودیت جدی دارد: دستهبندیهای دانش در آن از ابتدا ثابت فرض شدهاند. در مدل جایی برای این امکان نیست که تعامل پایدار با سامانهای توانمند، نوعهای کاملاً تازهای از شایستگی ایجاد کند؛ شایستگیهایی که دستهبندیهای پیشین اصلاً نمیتوانند توصیفشان کنند.
مدل میتواند جهانی را نمایش دهد که در آن «چیزهایی که باید دانسته شوند» تغییر میکنند، اما نمیتواند جهانی را نمایش دهد که در آن خودِ «دانستن» معنای تازهای پیدا میکند. این محدودیت مهم است، چون نوآوریهای بزرگ دقیقاً عملهایی را بازسازماندهی میکنند که دانش درون آنها ساخته میشود.
شواهد تجربی نیز به همین سمت اشاره دارند: بهترین نتایج در ادبیات موجود معمولاً از ضعیف کردن قابلیتهای سیستم به دست نیامده، بلکه از تغییر شرایط استفاده از سامانهای توانمند حاصل شده است؛ مثلاً رابطهای محافظتشده، طراحی هوشمندانه تعامل و شیوههایی که کاربر را به مشارکت فعال وامیدارند.
ممکن است در نهایت سیاست محدودسازی درست باشد. اما چارچوب نظریای که فقط دستههای موجود دانش را میبیند، بهطور ناقص به سود محدودسازی سوگیری دارد؛ چه محدودسازی واقعاً موجه باشد و چه نباشد.
آیا رشد طبیعی عقل انسانی هم فایدههای نامرئی ندارد؟
اینجا یک اعتراض ظریف مطرح میشود. شاید عدم تقارن در هر دو جهت وجود داشته باشد. خودِ رشد عقل انسانی نیز نوپدید است و در طول زمان شکلهایی از داوری تولید میکند که کسی نمیتوانست از قبل مشخص کند. متفکر دو قرن پیش نمیتوانست دستگاه مفهومی متفکر امروز را پیشبینی کند؛ همانطور که جراح ۱۸۴۶ نمیتوانست جراحی قلب را پیشبینی کند.
پس شاید اگر محدودیتهایی را که عقل انسانی درون آنها رشد کرده برداریم، فضای امکانیِ نامرئیِ خودِ رشد انسانی را ببندیم.
این اعتراض جدی است، اما دو نوع «نوپدیدی» را با هم مخلوط میکند. رشد عقل بالغ انسانی در نبود فناوری پارادایمساز، هرچند در جزئیات پیشبینیناپذیر است، در امتداد مسیری پیوسته رخ میدهد. یک اندیشمند دقیق دو قرن پیش احتمالاً متفکر امروز را نقطهای پیشرفتهتر در همان مسیری میدید که خودش میپیمود.
اما فناوری پارادایمساز نوع دیگری از نوپدیدی ایجاد میکند. چنین فناوریای فضایی بیرون از مسیر پیشین عمل میگشاید؛ فضایی که محتوای آن با واژگان ارزشیابی موجود قابل توصیف نیست. عدم تقارن خوانایی دقیقاً درباره همین موارد است.
خطر ممنوعیت: وقتی نبود شواهد، محصول خود ممنوعیت است
مسئله با یک چرخه بازخوردی پیچیدهتر میشود. محدودسازی میتواند همان تجربههایی را ببندد که از طریق آنها فایدههای نوظهور قابل مشاهده میشدند. در نتیجه، پس از محدودسازی، پایگاه شواهد همچنان یکطرفه میماند و تصمیم اولیه درست به نظر میرسد.
دانشگاهی که استفاده از هوش مصنوعی را در نوشتن دانشجویی ممنوع میکند، هرگز کشف نخواهد کرد چه شیوههایی از آموزش با هوش مصنوعی میتوانست هم تفکر سخت و عمیق را حفظ کند و هم شکلهای تازه کار فکری را ممکن سازد. بعد هم نبودِ این شواهد، ممنوعیت را عاقلانه جلوه میدهد.
این شبیه آن است که برای فهمیدن مزه یک غذا، درِ آشپزخانه را قفل کنیم و بعد بگوییم چون غذایی روی میز نیست، پس آشپزی فایدهای ندارد.
معیار بهتر برای تصمیمگیری: بازگشتپذیری
اگر نمیتوانیم فایدههای عمیق را از پیش تخمین بزنیم، به آزمونی دیگر نیاز داریم. معیار پیشنهادی در اینجا «بازگشتپذیری» است.
پرسش اصلی این نیست که آیا فناوری هزینه دارد یا نه. تقریباً هر فناوری مهمی هزینه دارد. پرسش این است: اگر تصمیم ما اشتباه بود، آیا میتوانیم آن را برگردانیم؟
این معیار ساده به نظر میرسد، اما بسیار پیچیده است. ممکن است یک توانایی شناختی پس از سالها کماستفاده شدن، با آموزش دوباره بازگردد. اما نهادهایی که چنین بازآموزیای را ممکن میکنند، شاید از بین رفته باشند: برنامهها، مسیرهای شاگردی، استادان، اجتماعهای کاری و موقعیتهایی که مهارت در آنها از راه عمل منتقل میشود.
وقتی این نهادها از میان بروند، افرادی که میدانند چگونه آنها را اداره کنند پراکنده میشوند و دانش بازسازی آنها نیز همراهشان از دست میرود.
درس ناوبری ستارهای: افزونگی نهادی را حفظ کنید
نمونه روشن این مسئله، نیروی دریایی آمریکا است. وقتی جیپیاس ناوبری ستارهای را ظاهراً زائد کرد، نیروی دریایی آمریکا این مهارت را از برنامه آموزشی حذف کرد.
حدود یک دهه طول کشید تا آسیبپذیری این تصمیم آشکار شود. آگاهی نسبت به این خطر افزایش یافت که جیپیاس میتواند مختل شود، جعل شود یا در حمله نخست از کار بیفتد. در نتیجه، ناوبری ستارهای در سال ۲۰۱۵ دوباره به برنامه بازگشت.
بازگشت ممکن بود، چون «آکادمی دریانوردی تجاری آمریکا» در کینگز پوینت نیویورک (US Merchant Marine Academy at Kings Point, New York) همچنان آن را آموزش میداد، مربیانی که این مهارت را حفظ کرده بودند وجود داشتند و کتابهای درسی هنوز در دسترس بودند.
درسی که نیروی دریایی آمریکا آموخت، و صنعت هوانوردی نیز مستقل از آن به نتیجه مشابهی رسید، این بود: بازگشتپذیری به افزونگی حفظشده در جایی از سیستم نیاز دارد. باید نهادی وجود داشته باشد که ظرفیت کنارزدهشده را همچنان پرورش دهد، تا اگر معامله فناوری بعداً بدتر از آنچه ابتدا به نظر میرسید از آب درآمد، بتوان مسیر را برگرداند.
چه زمانی محدودسازی موجهتر است؟
عدم تقارن خوانایی دلیلی برای بیاحتیاطی نیست. اگر هزینهها احتمالاً بازگشتناپذیر باشند، اگر پنجرههای رشد بسته شوند، یا اگر توانایی تشخیص مشکل همراه با خود مهارت از بین برود، احتیاط حتی قویتر میشود. در چنین وضعی، چیزی در پایگاه شواهد نداریم که بتوان آن را در برابر فقدانی غیرقابل جبران گذاشت.
اما اگر هزینهها با طراحی نهادی معقول بازگشتپذیر باشند، محدود کردن فناوری فقط بر پایه هزینههای آشکار، ممکن است فایدههایی را ببندد که اندازهشان هنوز قابل تخمین نیست. در این حالت، خودِ بستن راه تجربه، ریسک بزرگتری میشود؛ چون از دست رفتن فایدههایی رخ میدهد که ابزارهای سنجش فعلی اصلاً به مقیاس آنها دسترسی ندارند.
راه معقولتر: تجربه مدیریتشده، نه ممنوعیت یکدست
مهمترین ارزیابیها درباره فناوریهایی مانند هوش مصنوعی در آینده انجام خواهد شد؛ توسط کسانی که با مفاهیمی کار میکنند که امروز هنوز نداریم. پرسش واقعی این است که تا آن زمان چگونه حکمرانی کنیم، وقتی هزینهها خوانا هستند اما فایدههای مهم به عملهایی وابستهاند که هنوز نساختهایم.
ممنوعیت یکدست نوعی شرطبندی است بر اینکه ما همین حالا میدانیم شایستگی حرفهایِ تقویتشده با هوش مصنوعی چه شکلی خواهد داشت. اما شواهد موجود دقیقاً نشان میدهد که احتمالاً هنوز نمیدانیم.
در برابر آن، تجربه مدیریتشده شرطبندی متفاوتی است: هزینههای بازگشتپذیر را با طراحی نهادی مهار کنیم، ظرفیتهای قدیمی را در نقطههایی از سیستم زنده نگه داریم، و بار اثبات را فقط بر دوش کسانی نگذاریم که میخواهند کشف کنند؛ بلکه از کسانی هم که میخواهند راه را ببندند، دلیل بخواهیم.
هریسون میتوانست با دقت بگوید بیهوشی چه هزینههایی دارد. اما نمیتوانست درباره جراحی قلب باز چیزی بگوید، چون عملها و مفاهیمی که تصور چنین چیزی را ممکن میکردند هنوز وجود نداشتند. این شاید مهمترین درس منطقی و فلسفی ماجرا باشد: سنجشپذیری و اهمیت یکی نیستند؛ شما فکر میکنید در برابر هوش مصنوعی باید بیشتر محدود کنیم یا بیشتر تجربه مدیریتشده بسازیم؟
