دیوانه تا ابد پابرجاست

تقریبا روزی نیست که خبری در حوزۀ فناوری مخابره نشود که خوراک تحلیل‌های فلسفی دربارۀ نسبت ماشین و انسان نباشد. از پیشرفت‌های تحلیلی هوش مصنوعی گرفته که توانسته بسیاری از مشاغل را به خطر بیندازد تا پیشرفت‌های جنگ‌افزارهای هوشمند که نه‌تنها در حوزۀ اجرای ماموریت‌ها می‌توانند جای انسان را بگیرند، بلکه در حوزۀ طراحی و راهبری ماموریت‌ها نیز توانمند شده‌اند.

در چنین شرایطی، ظاهرا این یک سوال مهم و نگران‌کننده است که ماشین‌هایی که تا بدین‌حد هوشمند شده‌اند، چه بلایی بر سر جامعۀ بشری خواهند آورد؟ این سوال دست‌کم دو سویه دارد. یک سویه، دربارۀ عدم امکان تعیین مسئولیت اَعمال و بازخواست و مجازات عاملان است. چه در مسائل نظامی که مستقیما با جان انسان‌ها روبه‌روست چه در مسائل غیرنظامی که هر تصمیمی و هر شیوه‌ای از اجرای آن تصمیم، می‌تواند زندگی بسیاری از افراد را تحت تاثیر قرار دهد. نگرانی‌ها مشخصا دربارۀ این است در هنگام مواجه‌شدن با آثار ناگوار و مخرب ناشی از تصمیم و اجرای ماشین‌ها، دقیقا باید یقۀ چه کسی را چسبید؟ سویۀ دوم دربارۀ این است که وقتی ماشین‌ها اینقدر توانمند هستند، چگونه می‌توان از عدم تمرد آن‌ها و ازدست‌نرفتن تسلط انسان بر آن‌ها، مطمئن بود؟

دربارۀ نگرانی اول، لازم است تا نگاهی به نظام حاکم بر تصمیم‌گیری‌های سازمانی در طول یک قرن اخیر بیندازیم تا ببینیم آیا ماشین‌ها به شکل اصولی می‌توانند تحولی را رقم بزنند؟ صرفنظر از اینکه این تحول نگران‌کننده باشد یا نباشد. واقعیت این است که آنچه ما از ماشین‌ها انتظار داریم، پیشاپیش در اندیشۀ تفکرات بشری در حوزۀ سازمان، محقق شده است. به عبارت بهتر، آنچه دربارۀ نقش ماشین‌ها در تصمیم‌گیری و همچین راهبری و اجرای تصمیم گفته می‌شود، تداوم طبیعی سیری است که پس از جنگ‌های جهانی قرن بیستم، در پیش گرفته شده است. سیری که در آن، گویا یک اجماع جهانی بر سر لزوم مبارزه با نامنتظرگی شکل گرفت.

گویا قضاوت کلی این بود که هر آنچیزی که از فجایع سراغ داریم -از جنگ‌افروزی گرفته تا بحران اقتصادی و آسیب به محیط‌زیست- همه و همه نتیجۀ آزادی روح بشر برای اتخاذ تصمیمات نامنتظره و غیرکارشناسی بوده است. بنابراین در یک روند قابل رهگیری، روال‌های اتخاذ، راهبری و اجرای تصمیمات، به‌گونه‌ای توسعه و تکوین پیدا کرد که امروز در جدید‌ترین نسخه‌هایش، کمتر ردپایی از «انسان» می‌توان یافت. در ادبیات جدید که به «حکمرانی خوب» موسوم است، می‌توان به‌سادگی جای تک‌تک انسان‌هایی که تصمیم‌ می‌گیرند، راهبری می‌کنند و اجرا می‌کنند، ماشین گذاشت. نه حتی ماشین‌هایی که خیلی پیشرفته‌اند بلکه همین سطح از فناوری موجود نیز در اجرای این دستورالعمل‌ها، آنقدرها ناتوان نیستند.

هر چیزی، می‌تواند با شاخص‌های عددی، نظریه‌های تعادل‌یابی میان منافع و مضار و نهایتا فرمول‌بندی‌های ریاضی و منطقی، تعیین تکلیف شود. در چنین شرایطی از ادارۀ جوامع، آنچیزی که جای نگرانی دارد، حضور ماشین‌ها به جای انسان‌ها در جایگاه‌ها نیست. بلکه اگر قرار است جایی برای نگرانی باشد، اصل شکل‌گیری چنین انگاره‌ای از اداره است. در چنین انگاره‌ای، دقیقا چه کسی می‌تواند مسئولیت عواقب و نتایج را به عهده بگیرد؟ همۀ مسئولیت بر عهدۀ روال‌ها و فرایندهایی است که بر اساس داده‌های ورودی، نتایج کمابیش مشخصی را ارائه می‌دهند. حتی اگر این نتایج، به غایت متنوع و برای بی‌شمار حالت، توسعه پیدا کرده باشند، باز هم روال‌هایی انتزاعی هستند که نه قابل مجازات‌اند نه قابلیت به‌عهده‌گرفتن خسارات وارده را دارند.

بنابراین این سوال که باید یقه چه کسی را گرفت، همین الان هم بی‌پاسخ است. اینجا یک اتفاق خاص افتاده است. روندی که برای جلوگیری از وقوع فجایع شکل گرفته است، بیش از آنکه بتواند جلوی وقوع فجایع را بگیرد، خصلت اراده‌مند انسان را در روال‌ها حذف کرده است. به‌گونه‌ای که هرکسی می‌تواند تصمیمات و شیوه‌های اجرای آن را مستند به مدلی از حکمرانی، موجه کند. البته که روند بلوغ این مدل‌های حکمرانی، هنوز کامل نیست و درست به همین دلیل است که هنوز آدم‌ها یکدیگر را بازخواست می‌کنند. ولی این روند، روزبه‌روز به نقطه کمال خود نزدیک می‌شود، حتی اگر هیچ ماشینی وجود نداشت.

اما سویه دوم نگرانی‌ها دربارۀ احتمال سلطۀ ماشین‌ها بر انسان، وضعیت متفاوتی دارد. اگر نگرانی اول، در واقع یک نگرانی بالفعل بود که فارغ از ماشین‌ها به آن دچار هستیم، نگرانی دوم، حتی نمی‌تواند یک نگرانی بالقوه نیز باشد. ما در جهانی واقعی زندگی می‌کنیم که در آن، هر سطحی از توسعۀ فناوری، نیازمند تولید منابع جدیدی از پول، انرژی و روابط سیاسی-اقتصادی است. در هر سه حوزه، رقابت‌ بر سر اینکه پروژه‌های فناورانه چگونه باید تامین مالی شوند، چگونه باید تامین انرژی شوند و در چه روابط اقتصادی-سیاسی‌ای به کار گرفته شوند، یک صورت‌مسئلۀ انسانی است. این انسان‌ها هستند –و مشخصا دربارۀ انسان‌هایی حرف می‌زنیم که هنوز در روال‌های غیرانسانی حکمرانی هضم نشده‌اند– که تصمیم می‌گیرند چه حوزه‌ای از فناوری را با چه شیوه‌هایی از تامین انرژی، در چه روابطی به کار گیرند. این یک وابستگی ذاتی ماشین به انسان است که هرچه هوشمند‌ترشدن خود را نیز تا ابد، مرهون تفکرات انسان‌هایی است که تداوم یک شیوۀ خاص توسعۀ فناوری را به شیو‌ه‌های دیگری ترجیح داده‌اند. ترجیحاتی که لزوما قابل فروکاست به تحلیل‌های عددی نیستند.

مثلا ترس اروپا از انرژی هسته‌ای، و انرژی متراکمی که این ترس برای توسعه فناوری‌های تجدیدپذیر ایجاد کرده است، یک تصمیم روال‌مند نیست. اینطور نیست که داده‌ها نشان دهند تصمیم اروپا درست بوده است و اروپا نیز برای درست‌شدن تصمیمش، دهه‌ها از این صنعت حمایت کرده و هنوز هم برای موجه‌بودن تصمیمش راه درازی در پیش دارد. این وضعیت دربارۀ تمام سیاست‌هایی که روی تداوم تمرکز روی انرژی‌های فسیلی و هسته‌ای، اصرار دارند نیز صادق است. در تمامی فرایند توسعه فناوری‌ها -و نه مصرف آن‌ها همچون یک کالا، آنچنان که در عموم کشورها سراغ داریم- انسان‌هایی هستند که روی یک دیدگاه و تفسیر از فناوری، پافشاری می‌کنند و آن را همچون دیدگاهی درست، به‌صرفه می‌سازند. این درست برعکس تصوری است که خیال می‌کند صرفۀ اقتصادی بالفعل، یک تصمیم را تصمیم درست می‌کند.

بنابراین اینجا آنچه که نگران‌کننده است، سلطۀ روایت‌هایی است که «مصرف» نوع خاصی از فناوری و ماشین را برای جوامع انسانی، ضروری جلوه می‌دهد. این روایت‌ها برای صاحبان آن، خطرناک نیستند زیرا خرج تحقق روایت‌ و ماشین‌های متناسب با آن را خودشان می‌دهند و حیات آن موجودات بالقوه متمرد، به وجود آن انسان‌ها وابسته است. در مقابل، این روایت‌ها می‌توانند برای جوامع مصرفی، کشنده و مضمحل‌کنندۀ روابط انسانی باشند.

با این حال این اتفاق جدیدی نیست و لزوما ربطی به سلطۀ ماشین‌ها نیز ندارد. پذیرش بی‌چون و چرای شکل خاصی از روابط فناورانه، درست مثل پذیرش شکل خاصی از روابط انسانی (آنطور که ما به تهاجم فرهنگی می‌شناسیمش)، منجر به ازخودبیگانگی می‌شود.

در مقابل ما دربارۀ هر دو نگرانی مذکور، با یک نسخۀ شفابخش روبه‌رو هستیم. هر جا انسان هست، یک گسست پرنشدنی وجود دارد. هیچ‌چیز نمی‌تواند غیرمنتظره‌تر از انسان باشد و این یعنی انسان همیشه یک گام جلوتر است. آنچه مزیت انسان است، بیشینه‌کردن سرعت و کیفیت محاسبات نیست. هر محاسبه‌ای تنها تا آنجایی معتبر است که روال‌های موجود معتبر باشند. هوش مصنوعی حتی اگر بتواند مسئلۀ نیاز ذاتی‌اش به پول، انرژی و روابط اقتصادی-سیاسی را به‌نحوی تامین کند که توان مقابله با اربابش را داشته باشد، دست‌کم در برابر نامنتظرگی انسان، خلع سلاح است. در لحظه‌ای که انسان متکی به خودش تصمیم می‌گیرد و روال‌ها را به هم می‌ریزد، کدام ابرکامپیوتر و کدام الگوریتم هوش‌مصنوعی، می‌تواند حرکت بعدی انسان را پیش‌بینی کند؟