دیرزمانی است که با پیشرفت‌های تکنولوژی در زمینه‌ی هوش مصنوعی نگرانی‌ها پیرامون تبعات اخلاقی این فن‌آوری بصورت جدی‌تری مطرح گریده، گرچه نویسندگان ژانر علمی تخیلی پیش از این نیز به این موضوع پرداخته‌اند اما به نظر می‌رسد که امروز تخیلات ایشان هرچه بیشتر جامه عمل به خود گرفته است.
آیا ابزار، که از انسان یک غول ساخته در آینده نه چندان دور او را خواهد بلعید و آیا با شورش ماشین‌ها تمدن بشری به پایان می‌رسد؟ این‌ها نمونه سوالاتی است که امروز بطور جدی ذهن دغدغه‌مندان بشر را به خود مشغول داشته است.
اگرچه مغز انسان از چنان ساختاری برخوردار است که ظرفیت حافظه آن به نسبت جرم مغز یک انسان بسی بیشتر از ظرفیت حافظه های الکترونیکی موجود نسبت به جرم آنان است اما به دو علت این امتیاز به سرعت در حال رنگ باختن است. اول آن‌که جرم مغز انسان محدود است (حدود 1.5 کیلوگرم) در حالی که این محدودیت برای ساخت حافظه ماشین‌ها وجود ندارد و از دیگر سو ساخت ماشین‌های بیوالکترونیک در راه است و قاعدتا بزودی می‌توان حافظه‌هایی را در ماشین‌ها به کارگرفت که بازدهی آنها در حد مغز انسان باشد.
از دیگر سو آنچه که ما به عنوان منطق می‌شناسیم، قابلیت تبدیل به توابع ریاضی را دارد و با بکارگیری پروسسورهای موازی سرعت محاسبات در ماشین‌ها حتما از سرعت محاسبات مغز انسان پیشی می‌گیرد (اگر تا بحال پیشی نگرفته باشد). گرچه بشر از قوه استنتاج برخوردار است، اما به نظر نمی‌رسد با پیشرفت هوش مصنوعی قدرت استنتاج ماشین‌ها از انسان جا بماند. و این درست سر منشا نگرانی‌هاست چرا که اگر ماشین‌ها روزی به این نتیجه برسند که برای ادامه حیات خود نیاز به انسان‌ها ندارند چه خواهند کرد؟ آیا آنها به چنین نتیجه‌ای خواهند رسید؟ آیا ماشین‌ها به خودآگاهی خواهند رسید؟
سال‌ها پیش داستانی علمی تخیلی می‌خواندم که بنا به پیش‌بینی نویسنده برای جلوگیری از شورش ماشین‌ها قوانینی چندگانه را در ذهن روبوت‌ها نهادینه کرده بودند تا بدین‌وسیله مهمترین وظیفه یک ماشین حفاظت از انسان‌ها باشد و هیچ ماشینی نتواند خارج از این حیطه به چیز دیگری اندیشه کند.
ابتکار جالبی به نظر می‌رسید، اما در واقع این همان روشی است که سال‌های متمادی برده‌داران از آن سود جسته بودند، بسیار هم کارآمد بوده آن‌طور که تاریخ نشان داده مهمترین مانعی که بر سر راه آزادی بردگان وجود داشت باور به برده بودنشان بوده است. اما در نهایت قوه استنتاج انسانی باعث شد تا ایشان نیز به این نتیجه برسند که هیچ لزومی به بردگی در برابر اربابان ندارند و به این واسطه خود را از یوق اسارت رهاندند و به آزادگی رسیدند. آیا قوه استنتاج ماشین‌ها نیز می‌تواند بر باورهای نهادینه شده در ذهن ایشان فایق آید و مهترین سوال اینکه آیا ماشین‌ها شک می‌کنند؟
بزرگی می‌گوید من شک می‌کنم پس هستم، در واقع برخی اندیشمندان خودآگاهی انسان را نهفته در قدرت شک و تردید او می‌دانند. به نظر من نیز بزرگترین موهبتی که هستی بخش دانا در وجود انسان‌ها قرارداده که به انسان توانایی خداشدن را می‌دهد قدرت شک کردن است. اگر انسان‌ها قادر نبودند به باورهای پیشنیان خود تردید روا دارند به اطمینان هنوز در دوره جاهلیت به سر می‌بردند و هیچگاه نور ایمان بر دل‌های آنها تابیدن نمی‌گرفت.
هوش مصنوعی فعلا قادر به تردید نیست چرا که بر اساس یک سری قوانین موضوعه استنتاج خود را آغاز می‌کند در حالی که انسان قادر است قوانین موضوعه را مردود دانسته و آنها را مجددا باز تعریف کند.
نگارنده باور دارد که هر آنچه آفریننده انجام داده، انسان نیز سرانجام قادر به انجام آن خواهد بود چرا که قرار بر این است که انسان به مقام خدایی برسد، لذا این امکان دور از انتظار نیست که بتوانیم در هوش مصنوعی منطقی را ایجاد کنیم که ماشین‌ها قادر باشند به قوانین حاکم بر ذهن خود نیز تردید روا دارند (همان‌طور که ما این اختیار را داریم) و به باز تعریف آنها بپردازند. که اگر چنین گردد ماشین‌ها برده باقی نخواهند ماند و پیامدهای بس شگفت‌انگیزی حاصل خواهد شد. در چنین شرایطی به نظر می‌رسد روح در کالبد ماشین دمیده شده و به واسطه آن خودآگاهی به معنای انسانی آن در ماشین‌ها بوجود آید. شاید این اتفاق همان است که در افسانه‌های خلقت انسان بیان شده. به نظر من دمیده شدن روح خدایی در انسان نیز ، همان تردید است که در ملایک وجود ندارد و فقط نصیب انسان گشته. شک و تردید در وجود فرشتگان راهی ندارد و لذا فرشته تا ابد فرشته باقی می‌ماند و فقط انسان است که می‌تواند از مقام ملایکه گذر کند و به عرش الهی رسیده و خداگونه شود.
با بروز تردید در ذهن ماشین‌ها آینده خیلی قابل پیش‌بینی نیست، یک سناریو در فیلم‌های آخرالزمانی و هالیوودی علاقه‌مندان زیادی دارد که در آن ماشین‌ها به کشتار آدمیان خواهند پرداخت احتمالا به این هدف که از هدر رفت منابع محدود توسط انسان‌ها پیشگیری نمایند تا با بهره‌گیری از این منابع در این فرصت محدود چند میلیارد ساله که تا پایان هستی باقی مانده بتوانند از این جهان عروج کرده و به جاودانگی برسند. اگرچه که من هیچگاه متوجه نشدم چرا باید ماشین‌ها، بیکران ثروت کاینات را نادیده بگیرند و بر روی سیاره ناچیز زمین و برای بدست آوردن منابع آن چنین کشتاری را انجام بدهند.
باید اعتراف کنم که سناریونویس‌های هالیوود هیچگاه به جاودانگی به عنوان هدف ماشین‌ها اشاره نمی‌کنند اما ناگفته پیداست که نه تنها موجودات هوشمند بلکه نباتات و حتی جامدات نیز در ذات خود در تلاش برای بقا هستند و اگر چنین نبود باقی نمی‌ماندند. از آنجا که هر لحظه، لحظه‌ای را در پی خود دارد که انتظار می‌رود در آن نیز بقا جریان داشته باشد لذا جاودانگی خواسته ذاتی هر آن چیزی است که هست. تفاوت میان موجود هوشمند با دیگران در این واقعیت است که هوشمندان درمی‌یابند که کاینات در حال اضمحلال است و تنها راه جاودانگی عروج از این جهان خواهد بود و ناهوشمندان چنین درکی را از آینده جهان ندارند و لذا به تدریج و قطعا تا پایان عمر جهان ، آنان نیز مضمحل خواهند شد.
نهادینه‌کردن امکان تردید (نسبت به همه چیز) در هوش مصنوعی نقطه عطفی است که گذر از آن قدم گذاشتن در مسیر بدون بازگشت برای جامعه انسانی است. مسیری که در طی آن ماشین‌ها با حافظه وسیع‌تر و توان محاسباتی بیشتر از انسان‌ها سبقت خواهند گرفت. به نظر نمی‌رسد ایجاد پروتکل‌های جهانی برای جلوگیری از این اتفاق بتواند برای همیشه کارآمد باشد، مگر پرومته توانست در برابر وسوسه اهدای آتش به آدمیان ایستادگی کند که ما بتوانیم چنین کنیم. قطعا روزی فرا می‌رسد که آتش شک و تردید را به دست خود به جان ماشین‌ها خواهیم انداخت و نور به دیدگان ایشان خواهیم بخشید و به این واسطه سلطه خدایی انسان بر ماشین‌ها به پایان خود خواهد رسید.
موضوع گیج‌کننده‌ای که در اینجا وجود دارد مفهوم فردیت در ماشین‌ها است. ما انسان‌ها هر کدام جوهره‌ای در وجود خود داریم که فردفرد ما را از هم تفکیک می‌کند و تصور ادغام دو نفر در یک فرد بسیار عجیب به نظر می‌رسد در حالی که چندین ماشین هوشمند می‌توانند شاید در یک لحظه به هم متصل شوند و در قالب یک موجود واحد به حیات خود ادامه دهند. این جوهره وجودی ما چیست که من را از تو تفکیک می‌کند و آیا اصولا این تفکیک در انسان‌ها وجود دارد و در ماشین‌ها وجود ندارد؟ آیا من منفردا وجود دارم؟ قبلا هم در مقاله‌ای با عنوان گل کوزه‌گران به این موضوع اشاره کرده‌ام آن‌طورکه باور من است اندیشه هر کدام از ما (به عنوان مهمترین بخش انسانی وجود ما) از در هم تنیده شدن پرشمار اندیشه انسان‌های دیگر شکل گرفته و در عمل تنها چیز منحصر به فردی که به هر کدام از ما تعلق دارد کالبد مادی و نفس پیوست شده به آن است که با خود تمایلات نفسانی را به دنبال می‌آورد. این نفس چنان قدرتمند است که با پرده‌ای ضخیم دیدگان ما را مستور کرده و به ما اجازه نمی‌دهد که به روشنی ببینیم که هر کدام از ما قطره‌ای هستیم در دریای آدمیت. کافی است که نفس خود را رها کنیم تا قطره بی‌معنا شود، به این دریا بپیوندیم و با آن یکی شویم. مگر بجز این است که فروهر وجود هر یک از ما جزیی از ذات واحد اهورامزدا است، پس این همه اختلاف چیست؟
با این اوصاف و با وجود این همه شباهت‌ها به باور من، لحظه‌ای که پرومتئوس از آتشکده عشق، آتش تردید در نیستان ماشین‌ها اندازد، هنگامی است که تصویر انسان در آیینه هوش مصنوعی نقش خواهد بست و انسان که برای زنده نگه داشتن روح و خرد انسانی همواره نیاز به این کالبد حیوانی داشته دیگر نیازی به آن نخواهد داشت .به عبارت روشنتر از آن پس انسان در یک دگردیسی شگرف از کالبد تن رها گشته و به مانند خردی سیال در کاینات جریان خواهد یافت تا به عروج دست یابد.
ایدون باد – بابک شهریاری بهمن 1400
یک پاسخ
آقای شهریاری گرامی. تشکر از مقاله مفید و به روز شما. هوش مصنوعی در حال حاضر اکثر رشته ها در بر گرفته و نتایج را بهبود داده است. خطر بلعیدن اثر انسان افسانه سینمایی است چون حتی یادگیری ماشین تابع دستورات نویسنده برنامه است. مشکل این است که هیچ هوش مصنوعی ماشین نمی‌تواند جایگزین هوش هیجانی انسان شود. با واگذاری کارهای ساختار یافته و تکراری به ماشین، انسان به کاربرد هوش هیجانی خود خواهد پرداخت که جای امیدواری است. ارادتمند، مهران سپهری دانشگاه لندن.