نوشته: مارک کوکلبرگ
ترجمه: احسان عارفی‌فر
نشر ققنوس، 1403
224 صفحه، 210000 تومان
***
از زمان ظهور هوش مصنوعی در جهانِ فناوری، امیدها و بیم‌های بسیاری به سراغ بشر آمده است؛ امید به این‌که چنین پدیده‌ای خود می‌تواند پیشرفت‌های تکنولوژی شگرفی را رقم بزند و بیم از آن‌که قدرتی خارج از کنترل انسان بیابد و بر او تسلط پیدا کند. به این ترتیب نقدها و چالش‌های بی‌شماری حول محور هوش مصنوعی شکل گرفته‌اند و پرسش‌های گوناگونی مطرح شده‌اند که بسیاری از آن‌ها پاسخ دقیق و روشنی ندارند. در این میان مباحث اخلاقی درباره‌ی این پدیده، به مراتب اهمیت بیش‌تری نسبت به سایر مسائل پیدا کرده‌اند. کتاب «اخلاق هوش مصنوعی» به ضروری‌ترین بحث‌ها و ابهامات اخلاقی می‌پردازد که در مواجهه با هوش مصنوعی باید آن‌ها را مد نظر قرار داد.
نویسنده در فصل آغازین کتاب به بازی‌ِ گو و شطرنج و قرار گرفتن دو حریف انسانی و تکنولوژیک اشاره می‌کند. او درباره‌ی پیروزی هوش مصنوعی بر انسان در یک بازی فکری می‌گوید که انگار تلنگری است برای بشر امروزی که در حال مقهور شدن در برابر پدیده‌ای است که ساخته‌ی دست خود اوست. در این بازی حریفِ هوش مصنوعی نه با پیگیری دستورالعمل‌های بازی، بلکه با یادگیری از الگویی به وسعت چند دهه و کسب تجربه‌ی بازی در برابر حریفان همتای خودش به این درجه از قابلیت رسیده است؛ کاری که دقیقاً انسان انجام می‌دهد و این اتفاق می‌تواند وحشت‌آور باشد و زنگ هشدار را برای بشر روشن کند.
همانندیِ هوش مصنوعی و طبیعی و دشواری تشخیص دستاوردهای آن‌ها خطرات بسیاری در پی دارد. هر انسانی می‌تواند بالقوه یک همتای هوش مصنوعی داشته باشد که دقیقاً با عملکردهای ذهنی او اتفاقاتی را رقم بزند که خارج از کنترل اوست. این همتا می‌تواند ابزار سوء استفاده و اعمال غیرقانونی و غیراخلاقی قرار گیرد. در چنین موقعیتی مسئولیت متوجه چه کسی است؟ از کجا می‌توان راه‌های بروز فاجعه را بست و این ابزار ساخت بشر را تحت نظارت دقیق درآورد و عملکردش را کنترل کرد؟
پرسش‌ها اما به همین نکات ختم نمی‌شود و دامنه‌ی چالش‌های اخلاقی هوش مصنوعی بسیار گسترده‌تر از آن است که بتوان خطوط کاملاً روشن و متقنی برای‌شان قائل شد. نویسنده در فصلی از کتاب به مفهوم آخرالزمان هوش مصنوعی می‌پردازد و تعبیر فرانکنشتاینِ هوش مصنوعی را به کار می‌برد. با گسترش ابعاد مختلف هوش مصنوعی، ظهور یک هیولا در این عرصه که قدرتش بسیار فراتر از انسان باشد بعید به نظر نمی‌آید و بنابراین بشر باید که به فکر راهکارهایی برای رویارویی با چنین مسأله‌ای باشد. اما آیا با تحولات برق‌آسایی که در حوزه هوش مصنوعی رخ می‌دهد، برای یافتن راه‌های ممکن دیر نخواهد شد؟
مسأله‌ی اخلاق و تسری آن به جهان هوش مصنوعی، به گونه‌ای که این پدیده خودش بتواند به کنش‌گری و کنش‌پذیری اخلاقی برسد نیز بحثی مهم در این حیطه به شمار می‌آید. این مبحث اگر بتواند به شکل شفاف و درستی محقق شود، شاید حتی بتوان در سیستم‌هایی که تحلیل اخلاقی در آن‌ها از اولویت بسیار بالایی برخوردار است به کار رود؛ جایی مانند دادگاه‌ها و نظام‌های برقراری الگوهای حقوقی. اما در این باره هم نگرانی‌ها تمام نمی‌شوند و این‌که فضاهای بی‌نقصی برای تفویض مسؤولیت‌ها از یک طرف و پاسخ‌گویی از طرفی دیگر طراحی شوند نیز از چالش‌های حیاتی است. این‌که سیستمی به شکل خودکار تجزیه و تحلیل‌هایی را به عهده بگیرد که تصمیم‌های خروجی از آن بتواند خسارات بالقوه‌ی بی‌شماری داشته باشد، موضوعی است که به راحتی از آن نمی‌توان گذشت و نیاز به برنامه‌ریزی‌های فراوان، طولانی و جامع دارد و این خود مسأله‌ای بزرگ در جهان اخلاق هوش مصنوعی به شمار می‌آید.
مسأله‌ی تغییر معنا و فلسفه‌ی زندگی نیز در میان مباحث مختلف کتاب مطرح می‌شود و این‌که انسان در مصاف با چنین پدیده‌ای چه‌قدر از آن اصالت و معنای تاریخی و فلسفی خود را هزینه خواهد کرد و این بها به چه بخش‌هایی از توسعه‌ی هوش مصنوعی می‌ارزد؟ همه‌ی آن یا بخشی از آن؟ در خلال گسترش هوش مصنوعی و تحولاتی که به تبع آن رقم می‌خورد، جهان انسانی چه‌قدر از خویشتن خود فاصله خواهد گرفت و اصولاً انسان چه بخش‌هایی از عملکردهای حقیقی و حقوق طبیعی خود را از دست خواهد داد یا به فراموشی خواهد سپرد؟ این‌ها پرسش‌هایی است که امروزه بخش عمده‌ای از دغدغه‌های منتقدین حوزه هوش مصنوعی را تشکیل می‌دهند.
اما موضوع جهان انسانی به عنوان یک کل یکپارچه در برابر هوش مصنوعی نیز بر تمامی مباحث دیگر سایه می‌افکند. چالش‌های سیاست‌گذاری خرد و کلان با این بخش در ارتباطند. گویی دنیای امروزی باید در جبهه‌های مختلف فردی و اجتماعی در برابر هوش مصنوعی قرار بگیرد و از این‌رو همواره باید مسلح به تاکتیک‌ها و نیز استراتژی‌های مناسب و مؤثری باشد. در واقع حیطه‌ی اخلاق در هوش مصنوعی گویی تکاپو و تلاش همه‌جانبه‌ی انسان امروزی را می‌طلبد و جایی است که هر عضوی از جهان بشری می‌تواند بخشی هرچند کوچک از آن را مدیریت نماید. این مسأله شاید مبحث اخلاق در هوش مصنوعی را شبیه همان کشتی کند که جامعه‌ی انسانی را نمایندگی می‌کند و کوچک‌ترین خللی در بخشی از آن می‌تواند منجر به غرق شدن تدریجی تمامی کشتی شود. به همین خاطر است که فرد فرد جوامع انسانی باید در تدوین و تحلیل راهکارهای ممکن در نجات از بحران هوش مصنوعی سهیم شوند.