هوش مصنوعی و الگوریتم هایی که بخش بزرگی از جهان مدرن را شکل می‌دهند چنان پیچیده شده‌اند که همیشه نمی‌توانیم آن‌ها را پیش‌بینی کنیم که چه کاری خواهند کرد. اٍیاد رهوان ایده رادیکالی را مطرح کرده است “: بهترین راه برای درک آن‌ها، مشاهده رفتار آن‌ها در طبیعت رام نشده است”. اٍیاد رهوان، دانشمندی سوری – استرالیایی است. او مدیر مرکز انسان‌ها و ماشین‌ها در موسسه توسعه انسانی ماکس پلانگ و استادیار علوم و هنرهای رسانه‌ای در آزمایشگاه دانشگاه MIT است. او بر روی چگونگی تقابل کامپیوتر و علوم اجتماعی مطالعه می‌کند، جای که می‌تواند بر روی مباحثی چون علوم اجتماعی محاسباتی، هوش جمعی و جنبه‌های اجتماعی هوش مصنوعی تحقیق کند. در این مصاحبه که از سوی مجله کوانتا منتشر شد، اٍیاد رهوان درباره رشته انسان‌شناس هوش مصنوعی صحبت می‌کند. رشته‌ای تازه در علم که رهوان، مطالعه و تحقیق در این رشته را نیازی ضروری برای آینده بشر می‌پندارد. انسان‌شناس هوش مصنوعی به مطالعه رفتار ناشی از تکامل تکنولوژی هوش مصنوعی در آینده می‌پردازد. این مصاحبه از سوی جان پاولوس تهیه شده است. در ادامه با آراد مگ همراه باشید.
رفتار ماشین با اٍیاد رهوان
اٍیاد رهوان، مدیر مرکز انسان‌ها و ماشین‌ها در موسسه ماکس پلانک برای توسعه انسانی، استدلال می‌کند که ” ماشین‌ها زندگی ما را تحت تاثیر قرار می‌دهند، و با هوش مصنوعی، این ماشین‌ها به طور فزاینده‌ای به اداره این جهان خواهند پرداخت.”
رشته‌های علمی جدیدی چگونه آغاز می‌شوند؟ برای اٍیاد رهوان، که متخصص علوم اجتماعی محاسباتی با گرایش‌های “اصلی” است که البته خود آن را چنین توصیف می‌کند. در بعد از ظهر آفتابی در کمبریج، ماساچوست، در اکتبر ۲۰۱۷، او در جلسه پرسش و پاسخی به این سوال پاسخ داد. اٍیاد رهوان و مانوئل سبرین، یکی از همکاران آزمایشگاه رسانه MIT، در حیاط هاروارد نشسته بودند و در مورد چگونگی توصیف بهترین نام تجاری مورد نظر خود از تحقیق چند رشته‌ای بحث می‌کردند. ظهور سریع تکنولوژی هوش مصنوعی، سوالاتی جدید در مورد رابطه بین مردم و ماشین‌ها بوجود آورد که آن‌ها را برآن داشت تا جواب این سوالات را پیدا کنند. به عنوان مثال، اٍیاد رهوان در حال بررسی سوالی در مورد رفتار اخلاقی برای ماشین بدون راننده بود – آیا نباید جلوی خودروی شاسی بلندی که از محور خود خارج شده است را گرفت حتی اگر به معنای آسیب رساندن به یک دوچرخه سوار باشد؟ او به این سوالات در تحقیق و آزمایش ماشین اخلاقی اش پاسخ می‌دهد.
اٍیاد رهوان گفت: “من و ایان کوزین دوستان بسیار خوبی بودیم، او یکی از مهم‌ترین فعالین رفتارگرای حیوانات در جهان است، و من فکر می‌کنم، چرا او بر روی ربات‌های آنلاین مطالعه نمی‌کند؟ چرا فقط دانشمندان کامپیوتر هستند که در حال مطالعه الگوریتم‌های هوش مصنوعی هستند؟”
او ادامه داد: ” ناگهان این صدا به گوشمان خورد که: ما در حال مطالعه رفتار در اکوسیستمی جدید (هوش مصنوعی) هستیم.”
دو سال بعد، اٍیاد رهوان، که در حال حاضر مرکز انسان‌ها و ماشین‌ها را در موسسه ماکس پلانک برای توسعه انسانی هدایت می‌کند، ۲۲ همکار را از رشته‌های رباتیک، علوم رایانه، جامعه‌شناسی، روانشناسی شناختی، زیست‌شناسی تکاملی، هوش مصنوعی، مردم‌شناسی و علم اقتصاد گرد هم آورده است تا مقاله‌ای را در زمینه ماهیت و سرشت رشته‌ی جدیدی که در علم به نام رفتار هوش مصنوعی به وجود آمده است را تهیه و تنظیم کنند.
نیکلاس تینبرگن، زیست‌شناس و برنده جایزه نوبل، چهار سوال را مطرح می‌کند که از لحاظ عملکرد، ساز و کار، توسعه بیولوژیکی تکامل تاریخی و رفتار ماشین با هدف بررسی چگونگی تعامل عوامل مصنوعی در طبیعت با انسان‌ها، محیط‌های آن‌ها و هم دیگر، را مورد بررسی قرار می‌دهد. متخصص رفتارگرای ماشین ممکن است قدرت هوش مصنوعی را در اسباب‌بازی کودکان مطالعه کند یا الگوریتمی رتبه‌بندی شده از نظر خبری در وب سایت ارتباطی جمعی را و یا ناوگانی از خودروهای خودکار را مورد بررسی قرار دهد. اما برخلاف مهندسان طراحی و ساخت این سیستم‌ها، برای بهینه‌سازی عملکرد آن‌ها با توجه به مشخصات داخلی، رفتارگرایان ماشین آن‌ها را از بیرون به درون مشاهده می‌کنند – درست مانند زیست‌شناسی میدانی که رفتار گروهی از پرندگان را مطالعه می‌کند، یا اقتصاددانی رفتاری را مشاهده می‌کند که چگونه مردم پول خود را برای دوران بازنشستگی پس‌انداز می‌کنند.
اٍیاد رهوان گفت: ” دلیل اینکه چرا من اصطلاح رفتار را دوست دارم این است که رفتار تاکید می‌کند که مهم‌ترین چیز، به جای غیرقابل مشاهده بودن این عوامل، قابل مشاهده بودن آن است.”
او بر این باور است که مطالعه رفتار ماشین به دو دلیل ضروری است. اولین نکته این است که، سیستم‌های مستقل در تمام مدت با جنبه‌های بیشتری از زندگی مردم دست و پنجه نرم می‌کنند و همه چیز را از امتیازات اعتباری فردی تا ظهور سیاست‌های افراطی تحت تاثیر قرار می‌دهند. اما هم زمان، “پیامدهای رفتاری” این سیستم‌ها – مانند سقوط ناگهانی ناشی از الگوریتم های تجاری مالی، یا پخش سریع اطلاعات دروغ در سایت‌های ارتباط جمعی – برای ما دشوار است که با بررسی کد و یا ساخت ماشین‌ها اوضاع را برای آینده پیش‌بینی کنیم.
اٍیاد رهوان گفت: ” این جنبه بسیار مهم ماشین‌ها است که هیچ ارتباطی با نحوه ساخت آن‌ها ندارد و همه چیز را باید آن طور انجام داد که آن‌ها انجام می‌دهند.”
سایت کوانتا با اٍیاد رهوان در مورد مفهوم رفتار ماشین صحبت کرد، چرا که شایسته شاخه علم هوش مصنوعی است و ببینیم چه چیزی می‌تواند به ما آموزش دهد. مصاحبه برای وضوح بیشتر خلاصه و ویرایش شده است.
چرا به دنبال رشته‌ی علمی جدیدی هستید؟ چرا این علم به نامی برای خودش نیاز دارد؟
این معضلی رایج در علم میان رشته‌ای است. فکر نمی‌کنم که ما رشته‌ی جدیدی را درست کرده باشیم، ما فقط برچسبی برای این رشته‌ی علمی جدید ساخته بودیم. فکر کنم برای اطمینان، این رشته‌ی علمی باید جایی در هوا باشد! مردم تشخیص داده‌اند که این ماشین‌ها بر زندگی ما تاثیر می‌گذارند، و با هوش مصنوعی، این ماشین‌ها به طور فزاینده‌ای اداره امور دنیا را در دست خواهند گرفت. به همین دلیل، مطالعه نحوه تعامل ما با ماشین‌های هوشمند، بسیار ضروری و مهم است.
اٍیاد رهوان به توسعه آزمایش ماشین اخلاقی کمک کرد، که به بررسی تصمیمات اخلاقی ای که باید از سوی هوش ماشینی مثل ماشین بدون راننده صورت گیرد، می‌پردازد. در صورتی که برخوردی اجتناب‌ناپذیر وجود داشته باشد، چه کسی و یا برای چه چیزی باید تلاش کرد تا از اتفاقی ناگوار جلوگیری شود؟
نامگذاری این رشته‌ی در حال ظهور سبب مشروعیت بخشی به آن می‌شود. اگر شما اقتصاددان یا روان‌شناس هستید، در واقع دانشمندی جدی هستید که رفتار پیچیده مردم و تراکم آن‌ها را مطالعه می‌کند. اما افراد ممکن است برای مطالعه ماشین‌آلات در این سیستم‌ها اهمیت کمتری قائل شوند.
بنابراین وقتی این گروه را در کنار هم جمع کردیم و اصطلاح “رفتار ماشین” را ابداع کردیم، در واقع با این کار خود داریم به جهانی می‌گوییم که ماشین‌ها حالا بازیگران مهمی در دنیا هستند. شاید آن‌ها فاقد اراده و یا هر گونه حقوق قانونی باشند که ما انسان‌ها نسبت به هم داریم، اما با این وجود بازیگرانی هستند که جهان را به روش‌هایی که نیاز به درک آن داریم، تحت تاثیر قرار می‌دهند. و هنگامی که افراد عالی رتبه در این زمینه‌ها (به عنوان همکاران) به این مقاله توجه می‌کنند، نشان دهنده اهمیت این موضوع و نگرانی بزرگ است.
به اراده‌ی آزاد اشاره کردید. چرا تا زمانی که این پدیده را “رفتار” می‌نامید، به نظر نمی‌رسد که رشته‌های غیر ضروری وارد این مجموعه تحقیقاتی شده‌اند؟ چرا از واژگانی چون “کارکرد” یا “عملیات” استفاده نمی‌کنید؟
برخی افراد با دادن ماموریت به ماشین‌ها مشکل دارند. برای مثال، جوانا برایسون از دانشگاه بَث، او همیشه با دادن ماموریت به ماشین‌ها مخالفت می‌کند، چون فکر می‌کند که پس از آن، فعالان انسانی اداره و مسئولیت کارها را از دست می‌دهند که ممکن است سبب شکل گیری رفتارهای بدی باشد.
اما برای من، رفتار در این رابطه معنایی ندارد که این ماموریت [ به معنای اراده آزاد ] از سوی هوش مصنوعی اداره شود. ما می‌توانیم رفتار ارگانیسم‌های تک سلولی یا مورچه‌ها را مطالعه کنیم، “رفتار” لزوما به این معنی نیست که چیزی فوق‌العاده هوشمندانه است. این فقط به این معنی است که هدف ما از مطالعه ایستا نیست – این پویایی این است که چگونه این شی در جهان کار می‌کند، و عواملی که این پویایی را تعیین می‌کنند. خب، آیا اینها سبب ایجاد انگیزه در هوش مصنوعی می‌شوند؟ آیا هوش مصنوعی از محیط زیست سگنال‌هایی دریافت می‌کند؟ آیا این رفتار چیزی است که در طول زمان یاد گرفته می‌شود و یا از طریق نوعی مکانیزم کپی آموخته می‌شود؟
اٍیاد رهوان در دفتر خود در موسسه ماکس پلانک، جایی که تابستان همین سال به آنجا نقل مکان کرده، نشسته است. پشت سر او تصاویری از جان فون نیومن (چپ)، یکی از بنیانگذاران علوم کامپیوتر و استنلی میلگرام، شخصیتی کلیدی در روانشناسی اجتماعی قرار دارد.
آیا مهندسینی که این عوامل را طراحی می‌کنند این تصمیمات را خلق نمی‌کنند؟ آیا آن‌ها این رفتار را از قبل تعریف نمی‌کنند؟
آن‌ها ماشین‌ها را می‌سازند، برنامه‌ها را برنامه‌ریزی می‌کنند، معماری شبکه‌های عصبی را می‌سازند و غیره. اینها مهندسی هستند، آن‌ها همه چیز را مهندسی می‌کنند، “مغز” و “اعضای” این عوامل را طراحی می‌کنند، و رفتار را هم تا حدودی مطالعه می‌کنند، اما تنها در روشی بسیار محدود. شاید با نگاهی به طبقه بندی چیزها، یا با آزمایش آن‌ها در محیطی کنترل شده، فکر کنید چقدر دقیق هستند. هوش مصنوعی برای هدفی خاص ساخته می‌شود، و سپس با توجه به این معیار، تازه ماشین را بهینه می‌کنند.
به طور محض باید گفت که رفتار هوش مصنوعی جنبه بسیار گسترده و بازی است. و کمیت آن نامعلوم است. رفتارهایی وجود دارند که خود را در مقیاس‌های زمانی مختلف نشان می‌دهند. بنابراین [ هنگامی که در حال ساخت هوش مصنوعی هستید ] شاید روی بازه‌های زمانی کوتاه تمرکز کنید، اما فقط زمانی که این ماشین‌ها را در جایگاه خود مستقر کرده‌اید، می‌توانید رفتار زمانی بلند مدت آن‌ها را بدانید.
تصور کنید که رفتار ماشین به طور ناگهانی وارد میدان وسیعی می‌شود. چه چیزی باعث می‌شود که بتوانیم این مهم را درک کنیم یا عملکرد بهتری نسبت به آن داشته باشیم؟
فکر می‌کنم ما قادر خواهیم بود مشکلات ناشی از آینده [ فن‌آوری ] را تشخیص دهیم، و شاید آن‌ها را پیش‌بینی کنیم. به عنوان مثال، برای کسی که فیس بوک و الگوریتم خبری فید را طراحی می‌کند، شاید ما برایش به اندازه کافی شناخته شده باشیم که این منجر به حوزه‌ی سیاسی شدید قطبی شده و اطلاعات نادرست را گسترش خواهد داد. و شاید ما قادر به ایجاد مصونیت در سیستم بودیم، به طوری که می‌توانست خودش را اصلاح کند.
امروز، ما در حال بررسی چیزهای دیگری هستیم که می‌خواهیم بفهمیم. پس این شرکت‌ها چیزی را می‌سازند و سپس آن را راه‌اندازی می‌کنند و در اختیار همه می‌گذارند و می‌گویند، “اوه، وای، به یک باره همه جا پر از اسپم شده است” یا “اطلاعات غلط همه جا وجود دارد” و یا ” به نظر می‌رسد که مردم از یکدیگر نفرت دارند و در تمام مدت در توییتر مشغول از بین بردن یکدیگر هستند.”
شاید در طبیعت درس‌هایی وجود داشته باشد که به ما اجازه دهد نه فقط راه‌حل‌ها را مهندسی کنیم، بلکه بتوانیم آن مشکلات را کمی زودتر تشخیص دهیم. بنابراین، چه چیزی [ رفتار ماشین ] برابر با فروپاشی چیزی است که ما آن را به استثمار گرفته‌ایم؟ یا چیزی معادل گونه زایی است؟ آیا قیاسی وجود دارد که ما بتوانیم از آن برای پیش‌بینی مشکلاتی که موجب تضعیف دموکراسی، آزادی بیان و ارزش‌های دیگری که برای ما مهم هستند، استفاده کنیم، همچون که تکنولوژی را معرفی می‌کنیم؟ هدف گسترده‌ای است.
چرا این چارچوب الهام گرفته از بیولوژی، ضروری است؟
الگوریتم‌های الهام گرفته بسیاری از طبیعت وجود دارند. به عنوان مثال، الگوریتمی مشابه با ازدحام ایجاد شده است تا ارتباط بین وسیله نقلیه [ بین خودروهای بدون راننده ] را مجاز کند، بنابراین اگر تصادفی در طرفی از جاده وجود داشته باشد، آن‌ها می‌توانند مسیر حرکت ماشین‌ها را هموار کنند و شما با مشکل ترافیک روبرو نمی‌شوید. بنابراین این مهندس‌ها به طبیعت خواهند رفت و رفتارهای حیوانات را برای گرفتن الهام بررسی خواهند کرد، اما پس از آن همه چیز را به دست فراموشی می‌سپارند.
زمانی که به این ماشین‌ها اجازه ورود به حیات وحش را می‌دهید، رفتارگرا متوجه چیزهایی می‌شود که پس از این ورود ظهور می‌کنند. این اتفاق در حال حاضر رخ نمی‌دهد، اما تصور کنید که این سیستم که وسایل نقلیه برای به حداقل رساندن ترافیک از سیگنال‌های یکدیگر استفاده می‌کنند، برای بهینه‌سازی رفتار خود با الگوریتم یادگیری تقویتی خودرو برای بهینه‌سازی رفتار خود تعامل می‌کند و برخی الگوهای هماهنگ کننده را ایجاد می‌کند که برنامه را از پیش برنامه‌نویسی نکرده است. می‌توانم بوم‌شناسی را تصور کنم که می‌گوید: ” اوه، من این را می‌دانم، من کار این نوع از زنبورها را قبلا دیده‌ام.”
چه اتفاقی می‌افتد وقتی ماشین‌ها الگوهای رفتاری را نشان می‌دهند که کاملا جدید هستند و مشابه چیزی بیولوژیکی یا اکولوژیکی نیستند؟
این مسئله از اهمیت بسیاری برخوردار خواهد بود. شاید [ این رشته ] با نوعی از “دسته‌بندی پروانه‌ها” آغاز شود، جایی که می‌گوییم: ” اینها انواع ماشین‌ها هستند، و آن‌ها در این دسته‌بندی‌ها قرار می‌گیرند.” در نهایت، به مجموعه‌ای از تئوری‌ها خواهیم رسید که چگونگی تغییر رفتار هوش مصنوعی را توصیف خواهند کرد و شاید بفهمیم که آن‌ها چطور یکدیگر را تغذیه می‌کنند.
آیا ماشین لباس‌شویی دارای “رفتار” است؟ آیا حد پایینی از استقلال یا هوش وجود دارد که این ماشین برای این نوع از مطالعه مناسب باشد؟
هوش واژه بسیار دشواری است که بتوان آن را توصیف کرد. منظور ما از آن، هر ماشینی است که رفتاری را نشان دهد که به طور کامل از طراحی آن خارج نشده باشد. ماشین لباس‌شویی دارای رفتار است و گاهی اوقات هم بد عمل می‌کند و البته بسیار ناامید کننده است. اما سیستمی نسبتا بسته دارد که در آن تمام انواع توابع و عملکرد آن را می توان پیش‌بینی کرد و با دقت، تا حد زیادی هم توصیف کرد. بنابراین می‌توانید بگویید که این رفتار اصلا رفتار نگران کننده‌ای نیست.
اما بعد از آن شما می‌توانید الگوریتمی بسیار ساده را داشته باشید که همه چیز را تکرار یا تایید می‌کند. این می‌تواند براساس قانون باشد، اما هنوز هم می‌تواند رفتارهای جالبی را نشان دهد وقتی که با دنیا تعامل داشته باشد، با انسان‌ها و دیگر الگوریتم‌ها بیشتر جالب خواهد شد. بنابراین در حالی که خیلی باهوش نیست، پیامدهای این رفتار ساده، دشوارتر از پیش‌بینی یا درک آن‌ها براساس طراحی آن است.
چگونه مطالعات رفتارگرایان ماشین بیان می‌کنند که، مثلا، خودروهای بدون راننده متفاوت از مهندسی آن است؟
مهندسی که سعی دارد اتومبیل را به سوی هدفی با بهبود عملکرد آن سوق دهد، برای مثال، خودرو را تحت شرایط رانندگی مختلف تست می‌کند و اجزای مختلفی از خودرو را می‌آزماید. تمرکز در اینجا، بیشتر بر روی عملکرد است. اما وقتی این همه چیز ساخته شد، یک عامل – یک عامل واقعی – فیزیکی در دنیا است که در حال حرکت در دنیاست و کارها را انجام می‌دهد. شما با چنین پدیده‌ای از هوش مصنوعی روبرو هستید. و زمانی که به این عامل نگاه می‌کنید، می‌توانید همه کارها را از دیدگاه رفتاری انجام دهید.
به عنوان مثال، اجازه دهید فرض کنیم که خودروهای بدون راننده موفق به حذف ۹۰ درصد از تصادفات مرگبار شده‌اند. اجازه دهید فرض کنیم که در بین آن تلفات باقی مانده، صرفا یک شرکت خودرو سازی جان افراد کمتری را می‌گیرد و در این صورت ما دو برابر بیشتر از این عابران پیاده خواهیم داشت. اگر ما دیدگاه رفتاری در مورد خودروهای بدون راننده نداشته باشیم، نیازی نداریم دنبال چنین چیزهایی باشیم. فقط تایید می‌کنیم که سیستم‌های خودرویی مطابق با معیارهای خاص، عملکرد خوبی داشته‌اند، اما این نوع رفتار ناشی از تکنولوژی در آینده ممکن است مشکل ساز باشد. این چیزی است که اقتصاددانان یا دانشمندان علوم اجتماعی بسیار کمی می‌توانند این کار را انجام دهند زیرا مطلقا هیچ دانشی از مکانیسم‌های مهندسی زیربنایی خودرو ندارند.
هدف مطالعه رفتار ماشین چیست؟ آیا به دنبال این است که عوامل ناشی از رفتار هوش مصنوعی را همچون کارکرد ماشین‌های لباس‌شویی پیش‌بینی کند؟
خوب، چرا ما به درک رفتار حیوانات اهمیت می‌دهیم؟ البته قسمتی از آن کنجکاوی محض است. اما به عنوان جامعه‌ای که در آن از علم حمایت می‌کنیم به این دلیل است که می‌خواهیم مکانیزم‌هایی را درک کنیم که جهان را هدایت می‌کنند و از این درک برای پیش‌بینی این پدیده استفاده می‌کنیم. ما از اکوسیستم خوب و سالم لذت می‌بریم، اما همچنین می‌خواهیم از لحاظ اقتصادی و غیره هم رشد کنیم.
من می‌گویم همین نکته برای رفتار ماشین هم صادق است. ماشین‌ها قول می‌دهند که بهره‌وری اقتصادی ما را افزایش دهند و اطلاعات را در دستان ما بگذارند و زندگی ما را بهبود بخشند. اما بسیاری از مردم از کاری که این ماشین‌ها ممکن است انجام دهند می‌ترسند. شاید آن‌ها بتوانند مانع خودمختاری و استقلال ما شوند.
بنابراین، فکر می‌کنم که درکی علمی عینی از رفتار این ماشین‌ها (هوش مصنوعی) مهم است و باید در مورد نحوه کنترل این ماشین‌ها به بحث و تبادل نظر پرداخت. آیا آن‌ها در حال پیشرفتی سریع هستند؟ آیا باید آن‌ها را تنظیم و کنترل کنیم؟ نباید آن‌ها را تنظیم کنیم؟ دقیقا چطور باید آن‌ها را تنظیم کنیم؟ و غیره. بنابراین من مطالعه رفتار ماشین را به عنوان وظیفه‌ای علمی می‌بینم که کار اجتماعی وسیع‌تر شدن شکوفایی با ماشین‌ها را تکامل می‌بخشد.
