نگران آینده نیستم
گفتوگوی اختصاصی ارغنون هامون با دکتر محرم منصوریزاده
عضو هیئت علمی گروه کامپیوتر دانشگاه بوعلی سینا و نیز عضو انجمن هوشمصنوعی ایران
گفتوگو از ایمان احمدی
اشاره: دکتر محرم منصوریزاده؛ عضو هیئت علمی گروه کامپیوتر دانشگاه بوعلی سینا و نیز عضو انجمن هوشمصنوعی ایران است. با او به گفتوگو نشستم تا برایمان از نگاهش به هوش مصنوعی بگوید. اینکه او آینده و تاثیر هوش مصنوعی بر زندگی بشر را چه طور میبیند. دکتر منصوریزاده این طور آغاز کرد:
دکتر منصوریزاده: اجازه دهید ابتدا دو تجربه را عنوان کنم و نتیجهگیریام را نیز بر مبنای همین دو تجربه عنوان کنم. اگر اشتباه نکنم اوایل حضورم در دانشگاه بود. کتابی می خواندم با این مضمون که «کامپیوترها به کجا میروند؟چه اتفاقی قرار است در حوزهی کامپیوتر بیفتد؟» داستان این بود که در آن زمان مدارها ترتیبی بود. پردازنده ۴۸۶ بود و همه میگفتند ای وای با این روند پنج سال دیگر به یک موقعیت عجیب و غریب خواهیم رسید. مثلاً بر مبنای روندها نموداری رسم میکردند که ما در سال ۲۰۲۰ کامپیوتری روی میز خواهیم داشت که توان پردازشی آن برابر با توان پردازشی شرکت IBM تا الان است.یعنی تا آن موقع IBM هرچند تا کامپیوتر ساختهبود شما توان پردازشی تجمیع شدهاش را در سال ۲۰۲۰ در یک کامپیوتر رومیزی خواهید داشت. اما یک اتفاقی افتاد. اگر اشتباه نکنم حوالی ۲۰۰۶ یا ۲۰۰۷ بود آقای استیوجابز آمد گفت صنعت کامپیوتر بهتر است به سمت کاربرپسند شدن برود. شروع کرد ipod را درست کرد. بعد iphone را منتشر کرد و یکهو تمام روندهای سرمایهگذاری عوض شد. همه آن پیشبینیها و اهداف پیشین را فراموش کردند. دیگر کسی به دنبال کامپیوتر با چنان توان پردازشی نبود. انگار که به ناگهان نیاز جوامع رفت سمت اینکه مردم با گوشی های لمسی کار کنند . به موازات این اتفاق انگار که در جامعه دانشگاهی نیز همه برنامهریزیها دچار تحول شد. گویی تمایلات برای رسیدن به سختافزارهای توانمندتر کاهش پیدا کرد و یک رکودی فضا را پر کرد.
یک زمستان مثل زمستان هوش مصنوعی اتفاق افتاد…
دکتر منصوریزاده: آره دقیقا یک چنین زمستانی، مثل زمستان شبکههای عصبی که در هوش مصنوعی اتفاق افتاد و همه چیز دچار رکود شد اینجا هم در یک مقیاس دیگری رقم خورد. اینها را میگویم تا برسم به حرفی که در ابتدای گفتوگو زدم. دغدغه و پیشبینی آن کتاب. اینکه در سال ۲۰۲۰ شما چه کامپیوتری خواهید داشت؟ و ما در سال ۲۰۲۰ آن کامپیوتر را نداشتیم! یعنی یک پیشبینی بود که براساس روند تکنولوژی که به سمت ساختن کامپیوتر بود رقم خورده بود اما یک آدمی آمد جهت را به طور کلی عوض کرد. من یادم است یک کلیپ تبلیغاتی میدیدم که استیو جابز رفته بود در یک منطقهی فقیرنشین. حالا دقیقا کجا بود خاطرم نیست. ولی یک منطقه بود که مردمش سواد آنچنانی نداشتند و این آقا تبلت یا گوشی یا هر چیزی که بود را میداد دست این افراد و آنها با این وسایل کار میکردند. و او استدلال میکرد که کامپیوتر باید اینگونه باشد. نباید برای استفاده از آن به مهارت و سواد خاصی نیاز داشته باشید.
این رویداد اول . (البته اگر به ترتیب تاریخی قرار باشد صحبت کنیم رویداد دوم.)
دکتر منصوریزاده: اما رویداد دوم که بسیار معروف است ماجرای مناظرهی نوشتاری آقای لینوس تروالدز (Linus Torvalds) و آقای تننبام (Andrew S. Tanenbaum) هست. لینوس یک دانشجوی لیسانس در فنلاند بود و آقای تننبام در هلند استاد دانشگاه بود و تخصصش سیستمعامل بود و شبکههای کامپیوتری. آقای تننبام برای آموزش درس سیستمعامل، یک سیستم عامل کوچک ساخته بود به اسم Minix . حدود ۱۸ تا ۲۰ هزار خط کد بود.
یک کتاب «سیستمعاملهای مدرن» (Modern operating systems) هم داشت که در انتهایش کد این سیستمعامل چاپ شده بود . و اعلام کرده بود که شما میتوانید این سیستمعامل را روی کامپیوترهای شخصی خود نصب کنید. و همینطور هم بود. کل حجم این سیستم عامل ۳۰۰ کیلوبایت بود.
ساختار Minix ماکرو کرنلی (Micro kernel) است. یعنی هستهی بسیار بسیار مینیمالیستی دارد و تنها دارای ضروریترین عملیاتهای لازم است. بقیه امورات به شکل سرویس به این هسته(کرنل) اضافه میشدند. با این ایده که خیلی از سرویسها و خدمات را در سیستمعامل آموزشی نیاز نداریم. آقای لینوس هم مثل خیلی از استادان و دانشجویان کامپیوتر این سیستمعامل را گرفته بود و در کدش کندوکاو میکرد. و نتیجه این پایش به جدال با آقای تَننبام انجامید. آقای لینوس آمد یک ایرادی گرفت به این سیستمعامل. گفت: این عالیه! منتها هر سیستمعاملی شما داشته باشید، سازو کار مدیریت فایل لازم دارد. شما اشتباه کردید که مدیریت فایل را از هستهی سیستمعامل جدا کردید. بیایید همین الان تعدادی از سرویسها را دستهبندی کنید و در هستهی سیستمعامل قرار دهید. آقای تننبام میگفت: برادر! من این را درست کردم که مردم با آن بفمهند سیستم عامل چیست! قرار نیست من یک سیستمعامل واقعی و اجرایی ارائه دهم. آقای لینوس میگفت: اگر اینکار را بکنید سیستمعاملتان کاربردیتر میشود. که خب آقای تننبام زیر بار نرفت و انجام نداد که این باعث شد خود آقای لینوس بیاید یک سری از سرویسها را در کنار هستهی Minix قرار بدهد و به اسم Linux منتشر کند. و جالب اینجاست که یک جایی گفته بود درست است که این واژه به خاطر اسم من لینوکس نوشته میشود ولی شما لینیکس بخوانید.
به خاطر ریشه Minix ؟
دکتر منصوریزاده: بله! که البته کسی توجه نکرد!
وقعی ننهادند! (میخندیم)
دکتر منصوریزاده: بعد از انتشار لینوکس آقای تننبام گفتند که موفق نخواهد شد این سیستم عامل. جالب اینجاست که در آن زمان ویندوز ظهور کرده بود و گفتوگوهای زیادی پیرامون استفاده از انواع سیستمعاملها در جریان بود. در همان میانهی این مناظرهها آقای تننبام که یک فرد بسیار معتبر هست در جامعه دانشگاهی و دست کم سه کتاب او تا آنجایی که من میدانم به عنوان مرجع درسی در دانشگاههای دنیا تدریس میشود (شبکههای کامیپوتری، سیستمعامل و سیستمهای توزیع شده)، یک پییش بینی انجام داد مبنی بر این که در دههی نخست قرن بیستم کسی از سیستم عامل ویندوز و لینوکس استفاده نخواهد کرد و همه از نسخههایی از Unix استفاده خواهند کرد. بعدها اما وقتی موفقیت لینوکس را دید و پیشبینیهایش اشتباه از آب درآمد، متواضعانه آمد و گفت: من اشتباه کردم. و نکتهی جالب اینجاست که اعتراف کرد: من به عنوان یک استاد دانشگاه لازم است سرم به تدریس و پژوهش گرم باشد و دست به چنین پیشبینیهایی نزنم!
حالا این دو تجربه را برای چه عنوان کردم؟ برای اینکه نه تنها ما بلکه حتی کسانی که ریلهای یک فناوری را یک علم را میچینند خودشان هم آنچنان قادر به پیشبینی صحیحی از آینده نیستند. به همین دلیل از آینده صحبت کردن یک تیغ دولبه است. اگر چه که خیلی جذاب است و اگرچه که خیلیها مشغولند به این پیشبینیها اما باید گفت: هستند کسانی که آنچنان از آینده حرف نمیزنند اما آینده را میسازند.
بله اما مردمان جوامع نیز کنجکاو هستند که ببیند چه اتفاقی خواهد افتاد و چه طور باید با آن مواجه شوند. حالا به نظر شما علیرغم این پیشبینی ناپذیربودن آینده جامعه چه طور باید با این پدیدهی هوش مصنوعی روبرو شود؟
دکتر منصوریزاده: ما در افسانههامان یک پهلوانی داریم به اسم پسر مرد کور…
افسانههای کجا؟
دکتر منصوریزاده: آذربایجان. این آدم راهزن بوده است. راهزن و شمشیرزن عیار گونهای بوده است که کاروان های شاهان و ثروتمندان را به یغما میبرده. این آقا یک روز از یک جایی رد میشود. میبیند یک نفر یک چیزی انداخته روی دوشش. میپرسد این چیست؟ آن مرد میگوید: تفنگ! میپرسد : به چه دردی میخورد؟ میگوید: ابزار جنگ است. یک گاوی بوده است در آن نزدیکی. پول گاو را میدهد و میگوید به این گاو بزن که ببینم. تفنگدار وقتی با تفنگ میزند به گاو و گاو کشته میشود، پهلوان میگوید: رسم مردی افتاد! چرا؟ چون باور داشته که شمشیرزدن و رودرو جنگیدن نشانهی مردانگیست و حالا که شما میتوانید از ۵۰ متری یک نفر را بکشید دیگر نشانی از مردانگی نخواهد بود. این باور آن پهلوان بوده است. اما الان کسی دیگر احترامی برای این صحبت قائل نیست. تنها در حد یک نقل تاریخیست. همه فهمیدند که اگر میخواهند زنده بمانند باید با این وسیلهی جدید آشنا باشند. دیگر کسی نمیگوید پهلوان ما گفت: رسم مردانگی افتاد. الان دیگر همه میدانند برای اینکه بخواهند بجنگند برای اینکه دفاع کنند و برای اینکه بتوانند از خود محافظت کنند باید این وسیله را داشته باشند. هوش مصنوعی و پیشرفتهای این دو سال اخیرش چنین وضعیتی دارد.
دکتر محرم منصوری زاده
بسیار حیاتی برای ادامه زندگی بشر …
دکتر منصوریزاده: و همه چیز را عوض کرده است. وضعیت زندگی را به کلی تغییر داده است. دقیقا مثل شمشیر و تفنگ . همانطور که تفنگ آمد شمشیر را برد به حالت فانتزی. هوش مصنوعی هم با ابزارهای پیشین چنین کاری کرده و با ابزارهای بسیاری چنین خواهد کرد. ما همه لازم است توجه کنیم که دیگر هوش مصنوعی از یک پدیده علمی تخیلی و تفریحی خارج شده و وارد زندگی بشر شده است. یکی از دلایلی که هوش مصنوعی در این چند سال اخیر موفق شده است به این دلیل است که ما انسانها فکر میکردیم خیلی موجودات قویای هستیم. به عنوان مثال یک فرد برای زندگی روزمرهاش به کمتر از ۵۰۰ واژه نیاز دارد و هوش مصنوعی میتواند تمام جملات و داستانها و عباراتی را که میتوان با این ۵۰۰ واژه ساخت را یاد بگیرد. و موفقیتهایی که ما امروز در هوش مصنوعی داریم از این ۵۰۰ کلمه است. و این عجیب نیست و بیشتر هم توسعه پیدا خواهد کرد…
برای هوش مصنوعی حدی قائل هستید؟ یعنی این احتمال را میدهید که هوش مصنوعی سرش به سنگ بخورد؟
دکتر منصوریزاده: هوش مصنوعی را اگر از منظر آدم ارزیابی کنید، بله ولی از منظر پیشرفتهای ممکن، نه! من این طور فکر نمی کنم. بیایید راجع به یکی از توهمات رایج صحبت کنیم. هوش مصنوعی آنقدر قدرتمند خواهد شد که آدمها را از بین خواهد برد و بعد در جهان خودش حکومت خواهد کرد. نمی دانم! اما سوال! بعد چه کسی قرار است بنشیند این را ببیند؟ آن بیت حافظ چه بود؟ «جلوهای کرد رخت دید ملک عشق نداشت…» و مصرع دوم چه بود؟ آها «عین آتش شد از این غیرت و بر آدم زد» بله منظورش این است که خدا وقتی ملائک را خلق کرد گفت خب اینها شعور لازم برای فهمیدن فتبارک الله احسن الخالقین را ندارند(میخندد) و آمد بشری خلق کرد که این را بفهمد…
یعنی میخواهید بگویید که موجودیت هوش مصنوعی وابسته به حضور ماست؟
دکتر منصوریزاده: بله و این که ما اگر نباشیم، بود و نبودش خیلی مهم نیست… اینکه ما اعتقاد داریم هوش مصنوعی در مرزهای دانش انسانی ارزیابی شود داستان همین است… هوش مصنوعی ممکن است خیلی کارها را انجام دهد ولی من و شما تا آن را نفهمیم نمیتوانیم اعتبارسنجی کنیم.
با این نگاه که معیارهای ارزیابی مدلهای هوشمند را ما طراحی میکنیم و توسعه هوش مصنوعی بسیار به فهم و شکل سنجش ما مرتبط است…
دکتر منصوریزاده: بله اما با این وجود آیا هوش مصنوعی محدودیت خواهد داشت؟ به نظر من نه. چرا نه؟ چون من با این گزاره موافقم که جهان ما در حال انبساط است. هوش مصنوعی هم دارد دانش جمعآوری میکند. جهانی که دارد بزرگ میشود دانشش هم دارد بیشتر میشود. من فکر می کنم که هوش مصنوعی اگر همین روند را ادامه بدهد زندگی را خیلی برای ما راحتتر خواهد کرد.
خب اگر کمی دقیقتر بشویم اینجا بحث سوگیریها پیش نخواهد آمد؟ … همین تعریف «ما» الان چالش برانگیز است… حجم دادههایی که برای گروهها و گرایشها و مذاهب و زبانهای مختلف وجود دارد متفاوت است و خب الان پیشپردازش خیلی تاثیر گذار خواهد بود اینطور نیست؟
دکتر منصوریزاده: بله هست ولی اجازه بدهید من کمی حاشیه بروم و بعد بگویم که حرف زدن پیرامون این موضوع آسان نیست. چند وقت پیش یک مصاحبه خواندم از ایلان ماسک. گفت تصور کنید که یک تاکسی خودران دارید. شما میخواهید بروید سفر. میآید شما را میرساند فرودگاه. بعد خودش برمی گردد خانه و بعد تازه میرود برای شما کاسبی هم میکند وقتی نیستید. نکته جالب این است که شما دارید در اروپا خوش می گذرانید. ماشینتان دارد برات پول درمیآورد (می خندد) اما یک نکته دیگه اضافه کنم. من کی از ماشین استفاده میکنم؟ زمانی که من بخواهم بروم یک جایی از شهر و بخواهم یک خدماتی بگیرم و برگردم. درست است؟ خب اصلا برای چی بروم سفر وقتی میتوانم سفارش آنلاین بدهم. با واقعیت مجازی میوهها را ببینم و بچینم و بیاورم. به داروخانه نسخهام را بفرستم… اینجا کاری که ما باید انجام بدهیم این است که سطح اموراتی که به آنها مشغولیم را بالاتر ببریم. و خودمان را ارتقا بدهیم. البته از همه چیز نمیتوانیم غافل بشویم. باید یک حداقلهایی را یاد بگیریم و مابقی را با استفاده از هوش مصنوعی پیش ببریم. شما اگر پیش از این درس میدادی و نمرههات را با کاغذ ثبت میکردی الان دیگر با کامپیوتر باید انجام بدهی و اگر اینکار را نکنید خنده دار به نظر میرسد.
بحث من خندهدار بودنش نیست من اینجا با این روندها چالش دارم. یک وقتی بود که استاد با کاغذ نمرهها را ثبت میکرد یک وقتی هست که استاد با کامپیوتر این کار را انجام می دهد و یک وقتی خواهد بود که دیگر اصلا استادی نیست! یک وقتی هست که دیگر کارگری وجود ندارد. رباتها جایگزین شدند. سوال اینجاست که اگر ربات جایگزین انسان شود جوامع ما با معضلات بسیار زیادی روبهرو نخواهند شد. ما در چنین شرایطی نیروی بیکار بسیار زیادی نداریم که قادر به برطرف کردن نیازهای ابتدایی خودشان هم نیستند؟ آن وقت شما چه طور میتوانید بروید سراغ نیازهای پیشرفته و سطح بالای انسانی. مثلا یکی از چالشهایی که الان وجود داره اینه که هوش مصنوعی قادر به ایجاد شکل جدیدی از اندک سالاریه. مثلا کسی که در سطح بالای مدیران شرکت متا کار میکند میتواند ذهن ما را جهت دهی کند، زندگیمان را به شکلی که دوست دارد در بیاورد و در تصمیمگیریهای روزانه ما با ایجاد سوگیریهای مختلف تاثیرگذار باشد.
دکتر منصوریزاده: من از این جهت نگرانی کمی دارم و البته این صحبت من نیست. یک زمانی کارگر کار می کرد، درآمد داشت و از طریق آن امرار معاش میکرد. خب آن کارگر زندگی میخواست. کار که نمیخواست. اگر کسی زندگیش تأمین بشود نیاز دارد به کار کردن؟ میتواند برود کوه! توهمی دارم صحبت می کنم اما میخواهم به این وجه آن نیز فکر کنید.
متوجهم. در این شرایط ما مثلا پول رو از بین میبریم…
دکتر منصوریزاده: بله… بگذارید یک واقعیت را عنوان کنم. یک روز یک خبرنگار جلوی یکی از جوانانی که در خیابان تا دیروقت مشغول دور دور بود گرفت و پرسید ساعت چند بیدار شدی از خواب؟ گفت: ۵ عصر. گفته بود: شما باید اول صبح بیدار شوید و کار کنید. گفته بود: آدم به اندازه کافی هست که کار کند! پرسیده بود: خب از کجا امرار معاش میکنید؟ گفته بود: این میزان دارایی دارم و اینقدر پول میآید به حسابم؛ یا یک مثال دیگر. مثلا دو تا کشور که یکی سوخت ارزان دارد و یکی سوخت ندارد. من می خواهم بگویم اگر هوش مصنوعی آنقدر رشد کند که بیاید بعضی از مشاغل را بگیرد. میشود مثل یک منبع. مثلا در ترکمنستان خیلی از خدمات رایگان است.
چرا؟
دکتر منصوریزاده: چون بزرگترین منابع گاز را دارد به نسبت مساحتش. اگر اشتباه نکنم ترکمنستان است. یا ممکن است مثلا روی برخی منابع یا خدمات یک درصد کمی دریافت کنند. چرا؟ چون وجود دارد منابع.
فراوانی هست…
دکتر منصوریزاده: بله فراوانی هست. و منبع، منبعیست که زیر پای آنهاست. من میخواهم بگویم اگر ربات بیاید برای من کشاورزی کند آنقدر میتواند از این زمین با توجه به دانشی که دارد، با توجه به قابلیتهایی که دارد برداشت کند که فراوانی به بار میآورد. با همان نفتی که از زمین میآید روشن میشود… با انرژی خورشیدی کار میکند. برای ما کشاورزی می کند و خودش میشود منبع (resource). بیایید کمی تخیل کنیم. عیب که ندارد. رباتهایی را تصور کنید که توانایی کشاورزی بر سطح دریا دارند. خودشان می توانند آب را شیرین کنند. خودشان میتوانند خاک بیاورند و خودشان با دانشی که دارند میتوانند بهترین بهرهوری را در کشاورزی داشته باشند. با این تفاصیل و اگر این روندی که من می بینم سپری شود، میتوانم بگویم که من نگران این نیستم که ربات ها بیایند کار کنند و ما گرسنه بمانیم…
پس نگران آینده نیستید…
دکتر منصوریزاده: نه نیستم. اتفاقاً اگر هوش مصنوعی بیاید این کارها را انجام بدهد خیلی با کیفیت بهتری انجام می دهد و همینطور با بهره وری بهتر.
این نگاه آیا برای فناوری یا حوزه دیگری هم بوده است تا الان؟
دکتر منصوریزاده: راجع به پزشکی بوده
خب همین الان همه دسترسی یکسان به امکانات پزشکی ندارند…
دکتر منصوریزاده: یک لحظه صبر کن. الان کسی از سرخک نمی میره. فقیر و غنی هم ندارد. کسی از فلج اطفال نمیمیرد.
همین الان خیلیها از نداشتن داروهای زیادی میمیرند…
دکتر منصوریزاده: تا صد و بیست سال پیش آپاندیس هم میکشت. ما الان دیگر این چالش را نداریم. من می خواهم بگویم اگر هوش مصنوعی اینقدر فراگیر باشد، آن چیزی که ما در متون علمی به آن میگوییم (ubiquitous) اتفاق بیفتد، عمومیت دارد و در دسترس همه است.
بخشی از نگرانیها از همین جا میآید. آیا هوش مصنوعی نمیتواند انحصاری باشد؟
دکتر منصوریزاده: قطعاً بخشی از هوش مصنوعی فراگیر خواهد بود. ubiquitous computing همین است دیگر. همه جا ما میتوانیم پردازش کنیم. حرفم این است الان کسی از سرخک نمی میرد. مدت هاست در همین ایران خودمان دولت به طور منظم نه فقط فرزندان ایران بلکه به شعاع چهل کیلومتری نوار مرزی ایران همه همسایگان را با واکسن سرخک، واکسینه میکند. یعنی به قدری برای ما عادی شده که یک لایه امنیتی بیرون از مرزها هم ایجاد شده است. خوشبینانه نگاه کنیم در هوش مصنوعی هم چنین اتفاقی خواهد افتاد. میزانش به خیرخواه بودن جامعه بشری مربوطه.
پس شما هم از جهتی اینطور نگاه می کنید که کیفیت عملکرد هوش مصنوعی به کیفیت رفتارهای انسانی وابسته است و رشد اخلاقی جوامع در حوزه هوش مصنوعی هم خودش را نشان خواهد داد.
دکتر منصوریزاده: بله قطعا هست. سرعتش بستگی به رفتار بشر دارد اگرچه فکر می کنم که در هر صورت و با گذر زمان ما به این وضعیت سودمند خواهیم رسید. آنچنان که خیلی از ابزارها و داروها و فناوریها در ابتدا در انحصار افراد محدود و قدرتمندی بودند اما در گذر زمان این انحصار از بین رفته و فراگیر شدند. در مورد هوش مصنوعی نیز من چنین نگاهی دارم.
امیدوارم که این پیشبینی به واقعیتش بدل شود..
دکتر منصوریزاده: بله و البته باز برمیگردم به همان دو ارجاع تاریخی. ما براساس شهودمان از ریل گذاری ها پیش بینی میکنیم. اما هیچ تضمینی برای وقوع آنها وجود ندارد. گذشته ما سرشار بوده از اتفاقات پیش بینی نشده و احتمالا آینده ما نیز چنین خواهد بود.
تا ببینیم سرانجام چه خواهد بودن. سپاس