هوش مصنوعی از زوایای گوناگون | گفت‌وگوی اختصاصی ارغنون هامون با دکتر سعیده بابایی

هوش مصنوعی از زوایای گوناگون

گفت‌وگوی اختصاصی ارغنون هامون با دکتر سعیده بابایی

پژوهشگر پسادکتری در مرکز بین‌المللی اخلاق در علوم و علوم انسانی (IZEW) و مرکز محاسبات با کارایی بالا (HLRS)

گفت‌وگو از ایمان احمدی

اشاره: دکتر سعیده بابایی علایق و تجربیات پژوهشی گسترده‌ای در زمینه فلسفه و اخلاق فناوری، فلسفه و اخلاق هوش مصنوعی، تعامل انسان/ربات، علوم انسانی پزشکی، فلسفه پزشکی و اخلاق مراقبت دارد. او دو سال در آلمان به عنوان پژوهشگر پسادکتری در مرکز بین‌المللی اخلاق در علوم و علوم انسانی (IZEW) و مرکز محاسبات با کارایی بالا (HLRS) فعالیت کرد و در زمینه فلسفه و اخلاق هوش مصنوعی به کار مشغول بود.
در این دوره، او در پروژه‌هایی مرتبط با اعتمادپذیری، قابلیت تبیین‌پذیری و شفافیت در هوش مصنوعی همکاری داشت و در نگارش گزارش‌های سیاستی، مقالات علمی، و برگزاری رویدادهای دانشگاهی و عمومی مشارکت کرد.
دکتر بابایی مدرک کارشناسی خود را در رشته فیزیک از دانشگاه صنعتی شریف دریافت کرده است. او تحصیلات تکمیلی خود را در فلسفه علم و فناوری ادامه داد و مدرک دکترای خود را از پژوهشگاه علوم انسانی و مطالعات فرهنگی گرفت. او از اعضای مؤسس گروه پژوهشی فلسفه هوش مصنوعی (فهم) است که از سال ۱۳۹۶ شروع به فعالیت کرده است.
در سال ۲۰۲۴، دکتر سعیده بابایی به عنوان یکی از «۱۰۰ زن برجسته در اخلاق هوش مصنوعی» توسط بنیاد زنان در اخلاق هوش مصنوعی انتخاب شد. او در حال حاضر به عنوان عضو متخصص با کمیسیون جهانی هوش مصنوعی مسئولانه فعالیت دارد.

یکی از چالش هایی که مدل های هوش مصنوعی با آن مواجه هستند انواع سوگیری هاست. از سوگیری های قومی و نژادی گرفته تا سوگیری های حزبی و جنسیتی و حتی زبانی. به عنوان مثال بسیاری از ابزار‌های هوشمند مولد زبان که این روزها در بازار جهانی فناوری هستند، با توجه به دسترسی گسترده تر به منابع زبان انگلیسی، زبان انگلیسی را بهتر از دیگر زبان ها یاد گرفته اند و توان پاسخگویی بهتری با این زبان دارند. این گستردگی در حوزه های دیگر هم مسئله ساز است. به عنوان مثال اگر در فرآیند آموزش یک عمل، داده های مربوط به زنان بسیار کمتر از داده های مربوط به مردان باشد و یا مثلا داده های سپید پوستان بیشتر از سیاه پوستان باشد این امکان وجود دارد که مدل‌های هوشمند، وزن بیشتری به مردان و یا سپیدپوستان بدهد و تصمیم هایشان منصفانه نباشد. به عنوان یکی از چالش های کلیدی حوزه هوش مصنوعی تا کنون چه تدابیری به منظور بر طرف کردن آن اندیشیده شده است؟
دکتر سعیده بابایی: چالش سوگیری یکی از برجسته‌ترین و شناخته شده‌ترین چالش‌های اخلاقی پیش روی هوش مصنوعی بوده و هست و پروژه‌ها و گروه‌های متعددی در دنیا سعی داشته‌اند که برای این چالش ‌راهکارهای متنوعی از زاویه نگاه حوزه تخصصی خود پیشنهاد دهند. پیش از آن‌که به راهکارها بپردازیم، بهتر است کمی درباره برخی از انواع سوگیری‌هایی که هوش مصنوعی می‌تواند سبب‌ساز آن باشد صحبت کنیم. برای مثال، سوگیری داده‌ای به این معناست که مدل هوش مصنوعی بر اساس مجموعه داده‌هایی آموزش داده شده که به قدر کافی، طیف متنوعی از داده‌های لازم -مثلاً در ویژگی‌های دموگرافیک- برای تصمیم‌گیری درباره یک موضوع را نمایندگی نمی‌کنند. سوگیری الگوریتمی نوع دیگری از سوگیری است که به دلیل ساختارِ خودِ الگوریتم و نوع وزن‌دهی آن به مجموعه داده‌های ورودی‌ رخ می‌دهد، حتی در مواردی که داده‌ها سوگیرانه نباشند. نوعی از سوگیری هم وجود دارد که منعکس‌کننده کلیشه‌ها و قضاوت‌های جوامع مختلف انسانی است و برخاسته از ویژگی‌ها و برچسب‌هایی است که به برخی از انسان‌ها نسبت داده می‌شود.
به علاوه عدم تنوع در طراحان و توسعه‌دهندگان سیستم‌های هوش مصنوعی نیز می‌تواند سوگیری‌هایی را به نحو بالقوه در این سیستم‌ها جای‌دهی کند و محدودیت‌هایی را در کدنویسی و پیش‌بینی تبعات کاربردی‌شدن شدن سیستم‌های هوش مصنوعی در میان طیف متنوع و متکثر کاربران ایجاد کند. این‌ها برخی از دلایلی هستند که منجر به تولید خروجی‌های سوگیرانه توسط هوش مصنوعی می‌شوند. تنوع ریشه‌ها و علل مسئله سوگیری اقتضاء می‌کند که راهکارهای چندجانبه‌ای نیز در راستای حل این مسئله پیشنهاد شود که در ادامه به برخی از آنها اشاره می‌کنم.
در سطح فلسفی و اخلاقی مطالعات و مباحثاتی پیرامون مفاهیم کلیدی مرتبط با سوگیری از جمله تبعیض، عدالت، برابری، انصاف، شفافیت و تبیین‌پذیری و بازتعریف این مفاهیم انجام شده است که این مطالعات لازمه ارائه فهم و معیارهای واقع‌بینانه‌تری برای هوش مصنوعیِ منصفانه هستند. از جمله نتایج پژوهش‌هایی از این دست شناسایی دقیق‌تر، جامع‌تر و به‌روزتر ویژگی‌های حساس (sensitive attributes) و گروه‌هایی است که نیازمند حفاظت در برابر سوگیری هستند؛ ویژگی‌هایی که سنتاً ویژگی حساس محسوب می‌شوند نظیر جنسیت، نژاد، یا گرو‌هایی نوپدیدتر که در معرض سوگیری قرار می‌گیرند نظیر والدین مجرد و گِیمرها و همینطور گروه‌های الگوریتمی (algorithmic groups)، یعنی افرادی که توسط الگوریتم‌ها، به واسطه‌ رفتارهای خاصی که توسط انسان‌ها قابل شناسایی نیست، دسته‌بندی می‌شوند؛ مثلا افرادی که حرکت ماوس آنها روی صفحه مانیتور الگوی خاصی دارد.
به علاوه مشارکت دادن هرچه‌بیشتر ذی‌نفعان متنوع و به‌حاشیه‌رانده‌شده در همه مراحل چرخه زندگی هوش مصنوعی و تلاش برای شناسایی و ارزشمند شمردن نقطه‌نظرات گروه‌هایی که کم‌بهره‌ترند و صدای ضعیف‌تری دارند٬ راهکاری است که به شکل‌های مختلف پیگیری می‌شود. نهادها و سازمان‌های متعددی از جمله اتحادیه اروپا، IEEE ، یونسکو، موسسه AI Now در سراسر دنیا بر آن بوده‌ و هستند که موازین و اصول راهنمای اخلاقی برای حفاظت از ارزش‌های اخلاقی نظیر شفافیت٬ تبیین‌پذیری و پاسخگویی توسط شرکت‌های سازنده سیستم‌های هوش مصنوعی وضع کنند و تا حد ممکن، از خروجی‌های تبعیض‌آمیز این تکنولوژی‌ها پیشگیری کنند.
در سطح تکنیکی نیز تلاش‌های گسترده‌ای در جهت افزایش کیفیت و تنوع داده‌ها و همچنین، تولید داده‌های مصنوعی و گزینش داده‌ها صورت گرفته است تا عدم توازن و شکافی که در داده‌ها وجود دارد، تا حدی رفع شود و به شکل‌های طبیعی یا با تکنیک‌های مصنوعی، تنوع داده‌های ورودی ارتقاء یابد. افزایش آگاهی درباره مسئله سوگیری سبب شده که محققان و توسعه‌دهندگان به دنبال آن باشند که روندهای غیرشفاف تصمیم‌گیری و تولید خروجی در تکنیک‌های هوش مصنوعی را شفاف‌تر و تبیین‌پذیرتر کنند تا بتوانند منشأهای سوگیری را راحت‌تر شناسایی کنند و تصمیم‌های هوش مصنوعی را تا حدی تفسیر و قابل توضیح برای متخصصان و کاربران کنند. همچنین، تکنیک‌هایی مبتنی بر شبکه‌های دشمن‌گونه یا adversarial networks ارائه شده‌اند که سوگیری را کمینه می‌کنند.

یکی از ملزومات توسعه مدل های هوش مصنوعی زیرساخت مناسب است. زیرساختی که شامل انواع پردازنده های گرافیکی قدرتمند می شود. استفاده از مدل های بزرگ خاصه به منظور پردازش داده ها در حجم بسیار مخاطرات فراوانی برای محیط زیست دارد. چقدر به مخاطرات زیست محیطی هوش مصنوعی پرداخته شده و چه راه هایی برای جلوگیری از این آسیب ها ارائه شده است؟
دکتر سعیده بابایی: مطالعات پیرامون اثرات زیست‌محیطی توسعه هوش مصنوعی از حوزه‌هایی است که علی‌رغم اهمیت حیاتی آن، تا کنون توجه درخوری به آن نشده است. پژوهش‌ها و آمارها گویای آنند که فرایندهایی نظیر آموزش مدل‌های بزرگ هوش مصنوعی و به طور خاص، مدل‌های بزرگ زبانی، و همینطور نگهداری از مراکز داده‌ها نیازمند صرف مقادیر کلانی از انرژی هستند و بسته به اینکه از چه منابعی برای تأمین انرژی مورد نیاز این فعالیت‌ها‌ استفاده شود می‌توانند منشأ آلودگی‌های زیست‌محیطی قابل اعتنایی نظیر آلودگی‌های کربنی باشند. مراکز داده برای ذخیره و پردازش داده‌ها و سیستم‌های خنک‌کننده خود از انرژی الکتریکی استفاده می‌کنند که آمارهای آژانس بین‌المللی انرژی در سال ۲۰۲۲ نشان می‌دهد این مقدار حدودا ۲ درصد از کل انرژی الکتریکی است که در جهان مصرف می‌شود و پیش‌بینی‌ها نشان می‌دهد که این مقدار تا سال ۲۰۲۶ دو برابر خواهد شد.
نگرانی‌های زیست‌محیطی سبب شده که شرکت‌های داده‌محور به روش‌های گوناگونی در جهت توسعه پایدار متوسل شوند. یکی از راهکارهای تکنیکی، استفاده از و توسعه تکنیک‌هایی است که پارامترهای غیرضروری در آنها حذف شده است یا طراحی مدل‌های کوچک‌تری که با حفظ کارامدی مدل‌های بزرگ‌تر انرژی کمتری را صرف می‌کنند. توزیع کردن فرایند آموزش مدل‌های هوش مصنوعی (Federated Learning) میان ابزارهایی نظیر گوشی‌های هوشمند یا اینترنت اشیاء نیز نیاز به ذخیره و فرستادن داده‌های کلان به یک سرور مرکزی را کمرنگ‌تر کرده است. اما ناگفته نماند که این راهکار، نگرانی‌ها درباره حریم خصوصی کاربران را افزایش داده است.
اقبال به استفاده از انرژی‌های تجدیدپذیر، نظیر انرژی بادی و خورشیدی، در میان برخی از شرکت‌های بزرگ تکنولوژی افزایش یافته است. برای مثال، مایکروسافت در سال ۲۰۱۵ در قالب پروژه Natick برای نخستین بار برخی از مراکز داده خود را به مدت ۱۰۵ روز به زیر دریا منتقل کرد تا سیستم‌های خود را از طریق گردش آب دریا خنک کند و نتایج این پروژه تا کنون موفقیت‌آمیز بوده است. اما هزینه‌های نگهداری و تعمیر سیستم‌های زیر آب یکی از موانع عملیاتی شدن حداکثری این شیوه است. به علاوه، ضروری است که مطالعه شود در صورت وسعت یافتن این مدل، اکوسیستم دریایی چه تغییراتی خواهد کرد. شرکت اپل ادعا می‌کند که مصرف انرژی مراکز داده‌اش ۱۰۰٪ از منابع تجدیدپذیر تأمین می‌شود. برخی مراکز نظیر EcoDataCenter در سوئد نیز ادعا می‌کنند که نه‌تنها از منابعی نظیر انرژی هیدروالکتریک و باد استفاده می‌کنند، بلکه انرژی گرمایی تولیدشده توسط سیستم‌های خود را بازیافت کرده و برای گرمایش ساختمان‌های نزدیک استفاده می‌کنند.
اگرچه نمونه‌هایی از این دست امیدبخش هستند، اما هنوز‌ چالش‌هایی در مسیر فراگیر شدن این راه‌حل‌ها در سطح جهانی وجود دارد و سرعت توسعه چنین مدل‌هایی هنوز از سرعت توسعه مراکز داده غیر دوست‌دار محیط زیست که از انرژی‌های تجدیدناپذیر استفاده می‌کنند کمتر است. نگرانی زیست‌محیطی دیگر، تولید قطعات الکترونیک و دفع پسماندهای ناشی از ارتقاء سرورها و سایر سخت‌افزارهاست که منجر به استخراج افراطی ذخیره عناصر کمیاب معدنی می‌شود و تولید کربن و آلودگی محیط زیست را افزایش می‌دهد.
دغدغه‌هایی از سنخ دغدغه‌های پیش‌گفته سبب شده است که معیار جدیدی، یعنی همان معیار چگونگی مصرف انرژی٬ به معیارهای ارزیابی عملکرد شرکت‌های هوش مصنوعی اضافه شود و جنبشی در میان محققان در جهت توسعه پایدار هوش مصنوعی شکل بگیرد تحت عنوان جنبش هوش مصنوعی سبز یا Green AI. جنبش‌هایی از این دست در حال برداشتن گام‌های اولیه خود هستند و کره زمین نیاز دارد که چنین مطالباتی به شکلی مداوم بسط و توسعه یابند و آگاهی‌بخشی عمومی در این راستا بیشتر شود.

اگر هوش مصنوعی و به طور خاص ربات ها بسیاری از امور را وارد چرخه ی خودکارسازی کنند، اگر چه افرادی که صاحبان این فناوری ها هستند سود فراوانی نصیبشان می شود اما به احتمال فراوان افراد بسیاری شغل خود را از دست خواهند داد. بسیاری از متفکران معتقدند که این شکل از گسترش هوش مصنوعی می تواند منجر به نابرابری گسترده و الیگارشی‌های (اندک سالاری) جدید در جوامع انسانی شوند. این نگرانی را چقدر جدی می دانید و اگر چنین توزیع نابرابری از منابع در آینده‌ی نزدیک صورت گیرد، چگونه واکنشی می توان به آن نشان داد و چگونه می توان این مسئله را حل کرد؟
دکتر سعیده بابایی: از نظر من این نگرانی به‌جاست، چراکه توسعه و فراگیر شدن هوش مصنوعی به شکلی جدی در حال تغییر موازنه قدرت و ثروت٬ و امکان‌ها و فرصت‌ها میان افراد، گروه‌های اجتماعی و حکومت‌هاست و اگر این موازنه‌ها به شکلی «عادلانه و معقول» صورت نگیرد، گروه‌هایی از افراد یا ملت‌ها آسیب‌ خواهند دید. این پرسش، پرسشی مهم و کلی است و از زوایای مختلفی می‌توان به آن پرداخت. اما اجمالاً به پیشنهادهایی در جهت کاهش این نگرانی می‌پردازم.
تقریباً چون و چرایی وجود ندارد که انواع مداخلات سیاستی و قانونی در سطح ملی و بین‌المللی برای مهار و کنترل توسعه هوش مصنوعی ضروری است. حکومت‌ها و جوامع بین‌المللی موظف‌اند که مقرراتی را تنظیم کنند که تا حد ممکن از توسعه شفاف٬ عادلانه٬ و ایمن هوش مصنوعی اطمینان حاصل شود. قوانینی نظیر مقررات عمومی حفاظت از داده اتحادیه GDPR از جمله این تلاش‌هاست که به کاربران اجازه می‌دهد کنترل بیشتری روی داده‌های خود داشته باشند و شرکت‌ها را موظف به پاسخگویی در برابر رفتارهای خود می‌کند و تا حدی مانع سوءاستفاده حداکثری از داده‌های کاربران می‌شود. اما چنین اقداماتی هنوز قدرت بسیار محدودی در برابر قدرت شرکت‌های بزرگ تکنولوژی و جریان توسعه تکنیکی و اقتصادی هوش مصنوعی دارند. متاسفانه٬ جوانب اخلاقی٬ اجتماعی و انسانی توسعه هوش مصنوعی همگام با روند پرشتاب توسعه این تکنولوژی پیش نمی‌رود و موانعی جدی در مسیر این تلاش‌ها در جهان وجود دارد.
با این حال هنوز می‌توان امیدوار بود به اینکه آگاهی‌بخشی عمومی و ارتقاء سواد دیجیتال در میان کاربران ابزاری قدرتمند است در برابر توسعه افسارگسیخته هوش مصنوعی. آگاهی از اینکه هوش مصنوعی چیست و چگونه و در قالب چه ابزارهایی کار می‌کند، داده‌ها چگونه از کاربران جمع‌آوری می‌شوند و در چه مواردی استفاده می‌شوند و چه خطراتی می‌تواند کاربران را تهدید کند، می‌تواند به کاربران کمک کند که تصمیم‌های مطلعانه‌تری بگیرند و در مقابل سوءاستفاده شرکت‌ها مقاومت بیشتری نشان دهند. همچنین، بدیل‌هایی ارائه دهند یا مطالباتی درخواست کنند که انحصار قدرت از دست شرکت‌ها خارج شود و در میان عده کثیرتری از افراد و کاربران توزیع شود. تکنولوژی‌های غیرمتمرکز و پروژه‌های منبع‌باز یکی از این ابتکارهاست که در حال حاضر توسط برخی از شرکت‌ها نظیر گوگل، مایکروسافت، گیتهاب و … تسهیل می‌شود و منجر به افزایش شفافیت، همکاری و نوآوری در میان جامعه تکنیکی شده است. اما نمی‌توان نادیده گرفت که باز هم عده معدودی در جهان هستند که مهارت کدنویسی دارند و می‌توانند در چنین پروژه‌هایی مشارکت کنند.
مشارکت مردم عامه در حکمرانی هوش مصنوعی، مثلا در قالب عضویت در هیئت‌های اخلاق هوش مصنوعی در شرکت‌ها یا در پایگاه‌های سیاست‌گزاری و تصمیم‌سازی، می‌تواند صدای عده متکثرتری از کاربران را به گوش تصمیم‌گیران و صاحبان این تکنولوژی‌ها برساند. همچنین، مطالبات عمومی می‌تواند پشتوانه‌ای برای دولت‌ها شود در جهت تدوین هنجارها و قوانینی برای حفاظت از حقوق کاربران در شرکت‌های بزرگ، که در نتیجه آن امکان سوءاستفاده غیرمسئولانه از توان تکنولوژیکی توسط این شرکت‌ها کاهش یابد. در سطحی دیگر، کارمندان شرکت‌های تکنولوژی می‌توانند سهم منحصربفردی در جهت‌دهی به سیاست‌های شرکت خود داشته باشند و در مقابل رفتارها و نوآوری‌های غیراخلاقی این شرکت‌ها، معترض شوند و فشارهایی را به آنها تحمیل کنند و پاسخگویی و مسئولیت‌پذیری را از آنها مطالبه کنند.
تأملاتی عمیق‌تر از این دست که ما با چه هدفی توسعه هوش مصنوعی را دنبال می‌کنیم و به دنبال ارتقاء چه ارزش‌هایی در جهان هستیم نیز می‌تواند تصویر صریح‌تر و واضح‌تری از آینده مطلوب ارائه دهد. فیلسوفان، اخلاقیون، ادیبان، فیلم‌سازان، هنرمندان و اندیشمندان جوامع مختلف می‌توانند پرچم‌دار این جریان باشند و عامه مردم را به پرسش و تأمل در این باره دعوت کنند و چشم‌اندازهایی کل‌گرایانه‌تر از وضعیت کنونی و آینده بشر در کنار این تکنولوژی‌ها ترسیم کنند.

قطعا استفاده از هوش مصنوعی تنها محدود به نیات انسان دوستانه نخواهد شد. نیروهای سیاسی و حکومت ها نیز به نوبه خود و با توجه به مقاصد گوناگون دست به استفاده از این فناوری می زنند. اگر حکومت های تمامیت خواه به منظور کنترل و نظارت بیشتر شهروندان و با تلاش برای محدود کردن آزادی آن ها از هوش مصنوعی بهره برداری کنند، شهروندان یک جامعه چگونه می توانند از آزادی های فردی خود حراست کنند؟
دکتر سعیده بابایی: این نگرانی نیز کاملا معتبر است، چراکه در حال حاضر نیز اقدامات قابل توجهی به منظور کنترل و نظارت بر شهروندان با استفاده از تکنولوژی‌های دیجیتال در حال انجام است و این امر تنها محدود به نظارت حاکمان یک کشور بر شهروندان خود نمی‌شود، بلکه داده‌های جمع‌آوری‌شده از کاربران پلتفرم‌های مجازی مختلف، به‌طور بالقوه می‌تواند در دسترس، و حتی مورد سوء استفاده حکومت‌های دیگر نیز قرار بگیرد.
ایده حکمرانی بر اذهان -و جسم‌های- مردم و کنترل آنها موضوعی است که از گذشته‌های دور سودای بشر بوده و بارقه‌های آن را در مفهوم کهن «سایبرنتیک» می‌توان یافت. من و همکارانم این موضوع را در مقاله‌ای تحت عنوان «نقش سایبرنتیک در پیدایش هوش مصنوعی» به تفصیل توضیح داده‌ایم که چگونه ایده سایبرنتیک در عصر حاضر در بستر تکنولوژی‌های هوش مصنوعی به نحوی وسیع‌تر تحقق می‌یابد و چگونه هوش مصنوعی بستری را ایجاد کرده و در آینده به مراتب بیشتر خواهد کرد برای این که اذهان انسان‌ها به‌واسطه محتوایی که در اختیار آن‌ها قرار می‌گیرد و اطلاعاتی که به‌واسطه این فناوری‌ها درباره کاربران جمع‌آوری و تحلیل می‌شود، توسط گروه‌های معدودی از متخصصان و سیاست‌مداران کنترل و هدایت شود.
برای مثال، سیستم‌های نظارت گسترده که به کمک تکنیک‌های تشخیص چهره در فضاهای عمومی نظیر خیابان‌ها و مراکز خرید کار می‌کنند، می‌توانند افراد را شناسایی و بر رفتار آنها نظارت کنند و «در صورت لزوم» به مقامات ذی‌ربط گزارش دهند. نمونه دیگر، نظارت و کنترل پیشگویانه (Predictive Policing) به کمک هوش مصنوعی است که نقاط محتمل‌تر برای وقوع جرم یا افراد مشکوک‌تر به ارتکاب جرم را، بر اساس داده‌های پیشینی که به الگوریتم‌های یادگیرنده داده‌شده، پیش‌بینی می‌کند. این یکی از کاربردهایی است که سوگیری‌های زیادی در آن نسبت به گروه‌های مختلف اجتماعی دیده شده است. مورد دیگر، استفاده از جعل عمیق (Deepfake) برای گسترش اطلاعات نادرست یا روایت‌هایی است که می‌تواند اذهان کاربران را دستکاری کند و موجب افزایش بی‌اعتمادی در جوامع شود. به علاوه، جمع‌آوری اطلاعات بیومتریک شهروندان و پردازش آنها و تصمیم‌گیری بر اساس آنها توسط هوش مصنوعی -مثلاً در کنترل مرزها-، امکان کنترل و نظارت بر آنها و همچنین، اعمال رفتارهای سوگیرانه علیه برخی ملیت‌ها، مذاهب، نژادها و … را فراهم آورده است.
از منظری فلسفی، تأکید بر مفاهیمی نظیر خودمختاری و آزادی و شرح و بسط این مفاهیم در بسترهای اجتماعی مختلف می‌تواند پایه‌ای نظری را برای دفاع از این حقوق انسانی فراهم کند. اگرچه، این هدف محقق نمی‌شود مگر اینکه شهروندان به حقوقی از این دست آگاه‌تر شوند و مسیرهای مطالبه‌گری حقوق خود را شناسایی و هموار کنند؛ آن هم در دنیای جدیدی که هوش مصنوعی در آن امکاناتی را مانند نظارت حداکثری و همه‌جایی بر رفتار شهروندان به دست می‌دهد و می‌تواند به تهدیدی جدی برای آزادی بیان شهروندان تبدیل شود و آنها را به سمت خودسانسوری، حتی در فضای خصوصی‌شان، سوق دهد. این همان نگرانی‌ای است که میشل فوکو در ایده ساختار سراسربین خود توضیح می‌دهد. یکی از راهکارهای شهروندان برای حد زدن به این نظارت حداکثری، مطالبه‌گری برای شفافیت بیشتر در کاربردها و مداخلات سیستم‌های هوش مصنوعی و وضع قوانینی است که نظارت توسط هوش مصنوعی را محدود می‌کند.
از منظری اخلاقی، حفاظت از ارزش‌ اخلاقی حریم خصوصی و احترام به خودمختاری یا خودآیینی کاربران است که باید نقشی محوری در طراحی و استفاده از هوش مصنوعی را ایفا کند. نظریاتی مانند نظریه عدالت جان رالز، که مبنای یک جامعه عدالت‌محور را احترام به حریم خصوصی و خودآیینی شهروندان می‌داند، می‌توانند چارچوب‌های اخلاقی‌ای را برای هدایت مسیر توسعه هوش مصنوعی ارائه دهند و از این حقوق شهروندان و کاربران، به شیوه‌هایی از قبیل کمینه کردن داده یا افزایش کنترل کاربر بر داده‌های خود، دفاع کنند. همچنین، تمرکز بر افزایش اهمیت مفاهیمی اخلاقی نظیر مسئولیت‌پذیری و پاسخگویی در میان سازندگان، تصمیم‌گیرندگان و کاربران هوش مصنوعی می‌تواند از بروز خطاها و سوءاستفاده‌های همه این گروه‌ها به میزان بیشتری پیشگیری کند.
پیشگیری از انحصار قدرت و کنترل در گروه‌های خاصی نظیر حکومت‌های تمامیت‌‌خواه یا سازندگان غیرمسئول هوش مصنوعی می‌تواند از طریق قانون‌گذاری، تنظیم مقررات، و تعیین نهادها و ساختارهایی مردم‌سالارانه برای کنترل و نظارت بر این گروه‌ها نیز محقق شود. قوانینی نظیر GDPR می‌توانند الگوی طراحی مدل‌های دیگری در جوامع محتلف در جهان باشند که مرزها و سیاست‌هایی را برای محدوده دسترسی حکومت‌ها به داده‌های شهروندان تعیین می‌کنند. ارگان‌های بین‌المللی نیز می‌توانند اصول و راهنماهایی عادلانه را برای توسعه و نحوه کاربرد هوش مصنوعی تنظیم کنند که در صورت ضعف فشارهای داخلی بر حکومت‌های خاطی، این اصول بتوانند به عنوان اهرم‌های فشار علیه این حکومت‌ها مورد استفاده قرار بگیرند.

مدل های هوش مصنوعی برای آموزش نیاز به داده دارند. بدون استفاده از داده عملا آموزشی صورت نمی گیرد. بسیاری از داده هایی که در فضای وب موجود است توسط انسان ها تولید شده و نمایانگر علایق، سلایق و ویژگی های منحصر به فرد آن هاست. بسیاری از این پلتفرم ها از این داده ها استفاده می کنند و بازار و حتی مصرف کنندگان را هدایت می کنند. اتفاقی که الزاما با رعایت حریم خصوصی صورت نمی پذیرد. عرصه هوش مصنوعی چقدر به حفظ حریم شخصی افراد قائل است و ما چقدر می توانیم از این حریم حفاظت کنیم؟ چنین امری آیا امکان پذیر است؟
دکتر سعیده بابایی: مفهوم حریم خصوصی به عنوان یک ارزش اخلاقی، مفهومی پیچیده و سیال است و تأملات فلسفی، اخلاقی و حقوقی وسیعی پیرامون این مفهوم صورت گرفته و پروژه‌های تحقیقاتی متعددی در سراسر دنیا روی این موضوع تعریف شده است. نتایج حاصل از این تحقیقات، در قالب پیشنهادها و راهکارهای متنوعی در حوزه‌های تکنیکی، اخلاقی، سیاستی و … مطرح شده است که برخی از آن‌ها در حال حاضر در عمل در حال اجراست و در ادامه اشاره‌ای اجمالی به برخی از این نمونه‌ها خواهیم داشت.
از منظر اخلاقی و سیاستی، می‌توان به قانون GDPR اشاره کرد که حاصل تلاش چندساله اتحادیه اروپا برای حفاظت از حریم خصوصی و افزایش اعتماد افرادی است که از داده‌های مربوط به آنها استفاده می‌شود. رضایت آگاهانه یا مطلعانه کاربران از جمله قوانینی است که طبق آن، کاربران باید اطلاعات صریح و قابل دسترسی در این باره داشته باشند که چه داده‌هایی از آنها در حال جمع‌آوری است، چگونه از این داده‌ها استفاده می‌شود و این داده‌ها در اختیار چه کسانی قرار داده می‌شود. کاربران همچنین حق دارند بر داده‌های خود کنترل داشته باشند و بتوانند به داده‌های خود دسترسی داشته باشند، و هر زمان که مایل بودند، داده‌های خود را پاک کنند یا از یک پلتفرم جمع‌آوری داده انصراف دهند. قوانین و مقرراتی درباره مسئولیت اخلاقی شرکت‌ها یا افراد خاطی نیز باید تنظیم شود که این گروه‌ها دائماً در معرض نظارت و ارزیابی قرار بگیرند و در صورت تخلف از این قوانین، پاسخگوی سوءاستفاده‌های خود باشند و مورد اعمال قانون قرار بگیرند.
یکی از تکنیک‌هایی که برخی از شرکت‌ها شروع به اجرای آن کرده‌اند، کمینه کردن داده‌هاست به این معنا که صرفاً داده‌ها و اطلاعاتی جمع‌آوری، پردازش و نگهداری شوند که برای رسیدن به یک مقصود خاص، مثل آموزش یک مدل، ضروری هستند. استفاده از این دست تکنیک‌ها نباید موجب شود که کارایی سیستم تحت تأثیر زیادی قرار بگیرد. همچنین، تکنیک‌هایی نظیر گمنام‌سازی داده‌ها (حذف کردن اطلاعات شخصیِ قابل شناسایی) یا جایگزینی داده‌های حساس با داده‌های مستعار (Pseudonymization) به شرکت‌ها اجازه می‌دهد که بدون نسبت دادن داده‌ها به افراد مشخص، خطر مخدوش کردن حریم خصوصی را کمتر کنند. تجمیع داده‌ها (Data Aggregation) روش دیگری است که شرکت‌ها در آن به جای استفاده مستقیم از داده‌های فردی، داده‌ها را از منابع مختلف جمع‌آوری و ترکیب می‌کنند و به شکلی آماری الگوهایی را میان داده‌ها پیدا می‌کنند و از این نتایج برای تحلیل یا تصمیم‌گیری استفاده می‌کنند. بدین ترتیب، ردیابی داده‌ها و پیدا کردن کاربران با ویژگی‌های مشخص دشوارتر خواهد شد. علاوه بر این‌ها، تکنیک اضافه کردن نویز به مجموعه داده‌ها نیز می‌تواند مانعی برای شناسایی افراد شود.
همزمان با و در کنار اجرای این راهکارها، کاربران نیز باید دائما درباره حقوق خود و اهمیت حفاظت از حریم خصوصی‌شان و تبعات نامطلوب سوءاستفاده‌های بالقوه از داده‌هایشان آگاهی کسب کنند و آموزش داده شوند تا بتوانند کنترل بیشتری بر داده‌ها و اطلاعات خود به دست بگیرند. علاوه بر کاربران، مهندسان و شرکت‌های سازنده سیستم‌های هوش مصنوعی نیز باید آموزش‌هایی در رابطه با ابعاد و تبعات اخلاقی محصولات خود ببیند تا درباره تأثیرات اخلاقی و اجتماعی کار خود بر جامعه و انسان‌ها احساس مسئولیت بیشتری در آنها برانگیخته شود.

و در آخر، آیا آینده زمین با گسترش استفاده از هوش مصنوعی، خوشایند خواهد بود یا ترسناک؟ هوش مصنوعی تهدیدی برای حیات انسان است یا فرصت؟
دکتر سعیده بابایی: هر دو جواب به این سوال می‌تواند درست باشد؛ هوش مصنوعی هم تهدید است هم فرصت و آینده ما با آن هم می‌تواند ترسناک باشد و هم خوشایند. و خبر خوب این است که ما انسان‌ها هنوز در تعیین اینکه کدام پاسخ در عمل محقق شود، عاملیت داریم. هوش مصنوعی می‌تواند کمک‌های بسیاری در حوزه‌های مختلف از جمله تشخیص و درمان در پزشکی، شیوه‌های جدید و شخصی‌سازی‌شده آموزش، دسترسی ساده‌تر و سریع‌تر و هدفمندتر به اطلاعات، مدیریت پایدارتر انرژی، به عهده گرفتن برخی از امورات عادی روزمره و به طور کلی ارتقاء کیفیت زندگی از برخی جهات باشد. ولیکن، خام‌اندیشی است اگر گمان کنیم این تکنولوژی‌ها تأثیرات نامطلوب فرهنگی، اجتماعی، سیاسی در سطوح محلی و جهانی ندارند و نخواهند داشت و بشریت را صرفا در جهت «رشد و پیشرفت» پیش می‌برند. بالعکس، این تکنولوژی‌ها به دلیل قدرت و تأثیرات کم‌نظیری که دارند و سطوحی از خودمختاری که به آنها داده می‌شود، می‌توانند آسیب‌های عمیق و حتی جبران‌ناپذیری را برای افراد و جهان به همراه بیاورند.
نمونه‌هایی از نگرانی‌های مربوط به هوش مصنوعی در این نوشتار بیان شد. اما نگرانی‌های دیگری نیز درباره توسعه سیستم‌های هوش مصنوعی وجود دارد که توجه به آنها در حال حاضر، که هنوز امکان تغییر و تنظیم مسیر توسعه این تکنولوژی‌ها وجود دارد، بسیار حیاتی است. به عنوان نمونه، کاربرد هوش مصنوعی در حوزه نظامی، واگذاری سطوح بیشتری از تصمیم‌گیری‌های نظامی به این سیستم‌ها و کمینه کردن مداخلات انسانی می‌تواند مسئله شکاف مسئولیت را پررنگ‌تر کند. هوش مصنوعی با انسان‌زدایی از افراد نظامی و غیر نظامی، می‌تواند تصمیم به مرگ و زندگی افراد را به شکلی غیرمسئولانه‌تر رقم بزند و مقیاس آسیب‌ها و تلفات جنگی را به مراتب بیش از پیش کند.
کم شدن خودمختاری و عاملیت انسان‌ها و واگذاری تصمیم‌گیری‌ها و توصیه‌های متعدد به هوش مصنوعی می‌تواند تبعات مختلفی از جمله تضعیف برخی مهارت‌های جسمی، ذهنی و روانی بشر، تشدید کلیشه‌ها و باورهای متعصبانه افراد، اختلال در روند رشد جسمی و فکری کودکان و نوجوانان و … را نیز همراه داشته باشد. مخاطرات امنیتی نظیر حمله‌های سایبری، جعل‌های عمیق و انتشار اطلاعات نادرست نیز همچنان وجود دارند و تهدیدهایی جدی را پیش روی سیستم‌های مالی، زیرساخت‌های حیاتی و مهم، روابط اجتماعی، سلامت روان فرد و جامعه، و … قرار می‌دهند.
مسئله شکاف مسئولیت و پاسخگویی و غیرشفاف بودن روند تولید نتایج توسط سیستم‌های هوش مصنوعی ما را با چالش‌هایی در حوزه‌های مختلف پزشکی، نظامی، حمل و نقل و تخلفات رانندگی و … مواجه کرده است، در حالی که هنوز قوانین و مقررات کافی و متناسبی در سطوح ملی و بین‌المللی تدوین نشده تا به دقت از حقوق و وظایف افراد مختلف درگیر در این فرایندها صحبت کند و تغییرات و پیچیدگی‌های متعدد ایجادشده در شبکه‌های مسئولیت را شناسایی و تفسیر کند.
با این وجود٬ بشر هنوز فرصت این را دارد که با شتاب دادن به مطالعات و تحلیل‌های فلسفی، اخلاقی، روان‌شناختی، جامعه‌شناختی و حقوقی مخاطرات حال و آینده را شناسایی و پیش‌بینی کند و از مسیرها و با راهکارهای مختلف، گام‌هایی در جهت توسعه انسانی‌تر و اخلاقی‌تر هوش مصنوعی بردارد. من فکر می‌کنم جهان نیاز دارد که توسعه هوش مصنوعی را کمی آهسته‌تر، کنترل‌شده‌تر و حساب‌شده‌تر پیش ببرد تا فرصت بیشتری برای تأملات انسانی‌تر ذی‌نفعان مختلف فراهم شود.
آگاه‌سازی تولیدکنندگان و مصرف‌کنندگان این تکنولوژی‌ها از مخاطرات و آسیب‌های احتمالی توسعه افسارگسیخته هوش مصنوعی می‌تواند منجر به ایجاد احساس مسئولیت بیشتر در این گروه‌ها در نسبت با هوش مصنوعی شود و مانعی برای مقهور شدن همگان در برابر توانایی‌های خیره‌کننده این تکنولوژی‌ها به وجود آورد. شکی در قابلیت‌های منحصربفرد هوش مصنوعی نیست. اما احتیاط و آگاهی همه‌جانبه‌تر و آینده‌نگرانه‌تر از تأثیرات نامطلوب این تکنولوژی‌ها بر گروه‌های مختلف انسانی و بر طبیعت نیز می‌تواند در توسعه مسئولانه‌تر آنها مفید باشد.
احتیاط و آگاهی کاربران و عامه مردم، مهندسان، برنامه‌نویسان، طراحان، ایده‌پردازان، دانشمندان، مدیران شرکت‌های تکنولوژی، صاحبان استارتاپ‌ها، فلاسفه، اخلاقیون، روان‌شناسان، جامعه‌شناسان، حقوق‌دانان، آینده‌پژوهان، هنرمندان، سرمایه‌گذاران، تصمیم‌سازان، قانون‌گذاران، و سیاست‌گذاران. همه این گروه‌ها هم حق و هم وظیفه دارند که درباره آینده -نه‌چندان دور- جهان با هوش مصنوعی تأملات، تحقیقات و تحلیل‌هایی داشته باشد و از دریچه نگاه خود، در توسعه مسئولانه‌تر هوش مصنوعی ایفای نقش کنند.

فصلنــــامـــه ارغنــــون هامـــون (فروش اینترنتی)

ماهنـــــامـــــه نــامـــه هـامـــــون (فروش اینترنتی)

دوهـفتـــــــه نــامـه آوای هـــــامــــون (فروش اینترنتی)

انتـــــشــــــــارات هــــامـــــــون نـــــو (فروش اینترنتی)

نشستن در لژ مخصوص غول‌های ادبی؛ درباب منوچهر آتشی

درباره استاد غلامعباس توسلی؛ حافظه زنده جامعه شناسی

توسلی در سه بزنگاه تاریخی؛ یادداشتی از حمیدرضا جلائی‌پور

آکادمیسین مردم‌مدار؛ یادداشتی از حسین سراج زاده

هوش مصنوعی از زوایای گوناگون | گفت‌وگوی اختصاصی ارغنون هامون با دکتر سعیده بابایی

دیدگاهتان را بنویسید لغو پاسخ

اخبار مرتبط

دیدگاهتان را بنویسید لغو پاسخ