حریم شخصی و هوش مصنوعی | گفت‌وگوی اختصاصی ارغنون هامون با دکتر هاله عسگری نیا

حریم شخصی و هوش مصنوعی

گفت‌وگوی اختصاصی ارغنون هامون با دکتر هاله عسگری نیا

پسادکترا هوش مصنوعی در دانشگاه ماستریخت هلند

گفتگو از ایمان احمدی

اشاره: دکتر هاله عسگری نیا؛ در دوره دکترا به پژوهش پیرامون حریم شخصی و هوش مصنوعی پرداخته اند و هم اکنون مشغول سپری کردن دوره پسادکترا در دانشگاه ماستریخت (Maastricht university ) در هلند هستند.

حوزه ای پژوهشی در سال های اخیر در حال گسترش هست به نام اخلاق هوش مصنوعی. به گمانم پسندیده است اگر در آغاز کمی پیرامون این حوزه صحبت کنیم و پس از آن به طور مختصر به بررسی برخی دغدغه ها که در این حوزه مطرح شده بپردازیم .
دکتر هاله عسگری نیا: برای شروع لازم است که تمایز قایل شوم بین اخلاق هوش مصنوعی و اخلاق در هوش مصنوعی. اخلاق در هوش مصنوعی یعنی اینکه یک سری ارزشهای اخلاقی را در نظر بگیریم. و آن‌ها را در طراحی سیستم‌های هوش مصنوعی پیاده کنیم. ارزش هایی همچون حریم خصوصی، امنیت، خودمختاری و مانند اینها. از طرفی اخلاق هوش مصنوعی یعنی اینکه ببینیم سیستم‌های هوش مصنوعی یا سیستم‌هایی که مبتنی بر هوش مصنوعی هستند مثل یادگیری ماشین‌ها چه طور دارند ارزش‌های اخلاقی پذیرفته‌شده را تحت تاثیر قرار می‌دهند. منظورم از ارزش های اخلاقی آنهایی هستند که در تمامی جوامع انسانی پذیرفته شده‌اند. هرچند اینکه چه طور به آن‌ها ارزش می‌دهیم وابسته به قواعد اجتماعی و فرهنگی باشند ولی در هر صورت یک سری ارزشهای اخلاقی هستند که عموماً پذیرفته شده هستند. اخلاق هوش مصنوعی می‌آید بررسی می‌کند که این ارزش های اخلاقی با توسعه و استفاده از سیستم‌های هوش مصنوعی چه طور متاثر می‌شود. تأثرش هم می‌تواند ریسک باشد هم میزان تغییر ماهیتشان. به عنوان مثال در توسعه یک مدل ممکن است یک سری مخاطراتی برای خودمختاری وجود داشته باشد که معنی این ارزش یا مفهوم را تغییر بدهد. این موارد به طور کلی در محدوده اخلاق هوش مصنوعی در نظر گرفته می شوند که سندهای مختلفی وجود دارند که این ارزش‌ها را دسته‌بندی کرده و مورد مطالعه قرار داده‌اند ارزش ها عمدتاً شامل حریم خصوصی، امنیت، رفاه، عدالت، خودمختاری و سایر ارزش های اخلاقی مشابه است.

اگر مایل باشید کمی راجع به حریم خصوصی و اهمیت و جایگاهش در هوش مصنوعی صحبت کنیم.
دکتر هاله عسگری نیا: اجازه دهید کمی راجع به این لفظ حریم خصوصی یا حریم شخصی صحبت کنم. تمایل من این است که privacy را حریم شخصی ترجمه کنم. برای اینکه حریم شخصی نشان می‌دهد که در محیط‌های عمومی نیز می‌توان حریم شخصی داشت ولی اگر حریم خصوصی بگوییم شاید به این چالش بخوریم که در محیط های عمومی نتوان از privacy دفاع کرد. جایگاه حریم شخصی در هوش مصنوعی را این طور می‌توانم تعریف کنم. با تاکید بر اینکه سیستم‌های هوش مصنوعی مبتنی بر یادگیری ماشین هستند برای استفاده از این الگوریتم ها و آموزش آن‌ها نیاز داریم که داده‌های زیادی را جمع‌آوری کنیم. اگر این داده ها personal data یا داده‌های شخصی باشند و از آن‌ها در فرآیند آموزش استفاده شود و در نهایت یک مدل توسعه داده‌شده داشته باشیم چون داریم حریم شخصی خیلی اهمیت پیدا می‌کند. و اینجا حریم شخصی نه تنها در مرحله جمع‌آوری اطلاعات اهمیت پیدا می‌کند بلکه حتی بعد از آن وقتی که مدل توسعه داده شد نیز دارای اهمیت است و لازم است که مدل نسبت به حریم خصوصی بعد از توسعه هم حساس باشد. چرا که قرار است اطلاعات شخصی وارد مدل شود و در نهایت یک استنتاج یا پیشبینی انجام بگیرد. در واقع به طور کلی میتوانم بگویم که در مراحل مختلف توسعه‌ی مدل یا چرخه ی حیات مدل هوشمند، حریم خصوصی اهمیت دارد. از جمع‌آوری اطلاعات تا به اشتراک‌گذاری آن‌ها با بقیه stockholder ها یعنی کسانی که توسعه‌دهنده هستند و نیز در نهایت کسانی که قرار است از یک مدل استفاده کنند. در تمام این مراحل مادامی که با اطلاعات شخصی سروکار داریم حریم خصوصی اهمیت دارد و نسبت به تبادل این داده‌های شخصی حساس هستیم.

حریم خصوصی یا شخصی با دیگر ارزش های مطرح در اخلاق هوش مصنوعی چه نسبتی دارند؟
دکتر هاله عسگری نیا: اگر قرار باشد راجع به نسبت حریم شخصی با وجوه دیگر اخلاق هوش مصنوعی صحبت کنیم اینطور می‌توانم بگویم که بستگی دارد چه طورحریم شخصی را تعریف کنیم. بعد normative حریم شخصی یعنی بعد هنجاری حریم شخصی را چه طور تعریف کنیم. به این معنا که چه ارزش هایی را مرتبط می دانیم با حریم شخصی. به عنوان مثال خود‌مختاری یکی از ارزش هاییست که مرتبط(link) می‌شود به حریم شخصی و در تحقیقاتی که من در دوره دکترایم انجام دادم به این نتیجه رسیدم که اعتماد یا trust ارزش دیگریست که مرتبط می‌شود با حریم شخصی و پیش از اینکه ادامه دهم گفتنیست که ارزش حریم شخصی را می‌توان از دو بعد تعریف کرد. یکی بعد فردی که اگر من حریم شخصی داشته باشم خودمختارترم، آزادانه‌تر می توانم تصمیم بگیرم، رفتار کنم. که این در بعد فردی مرتبط می‌شود به خودمختاری. و در بعد اجتماعی مرتبط می‌شود به اعتماد (چیزی که من در تحقیقاتم به آن رسیدم) برای اینکه وقتی که من اطلاعاتم را با یک نفر به اشتراک می گذارم می توانم همچنان راجع به حریم شخصی صحبت کنم و این حریم شخصی در رابطه با آدم‌ها تعریف می‌شود. این رابطه با آدم‌هاست که تعریف می‌کند من چه حوزه ای رو میتوانم private در نظر بگیرم و مادامی که آن رابطه مبتنی بر اعتماد باشد ما می‌توانیم از privacy در یک بستر private صحبت کنیم. و این دو ارزش را می‌شود متصل کرد با حریم شخصی از بعد فردی و بعد اجتماعی. و از هر دو بعد می‌شود حریم شخصی را به رفاه well- being ارتباط داد. اگر من فضایی را داشته باشم که مصون باشد از مداخله افراد دیگر. حالا این فرد چه آشنای من باشد چه دولت باشد با هر سلسله مراتبی اگر کسی دخالت نداشته باشد در رفتار در من شاخص رفاه افزایش پیدا می‌کند. این‌ها مثال‌هایی بود از ارزش‌های با حریم شخصی.

اگر ما حریم شخصی را برای نهادی همچون نهاد دولت تعریف کنیم و آن وقت راجع به ارزشی همچون شفافیت صحبت کنیم. اینها چه طور با هم جمع می شوند؟ ما چه طور می‌توانیم سازوکاری داشته باشیم که این تقابل‌ها را مدیریت کند؟
دکتر هاله عسگری نیا: در مورد تعارضی که ممکن است به وجود بیاید بین privacy و سایر ارزش‌ها، خوب است اینطور ببینیم privacy یک بعد هنجاری دارد و یک بعد توصیفی و کاهش privacy در بعد توصیفی اتفاق می‌افتد و این لزوما به معنای نقض حریم شخصی در بعد هنجاری نیست و اگر که ما یک توجیه اخلاقی داشته باشیم و بتوانیم مبنای اخلاقی بیاوریم که چرا حریم شخصی کاهش پیدا کرده بعد می‌توانیم به این نتیجه برسیم که حریم شخصی نقض نشده است. به این ترتیب شاید بشود این تعارض‌ها را حل کرد. مثلا می‌دانیم که حریم شخصی کاهش پیدا می‌کند اما از لحاظ اخلاقی توجیه‌پذیر هست. بنابراین ما نمی‌گوییم نقض حریم شخصی اتفاق افتاده است. در مورد دولت هم اگر عمومی‌تر ببینیم و مثلا دولت را یک گروه در نظر بگیریم شاید بشود بهتر صحبت کرد. اطلاعاتی که در یک گروه باشند دیگر اطلاعاتی شخصی نیستند یک سری اطلاعاتند که به اشتراک گذاشته‌شده‌اند بین افرادی که در آن گروه هستند و اشتراک آن اطلاعات می‌تواند تصمیمی باشد که در سطح گروه گرفته شده و باید مخاطرات group privacy بررسی بشود و ببینیم که آیا مخاطرات برای کل جامعه است یا برای خود گروه. مزایا و مضرات را بررسی کنیم ببینیم که کدام کفه سنگین تر است و لازم است group privacy کاهش پیدا کند یا خیر.

در همین شرایط اولویت ها چه طور بررسی می‌شوند؟ و ما چه طور می‌توانیم تعارض منافع را رعایت کنیم؟
دکتر هاله عسگری نیا: بستگی به حوزه و زمینه دارد. مثلا در زمینه بهداشت حریم شخصی مهمتر از شفافیت است. در مورد تعارض هم به نظرم خوب است که کمی راجع به GDPR صحبت کنیم General Data Protection Regulation مجموعه‌ای از قوانین که از سال ۲۰۱۸ تمامی شرکت‌هایی که با personal information کار دارند در اروپا باید این قوانین را اعمال کنند. که میزانش البته به اندازه شرکت نیز بستگی دارد. در این GDPR دسته‌ای از حقوق برای کسی که اطلاعاتش دارد به اشتراک گذاشته می‌شود و نیز اطلاعاتش دارد جمع‌آوری می‌شود در نظر گرفته شده است. و برای اینکه بتوانند آن حقوق را تا جای ممکن به فرد بدهند و در عین حال از اطلاعاتش حفاظت شود و حریم شخصیش حفظ بشود می آیند personal information را تبدیل می‌کنند به اطلاعاتی که دیگر شخصی نیست. یعنی چه؟ یعنی مثلا ما در تعریف اطلاعاتی شخصی می‌گوییم اگر اطلاعاتی باشد که به فرد مرتبط بشود یا قابلیت این را داشته باشد که به فرد لینک و مرتبط بشود. در این حالت اگر آن لینک برداشته شود (مثلا با استفاده از نام‌های مستعار) آن اطلاعات دیگر personal information نیست و در حوزه حریم شخصی در نظر گرفته نمی‌شود و این راهیست که در مواقع جمع‌آوری اطلاعات آن لینک را حذف کنیم و به فرد خاصی مرتبط نشود.

فصلنــــامـــه ارغنــــون هامـــون (فروش اینترنتی)

ماهنـــــامـــــه نــامـــه هـامـــــون (فروش اینترنتی)

دوهـفتـــــــه نــامـه آوای هـــــامــــون (فروش اینترنتی)

انتـــــشــــــــارات هــــامـــــــون نـــــو (فروش اینترنتی)

نشستن در لژ مخصوص غول‌های ادبی؛ درباب منوچهر آتشی

درباره استاد غلامعباس توسلی؛ حافظه زنده جامعه شناسی

توسلی در سه بزنگاه تاریخی؛ یادداشتی از حمیدرضا جلائی‌پور

آکادمیسین مردم‌مدار؛ یادداشتی از حسین سراج زاده

حریم شخصی و هوش مصنوعی | گفت‌وگوی اختصاصی ارغنون هامون با دکتر هاله عسگری نیا

دیدگاهتان را بنویسید لغو پاسخ

اخبار مرتبط

دیدگاهتان را بنویسید لغو پاسخ