چهره ترسناک فناوری/ از هوش مصنوعی افسار گسیخته بترسید!

اغلب در فیلم‌های هالیوودی، سناریو‌های گوناگونی به نمایش گذاشته می‌شود که طی آن روبات‌ها دست به کار‌های وحشتناکی می‌زنند. عده‌ای از تحلیل‌گران معتقدند آنچه در فیلم‌ها نمایش داده می‌شود تقریباً همیشه اغراق‌آمیز است.

با این حال همزمان گزارش‌های نگران‌کننده در مورد هوش مصنوعی منتشر می‌شود که نگرانی‌های زیادی را برانگیخته و شمار آن به دلیل رشد کیفی این فناوری روزافزون است. در ادامه مروری بر دوازده تهدید اصلی هوش مصنوعی خواهیم داشت.

۱. عدم شفافیت

بسیاری از سیستم‌های هوش مصنوعی براساس شبکه‌های عصبی کار می‌کنند. در این سیستم‌ها، شبکه‌ای از عصب‌های مصنوعی به هم پیوسته وجود دارند که به سختی می‌توان «انگیزه» آن‌ها را برای تصمیم‌گیری کشف کرد و شما فقط ورودی و خروجی را می‌بینید. چنین سیستم‌هایی خیلی پیچیده هستند. با این وجود در مواردی که تصمیمات نظامی یا پزشکی در کار باشد حیاتی است که بتوان داده‌های خاصی را که منجر به تصمیمات خاص شده‌اند، جست‌وجو کرد. اما در این سیستم‌ها مشخص نیست چه مسئله یا استدلالی منجر به خروجی شد یا از چه داده‌هایی برای آموزش مدل استفاده شده است.

۲. الگوریتم‌های تبعیض‌آمیز

وقتی مجموعه داده‌های الگوریتم خود را با ورودی‌های «جهت‌دار» تغذیه کنیم، سیستم منطقی نیز این سؤگیری‌های ما را تأیید و دنبال می‌کند. در حال حاضر سیستم‌های بسیاری وجود دارد که به اقلیت‌های قومی در قیاس با سفیدپوستان ضربه می‌زند، زیرا سیستم‌ها با داده‌های تبعیض‌آمیز تغذیه شده‌اند و خروجی در مورد آن‌ها براساس داده‌های ناقص تولید می‌شود. به طور خلاصه ما مجبور خواهیم بود بیش از حد به خروجی سیستم‌های هوشمند که الگوریتم‌ها و داده‌های آن برای‌مان نامشخص است اعتماد کنیم.

۳. مسئولیت اعمال

جنبه‌های حقوقی سیستم‌هایی که به طور فزاینده‌ای هوشمند می‌شوند و مدیریت را برعهده می‌گیرند مشخص نیست. خطا‌های سیستم AI برعهده چه کسی است؟ آیا می‌توانیم در مورد آن‌ها مانند انسان‌ها قضاوت کنیم؟ چه کسی مسئول سناریویی که در آن سیستم‌ها دچار یک خطای مهلک می‌شوند؟ ابهامات در مورد مسئولیت‌پذیری یکی از نگرانی‌های آتی سیستم‌های هوش مصنوعی است و از این بابت نمی‌توان به آن‌ها تکیه کرد. آیا باید شرکتی را در قبال الگوریتم هوش مصنوعی‌اش مسئول دانست؟

۴. اختیار بسیار بزرگ

هرچه بیشتر با سیستم‌های هوشمند سروکار داریم، با دامنه بیشتری از اختیارات ماشین مواجه خواهیم شد. اطلاعاتی که دستیار‌های مجازی هوشمندمان در مورد ما دارند از نزدیک‌ترین افراد زندگی‌مان بیشتر است. آن‌ها مجاز به تصمیم‌گیری برای ما نیستند؟ در نهایت آیا خودمختاری سیستم‌های هوشمند را بیش از پیش گسترش می‌دهیم یا باید به هر قیمتی کنترل آن را حفظ کنیم؟ چه چیز‌هایی را مجاز نمی‌دانیم که سیستم‌های هوشمند بدون دخالت انسان تعیین و پیاده‌سازی کنند؟

۵. حریم خصوصی بسیار کم است

ما روزانه ۲.۵ کوینتیلیون بایت داده ایجاد می‌کنیم. از کل داده‌های دیجیتال در جهان، ۹۰ درصد فقط در چند سال گذشته ایجاد شده است. یک شرکت برای عملکرد مناسب سیستم‌های هوشمند خود به مقدار قابل توجهی از داده‌های خالص نیاز دارد. به عنوان مثال شرکت‌ها نمایه‌ای کاملاً واضح‌تر از ما را با دقت بیشتری در بانک اطلاعاتی خود ایجاد می‌کنند. نتیجه این است که حریم خصوصی ما از بین می‌رود. حتی اگر بکوشیم از حریم خصوصی شخصی خود محافظت کنیم، شرکت‌ها به سادگی از گروه‌های هدف مشابه (از میان بستگان، دوستان و خویشاوندان ما) استفاده خواهند کرد. افرادی که بسیار شبیه ما هستند و از طریق‌شان داده‌های ما به دست آن شرکت‌ها خواهد رسید.

۶. شرکت‌های بزرگ فناوری نفوذ زیادی دارند

شرکت‌های بزرگ فناوری یعنی فیسبوک، مایکروسافت، گوگل، اپل، علی‌بابا، تنسنت، بایدو و آمازون درصد قابل توجهی از سهام بازار را از آن خود کرده‌اند. این هشت شرکت فناوری چنان توانایی مالی، داده‌ای و ارتباطی بالایی دارند که می‌توانند تقریباً هر کاری را در حوزه فناوری اطلاعات انجام دهند. اینکه این میزان قدرت تنها در دست چند شرکت خصوصی است و ما‌ها پیش از استفاده از سرویس‌هایشان چشم‌بسته توافقنامه سرویس را امضا می‌کنیم، نگران‌کننده است.

۷. ابر هوش مصنوعی

ابر هوش مصنوعی، نوعی سیستم هوشمند است که هنوز ساخته نشده است، اما پیش‌بینی می‌شود که قادر است بدون دخالت انسان به انواع مهارت‌ها دست یابد و خود را با موقعیت‌های ناشناخته و جدید وفق دهد. پیاده‌سازی چنین سیستمی می‌تواند بسیار نگران‌کننده باشد و چیزی که بسیاری از افراد و عوام را می‌ترساند توسعه چنین سیستمی است.

۸. تأثیر بر بازار کار

هوش مصنوعی در سال‌های آینده فشار بر بازار کار را تشدید خواهد کرد. افزایش سریع کیفیت هوش مصنوعی تضمین کرده است که سیستم‌های هوشمند در انجام کار‌های خاص ماهرتر از انسان عمل می‌کنند. شناخت الگو‌ها در حجم گسترده‌ای از داده‌ها، ارائه بینش خاص و انجام وظایف شناختی توسط سیستم‌های هوشمند AI انجام می‌شود. به طور خلاصه، سازگاری با محیط کار به سرعت در حال تغییر است و در سال‌های آتی افراد بسیاری بیکار خواهند شد.

۹. سلاح‌های خودمختار

صرف نظر از اینکه جنگجویان خودکار که براساس هوش خود عمل می‌کنند می‌توانند وحشتناک باشند، اما این فقط تجهیزات نظامی واقعی نیست که تهدیدآمیز است. با توجه به اینکه فناوری روزبه‌روز آسان‌تر، ارزان‌تر و کاربرپسندتر می‌شود و به سادگی در دسترس همه قرار خواهد گرفت این مسئله همچنین کار را برای افرادی که قصد آسیب رساندن دارند نیز آسان می‌کند. افراد امروزه می‌توانند شخصاً هواپیمای بدون سرنشین با کیفیت بالا را با دوربین فیلمبرداری خریداری کنند. نرم‌افزار تشخیص چهره با هوش مصنوعی همین حالا در دسترس است و تعقیب افراد بسیار آسان است.

۱۰. همه چیز غیر قابل اعتماد می‌شود از اخبار جعلی گرفته تا حباب‌های فیلتر

سیستم‌های هوشمند به طور فزاینده‌ای قادر به ایجاد محتوا هستند آن‌ها می‌توانند چهره ایجاد کنند، متن بسازند، توئیت تولید کنند تصاویر را دستکاری کنند، صدا‌ها را شبیه‌سازی کنند و به تبلیغات هوشمند بپردازند. به عبارت دیگر سیستم‌های هوش مصنوعی می‌توانند زمستان را به تابستان و روز را به شب تبدیل کنند. آن‌ها قادرند چهره‌هایی واقعی کامپیوتر از افرادی که هرگز وجود نداشته‌اند ایجاد کنند.

نرم افزار منبع باز جعل عمیق (deepfake) قادر است تصاویر افراد را جعل کند. تصور کنید این سیستم دست یک فرد شرور بیفتد. آن‌ها با تلاش کمی قادرند اخاذی کنند. این امر می‌تواند افراد را در حال انجام اموری نشان دهد که هرگز مرتکب آن نشده‌اند.

۱۱. الگوریتم‌های هک کردن

سیستم‌های هوش مصنوعی روز به روز هوشمندتر می‌شوند و دیری نمی‌گذرد که قادر خواهند بود بدافزار‌ها و باج افزار‌ها را با سرعت زیاد و در مقیاس گسترده توزیع کنند. علاوه بر این، آن‌ها به طور فزاینده‌ای در سیستم‌های هک و رمزگذاری و امنیت مهارت دارند. اگر از همین حالا توجه کافی به این موضوع نشود، ممکن است عواقب وخیمی را در پی داشته باشد. به عنوان مثال، اتومبیل خودران را می‌توان نرم‌افزاری روی چهار چرخ تعریف کرد. از آنجایی که این سیستم به اینترنت متصل است اگر هک شود احتمالاً خسارات مالی و جانی در پی خواهد داشت.

۱۲. از دست دادن مهارت‌ها

مهارت‌های انسانی به دلیل استفاده از کامپیوتر و تلفن‌های هوشمند، روزبه‌روز اهمیت خود را از دست می‌دهند. ما در زندگی روزمره مهارت‌های کمتری را می‌آموزیم. دیگر نیاز نیست بیش از یک زبان بلد باشید، نیاز نیست کار با برنامه میکس ویدئو را یاد بگیرید، نیاز نیست کار با بورس را یاد بگیرید، نیاز ندارید ویراستاری را بیاموزید و... در نهایت هوش مصنوعی از ما افرادی نادان خواهد ساخت که بدون توسل به کامپیوتر هیچ کاری نمی‌توانیم انجام دهیم.

منبع:آنا