دیپ فیک تیغ برنده مجرمان سایبری در آینده - مجله سلو بلاگ

اما بیشترین خطرات این فناوری پرکاربرد در سال های آینده کدام هستند؟

بررسی خطرات هوش مصنوعی با 4شاخص

پس از ارائه گزارش دانشمندان یک دانشگاه تحقیقاتی واقع در لندن با نام University College London)UCL) و هشدار آنها درباره خطرات بالقوه هوش مصنوعی در آینده، یک نشست دو روزه با حضور 31 متخصص حوزه هوش مصنوعی برگزار گشت تا مخاطرات این فناوری در 15سال آینده مورد بحث و بررسی قرار بگیرد. هرچند ابتدا قرار بود برخی از دانشجویان و علاقه مندان به این حوزه نیز در این نشست حضور داشته باشند ولی به دلیل شیوع کرونا این موضوع عملی نشد و این نشست با جمعیتی کمتر از حد انتظار برپا شد. در مقابل، تعداد بیشتری از علاقه مندان پیروز شدند بحث و گفت و گوهای این نشست را در فضای مجازی و به صورت آنلاین مشاهده کنند.

در این نشست از اقشار دانشگاهی، بخش خصوصی، پلیس، دولت و آژانس های امنیتی دولتی حضور داشتند و شرکت کننده ها بر اساس چهار شاخص، نگرانی های خود از هوش مصنوعی در آینده را دسته بندی کردند. یکی از این شاخص ها میزان زیانی است که هوش مصنوعی می تواند ایجاد کند. پتانسیل هوش مصنوعی برای سوء استفاده مجرمان و اینکه هوش مصنوعی چقدر می تواند انجام یک جرم را آسان تر کند از دیگر شاخص هایی بودند که در این نشست مورد بررسی قرار گرفت. یکی دیگر از شاخص ها هم این بود که توقف جرم اجرا شده با کمک هوش مصنوعی تا چه حد برای پلیس و... سخت خواهد بود. آنچه همه این متخصصان متفق القول بر آن تأکید داشتند این بود که اگر از هوش مصنوعی استفاده درستی نشود می تواند به روش های گوناگون به جامعه آسیب برساند. به گفته این گروه، تهدیدات هوش مصنوعی از بی اعتبار کردن چهره های خاص سیاسی و معروف گرفته تا تأثیرگذاری بر افکار عمومی و اخاذی وجوه با جعل بستگان شخص در یک تماس ویدئویی و... را شامل می شود بنابراین باید برای مقابله با این خطرات آماده شویم.

شرکت کنندگان در این نشست، بیشتر مسائل را ناشی از توسعه و تکرار استفاده از هوش مصنوعی برای موارد خلاف می دانند. به عنوان مثال متیو کالدول یکی از شرکت کنندگان در این نشست گفت: در محیط آنلاین که دیتا یک ثروت به شمار می رود و اطلاعات، قدرت است مجرمان سایبری وسوسه می شوند تا از قابلیت های هوش مصنوعی که این روزها بسیار مورد توجه قرار گرفته سوء استفاده کنند. این متخصص حوزه سایبری ادامه داد: برخلاف بسکمک از جرایم سنتی، جرایم دیجیتال بارها به اشتراک گذاشته شده، تکرار می شوند و حتی در برخی موارد دستاوردهای ناشی از این اعمال مجرمانه به فروش می رسد. اگر این مجرمان که از هوش مصنوعی سوء استفاده می کنند حمله های خود را با هک های DoS پیوند بزنند بی شک می توانند مسائل بیشتری ایجاد کنند.

پروفسور شان جانسون یکی دیگر از افراد حاضر در این نشست نیز گفت: ما در دنیایی زندگی می کنیم که هر تغییری فرصت هایی جدید می سازد که این فرصت ها می توانند خوب یا بد باشند. بنابراین با علم به خطرات و تهدیدهای سایبری باید سیاستمداران، آژانس های امنیت و... تلاش کنند تا مقابل این اتفاقات بایستند و همیشه یک گام از مجرمان جلوتر باشند. این نخستین نشست با موضوع تهدیدهای آینده تکنولوژی های نوظهور به شمار می رود و به نظر می رسد باید چنین نشست هایی در زمینه سایر فناوری ها نیز برپا شود تا بتوان با ابزاری قویتر به مقابله با مجرمان سایبری پرداخت.

خطرسازی هوش مصنوعی

نخستین موضوعی که در این نشست مورد بررسی قرار گرفت خطرات بالای هوش مصنوعی در آینده بود که در رأس آنها فناوری دیپ فیک (Deep Fake) واقع شده است. از نگاه فعالان حوزه هوش مصنوعی، دیپ فیک ها این توانایی را دارند که اخبار را نیز تحت تأثیر قرار دهند و به راحتی یک خبر جعلی را در کوتاه ترین زمان ممکن به دست مردم برسانند. با وایرال شدن یک ویدئوی دستکاری شده، به زحمت می توان برای کاربرانی که با سرعت درحال دست به دست کردن این ویدئوهای تقلبی هستند یادآور شد که موضوع چیز دیگری است و این ویدئو اصلی نیست. دیپ فیک همچنین می تواند دموکراسی را در برخی کشورها مورد حمله قرار دهد به عنوان مثال در امریکا سخنرانی دستکاری شده نانسی پلوسی رئیس مجلس کنندگان امریکا با فناوری دیپ فیک در سال گذشته، بیش از 2.5میلیون بازدید در فیس بوک داشت و این موضوع نگرانی های زیادی را ایجاد کرد.مقابله با دیپ فیک برای امریکا که اکنون در آستانه انتخابات 2020 قرار گرفته بشدت حیاتی است چراکه این فناوری می تواند به راحتی در نتیجه انتخابات تأثیرگذار باشد.

مؤسسه تحقیقاتی Future Advocacy در بریتانیا نیز در این نشست نمونه هایی از دیپ فیک ها در فضای سیاسی کشورهای مختلف را به عنوان نمونه ارائه کرد. هرچند برخی ویدئوهای دیپ فیک که به طور مشابه از هوش مصنوعی برای ایجاد فیلم های جعلی استفاده کرده بودند هیچ خطری متوجه جامعه نمی کردند اما نشان از پتانسیل دیپ فیک، برای تأثیرگذاری در دنیای سیاست و ایجاد تغییراتی ناخواسته دارند.با اینکه اکنون با کمک برخی الگوریتم ها می توان دیپ فیک های آنلاین را تشخیص داد ولی همچنان راه های بسکمک برای انتشار این ویدئوهای دستکاری شده وجود دارد که این موضوع می تواند سبب بی اعتمادی مردم به محتواهای صوتی و تصویری شود.

یکی دیگر از مواردی که در رده خطرهای بالای هوش مصنوعی قرار می گیرد، خودروهای خودران هستند. دراین نشست عنوان شد امکان دارد در آینده از این خودروهای بدون سرنشین به عنوان مکانیسمی برای حمل و انتقال مواد منفجره و اسلحه استفاده شود حتی برخی معتقدند شاید تروریست ها در حملات انتحاری از این خودروها کمک بگیرند. از دیگر موارد خطرناک استفاده از هوش مصنوعی می توان به فیشینگ های سازماندهی شده با استفاده از قابلیت فناوری هوش مصنوعی اشاره کرد که می تواند هم نشت اطلاعاتی بسیار گسترده ای به همراه داشته باشد و هم به سیستم های بانکی ضرباتی جبران ناپذیر وارد کند.

ایجاد اختلال عمدی در سیستم های هوش مصنوعی نیز یکی از بزرگترین خطرات این فناوری به شمار می رود چرا که این اختلال می تواند بسته به توان فرد یا گروه ایجاد کننده این اختلال، دردسرها و خسارات جدی ایجاد کند. یکی از مواردی که بسکمک از فعالان حوزه فناوری به آن اشاره دارند روبات های قاتل هستند. این افراد معتقدند در آینده امکان دارد افرادی که صلاحیت لازم را ندارند هوش مصنوعی به کار رفته در روبات ها را تحت کنترل خود درآورند تا این روبات ها عملاً همه خواسته هایشان را عملی کنند. لزوماً همه این خواسته ها اخلاقی نیستند و گاه می توانند دردسر زیادی برای یک جامعه ایجاد کنند. باج خواهی ها و اخاذی های گسترده نیز بخشی دیگر از نگرانی های عمده ناشی از سوء استفاده از هوش مصنوعی در آینده بود که در این نشست مطرح شد.

سلامت، در تیررس مجرمان سایبری

شرکت کنندگان در این نشست به نگرانی های خود در زمینه خطرات میانی خود در زمینه توسعه هوش مصنوعی نیز اشاره کردند. کلاهبرداری و فروش سرویس ها و محصولات با سوء استفاده از عنوان هوش مصنوعی و همچنین تبلیغات هدفدار، در این دسته از نگرانی های متخصصان حوزه هوش مصنوعی جای می گیرد. این نگرانی ها وقتی بیشتر می شود که پای سلامت مردم در میان باشد. سوء استفاده از هوش مصنوعی در زمینه سلامت و کلاهبرداری هایی که در تبلیغات و... با کمک هوش مصنوعی انجام می گیرد در این دسته جای می گیرند. یکی از نمونه های آن هم تبلیغات دارو از زبان پزشکان با سوء استفاده از فناوری هوش مصنوعی و در قالب دیپ فیک است که می تواند بسیار دردساز و نگران کننده باشد.

بخشی دیگری از این نگرانی ها سوء استفاده از روبات های نظامی و همچنین ساماندهی حملات پهپادی با سوء استفاده از هوش مصنوعی است. در این نشست فعالان حوزه هوش مصنوعی سوء استفاده از فناوری تشخیص چهره در حکومت های سرکوبگر، دستکاری در بازار سهام و سرمایه و ایجاد مسائل مالی عمدی گسترده در بازار یک کشور را از دیگر موارد نگرانی خود در صورت سوء استفاده از هوش مصنوعی در آینده عنوان کردند.

محققان در این نشست به خطراتی با شدت کمتر سوء استفاده از هوش مصنوعی نیز اشاره داشتند. افراد شرکت کننده در این نشست یکی از نگرانی های این دسته از خطرات را روبات های سارق دانستند که زمینه ساز حمله به محتواهای هنری و موسیقی و سرقت آنها و ایجاد هنر جعلی(fake art) می شود. هرچند هنرمندان نسبت به این موضوع نگران هستند اما محققان امکان بروز این حملات با استفاده از هوش مصنوعی را کمتر می دانند و آن را در دسته کم خطرترین ها رده بندی کردند. سوء استفاده از دستیارهای هوش مصنوعی نیز یکی دیگر از مواردی است که محققان در این دسته از آن نام می برند.

khaneh-jok-sms.ir: جملات زیبا و دلنشین جدید | جملات آموزنده و زیبا | جملات زیبا از بزرگان را اینجا بخوانید

discountbook.ir: کتاب ارزان | مجله کتابخوانی، بیاید آگاهتر باشیم