از این قابلیت جیمیل استفاده نکنید / خطر هک شدن
شرکتهای بزرگ فناوری از هوش مصنوعی بهعنوان ابزاری همهکاره یاد میکنند که میتواند کارهای خستهکننده را برای کاربران انجام دهد؛ از جمله خواندن ایمیلهای طولانی. اما پژوهش جدیدی نشان داده همین ابزار میتواند راهی برای فریب کاربران و سرقت اطلاعات حساس آنها باشد.
به گزارش خبرآنلاین، به نقل از زومیت، یک پژوهشگر امنیت سایبری آسیبپذیریای را در سرویس ورکاسپیس گوگل کشف کرده که به مهاجمان اجازه میدهد از جمنای برای نمایش دستورات جعلی و گمراهکننده استفاده کنند.
آسیبپذیری مذکور به برنامهی گزارش آسیبپذیری 0din بنیاد موزیلا ارسال شده و نشان میدهد چطور میتوان با درج پیامهای پنهان در بدنهی ایمیل (مثلاً با فونت نامرئی)، سیستم خلاصهسازی جیمیل را فریب داد.
جمنای این پیامها را بهعنوان دستور تفسیر میکند و آنها را در بخش خلاصهی پیامها در جیمیل بهنمایش میگذارد، بدون آنکه کاربر متوجه شود این هشدارها ساختگیاند.
بهگفتهی پژوهشگر blurrylogic، چنین پیامهایی میتوانند کاربران را ترغیب به افشای اطلاعات حساس کنند و زمینه را برای مهندسی اجتماعی و سرقت اطلاعات فراهم سازند.
پس از انتشار گزارش، گوگل اعلام کرد برای مقابله با این مشکل، مدلهای هوش مصنوعی خود را بهروزرسانی کرده و فهرست پیامهای مخرب را گسترش داده است. این شرکت میگوید جمنای لینکهای مشکوک را شناسایی و از خلاصهی ایمیل حذف میکند و برای اقدامات حساس مانند حذف وظایف، درخواست تأیید کاربر را نمایش میدهد.
با وجود این اقدامات، باید در نظر داشت که مهاجمان اغلب یک قدم جلوتر هستند. بنابراین بهتر است کاربران بدون بررسی و اطمینان، به هیچیک از پیامهایی که از سوی جمنای برای کلیککردن روی لینک یا تماس با شخص خاصی نمایش داده میشوند، اعتماد نکنند.
۵۸۵۸
