خطر پیش بینی‌های خطرناک

امروز توی خبرها خوندم که پلیس دبی به نرم افزار پیش بینی جرم مجهز شده و قرار هست از اون به صورت عملیاتی استفاده کنه. البته دبی اولین شهری نیست که از این نرم افزار استفاده می‌کنه. و این نرم افزار توی چند شهر آمریکا هم توسط پلیس استفاده میشه.

روش کار این نرم افزار بر اساس تحلیل داده و یک الگوریتم یادگیری ماشین (machine learning) هست. البته تا اونجایی که من خوندم این نرم افزار دقیقا مشخص نمیکنه که چه جرمی اتفاق میوفته، بلکه محل و محدوده احتمال وقوع جرم رو پیش بینی میکنه. و پلیس با توجه به این موضوع تعداد نیروها رو در مناطق خطرناک یا پیش بینی شده افزایش میده.

وقتی داشتم خبر رو میخوندم یا فیلم Minority Report افتادم. داستان فیلم در آینده نه چندان دور در سال ۲۰۵۴ اتفاق می‌افته (حدود ۳۸ سال دیگه). پلیس با استفاده از یک سیستم که بر پایه سه انسان خاص بنا شده. جرایم رو قبل از اینکه اتفاق بیوفته پیش گویی میکنه و مجرم بلقوه رو قبل از اینکه جرم رو انجام بده دستگیر و محکوم میکنه. باقی داستان رو تعریف نمیکنم تا اگر دوست داشتید نگاه کنید. چیزهایی که جناب اسپیلبرگ در این فیلم به تصویر کشیده الان هم زیاد دور انتظار نیست. در داستان فیلم دیگه کیف پولی وجود نداره و شما فقط با نگاه کردن به دوربین‌های امنیتی که عنبیه چشم رو از فاصله خیلی دور اسکن میکنن پرداخت‌های خودتون رو انجام میدید. و خوب همون طوری که حدس میزنید این فقط پرداخت نیست که ثبت میشه. بلکه همه حرکات شما و کجا رفتید با کی بودید هم ثبت میشه.

در حال حاضر با توجه به گستردگی استفاده ما از شبکه‌های اجتماعی و دوربین‌های نظارتی و همچنین گسترش شتابدار هوش مصنوعی و چیزهایی مثل یادگیری ماشین دیگه نیازی به اون ۳ انسان خاص نیست، ممکنه در آینده‌ای نه چندان دور حتی زودتر از ۳۸ سال، پیش بینی فیلم درست از آب در بیاد. اما بیایید کمی تاریکتر نگاه کنیم.

نه، من چیزی مثل ماتریکس یا ترمیناتور رو نمیگم بلکه اگر افرادی (هکرهای بد) به این سیستم نفوذ کنن و اون رو تغییر بدن چی؟ اگر نیروهای پلیس همه حرکت‌ها و توان خودشون رو بر اساس این سیستم تنظیم کنن ممکنه یک نفر با دستکاری در سیستم خطرات بدتری رو به وجود بیاره. یا اصلا ممکنه سیستم اشتباه کنه. اگر اتفاقی که برای ربات توییتری مایکروسافت افتاد در ابعاد پیش رفته، برای نرم افزار پیش بینی جرم اتفاق بیوفته ممکنه فاجعه به بار بیاد و کار فقط با خاموش کردن اون تمام نشه.

ممکنه بعد از مدتی کلا پلیسها به اصطلاح شم پلیسی خودشون رو از دست بدن و متکی بشن به این سیستم و اگر به هردلیلی این سیستم خاموش بشه با یک سری افراد بیخاصیت روبرو هستیم. مشابه اتفاقی که دفتر تلفن گوشی زپرتی من با حافظه من کرد. قبلا حداقل ۳۰ – ۴۰ شماره تلفن حفظ بودم. اما الان حتی گاهی شماره خودم رو هم فراموش می‌کنم. یا وابسته شدن به سیستمی‌هایی مثل lastpass

کلا داریم به خطا میریم. خدا (و یا هرچیزی که بهش اعتقاد دارید) کمکمون کنه.

3 comments on “خطر پیش بینی‌های خطرناک

  1. آرتا on

    پست شما رو خوندم راستش از یه چیز علمی یهو رفت به سمت دعا :دی
    ولی این موضوع جرم شناسی و پیش بینی و اصلا کشف ارتباطات نا سالم اخیرا برای من خیلی جالب شده…مثلا دوتا تروریست اگه بخوان باهم چت کنن و در مورد مثلا بمب گذاری در یه مرکز تجاری مثل یه پاساژ شلوغ باهم هماهنگی کنن اینا به هم چی میگن؟ من احتمال میدم به هیچ وجه به بمب اشاره نمیشه احتمالا باید با یه چیز به ظاهرا بی ربط بهم صبحت هاشون پیش ببرن…شاید با تحلیل صحبت های مردم عادی بررسی اون نمونه چت ها بشه پیش بینی کرد که این چت طبیعی نیست و بعد روش زوم کرد…کلا این مسائل امنیت ملی چیزهای بسیار جالبی هستن…امیدوارم روزی مرز مشخصی میان امنیت ملی و امنیت کاربران پیدا شه ( آخر بحثم منم دعا کردم :دی )‌
    موفق باشید.

    پاسخ
    • پیام صادری on

      راستش بشر همیشه وقتی از نظر علمی کم آورده زده توی جاده نیروهای ماورائی. ظاهرا من و شما هم از این قاعده مستثنا نیستیم :)))))))

      پاسخ
  2. احسان on

    در مورد پسوردها: یه نفر توی روستامونه همه‌ی شماره تلفن ثابت‌های روستارو حفظه! بعد ما …
    تعداد شماره ها خیلی زیاده اینم بگم جمعیت بالاست:)

    پاسخ

پاسخ دهید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *