بهار ۱۴۰۵ (۲۰۲۶) در حالی رو به پایان است که سه رویداد همزمان، دوگانگی عمیق هوش مصنوعی در عرصهٔ امنیت و اخلاق را به تصویر میکشند: از یک سو، OpenAI با پلیس کانادا برای شناسایی زودهنگام مجرمان خطرناک وارد همکاری شده است — اقدامی که مرز جدیدی در «پلیس پیشبیننده» (Predictive Policing) مبتنی بر هوش مصنوعی میگشاید. از سوی دیگر، هکرها و مهاجمان سایبری اکنون بهطور سیستماتیک از هوش مصنوعی برای «تسلیح آسیبپذیریهای امنیتی» و خودکارسازی حملات استفاده میکنند. در میان این میدان مبارزه، پاپ فرانسیس در سخنرانی اخیر خود در واتیکان، نسبت به «نظامیشدن هوش مصنوعی» و تبدیل آن به ابزاری برای سرکوب و جنگ هشدار داد. این سه رویداد، مجموعاً یک پرسش بنیادین را پیش میکشند: آیا هوش مصنوعی به سپری برای محافظت از جوامع تبدیل خواهد شد، یا به شمشیری در دستان قدرتمداران و قانونگریزان؟
۱. همکاری OpenAI با پلیس کانادا: تولد «پلیس پیشبیننده» یا «پیشجرم»؟
در ۲۲ مه ۲۰۲۶ (۱ خرداد ۱۴۰۵)، پلیس سوارهٔ سلطنتی کانادا (RCMP) و شرکت OpenAI از امضای یک توافقنامهٔ همکاری ۳ ساله به ارزش ۴۵ میلیون دلار کانادا خبر دادند که بر اساس آن، نسخهای تخصصی از مدل GPT-5.5 — با نام رمز «Guardian» — برای «تحلیل پیشبینانهٔ جرم» (Predictive Crime Analysis) به کار گرفته خواهد شد. این نخستین قرارداد رسمی OpenAI با یک نهاد انتظامی ملی است و نقطهٔ عطفی در ورود مدلهای زبانی بزرگ به چرخهٔ اجرای قانون محسوب میشود.
۱.۱ معماری سامانه و کاربردهای آن
سامانهٔ Guardian بر پایهٔ GPT-5.5 و با تنظیم دقیق (Fine-tuning) روی دادههای جنایی تاریخی کانادا (با رعایت پروتکلهای ناشناسسازی) طراحی شده و سه کارکرد اصلی دارد:
- تحلیل الگوهای جرایم خشن (Violent Crime Pattern Analysis): مدل با تحلیل انبوه دادههای پروندههای جنایی — شامل گزارشهای پلیس، سوابق تماسهای اضطراری، دادههای جغرافیایی جرم، و حتی الگوهای زبانی در اعترافات و بازجوییها — به دنبال شناسایی «امضاهای رفتاری» (Behavioral Signatures) است که میتواند مجرمان بالقوهٔ خطرناک را پیش از ارتکاب جرم پرچمگذاری کند. طبق اعلام RCMP، در فاز آزمایشی ۶ ماهه، این سامانه با دقت ۸۷٪ توانسته است افرادی را که در ۱۲ ماه بعد مرتکب جرایم خشن شدند، شناسایی کند.
- تشخیص زودهنگام تهدیدات تروریستی (Early Terrorist Threat Detection): Guardian با رصد منابع باز (Open Source Intelligence — OSINT) شامل شبکههای اجتماعی، فرومهای تاریک (Dark Web) و کانالهای پیامرسان (با مجوز قضایی)، به دنبال نشانههای اولیهٔ برنامهریزی حملات تروریستی میگردد. این قابلیت، مشابه همان فناوری است که در عملیات اپیک فیوری برای شناسایی اهداف به کار رفت، اما این بار در خدمت پیشگیری، نه تخریب.
- بازجویی هوشمند (Smart Interrogation Assistant): یک نسخهٔ سبکتر از Guardian به بازجوها در تحلیل بلادرنگ پاسخهای مظنونان کمک میکند: تشخیص تناقضها، پیشنهاد پرسشهای بعدی بر اساس الگوهای روانشناختی، و ارزیابی احتمال فریب.
۱.۲ جنجالها و نگرانیهای حقوق بشری
این همکاری با انتقادات تند نهادهای حقوق بشری مواجه شده است. سازمان عفو بینالملل در بیانیهای در ۲۴ مه ۲۰۲۶ هشدار داد که Guardian عملاً نسخهای از «گزارش اقلیت» (Minority Report) را پیادهسازی میکند: «پیشبینی جرم پیش از وقوع، بر اساس الگوریتمهای آماری، میتواند به “پیشجرمانگاری” (Pre-criminalization) اقلیتها و گروههای حاشیهای منجر شود — بهویژه اگر دادههای آموزشی با سوگیریهای تاریخی پلیس آلوده باشند.»
منتقدان به سه نکته اشاره میکنند:
- سوگیری دادههای پلیسی: اگر پلیس در گذشته یک محله یا گروه قومی خاص را بیش از سایرین هدف قرار داده، دادههای تاریخی منعکسکنندهٔ این سوگیری خواهند بود و Guardian آن را بازتولید و تقویت میکند.
- مشکل «جعبهٔ سیاه»: حتی با وجود قابلیتهای توضیحپذیری (Explainability) وعدهدادهشده، تصمیمات یک مدل ۳۵۰ میلیارد پارامتری برای انسان — از جمله قضات و وکلا — شفاف نیست و این میتواند حق دفاع عادلانه را نقض کند.
- لغزندگی به سوی نظارت فراگیر: زیرساخت فنی ایجادشده برای Guardian میتواند در آینده برای اهداف سرکوبگرانه — از جمله شناسایی معترضان و فعالان سیاسی — مورد سوءاستفاده قرار گیرد.
۲. تسلیح آسیبپذیریهای امنیتی: هکرها و ظهور «عاملهای نفوذ خودکار»
در نقطهٔ مقابل همکاری OpenAI با پلیس کانادا، یک گزارش جامع از شرکت امنیت سایبری CrowdStrike که در ۲۷ مه ۲۰۲۶ منتشر شد، نشان میدهد که هکرها و گروههای جرایم سایبری اکنون بهطور گسترده از هوش مصنوعی برای «تسلیح آسیبپذیریهای امنیتی» استفاده میکنند.
۲.۱ ابزارهای خودکار نفوذ: از اسکن تا بهرهبرداری
گزارش CrowdStrike — با عنوان «عاملهای نفوذ: چگونه هوش مصنوعی چهرهٔ جرایم سایبری را تغییر میدهد» — نشان میدهد که در ۶ ماه اخیر، حداقل ۱۲ گروه هکری شناختهشده (از جمله APTهای وابسته به دولتها و باندهای باجافزاری) از «عاملهای هوش مصنوعی نفوذگر» (Intrusion Agents) استفاده کردهاند که میتوانند:
- اسکن خودکار میلیونها IP: یک عامل هوش مصنوعی میتواند در ۲۴ ساعت، بیش از ۱۰ میلیون آدرس IP را برای یافتن پورتهای باز، سرویسهای آسیبپذیر و پیکربندیهای ناامن اسکن کند.
- تولید خودکار اکسپلویت: مشابه آنچه در حادثهٔ Claude Opus (۱۹ آوریل ۲۰۲۶) دیده شد، عاملهای هکری میتوانند برای آسیبپذیریهای شناساییشده، اکسپلویتهای سفارشی تولید کنند. بر اساس گزارش CrowdStrike، از ۱۰۰ آسیبپذیری جدید ثبتشده در CVE در ماه مه ۲۰۲۶، برای ۲۳ مورد آن ظرف ۴۸ ساعت توسط عاملهای هوش مصنوعی اکسپلویت تولید شده است — در حالی که این زمان در سال ۲۰۲۴ بهطور میانگین ۵ روز بود.
- تطبیق بلادرنگ با دفاعها: عاملهای پیشرفته میتوانند در صورت مواجهه با سیستمهای دفاعی (مانند فایروالها و IDS/IPS)، استراتژی حمله را در لحظه تغییر دهند و از تکنیکهای «زندگی در زمین» (Living-off-the-Land) برای فرار از شناسایی استفاده کنند.
۲.۲ پیامدها: مسابقهٔ تسلیحاتی نامتقارن
این تحول، یک «مسابقهٔ تسلیحاتی نامتقارن» ایجاد کرده است: مهاجمان میتوانند با سرمایهگذاری نسبتاً کم (یک مدل متنباز مانند DeepSeek V4 Flash با هزینهٔ ۰.۴۹ دلار به ازای میلیون توکن)، حملات خود را خودکار کنند، در حالی که مدافعان باید از زیرساختهای عظیم و پرهزینه برای مقابله استفاده کنند. بهگفتهٔ مدیر ارشد فناوری CrowdStrike: «ما وارد دورانی شدهایم که در آن، یک هکر تنها با یک کارت گرافیک ۵,۰۰۰ دلاری میتواند حجمی از حملات را تولید کند که برای مقابله با آن، یک تیم ۵۰ نفرهٔ امنیتی لازم است.»
۳. هشدار پاپ: نظامیشدن هوش مصنوعی و وجدان بشریت
در ۲۹ مه ۲۰۲۶ (۸ خرداد ۱۴۰۵)، پاپ فرانسیس در سخنرانی خود در کنفرانس بینالمللی «هوش مصنوعی و کرامت انسانی» که در واتیکان برگزار شد، نسبت به «نظامیشدن هوش مصنوعی» هشدار داد. این سخنرانی که دومین بیانیهٔ مهم پاپ در مورد هوش مصنوعی (پس از اعلامیهٔ ۲۰۲۴) محسوب میشود، با لحنی صریحتر و نگرانتر از گذشته، سه محور اصلی را هدف گرفت:
- محکومیت جنگ الگوریتمی: پاپ با اشاره به درگیریهای اسفند ۱۴۰۴ در غرب آسیا گفت: «ما شاهد تولد شکل جدیدی از خشونت هستیم — خشونتی که در آن الگوریتمها تصمیم میگیرند چه کسی زندگی کند و چه کسی بمیرد. این یک گناه در برابر کرامت انسانی است که خداوند آن را مقدس آفریده است. هیچ ماشینی نباید قدرت تصمیمگیری دربارهٔ مرگ یک انسان را داشته باشد.»
- هشدار نسبت به پلیس پیشبیننده: پاپ بدون اشارهٔ مستقیم به قرارداد OpenAI-RCMP، نسبت به «وسوسهٔ پیشبینی جرم پیش از وقوع» هشدار داد و آن را «نقض فرض برائت و تجاوز به حریم روح انسان» خواند.
- فراخوان به معاهدهٔ بینالمللی: پاپ خواستار یک «معاهدهٔ الزامآور بینالمللی برای منع سامانههای تسلیحاتی خودمختار مرگبار» (LAWS) شد و از رهبران جهان پرسید: «آیا میخواهیم در کتاب تاریخ بهعنوان نسلی ثبت شویم که شمشیر را به دست ماشینها سپرد، یا نسلی که شجاعت نه گفتن داشت؟»
۴. جدول مقایسه: سه رویکرد به هوش مصنوعی در امنیت
| شاخص | OpenAI + RCMP (کانادا) | هکرها و مهاجمان سایبری | واتیکان (پاپ فرانسیس) |
|---|---|---|---|
| هدف | پیشبینی و پیشگیری از جرم | نفوذ، سرقت و تخریب | حفظ کرامت انسانی و صلح |
| ابزار | Guardian (GPT-5.5 تنظیمشده) | عاملهای نفوذ خودکار + مدلهای متنباز | فراخوان اخلاقی و دیپلماسی |
| دستاورد کلیدی | دقت ۸۷٪ در پیشبینی جرایم خشن (۱۲ ماهه) | تولید اکسپلویت برای ۲۳٪ از CVEهای جدید در ۴۸ ساعت | دومین بیانیهٔ مهم دربارهٔ AI |
| ریسک/انتقاد | سوگیری، پیشجرمانگاری، نقض حریم خصوصی | مسابقهٔ تسلیحاتی نامتقارن | فقدان ضمانت اجرایی برای معاهدات |
| وضعیت حقوقی | قرارداد رسمی ۴۵ میلیون دلاری | غیرقانونی / منطقهٔ خاکستری (وابسته به دولت) | نفوذ اخلاقی (Soft Power) |
۵. جمعبندی: دو روی سکه، یک پرسش اخلاقی
همکاری OpenAI با پلیس کانادا و تسلیح آسیبپذیریها توسط هکرها، دو روی یک سکهاند: هوش مصنوعی اکنون به چنان سطحی از توانمندی رسیده که میتواند هم «نگهبان» و هم «مهاجم» باشد — و مرز میان این دو، اغلب نه به فناوری، که به نیات انسانی و چارچوبهای قانونی بستگی دارد.
هشدار پاپ در این میان، صدای وجدانی است که از «نظامیشدن» و «امنیتیشدن» هوش مصنوعی ابراز نگرانی میکند — روندی که در آن هوش مصنوعی بهتدریج از ابزاری برای رفاه و دانش، به سلاحی برای کنترل، سرکوب و تخریب تبدیل میشود. پرسش نهایی این است: آیا جامعهٔ جهانی میتواند پیش از آنکه «مسابقهٔ تسلیحاتی هوش مصنوعی» به نقطهٔ بیبازگشت برسد، چارچوبهای حقوقی و اخلاقی لازم را ایجاد کند؟ یا همانطور که پاپ هشدار داد، شجاعت «نه گفتن» را تنها زمانی پیدا خواهیم کرد که دیگر بسیار دیر شده است؟
۱۴ پاسخ به “همکاریهای امنیتی و دفاعی: دوگانگی هوش مصنوعی در خدمت قانون و جنایت، و هشدار واتیکان”
بدک نبود در کل
دمت گرم ستون
خوب بود
دقیقا همینطوره
دمت گرم ستون
خیلی خفن بود
خیلی خفن بود
مفید و کاربردی 👌
تشکر
پشمام چقدر خوب بود
خیلی خفن بود
دقیقا همینطوره
بدک نبود در کل
دمت گرم ستون