در ژوئن ۲۰۲۶، دنیای هوش مصنوعی شاهد رویدادی بی سابقه بود. شرکت آنتروپیک (Anthropic) مدل قدرتمند Claude Fable ۵ را روانه بازار کرد؛ مدلی که طبق ادعای این شرکت، در زمینه های مهندسی نرم افزار، کارهای دانش محور، تحقیقات علمی و حتی بازی های ویدئویی پیچیده، عملکردی فراتر از تمام رقبا از خود نشان می داد . اما تنها چند روز پس از این انتشار غوغاگرانه، وزارت بازرگانی ایالات متحده با استناد به دلایل امنیت ملی، دسترسی اتباع خارجی به این مدل را ممنوع کرد و آنتروپیک ناچار شد دسترسی همه کاربران (حتی شهروندان آمریکایی) را به طور موقت قطع کند .
این رویداد زنجیره ای از پرسش های حقوقی، نظارتی و ژئوپلیتیکی را برانگیخته است که این مقاله به بررسی جامع آن می پردازد. از سازوکارهای ایمنی داخلی مدل گرفته تا پیامدهای اعمال حاکمیت ملی بر فناوری های فرامرزی، همگی موضوعاتی هستند که در این تحلیل واکاوی خواهند شد.
بخش اول: Claude Fable 5 و معماری دوچهره ایمنی
ابرمدلی با دو چهره: Fable در برابر Mythos
درک عمق بحران حقوقی پیش آمده، بدون شناخت معماری منحصربه فرد مدل جدید آنتروپیک ممکن نیست. Claude Fable ۵ تنها یک مدل هوش مصنوعی نیست، بلکه نسخه ی عمومی و مهارشده مدلی به نام Claude Mythos ۵ محسوب می شود . این دو مدل در واقع «وزن های عصبی» (weights) یکسانی دارند و تنها تفاوت آن ها در لایه ی نرم افزاری ایمنی قرار گرفته بر روی آن هاست.
مدل Mythos ۵ (که برای گروه کوچکی از مدافعان سایبری و زیرساخت های حیاتی از طریق برنامه Glasswing در دسترس است) فاقد محدودیت های اعمال شده بر روی نسخه ی عمومی است و قدرت خام خود را به طور کامل نشان می دهد . این قدرت خام به ویژه در حوزه های سایبری تهاجمی (توانایی کشف و بهره برداری از آسیب پذیری ها) و علوم زیستی (طراحی پروتئین و فرضیه پردازی در زیست شناسی مولکولی) خودنمایی می کند.
سازوکار «تغییر مسیر ایمنی» (Safety Fallback)
نکته ی کلیدی در معماری Fable ۵ که مستقیماً به پیامدهای حقوقی آن گره خورده، مکانیزم «تغییر مسیر خودکار» است. آنتروپیک برای انتشار ایمن این مدل، سه حوزه ی قرمز اصلی را تعریف کرده است: فناوری های تهاجمی سایبری، پرسش های حساس حوزه ی علوم زیستی (بیولوژی و شیمی)، و تلاش برای استخراج یا تقطیر مدل (Model Distillation) .
هرگاه سیستم های طبقه بندی (classifiers) آنتروپیک تشخیص دهند که درخواست کاربری به این حوزه ها نزدیک می شود، به جای پاسخ دهی توسط Fable ۵، آن درخواست به طور خودکار به مدل قدیمی تر و ضعیف تر، یعنی Claude Opus ۴.۸ هدایت می شود . آنتروپیک اذعان کرده که این طبقه بندی ها را «سختگیرانه» تنظیم کرده است تا خطاهای امنیتی به حداقل برسد، حتی اگر این به معنای ایجاد مزاحمت برای کاربران عادی باشد .
بخش دوم: بحران شفافیت و اعتماد
جنجال «کیفیت پنهان»
اولین چالش حقوقی و نظارتی جدی، پیش از ممنوعیت دولتی، از جنس شفافیت بود. زمانی که محققان متوجه شدند Fable ۵ گاهی اوقات پاسخ های «بی کیفیت» یا عجیب به سوالات می دهد، آنتروپیک مجبور شد اعتراف کند که این کاهش کیفیت، عمدی و ناشی از فعال شدن مکانیزم های ایمنی بوده است .
این افشاگری باعث انتقاد شدید جامعه تحقیقاتی شد. دین بال (Dean Ball) از بنیاد نوآوری آمریکا این اقدام را نوعی «خرابکاری پنهان» علیه جامعه تحقیقاتی توصیف کرد . آنتروپیک در پاسخ به این انتقادات، رویه خود را تغییر داد و اعلام کرد که به جای ارائه ی پاسخ های ضعیف، به کاربر اعلام می کند که «درخواست شما به Opus ۴.۸ هدایت شده است» تا فرآیند برای کاربر شفاف باشد .
از منظر حقوقی، این موضوع در چارچوب قوانین حمایت از مصرف کننده و قوانین رقابت (مربوط به تبلیغ عملکرد مدل) قابل پیگیری است. آیا شرکتی که مدلی را با ادعای «پیشرفته ترین مدل عمومی» روانه بازار می کند، موظف است شفاف سازی کند که بخش قابل توجهی از درخواست ها توسط مدلی قدیمی تر پاسخ داده می شود؟
چالش «جعبه سیاه» در مقابل رویکرد AI Act اتحادیه اروپا
قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) به شدت بر «پذیره پذیری» (explainability) و شفافیت سیستم های هوش مصنوعی پرخطر تأکید دارد. مکانیزم تغییر مسیر پنهان آنتروپیک دقیقاً در تضاد با این روح قانون است . ناظران اروپایی این رویداد را یک مورد مطالعاتی مهم می دانند که نشان می دهد حتی شرکت های پیشرو نیز ممکن است نتوانند معیارهای شفافیت را بدون نظارت بیرونی رعایت کنند. آژانس امنیت سایبری اتحادیه اروپا (ENISA) و اداره فدرال آلمان (BSI) برای بررسی این مکانیزم های کنترلی وارد عمل شده اند .
بخش سوم: حاکمیت ملی در برابر فناوری جهانی (ماجرای ۱۲ ژوئن)
نامه ای که هوش مصنوعی را خاموش کرد
تعیین کننده ترین رویداد در این ماجرا، در تاریخ ۱۲ ژوئن ۲۰۲۶ رخ داد. هوارد لوتنیک (Howard Lutnick)، وزیر بازرگانی ایالات متحده، طی نامه ای به مدیرعامل آنتروپیک اعلام کرد که به دلیل نگرانی های امنیت ملی و بر اساس قوانین کنترل صادرات، این شرکت حق ارائه دسترسی به مدل های Fable ۵ و Mythos ۵ به «اتباع خارجی» را ندارد .
این دستورالعمل تنها به کاربران خارج از مرزهای آمریکا محدود نمی شد، بلکه شامل اتباع خارجی مقیم آمریکا و حتی کارمندان غیر آمریکایی خود شرکت آنتروپیک نیز می گردید . آنتروپیک که عملاً قادر به تفکیک کاربران بر اساس تابعیت شهروندی در بستر نرم افزاری خود نبود (و یا چنین تفکیکی از نظر عملیاتی ممکن نبود)، چاره ای جز قطع کامل دسترسی به این مدل ها برای تمامی کاربران (اعم از آمریکایی و غیر آمریکایی) ندید .
پیامدهای حقوقی و ژئوپلیتیکی این تصمیم
این اقدام دولت آمریکا، هوش مصنوعی را به طور رسمی در ردیف فناوری های دوگانه کاربردی (Dual-Use) قرار داد؛ همان جایگاهی که سلاح های هسته ای و سانتریفیوژهای غنی سازی اورانیوم دارند . پیامدهای این تصمیم را می توان در سه سطح تحلیل کرد:
- الف) فروپاشی اعتماد به ابرهای هوش مصنوعی (غربالگری سرمایه گذاری و IPO)
ارزش گذاری شرکت آنتروپیک در آخرین دور تأمین مالی، ۹۶۵ میلیارد دلار اعلام شده بود و این شرکت به تازگی درخواست خود برای عرضه اولیه سهام (IPO) را به صورت محرمانه ثبت کرده بود . مداخله ناگهانی دولت، زنگ خطری برای سرمایه گذاران به صدا درآورد. سرمایه گذاران خرد و نهادی اکنون با این ریسک سیستماتیک مواجه هستند که یک شرکت AI ممکن است در هر لحظه به دلیل تصمیمات سیاسی، نیمی از بازار خود (یا کل محصول خود) را از دست بدهد. تحلیلگران هشدار داده اند که این امر می تواند منجر به «حق بیمه ریسک ژئوپلیتیکی» در ارزیابی استارتاپ های AI شود.
- ب) تهدید «عقب گرد مغزها» (Brain Drain)
گری مارکوس (Gary Marcus)، منتقد سرشناس صنعت هوش مصنوعی، استدلال می کند که این اقدام دولت آمریکا غیرمنطقی است و نتیجه معکوس خواهد داشت. محدود کردن دسترسی پژوهشگران متولد چین (که درصد قابل توجهی از نیروی کار آزمایشگاه های پیشرو AI مانند OpenAI و Anthropic را تشکیل می دهند) نه تنها امنیت آمریکا را تأمین نمی کند، بلکه این دانشمندان را مجبور به بازگشت به چین کرده و رقبای آمریکا را قدرتمندتر می کند .
- ج) پایان دهکده جهانی AI
این رویداد عملاً مدل «اکوسیستم باز و یکپارچه» هوش مصنوعی را به چالش کشید. همانطور که یک تحلیلگر ایتالیایی به درستی اشاره کرده است، دسترسی اروپا به فناوری های پیشرو دیگر یک «رابطه بازار» نیست، بلکه به یک «مجوز اداری» تبدیل شده است که می تواند به صورت یک جانبه توسط واشنگتن باطل شود . این موضوع اتحادیه اروپا و سایر کشورها را ناگزیر به سرمایه گذاری انبوه بر روی مدل های مستقل (مدل های حاکمیت) یا مدلهای متن باز خواهد کرد.
بخش چهارم: تنش بین نوآوری، ایمنی و دسترسی
معمای زندانی هوش مصنوعی
ماجرای Fable ۵ معمای کلاسیک «مثلث نوآوری، ایمنی و دسترسی» را به تصویر می کشد. آنتروپیک تلاش کرد با اعمال لایه های ایمنی، مدل را برای عموم بی خطر کند (حلقه ایمنی)، اما همین لایه ها از سوی پژوهشگران به عنوان «ساختارشکنی» تجربه کاربری (حلقه دسترسی) محکوم شد. از سوی دیگر، دولت آمریکا با استناد به همین قابلیت های خام (که آنتروپیک آن ها را به عنوان مزیت رقابتی تبلیغ می کرد)، تصمیم به محدودسازی کامل گرفت.
جالب آنجاست که برخی از تحلیلگران معتقدند آنتروپیک قربانی روایت پردازی امنیتی خود شده است. پیتر گیرنوس، پژوهشگر امنیت سایبری، می گوید: «اگر شرکتی در هر بیانیه مطبوعاتی محصول خود را معادل تجهیزات نظامی معرفی کند، دولت در نهایت با آن همانند تجهیزات نظامی رفتار خواهد کرد» .
مسیرهای قانونی پیش رو
برای شرکت های هوش مصنوعی و نهادهای نظارتی، این واقعه سه درس مهم دارد:
- شفافیت الزامی است (Mandatory Explainability): سیستم های ایمنی نباید «جعبه سیاه» باشند. کاربران و ناظران حق دارند بدانند چرا یک پاسخ توسط مدل قدرتمندتر ارائه نشده است. قوانین مشابه GDPR و AI Act احتمالاً گزارش دهی دوره ای در مورد نرخ خطاها (false positives) و الگوریتم های تغییر مسیر را اجباری خواهند کرد .
- تابعیت در برابر دیجیتال: اعمال محدودیت های مهاجرتی و ملی بر روی کد و الگوریتم غیرعملی است. بازارهای بین المللی نیازمند یک نظام حقوقی فراملی برای کنترل مدل های بسیار قدرتمند هستند (شاید مشابه معاهده منع گسترش سلاح های هسته ای). تا آن زمان، ما شاهد «بستن» و «باز کردن» ناگهانی دسترسی ها خواهیم بود.
- استانداردهای ایمنی اجباری: در حال حاضر، آنتروپیک استانداردهای ایمنی خود را وضع کرده است (سه حوزه قرمز). شاید زمان آن رسیده است که سازمان های بین المللی (مانند ISO یا ITU) استانداردهای حداقلی برای «قطع دسترسی خودکار» (Kill Switch) و «کاهش توانایی» (Capability Reduction) مدل های فرازمینی تدوین کنند تا توازنی بین استفاده از آن ها توسط متخصصان و جلوگیری از سوءاستفاده توسط بازیگران بد ایجاد شود.
نتیجه گیری
قصه Claude Fable ۵ نشان می دهد که بشر از عبور از «نرم افزار هوشمند» به سمت «سلاح هوشمند» در حال عبور است. فناوریای که قادر است در یک روز کاری یک میلیون ها خط کد را مهاجرت دهد یا پروتئین های جدید طراحی کند، دیگر یک کالای معمولی نیست .
ممنوعیت دسترسی به Fable ۵ نقطه عطفی در تاریخ حقوق فناوری است. این رویداد ثابت کرد که حاکمیت ملی همچنان بر جهان دیجیتال سایه افکنده است و هوش مصنوعی به حوزه ای استراتژیک برای رقابت های ژئوپلیتیکی تبدیل شده است. برای صنعت، این به معنای پایان عصر «دسترسی بی قیدوشرط» به پیشرفته ترین مدل هاست. برای سیاست گذاران، این یک زنگ بیدارباش است تا چارچوب های نظارتی تطبیق پذیر (Adaptive Governance) را جایگزین قوانین صلب و کهنه کنند. آینده هوش مصنوعی نه تنها در گرو قدرتمندتر کردن مدل ها، بلکه در گرو یافتن راهی برای زندگی با این هیولاهای توانمند بدون خاموش کردن چراغ نوآوری و آزادی است.
