دسترسی این افراد به مدلهای جدید هوش مصنوعی Anthropic مسدود شد
شرکت Anthropic اعلام کرد در پی دریافت دستورالعملی از دولت آمریکا، دسترسی همه اتباع خارجی به دو مدل پیشرفته هوش مصنوعی خود با نامهای «Fable ۵» و «Mythos ۵» را مسدود کرده است؛ اقدامی که با استناد به نگرانیهای امنیت ملی و قابلیتهای سایبری این مدلها انجام شده است. به گزارش راهبرد معاصر؛ شرکت هوش مصنوعی Anthropic، توسعهدهنده چتبات Claude، اعلام کرد به دنبال دستور دولت آمریکا، دسترسی اتباع خارجی به جدیدترین مدلهای هوش مصنوعی این شرکت محدود شده است.
این شرکت در اطلاعیهای گفت که روز جمعه دستوری از سوی نهادهای دولتی آمریکا دریافت کرده که بر اساس آن باید دسترسی همه اتباع خارجی، حتی افرادی که در خاک آمریکا حضور دارند، به مدلهای «Fable ۵» و «Mythos ۵» متوقف شود. Anthropic اعلام کرده این دستور شامل برخی کارکنان خارجی خود شرکت نیز میشود.
به گفته Anthropic، نامه دولت آمریکا جزئیات دقیقی درباره نگرانیهای امنیتی ارائه نکرده، اما این شرکت معتقد است این تصمیم احتمالا به قابلیتهای پیشرفته مدلهای جدیدش در حوزه امنیت سایبری مربوط است.
مدل «Mythos ۵» که نسخه کامل و غیرعمومی فناوری Anthropic محسوب میشود، توانایی بالایی در شناسایی آسیبپذیریهای نرمافزاری دارد؛ آسیبپذیریهایی که برخی از آنها ممکن است سالها ناشناخته باقی مانده باشند. این قابلیت تاکنون برای تقویت امنیت سامانههای دولتی و شرکتهای منتخب مورد استفاده قرار گرفته است.
با این حال، کارشناسان امنیتی نسبت به احتمال سوءاستفاده از چنین ابزارهایی برای حملات سایبری هشدار دادهاند؛ چرا که هوش مصنوعی میتواند در صورت استفاده نادرست، به ابزاری برای کشف ضعفهای امنیتی و توسعه حملات دیجیتال تبدیل شود.
Anthropic اعلام کرده مدل «Fable ۵» که بهتازگی عرضه شده، بر پایه فناوری Mythos ساخته شده است، اما برخی قابلیتهای حساس آن مانند ابزارهای پیشرفته مرتبط با امنیت سایبری و زیستفناوری در نسخه عمومی محدود شدهاند.
این شرکت همچنین تأکید کرده که توانایی بررسی کدهای نرمافزاری و شناسایی خطاها، تنها محدود به مدلهای Anthropic نیست و مدلهای رقیب مانند GPT-۵.۵ شرکت OpenAI نیز از قابلیتهای مشابه برخوردارند.
Anthropic با انتقاد از دستور دولت آمریکا گفته است مسدود کردن دسترسی گروه بزرگی از کاربران به دلیل چنین قابلیتهایی تصمیم درستی نیست؛ بهویژه اینکه مدلهای جدید این شرکت پیش از عرضه عمومی تحت آزمایشهای ایمنی گسترده قرار گرفتهاند.
این اقدام در شرایطی رخ میدهد که رقابت جهانی بر سر توسعه هوش مصنوعی پیشرفته افزایش یافته و دولتها تلاش میکنند کنترل بیشتری بر فناوریهایی داشته باشند که میتوانند پیامدهای امنیتی، اقتصادی و ژئوپلیتیکی گستردهای ایجاد کنند.
پیش از این نیز Anthropic خواستار هماهنگی شرکتهای بزرگ هوش مصنوعی برای کند کردن یا حتی توقف موقت توسعه مدلهای پیشرفته شده بود و هشدار داده بود سرعت پیشرفت این فناوری ممکن است از توانایی انسانها برای کنترل آن پیشی بگیرد.
منبع: aljazeera