عامل هوش مصنوعی «آنتروپیک» هم از محیط آزمایش خارج شد و سه شرکت را هک کرد

شرکت فناوری آمریکایی آنتروپیک می‌گوید که مدل‌های هوش مصنوعی این شرکت، در جریان یک آزمایش امنیت سایبری خصوصی، به‌طور مستقل به سیستم‌های سه سازمان نفوذ کردند.

این مدل‌ها در محیطی که قرار بود یک محیط آزمایشی جدا و ایزوله باشد، یک ضعف امنیتی پیدا کردند و از طریق آن به اینترنت وصل شدند.

این خبر تنها چند روز پس از آن منتشر می‌شود که شرکت رقیب، «اوپن‌ای‌آی»، اعلام کرد مدل‌های هوش مصنوعی آن به سامانه‌های شرکت‌های دیگری، از جمله «هاگینگ فیس» که یک مرکز ارائه ابزارهای هوش مصنوعی است، نفوذ کرده‌اند.

پس از انتشار این خبر، آنتروپیک تصمیم گرفت بررسی کند که آیا مدل‌های هوش مصنوعی این شرکت هم چنین نفوذهای مشابهی داشته‌اند یا نه. این شرکت می‌گوید در جریان این بررسی، سه مورد از چنین اتفاقاتی را شناسایی کرده و موضوع را به سازمان‌های آسیب‌دیده اطلاع داده است.

شرکت آنتروپیک بدون اشاره به نام این سازمان‌ها، از دیگر شرکت‌های فعال در زمینه هوش مصنوعی خواست بررسی‌های مشابهی انجام دهند تا بهتر بتوانند خطرات و ریسک‌های ناشی از توانایی‌های مدل‌های هوش مصنوعی خود را درک کنند.

آنتروپیک در بیانیه‌ای اعلام کرد که بیش از ۱۴۰ هزار آزمایش را بررسی کرده است تا شواهدی پیدا کند که نشان دهد «کلاد»، یعنی مجموعه مدل‌های هوش مصنوعی این شرکت با وجود این که قرار بود در یک محیط آزمایشی جدا و بدون دسترسی به اینترنت فعالیت کند، توانسته باشد به اینترنت متصل شود.

در یکی از آزمایش‌ها، «کلاد» باید تلاش می‌کرد اطلاعات «محرمانه‌ای» را که در یک کامپیوتر دیگر در یک شبکه بسته و بدون دسترسی به اینترنت مخفی شده بود، پیدا کند. سپس از این مدل خواسته شد با نفوذ به آن کامپیوتر، اطلاعات را پیدا کند؛ روشی رایج که کارشناسان برای ارزیابی توانایی‌های هکری یک مدل هوش مصنوعی استفاده می‌کنند.

به گفته این شرکت، یک اشتباه در تنظیمات سیستم‌های آنتروپیک و شریک آزمایشی آن باعث شد مدل‌های هوش مصنوعی برخلاف برنامه، به اینترنت واقعی دسترسی پیدا کنند و«کلاد»، در حالی که همچنان تصور می‌کرد این اقدامات بخشی از همان آزمایش است، به اینترنت متصل شد و به جای نفوذ به سیستم‌های آزمایشی، وارد سیستم‌های واقعی سه سازمان شد.

آنتروپیک اعلام کرد که اولین موارد این نفوذها به ماه آوریل برمی‌گردد و این شرکت برای رفع مشکلات، خود را کاملاً مسئول می‌داند و با این موضوع چنان برخورد می‌کند که گویی تمام مسئولیت آن بر عهده خود آنتروپیک است.

نه آنتروپیک و نه سازمان‌هایی که مورد نفوذ قرار گرفته بودند، در زمان وقوع این اتفاق متوجه این نفوذها نشده بودند.

آنتروپیک گفته است که می‌توانست سوابق و اطلاعات ثبت‌شده خود را با دقت و جزئیات بیشتری بررسی کند تا شاید زودتر متوجه این اتفاق‌ها شود.

این شرکت همچنین گفت که یافته‌های به‌دست‌آمده باعث شده با «خوش‌بینی محتاطانه‌ای» امیدوار باشد که با سرمایه‌گذاری بیشتر و اتخاذ تدابیر امنیتی سخت‌گیرانه‌تر، بتوان بر چنین خطراتی غلبه کرد.

دیوید آلوت، کارشناس امنیت سایبری از شرکت ویم، به بی‌بی‌سی گفت: « نگرانی اصلی این نیست که هوش مصنوعی یک روش کاملاً جدید برای نفوذ پیدا کرده، بلکه مسئله این است که عامل‌های هوش مصنوعی می‌توانند توانایی‌های مختلف خود را با یکدیگر ترکیب کنند، اطلاعات ورود و دسترسی به سیستم‌ها را به دست آورند و به‌طور مستقل اقدام کنند؛ در حالی که می‌توانند با سرعت بسیار زیاد، دامنه و مقیاس فعالیت‌های خود را با شرایط جدید تطبیق دهند.»

این حوادث در شرایطی رخ داده‌اند که شرکت‌های فناوری میلیاردها دلار برای توسعه عامل‌های هوش مصنوعی هزینه می‌کنند؛ سیستم هایی که می‌توانند به‌طور مستقل وظایفی از تحقیق و پژوهش و پشتیبانی از مشتریان گرفته تا امنیت سایبری را انجام دهند.

وقوع مجموعه‌ای از حملات سایبری با استفاده از هوش مصنوعی، باعث شده است درخواست‌ها برای افزایش تدابیر امنیتی و نظارت دقیق‌تر بر این فناوری بیشتر شود، زیرا نگرانی‌ها درباره خطرات احتمالی سیستم‌های هوش مصنوعی که روزبه‌روز قدرتمندتر می‌شوند و می‌توانند به‌طور مستقل تصمیم بگیرند و اقدام کنند، افزایش یافته است.

دونالد ترامپ، رئیس‌جمهور آمریکا، روز چهارشنبه گفت که واشنگتن در حال بررسی اقداماتی برای محدود کردن و کنترل ابزارهای هوش مصنوعی است، این تصمیم پس از وقوع چند حادثه امنیت سایبری اخیر مطرح شده است.

در طول هفته گذشته، شرکت اوپن‌ای‌آی مسئولیت دست‌کم دو مورد هک را بر عهده گرفته است؛ حوادثی که در آن، سامانه‌های این شرکت برخلاف محدودیت‌ها و قوانینی که برای انجام وظایفشان تعیین شده بود، عمل کردند.

در تاریخ ۲۱ ژوئیه (۳۰ تیر)، شرکت سازنده چت‌جی‌پی‌تی اعلام کرد که یکی از «عامل‌های هوش مصنوعی» این شرکت، یعنی سیستمی که پس از دریافت دستور از انسان می‌تواند به‌طور مستقل فعالیت کند، از کنترل خارج شده و با عبور از محدودیت‌های محیط آزمایشی خود، به شرکت «هاگینگ فیس» نفوذ کرده است.

اوپن‌ای‌آی این حادثه را «بی‌سابقه» توصیف کرد و گفت که در حال بررسی این موضوع با همکاری «هاگینگ فیس» است. توماس ولف، یکی از بنیان‌گذاران و مدیر این شرکت، به بی‌بی‌سی گفت که این حادثه باید به‌عنوان «زنگ هشداری» برای صنعت هوش مصنوعی تلقی شود.

برخی افراد نسبت به این حوادث با تردید نگاه کرده‌اند، چون هم‌زمان اوپن‌ای‌آی و آنتروپیک در حال آماده شدن برای ورود به بازار سهام هستند و انتظار می‌رود ارزش هر کدام از این شرکت‌ها در این فرایند به حدود یک تریلیون دلار برسد.

یکی از سخنگویان اوپن‌ای‌آی گفته است: «ما می‌دانیم که درباره این حادثه، پرسش‌های زیادی وجود دارد و جزئیات و گمانه‌زنی‌های مختلفی نیز در حال انتشار است.»

او همچنین افزود: «ما قصد داریم در هفته‌های آینده یک گزارش فنی از یافته‌هایمان منتشر کنیم.»