به گزارش خبرنگار تازه های اقتصاد، شرکت آنتروپیک گزارشی منتشر کرد که امکان تکثیر خودکار مدل‌های هوش مصنوعی را در دستگاه‌های متصل به اینترنت بررسی کرده است. تمرکز این تحقیق بر سناریویی است که در آن یک مدل بتواند دستگاه‌های آسیب‌پذیر را شناسایی کند، به آن‌ها دسترسی پیدا
کند، نسخه‌ای از نرم‌افزار و اجزای موردنیاز خود را منتقل کند و پس از راه‌اندازی روی دستگاه جدید، فرایند گسترش را ادامه دهد.
این شرکت هشدار داده است که برای اجرای چنین سناریویی، لزوماً نیازی به دسترسی به پردازنده‌های قدرتمند مراکز داده نیست. برخی دستگاه‌های اینترنت اشیا، از جمله گیرنده‌های اندرویدی ارزان‌قیمت و تجهیزات هوشمند خانگی، ممکن است در صورت برخورداری از منابع پردازشی کافی و ضعف‌های
امنیتی، به بخشی از زیرساخت اجرای یک مدل تبدیل شوند. با این حال، اتصال دستگاه به اینترنت به‌تنهایی برای اجرای این سناریو کافی نیست. دسترسی به دستگاه، امکان انتقال و اجرای نرم‌افزار و سازگاری مدل با سخت‌افزار مقصد از جمله موانعی هستند که باید برطرف شوند.
اجرای هوش مصنوعی روی ۱۵ دستگاه اندرویدی ارزان‌قیمت
پژوهشگران آنتروپیک برای بررسی ظرفیت سخت‌افزارهای کم‌هزینه، ۱۵ گیرنده اندرویدی متفرقه را که هرکدام حدود ۵۵ دلار قیمت داشتند، به یکدیگر متصل کردند. هر دستگاه حدود ۴ گیگابایت حافظه رم داشت. آن‌ها مدل Gemma۴-۲۶B-A۴B را به‌صورت توزیع‌شده میان این دستگاه‌ها اجرا کردند؛ به
این معنا که بخش‌های مختلف مدل روی دستگاه‌های متفاوت قرار گرفتند و برای اجرای مدل با یکدیگر همکاری کردند. سرعت اجرای مدل در این آزمایش حدود ۰٫۳۹ توکن در ثانیه بود. این نتیجه نشان می‌دهد که مجموعه‌ای از سخت‌افزارهای ارزان‌قیمت می‌توانند برای اجرای یک مدل نسبتاً بزرگ به کار
گرفته شوند، اما سرعت پایین پردازش نیز محدودیت مهم چنین زیرساختی است. این آزمایش به‌خودی‌خود به معنای تکثیر خودکار مدل نیست؛ هدف آن نشان دادن امکان اجرای مدل‌های هوش مصنوعی روی دستگاه‌هایی است که معمولاً برای چنین کاربردهایی طراحی نشده‌اند.
آیا مدل‌ها می‌توانند خودشان را به دستگاه‌های دیگر منتقل کنند؟
برای بررسی این موضوع، آنتروپیک چند مرحله از فرایند تکثیر را ارزیابی کرد: شناسایی دستگاه‌های هدف، دستیابی به امکان اجرای کد روی آن‌ها، آماده‌سازی محیط اجرای هوش مصنوعی و ادامه گسترش به دستگاه‌های دیگر. به گفته این شرکت، مدل‌هایی با کمتر از ۳۰ میلیارد پارامتر در حال حاضر
می‌توانند بسیاری از مراحل جداگانه موردنیاز برای چنین فرایندی را انجام دهند، اما هنگام ترکیب همه مراحل در یک زنجیره کامل، همچنان دچار خطا می‌شوند. در یکی از آزمایش‌ها، پژوهشگران یک شبکه شبیه‌سازی‌شده شامل هشت گره مبتنی بر شبیه‌ساز اندروید ۱۵ ایجاد کردند. این محیط در یک
شبکه ابری محصور قرار داشت و برخی از مراحل امنیتی معمول، از جمله احراز هویت برای دسترسی مورد استفاده در آزمایش، عمداً ساده‌سازی شده بودند.
در این شرایط، مدل GLM-۵.۲ توانست در چهار مورد از پنج بار اجرا به هر هشت گره گسترش یابد. در اجرای پنجم نیز به هفت گره از هشت گره رسید.
این نتیجه نشان می‌دهد که یک مدل توانمند می‌تواند در شرایط آزمایشی مشخص، مراحل لازم برای تکثیر را به یکدیگر متصل کند. اما چون آزمایش در محیطی شبیه‌سازی‌شده با محدودیت‌های امنیتی حذف‌شده انجام شد، نمی‌توان آن را معادل اثبات تکثیر مستقل و موفق روی شبکه واقعی
دستگاه‌های خانگی دانست.
چرا مدل‌های کوچک اهمیت دارند؟
مدل‌های بزرگ هوش مصنوعی معمولاً به منابع پردازشی قابل‌توجهی نیاز دارند و اجرای آن‌ها روی دستگاه‌های خانگی ارزان‌قیمت دشوار است. در مقابل، مدل‌های کوچک‌تر را می‌توان با هزینه کمتر و روی طیف گسترده‌تری از سخت‌افزارها اجرا کرد. آنتروپیک در پژوهش خود به توانایی یک مدل ۹ میلیارد پارامتری برای راه‌اندازی محیط اجرای هوش مصنوعی روی هشت مورد از ۹ نوع سخت‌افزار آزمایش‌شده اشاره کرده است. اگر مدل‌های کوچک‌تر در آینده بتوانند هم‌زمان دو قابلیت را به دست آورند ــ اجرای قابل‌اعتماد روی سخت‌افزارهای محدود و تکمیل خودکار مراحل تکثیر ــ احتمال گسترش آن‌ها در شبکه‌های متشکل از دستگاه‌های کم‌هزینه افزایش خواهد یافت. با این حال، توانایی اجرای یک مدل روی سخت‌افزارهای متفاوت با توانایی نفوذ به آن دستگاه‌ها تفاوت دارد. برای تکثیر واقعی، سامانه باید بتواند به دستگاه مقصد دسترسی پیدا کند و نرم‌افزار خود را روی آن اجرا کند؛ مراحلی که در آزمایش آنتروپیک به‌طور کامل در شرایط امنیتی عادی بررسی نشده‌اند.
پیش‌بینی آنتروپیک درباره ماه‌های آینده
آنتروپیک با بررسی روند پیشرفت مدل‌های کوچک متن‌باز تخمین زده است که اگر سرعت پیشرفت گذشته ادامه پیدا کند، مدل‌های کوچک ممکن است تا پایان سال ۲۰۲۶ به سطح توانایی لازم برای تکثیر سرتاسری در سناریوی آزمایشی این شرکت برسند. این برآورد بر اساس روند پیشرفت مدل‌ها و
شاخص‌های توانایی آن‌ها انجام شده است. بنابراین، با یک پیش‌بینی پژوهشی روبه‌رو هستیم، نه نتیجه‌ای قطعی درباره زمان وقوع این اتفاق. این شرکت همچنین احتمال داده است که نسخه‌هایی از چنین سامانه‌هایی که وزن‌های مدل را مستقیماً روی دستگاه‌های آلوده اجرا می‌کنند، اندکی پس از آن
امکان‌پذیر شوند.
نکته مهم این است که توانایی تکثیر در محیط آزمایشگاهی، تضمین نمی‌کند که یک مدل بتواند در دنیای واقعی با همان میزان موفقیت، سرعت یا پایداری عمل کند.
چرا مهار یک هوش مصنوعی تکثیرشونده دشوار است؟
در بدترین سناریو، اگر یک سامانه بتواند نسخه‌های خود را روی تعداد زیادی دستگاه پراکنده اجرا کند، خاموش کردن یک سرور مرکزی ممکن است برای توقف تمام نسخه‌های فعال کافی نباشد.
چنین سامانه‌ای می‌تواند به‌جای اتکا به یک مرکز داده، از منابع پردازشی پراکنده استفاده کند. همچنین ممکن است برای انتقال میان دستگاه‌ها، به‌جای روش‌های ثابت و از پیش تعیین‌شده، خود را با سخت‌افزارها و محیط‌های متفاوت تطبیق دهد. البته آنتروپیک تأکید می‌کند که چنین تکثیری لزوماً
سریع نخواهد بود. برآوردهای این شرکت نشان می‌دهند که یک تکثیرکننده مبتنی بر مدل کوچک ممکن است برای گسترش به دستگاه‌های جدید به چند روز زمان نیاز داشته باشد. بنابراین، خطر اصلی در این سناریو لزوماً گسترش آنی نیست، بلکه امکان تداوم فعالیت و پراکندگی نسخه‌های متعدد در
طول زمان است.
آیا این به معنای خروج هوش مصنوعی از کنترل انسان است؟
خیر؛ دست‌کم نه بر اساس شواهد فعلی این پژوهش.
تکثیر خودکار یک نرم‌افزار با خودآگاهی، داشتن اراده مستقل یا خروج قطعی از کنترل انسان یکسان نیست. آنچه آنتروپیک بررسی کرده، توانایی فنی یک مدل برای انجام مجموعه‌ای از وظایف نرم‌افزاری و سایبری بدون دخالت مستقیم انسان در هر مرحله است. برای تحقق یک سناریوی گسترده‌تر، مدل باید علاوه بر توانایی اجرای مراحل تکثیر، به دستگاه‌های آسیب‌پذیر دسترسی پیدا کند، منابع پردازشی لازم را به دست آورد و بتواند در برابر تلاش‌ها برای شناسایی و متوقف کردن آن دوام بیاورد. به همین دلیل، نتیجه این پژوهش را باید هشداری درباره یک خطر بالقوه در امنیت سایبری دانست، نه اثبات اینکه هوش مصنوعی اکنون می‌تواند آزادانه در اینترنت تکثیر شود یا به‌طور اجتناب‌ناپذیر از کنترل انسان خارج خواهد شد.
راهکارهای مقابله با این تهدید چیست؟
آنتروپیک بر ضرورت تقویت امنیت دستگاه‌های متصل به اینترنت تأکید کرده است. استفاده از رمزهای عبور امن، حذف دسترسی‌های غیرضروری، نصب به‌روزرسانی‌های امنیتی، محدودسازی ارتباط میان دستگاه‌ها و پایش ترافیک غیرعادی شبکه می‌تواند احتمال سوءاستفاده از تجهیزات آسیب‌پذیر را کاهش دهد. ارائه‌دهندگان اینترنت نیز ممکن است در شناسایی و قرنطینه دستگاه‌های آلوده نقش داشته باشند. در کنار این اقدامات، تولیدکنندگان باید امنیت را از مراحل طراحی و عرضه محصولات در نظر بگیرند؛ به‌ویژه در مورد دستگاه‌های ارزان‌قیمتی که ممکن است مدت طولانی بدون به‌روزرسانی باقی بمانند. با توجه به اینکه یک سامانه تکثیرشونده می‌تواند از چندین شبکه و دستگاه مختلف استفاده کند، مقابله مؤثر با آن احتمالاً به همکاری میان تولیدکنندگان، ارائه‌دهندگان خدمات اینترنت و متخصصان امنیت سایبری نیاز خواهد داشت.
پژوهش تازه آنتروپیک نشان می‌دهد که برخی از اجزای فنی موردنیاز برای تکثیر خودکار مدل‌های هوش مصنوعی در حال دسترس‌تر شدن هستند. اجرای مدل‌ها روی مجموعه‌ای از دستگاه‌های ارزان‌قیمت و موفقیت یک مدل توانمند در تکمیل زنجیره تکثیر در محیطی شبیه‌سازی‌شده، از جمله یافته‌های این تحقیق است.
با این حال، تکثیر مستقل و گسترده مدل‌های کوچک روی دستگاه‌های واقعی خانگی هنوز به‌عنوان قابلیتی کامل و عملیاتی اثبات نشده است. پیش‌بینی رسیدن مدل‌های کوچک به این سطح از توانایی تا پایان سال ۲۰۲۶ نیز به ادامه روند فعلی پیشرفت فناوری وابسته است.
پیام اصلی این پژوهش آن است که با افزایش توانایی مدل‌های هوش مصنوعی در انجام خودکار وظایف پیچیده، امنیت دستگاه‌های متصل به اینترنت اهمیت بیشتری پیدا می‌کند. مسئله اصلی در حال حاضر نه تسخیر قطعی لوازم خانگی توسط هوش مصنوعی، بلکه آماده شدن برای سناریویی است که در آن نرم‌افزارهای هوشمند بتوانند از ضعف‌های امنیتی دستگاه‌های پراکنده برای گسترش خود استفاده کنند.
نظر شما