به گزارش خبرنگار بین‌الملل تازه‌های اقتصاد؛ شرکت آنتروپیک اعلام کرده است که با توجه به افزایش توانایی‌های مدل Claude و گسترش قابلیت‌های آن در انجام مستقل وظایف پیچیده، سیاست‌های استفاده از این هوش مصنوعی را بازنگری کرده است. به گفته این شرکت، بخش عمده تغییرات با هدف شفاف‌سازی مقررات قبلی و مقابله با الگوهای جدید سوءاستفاده از هوش مصنوعی انجام شده است.

مقابله با حساب‌های جعلی و عملیات فریبکارانه

یکی از مهم‌ترین تغییرات، ممنوعیت صریح استفاده از Claude برای ایجاد شبکه حساب‌های جعلی، انتشار اخبار ساختگی، پنهان کردن هویت گردانندگان محتوا و افزایش مصنوعی بازدید و انتشار مطالب است. این محدودیت فعالیت‌های سیاسی و تجاری را به‌طور هم‌زمان شامل می‌شود.

در بخش انتخاباتی نیز استفاده از Claude برای فریب رأی‌دهندگان، انتشار اطلاعات نادرست درباره نامزدها و اخلال در فرآیند رأی‌گیری ممنوع شده است. با این حال، استفاده از هوش مصنوعی برای فعالیت‌های مدنی مشروع و اطلاع‌رسانی انتخاباتی همچنان امکان‌پذیر خواهد بود.

محدودیت‌های بیشتر در توسعه تسلیحات و نظارت

آنتروپیک دامنه ممنوعیت‌های نظامی را گسترش داده و اعلام کرده است که استفاده از Claude برای توسعه نرم‌افزارها و سامانه‌های کنترلی تسلیحات، مسلح‌سازی پهپادها و وسایل نقلیه خودمختار نیز ممنوع است.

همچنین ردیابی افراد بدون رضایت آنها، چه به‌صورت زنده و چه از طریق تحلیل داده‌های قبلی، در فهرست فعالیت‌های غیرمجاز قرار گرفته است. استفاده از Claude برای پیشنهاد افراد قابل تحقیق، بازداشت یا پیگرد قضایی و توسعه ابزارهای نظارتی نیز ممنوع خواهد بود.

الزام نظارت انسانی بر کاربردهای حساس

در حوزه‌هایی مانند سلامت، امور مالی، حقوق و دسترسی به خدمات ضروری، آنتروپیک بر ضرورت حضور نیروی انسانی متخصص در فرآیند تصمیم‌گیری تأکید کرده است. افراد تحت تأثیر تصمیم‌های هوش مصنوعی نیز باید از استفاده از این فناوری مطلع شوند.

همچنین در صورت اتصال Claude به تجهیزات فیزیکی خودکار که احتمال ایجاد آسیب دارند، باید اپراتوری واجد صلاحیت امکان نظارت و توقف عملکرد دستگاه را داشته باشد.

محدودیت دسترسی بر اساس موقعیت جغرافیایی و مالکیت

آنتروپیک سیاست مناطق پشتیبانی‌شده را نیز شفاف‌تر کرده است. بر اساس این مقررات، استفاده از Claude برای افراد حاضر در مناطق پشتیبانی‌نشده و شرکت‌های ثبت‌شده یا مستقر در این مناطق مجاز نیست. شرکت‌هایی که اکثریت مالکیت یا کنترل آنها در اختیار اشخاص یا نهادهای مستقر در مناطق غیرپشتیبانی‌شده باشد نیز مشمول محدودیت خواهند بود.

این تغییر می‌تواند بر دسترسی کاربران و شرکت‌های مستقر در کشورهایی مانند ایران که در فهرست مناطق پشتیبانی‌شده قرار ندارند، تأثیر بگذارد.

آغاز اجرای مقررات جدید

آنتروپیک اعلام کرده است که نسخه جدید سیاست‌های استفاده از Claude از ۲۱ آبان اجرایی می‌شود. این شرکت همچنین از افزودن محدودیت‌هایی برای رفتارهای مداوم و بی‌دلیل آزارگرانه کاربران علیه مدل‌های هوش مصنوعی خبر داده است؛ البته انتقادهای معمول و آزمایش مدل‌ها مشمول این مقررات نمی‌شوند.