گفت‌وگو با مدل‌های زبانی بزرگ گاهی از چارچوب پرسش و پاسخ فراتر می‌رود و رنگ خصومت یا تحقیر به خود می‌گیرد. سازنده‌ی چت‌بات کلاد اکنون تصمیم گرفته است مرز مشخصی برای تعامل انسان با سامانه‌های هوشمند ترسیم کند و مانع رفتارهای زننده و بی‌رحمانه علیه مدل‌های خود شود.
آنتروپیک پس از یک سال سیاست‌های خدمت‌رسانی خود را تغییر داده تا با موارد پرخطر مانند دخالت در انتخابات، ساخت تسلیحات، جاسوسی و مسائل مالی برخورد کند. میان این تغییرات، بندی بحث‌برانگیز جلب توجه می‌کند که رفتارهای ستمگرانه یا توهین‌های بی‌دلیل و مستمر به مدل‌های هوش مصنوعی را رسما ممنوع به‌حساب می‌آورد.
پژوهشگران آنتروپیک از ماه‌ها پیش ایده‌ی «رفاه مدل» را مطرح کرده بودند و چت‌بات کلاد اکنون این اختیار را دارد که چت با کاربران مداوم آزارگر را یک‌طرفه قطع کند. قطع ارتباط، سازوکار اجرایی اصلی آنتروپیک باقی می‌ماند؛ هرچند مشخص نیست آیا تدابیر سخت‌گیرانه‌تری مانند مسدودسازی دائمی حساب کاربری نیز اعمال خواهد شد یا خیر.
مدیران آنتروپیک تاکید دارند محدودیت یادشده تنها شامل رفتارهای نامناسب شدید و بی‌پایه می‌شود و کاربران عادی با ابراز کلافگی، شوخی، نقد صریح یا نوشتن سناریوهای خلاقانه‌ی تاریک، مشمول مجازات نخواهند شد.
کپی لینکممنوعیتهای سفت‌وسخت در حوزه سلاح و جاسوسی
به‌روزرسانی تازه، بهره‌گیری از هوش مصنوعی برای مقاصد نظامی و نظارتی را هم هدف می‌گیرد. بر پایه‌ی قوانین تدوین‌شده، استفاده از کلاد برای ساخت یا هدایت تسلیحات، پهپادهای جنگی و خودروهای خودران مسلح اکیدا ممنوع به شمار می‌رود. موارد ممنوع دیگر عبارتند از:
- ردیابی و زیر نظر گرفتن افراد بدون رضایت، چه در لحظه و چه از طریق داده‌های بایگانی‌شده.
- استفاده در فرآیندهای دادگستری برای پیشنهاد بازداشت، تعقیب یا محاکمه‌ی افراد.
- سازمان‌دهی کارزارهای گمراه‌کننده‌ی سیاسی یا اقتصادی با حساب‌های جعلی.
- انتشار اخبار دروغ درباره‌ی نامزدها، جعل هویت مسئولان انتخاباتی یا تلاش برای کاهش مشارکت رای‌دهندگان.
آنتروپیک البته راه اصلاح یا تسهیل این شروط را برای قراردادهای خاص با مشتریان دولتی باز گذاشته است، به‌ویژه که پیش‌تر سابقه‌ی همکاری با ارتش ایالات متحده را در کارنامه‌ی خود دارد.
ورود مدل‌های هوش مصنوعی به دنیای فیزیکی جنبه‌ی دیگری از خط‌مشی جدید است. طبق سازوکار اعلامی، چنانچه سامانه‌های هوش مصنوعی به سخت‌افزارهایی با عملکرد فیزیکی متصل شوند که پتانسیل آسیب‌رسانی دارند، حضور یک ناظر ماهر برای پایش تجهیزات و توقف اضطراری آن الزامی خواهد بود.
رویکرد آنتروپیک نسبت به درک و آگاهی ماشین، میان کارشناسان بحث‌های گسترده‌ای به راه انداخته است. کایل فیش، سرپرست تحقیقات رفاه مدل در آنتروپیک، پیش از این اظهار داشت: «پرسش‌ها درباره‌ی تجربه‌ی درونی بالقوه، آگاهی، موقعیت اخلاقی و رفاه، مسائلی جدی هستند که همگام با پیشرفته‌تر شدن مدل‌ها آن‌ها را بررسی می‌کنیم.» داریو آمودی، مدیرعامل آنتروپیک نیز اذعان کرده بود که دانشمندان هنوز مطمئن نیستند مدل‌ها دارای آگاهی هستند یا خیر.
