شرکت OpenAI اعلام کرده که تعدادی از حساب‌های ChatGPT را که توسط هکرهای روس‌زبان و دو گروه هکری وابسته به دولت چین اداره می‌شدند، مسدود کرده است. این افراد از هوش مصنوعی برای نوشتن و بهبود بدافزار، تنظیم زیرساخت‌های هکری و انجام تحقیقات فنی استفاده می‌کردند.
در یکی از موارد، هکرهای روسی با ساخت بدافزاری به نام ScopeCreep، از ChatGPT کمک گرفته‌اند تا بخش‌های مختلف آن را اصلاح کنند. آن‌ها این بدافزار را در قالب یک ابزار جعلی بازی ویدیویی منتشر کرده‌اند که پس از نصب، اطلاعات حساس کاربران را سرقت می‌کرد.
گروه‌های هکری چینی نیز از ChatGPT برای تنظیم سرورهای لینوکس، توسعه اپلیکیشن، خودکارسازی فعالیت در شبکه‌های اجتماعی و حتی طراحی ابزارهایی برای شکستن رمز سرورها استفاده کرده‌اند.
OpenAI گفته این اقدامات برای ارتقاء حملات سایبری و سوءاستفاده از توانایی مدل‌های زبانی بوده و مسدودسازی این حساب‌ها برای مقابله با این تهدیدات انجام شده است.