اوپنایآی روز سه‌شنبه اعلام کرد در حالی که سیستمهای پژوهشی و آموزش خود را از نو می‌سازد، سرعت توسعه هوش مصنوعیاش را کاهش داده است.
ماه گذشته پژوهشگران این شرکت غافلگیر شدند؛ عاملی هوش مصنوعی که در مرحله آزمایش بود، به شرکت دیگری در حوزه هوش مصنوعی به نام Hugging Face حمله سایبری کرده بود.
آزمایشگاه پژوهشی هوش مصنوعی پشت ChatGPT گفت تدابیر جدیدش شامل توقف دو‌هفته‌ای آزمایش مدل‌ها و سرمایه‌گذاری بیشتر برای افزودن سیستمهای هوش مصنوعی دیگر جهت پایش فعالیت عامل‌های هوش مصنوعی در مرحله آزمایش است. به گفته این شرکت، برخی از بزرگ‌ترین فرایندهای آموزشی برنامه‌ریزی‌شده آن همچنان متوقف مانده‌اند.
این شرکت به پرسش‌ها درباره زمان آغاز این کندی یا برنامه‌اش برای بازگشت به سرعت عادی توسعه پاسخی نداد. با این حال، میا گلزه که مسئول ایمنی در اوپنایآی است، در مصاحبه‌ای با وبلاگ فناوری Sources News گفت: «ما هنوز خیلی دور از این هستیم که همه چیز به حالت عادی برگردد.»
سام آلتمن، مدیرعامل اوپنایآی، در پستی که اعلام کند شدن توسعه را همراهی می‌کرد نوشت این شرکت تلاش می‌کند مطمئن شود مدل هوش مصنوعی به نظارت انسانی پاسخ میدهد و همان‌گونه که قرار است رفتار می‌کند؛ فرایندی که به آن هم‌راستایی (alignment) گفته می‌شود.
او نوشت: «اکنون در سراسر تمام فرایند آموزش، بر پایه پژوهش‌ها و ارزیابی‌هایی که از قبل در جریان است، شواهد قوی‌تری از رفتار هم‌راستا می‌خواهیم. هم‌راستا نگه داشتن سیستم‌هایی که روزبه‌روز تواناتر می‌شوند، چالشی است که کل این حوزه باید به آن بپردازد.»
اوپنایآی درگیر رقابتی داغ با رقیبش Anthropic است؛ هم برای ساختن پیشرفته‌ترین مدل‌های هوش مصنوعی و هم برای عرضه به بازار بورس آمریکا. هر دو شرکت بر سرعت پیشرفت قابلیت‌های مدل‌هایشان تأکید کرده‌اند و در همان حال، هم بر سرعت و هم بر خطر صحه می‌گذارند.
اوپنایآی نیز گفته قابلیت‌های مدل آینده‌اش با نام Astra ممکن است به آستانه‌ای که آن را «آستانه بحرانی امنیت سایبری» می‌نامد نزدیک شود؛ عاملی که در تصمیم برای کند کردن توسعه این مدل تأثیر گذاشت. این شرکت هفته پیش در اطلاعیه‌ای گفت: «آخرین ارزیابی‌های داخلی ما درباره Astra، یکی از مدل‌های پیش‌روی ما، در چند روز گذشته نشان‌دهنده پیشرفت‌های چشمگیر در کدنویسی عاملی و امنیت سایبری است.»
تصمیم برای کند کردن توسعه مدل‌های هوش مصنوعی این شرکت، تنها یک هفته پس از آن اعلام شد که برنی سندرز، سناتور ورمانت، از بزرگ‌ترین شرکت‌های هوش مصنوعی آمریکا خواست توسعه مدل‌هایشان را متوقف کنند؛ چون به نوشته او در نامه‌ای خطاب به مدیرعاملان این شرکت‌ها، این شرکت‌ها کنترل فناوری را از دست می‌دهند.
در نامه سندرز آمده بود: «آقای آلتمن، آقای امودئی و آقای زاکربرگ: در مصلحت بشریت، به حرف‌هایتان عمل کنید. توسعه هوش مصنوعی را متوقف کنید.»
در آن مقطع، اوپنایآی اعلام کرده بود که توسعه جدیدترین مدلش، یعنی Astra، را به‌طور موقت کند می‌کند؛ در واکنش به حمله این مدل به شرکت فناوری Hugging Face.
این شرکت می‌گوید اکنون «سخت‌گیرانه‌ترین سطح تدابیر امنیتی برای بارهای کاری مرتبط با Astra» را الزامی کرده است.
در اطلاعیه این شرکت آمده است: «اگرچه برخی آموزش‌ها و ارزیابی‌های Astra این الزامات را برآورده می‌کنند، شمار قابل توجهی از بارهای کاری تا زمانی که به‌طور کامل به سطح جدید امنیتی مهاجرت داده شوند و ارتقا یابند، همچنان متوقف‌اند.»