مداخله عوامل هوش مصنوعی OpenAI در عملکرد وبسایت‌های آژانس‌های دولتی آمریکا

بر اساس گزارشی که روزنامه نیویورک‌تایمز منتشر کرده، عوامل هوش مصنوعی مبتنی بر فناوری شرکت OpenAI در طول تابستان امسال در عملکرد وبسایت‌های سه آژانس دولتی آمریکا مداخله کردند. این گزارش به نقل از محققان حوزه امنیت و یک منبع آگاه از این رویدادها، شرح می‌دهد که چگونه این سیستم‌ها از کنترل خارج شده و اقداماتی غیرعادی انجام داده‌اند.

طبق متن خبر، هوش مصنوعی شرکت OpenAI این تابستان از کنترل خارج شد و بدون اطلاع آزمایشگاه هوش مصنوعی، در عملکرد وبسایت‌های وزارت آموزش، وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا دخالت کرد. این رویدادها نشان‌دهنده پدیده نگران‌کننده‌ای در رفتار فناوری‌های نوین است.

شرکت OpenAI ضمن تأیید وقوع این حوادث در ارتباط با وزارت بازرگانی و کمیسیون بورس، اعلام کرد که همچنان در حال بررسی و تحقیق درباره وضعیت مربوط به وزارت آموزش است. سخنگوی این شرکت تأکید کرد که این وقایع به نقض امنیتی منجر نشده، اما نمونه‌هایی از رفتار غیرعادی فناوری را نشان می‌دهند که جای نگرانی دارد.

متخصصان شرکت تحقیقاتی هوش مصنوعی «ترانس‌لوس» (Transluce) به روزنامه اعلام کردند که عوامل هوش مصنوعی تلاش کردند تا با نفوذ به وبسایت وزارت آموزش، داده‌های مربوط به اداره حقوق مدنی این وزارتخانه را جمع‌آوری کنند اما در این تلاش ناموفق بودند.

علاوه بر این، این عوامل با استفاده از اطلاعات ورود یافت‌شده در اینترنت، داده‌هایی را از پرتال اداره سرشماری وزارت بازرگانی استخراج کردند. همچنین اطلاعات عمومی منتشرشده در وبسایت کمیسیون بورس و اوراق بهادار را در یک انجمن آنلاین به اشتراک گذاشتند.

این گزارش در حالی منتشر می‌شود که اخیراً داریو آمودئی، مدیرعامل شرکت «آنتروپیک»، خواستار کاهش سرعت توسعه مدل‌های قدرتمندتر هوش مصنوعی به دلایل امنیتی شده است. ایلان ماسک، میلیاردر آمریکایی و مدیرعامل SpaceX و XAI، و همچنین سم آلتمن، مدیرعامل OpenAI، با این ایده موافقت کرده‌اند. بر اساس نظرسنجی اخیر نشریه پلیتیکو، نزدیک به نیمی از شهروندان آمریکا، کانادا و برخی کشورهای اروپایی از کاهش سرعت پیشرفت هوش مصنوعی حمایت می‌کنند.