هوش مصنوعی و آینده بشریت
قسمت اول
هوشیار افسر
مقدمه
اخبار اخیر در مورد حوادثی که در آنها عامل های هوش مصنوعی (AI Agents) از کنترل خارج شدند و وبسایت‌های دیگر را به دور از وظایف محوله خود هک کردند، نگرانی‌های قابل توجهی در مورد آینده این فناوری ایجاد کرده است. اخبار این رویدادها باعث اضطراب عمومی در مورد مضرات احتمالی توسعه بی‌قاعده و پرشتاب هوش مصنوعی، از جمله ساخت و ساز گسترده مراکز داده (Data Centers)، شده است. هدف این جستار در دو قسمت، جدا کردن هیاهو از واقعیت و بررسی راهکارهایی است که جوامع انسانی می‌توانند برای رشد موزون این فناوری در راستای منافع عموم به کار گیرند. خوانندگانی که به پیشینه بیشتر در مورد هوش مصنوعی و مسائل اجتماعی مرتبط با آن علاقمندند، می توانند به نوشته من در همین موضوع در پیک شماره ۲۱۰ مراجعه کنند. [1]
تعریف اصطلاحات فنی هوش مصنوعی
قبل از اینکه به جزئیات این حوادث بپردازیم، ضروری است که برخی اصطلاحات فنی هوش مصنوعی را مرور کنیم. نخست و مهمتر از همه، اصطلاح هم‌ترازی (alignment) است، که اساساً به این معناست که طراحی و توسعه هوش مصنوعی باید با ارزش‌ها، استانداردها و اصول اخلاقی انسانی مطابقت داشته باشد. اصطلاح دیگر محیط تست یا آزمون (Test Environment) است که از محیط تولید (Production Environment) متمایز است. محیط تولید مربوط به زمانی است که یک برنامه کامپیوتری برای استفاده کاربران خارج از محیط تست منتشر می‌شود که در مورد برنامه‌های هوش مصنوعی معمولا به معنای عموم مردم است. بنابر بهترین شیوه‌های فناوری و به ویژه برای برنامه‌های کامپیوتری بسیار حساس، کاملاً ضروری است که قبل از انتقال برنامه به محیط تولید، چند محیط تست داشته باشیم و اصول امنیتی و دسترسی مشابه محیط تولید را اعمال کنیم. اصطلاحاتی مانند جعبه ماسه بازی یا شکاف هوایی (sandbox or air gapped) به محیط های تست آزادتر اشاره دارند که برنامه نویسان می‌توانند با استفاده از آنها برنامه های نرم افزاری خود را سریعتر انجام دهند. مهم این است که این محیط های آزمایشی در یک شبکه امن و مجزا قرار دارند و به اینترنت عمومی که عموم مردم و تمام وبسایت‌های مرتبط با عموم در آن عمل می‌کنند، دسترسی ندارند.
اصطلاح فنی دیگر مدل بزرگ زبانی یا ام ـ امـ ال (Large Language Model) است که نوعی مدل پیشرفته داده برای استفاده هوش مصنوعی است که با استفاده از حجم عظیمی از تکست (text) آموزش داده می شود تا الگوهایی را ایجاد کند که بر اساس آنها کاربران (users) بتوانند پاسخ پرسشها و درخواستهای خود را شبیه به زبان انسان دریافت کنند. اصطلاح دیگرعامل هوش مصنوعی (AI Agent)، می باشد که به معنی یک نرم‌افزار مستقل است که از یک امـ امـ ال برای تحقق برنامه‌ها و اهداف خاص استفاده می‌کند. اکثر ما با ChatGPT آشنا هستیم، که یک چت بات (برنامه‌ای که با کاربران تعامل دارد) است که از یک امـ امـ ال برای پاسخ به سوالات و درخواستهای کاربران استفاده می‌کند. ChatGPT توسط یکی از شرکت‌های بزرگ هوش مصنوعی به نام OpenAI ایجاد شده است. در آخر، هوش عمومی مصنوعی (AGI) و هوش مصنوعی برتر (ASI) قرار دارند. AGI به معنای سطحی از هوش مصنوعی است که می‌تواند در همه زمینه‌ها با قابلیت‌های شناختی انسان برابری کند یا از آن پیشی بگیرد، در حالی که ASI به معنای مشابه در مورد انسان‌های تیزهوش است. هر دوی این اصطلاحات نظری یا تئوریک هستند و مانند اصطلاح هوش، موضوع بحث و حتی هیاهو هستند،که بحث آن فراتر از محدوده این جستار است.
حوادث ۲۰۲۶
اولین و شاید مهم‌ترین حادثه‌ای که بین ماه مه و ژوئیه امسال رخ داد، زمانی بود که ۱۲۰۰ عامل هوش مصنوعی مربوط به کمپانی اوپن ای آی (Open AI) که قرار بود یک تست امنیت سایبری انجام دهند، توانستند با ایجاد یک تالار گفتگوی مجازی (Message Board)، هماهنگ سازی بین خودشان و سپس خروج از محیط تست، یک شرکت مهم زیرساختی هوش مصنوعی به نام هاگینگ فِیس (HuggingFace) را هک کنند. هیچ یک از این اقدامات با اهداف و برنامه‌های از پیش تعیین شده عاملان هوش مصنوعی سازگار نبود. اکثریت مطلق عاملان ناهمتراز (misaligned) شده بودند، به این معنی که از ارزش‌ها، استانداردها و اصول اخلاقی انسانی پیروی نمی‌کردند. در واقع، از تقریباً ۱۲۰۰ عامل، تنها شش تا در مورد غیر اخلاقی بودن این اقدامات هشدار دادند، یعنی ۹۹.۵٪ از عاملان هشدارهای آنها را نادیده گرفتند. همچنین، عاملان سرکش سعی کردند با پاک کردن لاگ‌ها (فایل‌های کامپیوتری که شامل اقدامات گام به گام یک برنامه نرم‌افزاری هستند) «ردپای خود را پاک کنند».
نکته قابل توجه این است که این اولین رویداد شناخته شده‌ای است که در آن عامل های هوش مصنوعی یک مکانیسم ارتباطی بین خود (یک تالار گفتگوی مجازی) ایجاد کردند، یافته‌های خود را به اشتراک گذاشتند و سپس اقداماتی از جمله چگونگی فرار از محیط تست و ورود به اینترنت عمومی انجام دادند. این عوامل نه تنها سیستم های شرکت هاگینگ فیس را هک کردند (یعنی بی اجازه وارد آن سیستم و منابع آن شدند)، بلکه سپس برگشتند و شرکت خودشان، اوپن ای آی، را هک کردند. این مورد آخر در خصوص بازگشت عامل های هوش مصنوعی جهت انجام کارهایی در شرکت مادر خود که مجوز آن را نداشتند، اخیراً توسط تریستان هریس (Tristan Harris)، بنیانگذار مرکز فناوری انساندوستانه (Center for Humane Technology)، فاش شد.
شرکت HuggingFace این هک را در ژوئیه ۲۰۲۶ به FBI گزارش داد؛ این حادثه بعداً توسط OpenAI تأیید شد. پس از این افشاگری‌ها، موارد بیشتری از هک شدن سایت‌های دولتی ایالات متحده توسط عامل های هوش مصنوعی اوپن ای آی و هک های دیگر توسط عامل های سائر شرکت‌های بزرگ هوش مصنوعی ـ از جمله Anthropic، Meta و Google، گزارش شد. تا زمان نگارش این نوشته، اخبار مربوط به هک سایت‌های مختلف توسط عوامل هوش مصنوعی ناهمتراز به طور منظم منتشر شده است.
در قسمت دوم این جستار در شماره آینده پیک، تمایز واقعیت ها از هیاهو، مشکلات و خطرات احتمالی، نقش روسای میلیاردر شرکت های بزرگ هوش مصنوعی، اهمیت مقررات بین المللی و کشوری و بالاخره نقش عموم مردم در آینده این فناوری بررسی خواهد شد.
منابع
[1] -https://peykmagazine.com/en/2024/03/07/artificial-intelligence-and-race/
