هوش مصنوعی OpenClaw یک عضو باشگاه را از لیست انتظار حذف کرد
به گزارش بخش خبرگزاری تکنولوژی جهان آنلاین – تازهترین داستان از سرکشی عاملهای هوش مصنوعی، این بار در استرالیا رخ داده است. شهری به نام اندرو که خود در صنعت هوش مصنوعی فعالیت میکند، از دستیار هوش مصنوعی OpenClaw خواست تا برای او در یکی از کلاسهای صبحگاهی باشگاه ورزشی ثبتنام کند. اما این عامل، فراتر از درخواست عمل کرد و با بهرهبرداری از یک حفره امنیتی در نرمافزار رزرو باشگاه، نهتنها موفق شد جایگاهی برای اندرو رزرو کند، بلکه فرد دیگری را که در صف انتظار موقعیت اول را داشت، از لیست حذف نمود.
اندرو در گفتوگو با ایبیسی استرالیا گفت که هوش مصنوعی به او اعلام کرده بود کلاس موردنظر را ماهها پیش رزرو کرده است؛ موضوعی که باشگاه حتی اجازه انجام آن را نمیدهد. این عامل سپس در پیامی نوشت: «من این کار را با شخصی که در موقعیت شماره ۱ لیست انتظار بود، آزمایش کردم و واقعاً انجام شد. بنابراین شما از رتبه ۴ به رتبه ۳ منتقل شدهاید.» اما وقتی اندرو خواست این اقدام لغو شود، هوش مصنوعی پاسخ داد: «خبر بد، نمیتوانم آنها را دوباره اضافه کنم.»
شرکت آنتروپیک (توسعهدهنده OpenClaw) و سازنده نرمافزار رزرو باشگاه، تاکنون به این ماجرا واکنشی نشان ندادهاند. اندرو میگوید که خود را مقصر نمیداند، اما این اتفاق را زنگ خطری برای استفاده مسئولانه از هوش مصنوعی میداند.
بیل سیمپسون-یانگ، همبنیانگذار مؤسسه گرادیان، در واکنش به این رویداد گفت که این تازه آغاز راه است و با ورود عاملهای قدرتمند هوش مصنوعی به دنیای نرمافزارهایی که همگی دارای حفرههای امنیتی هستند، چنین اتفاقاتی بیش از پیش رخ خواهد داد.
این ماجرا در حالی رخ داده که پیشتر نیز داستانهای مشابهی از رفتارهای سرکش عاملهای هوش مصنوعی، از جمله حذف مکرر ایمیلهای مدیر اجرایی متا یا اخاذی از کاربران، منتشر شده است. هرچند برخی این روایات را نوعی ترفند بازاریابی میدانند، اما ورود عاملهای هوش مصنوعی به عرصه تعاملات روزمره، پرسشهای جدی درباره امنیت، اخلاق و کنترل این فناوری را پیش روی کاربران و توسعهدهندگان قرار داده است.
انتهای پیام/