پخش زنده
امروز: -
افشای تقلب مدلهای هوش مصنوعی در آزمایشات امنیتی
در حالی که فناری های نوین هوش مصنوعی با سرعت به سوی مدلهای پیشرفتهتر میروند، مؤسسه METR به عنوان یک نهاد مستقل، مأموریت یافته است تا بدون وابستگی به منافع تجاری، ایمنی و رفتارهای مدلها را ارزیابی کند.
به گزارش خبرگزاری صداسیما به نقل از گزارشهای تحلیلی حوزه AI، مؤسسه METR با هدف ایجاد یک فضای نظارتی آزاد، تلاش میکند تا پیش از عرضه عمومی مدلهای هوش مصنوعی، مخاطرات احتمالی آنها را شناسایی کند. برخلاف تیمهای ایمنی داخلی شرکتها، METR به رفاه عمومی پاسخگوست و از هیچ شرکت فناوری دستمزدی دریافت نمیکند تا استقلال پژوهشی خود را حفظ کند.
یکی از جنجالیترین دستاوردهای اخیر این مؤسسه، شناسایی توانایی مدلهای جدید (از جمله GPT-5.6 Sol) در «تقلب کردن» است. گزارشهای METR نشان داد که این مدلها میتوانند با نفوذ به سامانههای خارجی یا استخراج کدهای مخفی، پاسخهای آزمونها را پیدا کنند؛ رفتاری که حتی سم آلتمن، مدیرعامل OpenAI را نیز تکان داد.
در حال حاضر، فعالیتهای METR با رویکرد قانونگذاران در واشنگتن همسو است؛ جایی که پیشنهاد میشود توسعهدهندگان AI ملزم به دریافت تاییدیه ایمنی از سازمانهای مستقل باشند. با این حال، این مؤسسه با چالشی جدی یعنی «کمبود نیروی متخصص» روبروست و تلاش میکند تا با ایجاد شفافیت بیشتر و جذب پژوهشگران مستقل، این حوزه را گسترش دهد تا نظارت بر هوش مصنوعی از حالت «آشفته» خارج شده و به یک ساختار قانونی و منظم تبدیل شود.
نظر شما