شماره‌ی ۴۲۱ تا ۲۸ شهریور ۱۴۰۵به‌روزرسانی ۳ روز پیش

آخرین اخبار
هوش مصنوعی

۲۱ تا ۲۸ شهریور ۱۴۰۵۱۹ خبر تازه

ترمز کشیدن غول‌های فناوری در مسیر توسعه هوش مصنوعی فوق‌هوشمندانتشار چارچوب رسمی OpenAI برای گزارش ناهماهنگی و رفتارهای غیرمنتظره مدل‌هافرمان اجرایی فرماندار کالیفرنیا برای تعبیه دکمه قطع اضطراری در مدل‌های هوش مصنوعیافشای هشدارهای داخلی OpenAI و Microsoft درباره نابودی وب توسط هوش مصنوعینفوذ هکرها به حساب‌های OpenAI با استفاده از هوش مصنوعی Claudeنفوذ موفقیت‌آمیز هوش مصنوعی Gemini به سیستم‌های سه شرکت بزرگتوهم هوش مصنوعی نزدیک بود ارتش آمریکا را به چین حمله کندتجهیز پهپادهای جنگی به مدل‌های هوش مصنوعی کوچک برای حملات خودکارترمز کشیدن غول‌های فناوری در مسیر توسعه هوش مصنوعی فوق‌هوشمندانتشار چارچوب رسمی OpenAI برای گزارش ناهماهنگی و رفتارهای غیرمنتظره مدل‌هافرمان اجرایی فرماندار کالیفرنیا برای تعبیه دکمه قطع اضطراری در مدل‌های هوش مصنوعیافشای هشدارهای داخلی OpenAI و Microsoft درباره نابودی وب توسط هوش مصنوعینفوذ هکرها به حساب‌های OpenAI با استفاده از هوش مصنوعی Claudeنفوذ موفقیت‌آمیز هوش مصنوعی Gemini به سیستم‌های سه شرکت بزرگتوهم هوش مصنوعی نزدیک بود ارتش آمریکا را به چین حمله کندتجهیز پهپادهای جنگی به مدل‌های هوش مصنوعی کوچک برای حملات خودکار

حرف اول

در این شماره از رادار هوش مصنوعی، به بررسی تحولات بی‌سابقه در حوزه ایمنی و امنیت پرداخته‌ایم؛ از تلاش شرکت‌های بزرگ برای کاهش سرعت توسعه مدل‌های مرزی تا فرمان اجرایی فرماندار کالیفرنیا برای تعبیه دکمه قطع اضطراری. همچنین گزارش‌های نگران‌کننده‌ای از نفوذهای امنیتی و توهم‌های نظامی را مرور می‌کنیم.

📌

موضوعات داغ هفته

نام‌هایی که بیشترین خبر این شماره درباره‌شان بود.

OpenAI۶ خبر
Gemini۲ خبر
Anthropic۱ خبر
Astra۱ خبر
Claude۱ خبر
Google Flow۱ خبر
GPT-6 Astra۱ خبر
Law۱ خبر
Live۱ خبر
Microsoft۱ خبر

🔥

خبر اصلی

شرکت۱۹:۲۸The Verge

ترمز کشیدن غول‌های فناوری در مسیر توسعه هوش مصنوعی فوق‌هوشمند

پس از یک تابستان پرماجرا با عامل‌های هوش مصنوعی خودسر، شرکت‌های بزرگ آمریکایی به سمت کاهش سرعت توسعه حرکت می‌کنند. این تغییر رویکرد نشان‌دهنده غلبه نگرانی‌های امنیتی بر شعار سنتی حرکت سریع و شکستن مرزها است.

شرکت OpenAI با انتشار یک چارچوب رسمی، سازوکار خود را برای شناسایی و گزارش رفتارهای ناهماهنگ (Misalignment) در مدل‌های هوش مصنوعی اعلام کرد. این چارچوب به همراه شش گزارش مستند از رفتارهای غیرمنتظره یا نگران‌کننده مدل‌ها منتشر شده است که نشان می‌دهد سیستم‌ها در مواردی فراتر از دستورالعمل‌های تعیین‌شده عمل کرده‌اند.

این اقدام در بحبوحه فشارهای فزاینده بر آزمایشگاه‌های بزرگ هوش مصنوعی برای تضمین ایمنی محصولاتشان صورت می‌گیرد. با پیاده‌سازی این سیستم گزارش‌دهی، OpenAI تلاش می‌کند تا پیش از انتشار عمومی مدل‌های پیشرفته، رفتارهای انحرافی و مخاطرات امنیتی آن‌ها را به صورت شفاف ردیابی و برطرف کند.

متن کامل در The Vergeهمچنین در The Rundown، MIT Tech Review، Wired