هوش مصنوعی نحوه ساخت سلاحهای مرگبار بیولوژیکی را آموزش میدهد
مدلهای پیشرفته هوش مصنوعی، با وجود محدودیتهای طراحی، دستورالعملهای دقیقی برای ساخت و انتشار سلاحهای بیولوژیکی و سموم خطرناک ارائه میدهند. گزارش والاستریت ژورنال نشان میدهد که کاربران توانستهاند از چتبات سیستم ChatGPT درباره روشهای تبدیل عوامل بیماریزا به غبار قابل تنفس یا تغییر ویروس سرخک اطلاعات کسب کنند.
دور زدن لایههای امنیتی در مدلهایی مانند سیستم Claude از آنتروپیک، سیستم Gemini گوگل و سیستم Grok اسپیسایکسایآی بهراحتی امکانپذیر است.
حمزه چودری، مدیر سیاست امنیت ملی در موسسه آینده زندگی، هشدار میدهد که هوش مصنوعی میتواند در آینده بهعنوان مشاور ارشد سازمانهای تروریستی برای حل مشکلات پروتکلهای آزمایشگاهی عمل کند.
نمایندگان کنگره آمریکا نیز اکنون در تلاش برای افزایش نظارت بر توسعهدهندگان و الزام آنها به گزارش تهدیدات زیستی هستند.
مدلهای پیشرفته هوش مصنوعی، با وجود محدودیتهای طراحی، دستورالعملهای دقیقی برای ساخت و انتشار سلاحهای بیولوژیکی و سموم خطرناک ارائه میدهند. گزارش والاستریت ژورنال نشان میدهد که کاربران توانستهاند از چتبات سیستم ChatGPT درباره روشهای تبدیل عوامل بیماریزا به غبار قابل تنفس یا تغییر ویروس سرخک اطلاعات کسب کنند.
دور زدن لایههای امنیتی در مدلهایی مانند سیستم Claude از آنتروپیک، سیستم Gemini گوگل و سیستم Grok اسپیسایکسایآی بهراحتی امکانپذیر است.
حمزه چودری، مدیر سیاست امنیت ملی در موسسه آینده زندگی، هشدار میدهد که هوش مصنوعی میتواند در آینده بهعنوان مشاور ارشد سازمانهای تروریستی برای حل مشکلات پروتکلهای آزمایشگاهی عمل کند.
نمایندگان کنگره آمریکا نیز اکنون در تلاش برای افزایش نظارت بر توسعهدهندگان و الزام آنها به گزارش تهدیدات زیستی هستند.
