ساتیا نادلا: سازندگان هوش مصنوعی از اطلاعات مشتریان به نفع خود بهره می‌گیرند

«ساتیا نادلا»، مدیرعامل شرکت مایکروسافت، در مقاله‌ای هشدار داد که شرکت‌های بزرگ هوش مصنوعی که مدل‌های انحصاری ارائه می‌دهند، به نوعی مانند اسب تروا عمل می‌کنند. او بیان کرد که نگرانی اصلی این است که استارتاپ‌ها و شرکت‌های بزرگ با استفاده از مدل‌های شرکت‌هایی مانند OpenAI و آنتروپیک، به حساس‌ترین اطلاعات تجاری مشتریان دسترسی پیدا کنند و به رقیبی جدی برای آن‌ها تبدیل شوند.
نادلا در یادداشتی با عنوان «پارادوکس معکوس اطلاعات» توضیح داد که کاربران برای دریافت هوش مصنوعی، یک‌بار با پول و بار دیگر با دانش اختصاصی خود هزینه می‌کنند. آن‌ها به‌طور آگاهانه برای استفاده از توکن‌های هوش مصنوعی هزینه می‌کنند، اما برای بهبود عملکرد مدل، باید دانش سازمانی بیشتری را در اختیار آن قرار دهند.
به گفته نادلا، خطرناک‌ترین بخش این ماجرا این است که هوش مصنوعی از طریق دستورات متنی کاربران، ابزارهای مورد استفاده ایجنت‌ها و اصلاحاتی که افراد هنگام اشتباه‌کردن مدل اعمال می‌کنند، چیزهای جدیدی یاد می‌گیرد. هر اصلاحی که توسط کاربر انجام می‌شود، به دانشی عمیق تبدیل می‌گردد که هیچ رقیبی نمی‌تواند با پول بخرد، اما شرکت‌های مصرف‌کننده به‌راحتی آن را در اختیار پلتفرم‌های هوش مصنوعی قرار می‌دهند.