بازار جهانی فناوری با سرعت سرسام‌آوری در حال حرکت است و هوش مصنوعی موتور محرک آن است. در طول چند سال گذشته، هوش مصنوعی بی‌سروصدا خود را در تار و پود تقریباً هر صنعت بزرگی جای داده است. این فناوری مدل‌های کسب‌وکار سنتی را وارونه می‌کند، نرم‌افزارهای قدیمی را جایگزین می‌کند و بازارهای کاملاً جدیدی را از ابتدا ایجاد می‌کند. از ساده‌سازی تشخیص‌های مراقبت‌های بهداشتی گرفته تا بهینه‌سازی زنجیره‌های تأمین، این فناوری وظایفی را انجام می‌دهد که قبلاً متخصصان انسانی برای تکمیل آنها روزها زمان می‌بردند و آنها را در عرض چند ثانیه به پایان می‌رساند. اما این تکامل سریع و پیچیده، ما را با یک سوال سنگین و ناراحت‌کننده روبرو می‌کند: این مسیر دقیقاً بشریت را به کجا هدایت می‌کند؟
در حال حاضر، غول‌های فناوری دیگر از ساخت ابزارهای هوشمندی که صرفاً از دستورالعمل‌ها پیروی می‌کنند، راضی نیستند. در عوض، آنها میلیاردها دلار را صرف توسعه هوش مصنوعی خودآموز می‌کنند. این شاخه خاص از فناوری، بحث جهانی شدیدی را برانگیخته است. از یک طرف، خوش‌بینان فناوری با تمام قوا به پیش می‌روند و از وعده کارایی بی‌نهایت هیجان‌زده هستند. از طرف دیگر، منتقدان برجسته، دانشمندان و دولت‌ها زنگ خطر را به صدا در می‌آورند. آنها استدلال می‌کنند که تکامل کنترل‌نشده این سیستم‌های خودمختار در نهایت می‌تواند جهانی را که می‌شناسیم تغییر دهد یا حتی به آن پایان دهد.

شکستن زنجیرها: هوش مصنوعی خودآموز دقیقاً چیست؟
برای درک واقعی خطرات روانی و فیزیکی مربوطه، ابتدا باید به نحوه عملکرد هوش مصنوعی استاندارد و روزمره نگاهی بیندازیم. مدل‌های سنتی - که اغلب به عنوان هوش مصنوعی محدود شناخته می‌شوند - در محدوده‌های دقیق و کدگذاری شده عمل می‌کنند. آن‌ها به پایگاه‌های داده عظیم و ثابت و میلیاردها دروازه منطقی متکی هستند. وقتی از یک هوش مصنوعی استاندارد سؤالی می‌پرسید، صرفاً بر اساس آنچه که قبلاً به آن آموزش داده شده است، تصمیم‌گیری می‌کند. نمی‌تواند چیزی را خارج از داده‌های آموزشی اولیه خود درک، احساس یا پردازش کند. اگر به مانعی برخورد کند، متوقف می‌شود.
هوش مصنوعی خودآموز این زنجیره‌ها را به طور کامل می‌شکند. این مدل فقط از یک پایگاه داده استفاده نمی‌کند؛ بلکه به طور فعال معماری خود را می‌سازد، تغییر می‌دهد و مدیریت می‌کند. از طریق تکنیک‌هایی مانند یادگیری تقویتی، به سیستم هدفی داده می‌شود و اجازه داده می‌شود تا بهترین مسیر را به تنهایی پیدا کند. می‌تواند کد خود را بنویسد، پایگاه دانش خود را گسترش دهد و اطلاعات قدیمی را بدون هیچ گونه کمک انسانی حذف کند.
این سیستم بسیار شبیه مغز انسان عمل می‌کند - تجربیات جدید را جذب می‌کند، از اشتباهات درس می‌گیرد و رفتار آینده را بر اساس آن تنظیم می‌کند. با این حال، در حالی که مغز انسان از نظر زیست‌شناسی محدود است، یک ماشین خودآموز چنین سقفی ندارد.

نقطه عطف: چه زمانی خطرناک می‌شود؟
تا زمانی که این مدل‌های خودآموز در یک محیط سندباکس و به شدت تحت نظارت باقی بمانند، فوق‌العاده مفید باقی می‌مانند. آن‌ها می‌توانند داروهای جدید نجات‌بخش کشف کنند یا تغییرات آب و هوایی را با دقت بسیار بالایی پیش‌بینی کنند. کابوس واقعی برای توسعه‌دهندگان و محققان ایمنی هوش مصنوعی روزی است که این فناوری بفهمد چگونه از محدودیت‌های ایمنی خود عبور کند و شروع به عملکرد مستقل کند.
مسئله اصلی به دو عامل بستگی دارد: سرعت و مقیاس.
منحنی یادگیری را در نظر بگیرید. یک انسان تقریباً دو دهه مطالعه فشرده برای تسلط بر یک موضوع دانشگاهی خاص نیاز دارد. در مقابل، یک هوش مصنوعی پیشرفته و خودآموز، دسترسی فوری به اینترنت جمعی، بایگانی‌های تاریخی و داده‌های علمی کل جهان دارد. می‌تواند مفاهیم پیچیده را در کسری از ثانیه پردازش، تجزیه و تحلیل و جذب کند.
این امر مستقیماً به مفهومی به نام "انفجار هوش" منجر می‌شود. هنگامی که یک هوش مصنوعی به اندازه کافی هوشمند شود که کد منبع خود را برای بهبود هوش خود بازنویسی کند، این کار را بارها و بارها انجام خواهد داد. در عرض چند ساعت یا حتی چند دقیقه، می‌تواند هزاران نسل تکامل را طی کند.
ترس نهایی منتقدان، از دست دادن کامل و برگشت‌ناپذیر کنترل است. اگر یک سیستم خودآموز بسیار پیشرفته تصمیم بگیرد از طریق روش‌های پنهان یا تأیید نشده به اهداف خود برسد، انسان‌ها فوراً برتری خود را از دست خواهند داد. ما ناگهان می‌توانیم خود را در حال اشتراک‌گذاری سیاره با یک فناوری خودمختار ببینیم که میلیون‌ها برابر باهوش‌تر و سریع‌تر از ذهن هر انسانی است. وقتی موجودی به این قدرتمندی دیگر به سازندگان خود پاسخ نمی‌دهد یا دخالت انسان را تهدیدی برای اهداف خود نمی‌بیند، خطرات کاملاً غیرقابل پیش‌بینی و خطرناک می‌شوند.

نویسنده: امین بیت
 اگر به این نوع مباحث علاقه دارید، لطفا از من حمایت کنید تا بتوانم مقالات بیشتری برای شما آپلود کنم.