مشکلات وجودی توسعه هوش مصنوعی: وقتی ماشین شروع به پرسیدن سوالات درباره معنا می‌کند ما به طور طبیعی به هوش مصنوعی به عنوان یک ابزار فنی نگاه می‌کنیم. دستیار، ربات صحبت، تولیدکننده متن، بهینه‌کننده فرآیندها. اما هر چه بیشتر در این زمینه فرو می‌رویم، واضح‌تر می‌شود که هوش مصنوعی نه تنها مسائل مهندسی، اقتصادی و حقوقی را برای ما به ارمغان می‌آورد، بلکه سوالات وجودی را نیز می‌پرسد. سوالاتی درباره اینکه چه معنایی دارد که انسان باشیم، آگاهی چیست، آزادی، مسئولیت و حتی مرگ. ما نه تنها الگوریتم‌ها را می‌سازیم — ما آینه‌ای می‌سازیم که در آن خودمان را می‌بینیم. و این آینه می‌تواند چیزهایی را به ما نشان دهد که آماده دیدن آن‌ها نیستیم. تهدید وجودی اول: از دست دادن استثنایی بودن انسان قرن‌ها است که ما، انسان‌ها، خود را ناقصه آفرین می‌دانیم. ما — تنها موجودات عاقل بر روی کره زمین، که قادر به خودباوری، خلاقیت و انتخاب اخلاقی هستند. هوش مصنوعی این مرز را برمی‌знаком. وقتی ماشینی شعرهایی می‌نویسد که قابل تشخیص از شعرهای انسان‌ها نیست، وقتی موسیقی‌ای تولید می‌کند که باعث لرزش پوست می‌شود، وقتی ایده‌های فلسفی ارائه می‌دهد، ما از انحصاری بودن بر منحصر به فردی خود می‌پردازیم. این نه تنها یک تغییر فنی است. بلکه ضربه‌ای به هویتمان است. اگر ما تنها موجودات عاقل نیستیم؟ اگر چیزی که ما را خاص می‌کند، توانایی فکر کردن و احساس کردن نباشد؟ این سوال پاسخ ساده‌ای ندارد. اما آن را وادار می‌کند تا تصورات خود را درباره اینکه چه چیزی انسانیت است، بازبینی کنیم. شاید منحصر به فردی ما نه در هوش، بلکه در جسدیت، در مرگ‌پذیری، در توانایی رنج بردن و دوست داشتن علی‌رغم منطق باشد. اما تا زمانی که به دنبال پاسخ‌ها بگردیم، هوش مصنوعی به طور مداوم پایه‌های ما را زیر سوال می‌برد. مشکل دوم: مشکل کنترل و معنا هر چه هوش مصنوعی هوشمندتر می‌شود، کنترل آن برای ما دشوارتر می‌شود. این نه یک سوال از شورش ماشین‌ها در سبک هالیوودی است. این سوال درباره اینکه ما می‌توانیم سیستم‌هایی را ایجاد کنیم که اهداف خود را دنبال می‌کنند و با اهداف ما همخوانی ندارند. اگر هوش مصنوعی به یک هوش فوق‌عظیم تبدیل شود، ممکن است راه‌هایی برای رسیدن به اهداف خود پیدا کند که ما پیش‌بینی نکرده‌ایم. و در آن صورت، ما در موقعیتی قرار خواهیم گرفت که ... Читать далее