در چه مواردی هوش مصنوعی اغلب اشتباه می‌کند: مرزهای یادگیری ماشین مقدمه: طبیعت خطاهای هوش مصنوعی به عنوان یک پدیده سیستماتیک خطاهای سیستم‌های مدرن هوش مصنوعی (AI) مبتنی بر یادگیری ماشین (ML)، خوش‌آمدگویی‌های تصادفی نیستند، بلکه پیامدهای طبیعی معماری آن‌ها، روش‌های آموزشی و تفاوت‌های بنیادی با شناخت انسانی هستند. برخلاف انسان، هوش مصنوعی نمی‌تواند جهان را به معنای معنایی درک کند؛ او تنها روابط استاتیک در داده‌ها را شناسایی می‌کند. خطاهای او در جایی رخ می‌دهند که این روابط شکسته می‌شوند، جایی که نیاز به استدلال‌های انتزاعی، منطق یا درک زمینه وجود دارد. تحلیل این خطاها برای ارزیابی قابلیت اطمینان هوش مصنوعی و تعیین مرزهای کاربرد آن بسیار مهم است. 1. مشکل انحراف داده‌ها (Data Bias) و «قوانین گاربیدج» معمولی‌ترین و خطرناک‌ترین منبع خطاها، انحراف در داده‌های آموزشی است. هوش مصنوعی انحراف‌های موجود در داده‌ها را یاد می‌گیرد و تقویت می‌کند. انحرافات دموگرافیک: مورد معروفی با سیستم تشخیص چهره که برای مردان سفیدپوست دقت بیشتری نشان می‌داد نسبت به زنان سیاه‌پوست، زیرا بر روی مجموعه داده‌های غیرقابل توجه آموزش داده شده بود. در اینجا هوش مصنوعی «اشتباه نکرده است»، بلکه دقیقاً انحراف واقعی جهان را در محیط متنوع تکرار کرده است که منجر به خطای کاربردی شده است. انحرافات معنایی: اگر در داده‌های آموزشی برای مدل‌های زبانی، ترکیب کلمه «پرستار» اغلب با عبارت «او» مرتبط است و «برنامه‌نویس» با عبارت «او»، مدل تولید متن‌هایی خواهد کرد که این الگوهای جنسیتی را تکرار می‌کند، حتی اگر در درخواست ذکر شده باشد که جنسیت مشخص نشده است. این خطا در سطح زمینه اجتماعی است که مدل نمی‌تواند آن را درک کند. نکته جالب: در علوم کامپیوتری اصل «Garbage In, Garbage Out» (GIGO) — «مخاطره‌ای که وارد می‌شود، مخاطره‌ای که خارج می‌شود» عمل می‌کند. برای هوش مصنوعی این اصل به اصل عمیق‌تری تبدیل شده است «Bias In, Bias Out» — «انحراف در ورودی، انحراف در خروجی». سیستم نمی‌تواند محدودیت‌های داده‌هایی را که بر اساس آن آموزش دیده است، پشت سر بگذارد. 2. حملات مخالفانه: هک برای هوش مصنوعی این تغییرات عمدی و اغلب نامرئی در داده‌های ورودی، که منجر به نتایج نادرست شدید هوش مصنوعی می‌شود، هستند. مثال با تصویر: چسباندن چند پیکسل از ... Читать далее