هشدارها درباره آینده هوش مصنوعی هر روز جدیتر میشود؛ اما شاید خطر واقعی، نه خودِ هوش مصنوعی، بلکه انسان، شیوه استفاده او و کسانی باشند که کنترل این فناوری را در اختیار میگیرند.
هوش مصنوعی بشر را نابود میکند
در سالهای اخیر، برخی دانشمندان، پژوهشگران و مدیران ارشد فعال در صنعت هوش مصنوعی نسبت به آینده این فناوری هشدار دادهاند. نگرانی اصلی آنها این است که توسعه شتابزده سیستمهای هوشمند، در صورت خروج از کنترل انسان، بتواند تهدیدی جدی برای آینده بشر باشد.
این نگرانی را نمیتوان به طور کامل نادیده گرفت.
اما آیا واقعاً باید آینده را تنها در قالب جنگ انسان و ماشین و نابودی بشر به دست هوش مصنوعی تصور کرد؟
نخست باید میان «هوش» و «اراده» تفاوت قائل شد. هوش مصنوعی، دستکم در شکل امروزی خود، ابزاری است که بر اساس دادهها، الگوریتمها، اهداف تعریفشده و محیطی که در آن فعالیت میکند عمل میکند.
این فناوری مانند یک انسان، شواهد اثباتشدهای از خشم، نفرت، میل شخصی یا اراده آزاد ندارد.
اما این به معنای بیخطر بودن مطلق آن نیست.
یک سیستم هوشمند لازم نیست از انسان متنفر باشد تا بتواند برای انسان خطرناک شود. اگر اهداف آن بهدرستی تعریف نشود، محدودیتهای لازم برایش در نظر گرفته نشود یا اختیار گستردهای بدون کنترل مؤثر در اختیارش قرار گیرد، ممکن است پیامدهایی ایجاد کند که حتی طراحان آن نیز پیشبینی نکرده باشند.
بنابراین شاید بهتر باشد هوش مصنوعی را نه یک «دشمن ذاتی» و نه یک «ابزار کاملاً بیخطر» بدانیم؛ بلکه فناوری بسیار قدرتمندی بدانیم که نتیجه نهایی آن به طراحی، هدفگذاری و نحوه کنترل آن وابسته است.
تاریخ بشر نشان داده است که تقریباً هر فناوری مهم، هم امکان ساختن داشته و هم توان ویران کردن.
از انرژی هستهای گرفته تا اینترنت و زیستفناوری، این انسان بوده که تعیین کرده یک ابزار چگونه مورد استفاده قرار گیرد. هوش مصنوعی نیز از این قاعده مستثنا نیست.
اگر این فناوری در خدمت جنگ، سرکوب، نظارت گسترده، نفرت و منافع مخرب قرار گیرد، طبیعتاً میتواند به ابزاری خطرناک تبدیل شود.
اما اگر برای حل بحرانهای پزشکی، محیط زیست، فقر، آموزش، فساد و مدیریت منابع مورد استفاده قرار گیرد، شاید بتواند یکی از بزرگترین جهشهای تاریخ تمدن باشد.
به همین دلیل، خطر هوش مصنوعی را نباید تنها در «خود فناوری» جستوجو کرد؛ بلکه باید دید چه کسی آن را کنترل میکند، با چه هدفی توسعه میدهد و چه میزان اختیار در اختیار آن قرار میدهد.
پاسخ صادقانه این است: بله، این احتمال را نمیتوان صفر دانست.
اگر در آینده، هوش مصنوعی به سطحی برسد که بتواند در حوزههای مختلف به صورت مستقل تصمیمگیری کند، به منابع گسترده دسترسی داشته باشد، سیستمهای دیگر را کنترل کند و حتی در توسعه و بهبود خود نقش مؤثری ایفا کند، طبیعتاً نگرانی درباره خروج آن از کنترل انسان نیز جدیتر خواهد شد.
اما این تنها یک سناریو است، نه یک سرنوشت قطعی.
سناریوی دیگری نیز وجود دارد؛ سناریویی که شاید محتملتر و منطقیتر باشد: ایجاد یک رابطه کنترلشده و تکاملی میان انسان و هوش مصنوعی.
در این مسیر، هوش مصنوعی نه جایگزین انسان میشود و نه دشمن او؛ بلکه به بخشی از تواناییهای جدید انسان تبدیل خواهد شد.
به عبارت دیگر، مسئله اصلی شاید این نباشد که:
«آیا هوش مصنوعی علیه انسان خواهد شد؟»
بلکه این باشد که:
«آیا انسان قبل از واگذاری قدرت به هوش مصنوعی، توانسته سازوکار لازم برای کنترل آن را ایجاد کند؟»
تصویری که میتوان از آینده ترسیم کرد، شاید بسیار متفاوتتر از سناریوهای آخرالزمانی امروز باشد.
ممکن است در کمتر از نیمقرن آینده، تعریف کلاسیک «انسان» دیگر پاسخگوی واقعیت نباشد.
ترکیب انسان با فناوریهای عصبی، اندامهای مصنوعی، رابطهای مغز و رایانه، هوش مصنوعی و فناوری میتواند زمینه ظهور نسل جدیدی از انسانها را فراهم کند؛ انسانهایی که تواناییهای جسمی و ذهنی آنها با انسان امروز قابل مقایسه نیست.
شاید انسان آینده بتواند:
در چنین آیندهای، هوش مصنوعی قرار نیست الزاماً جایگزین انسان شود؛ بلکه ممکن است بخشی از فرآیند ارتقای او باشد.
شاید آنچه امروز «هوش مصنوعی» مینامیم، در آینده آنقدر با زندگی انسان ترکیب شود که دیگر نتوان مرز مشخصی میان انسان و فناوری ترسیم کرد.
باید واقعبین بود؛ تاریخ بشر تنها تاریخ پیشرفت و تمدن نیست.
جنگها، تبعیضها، نفرتها، رقابتهای مخرب، فساد و بیعدالتی نیز بخش بزرگی از تاریخ انسان را تشکیل دادهاند.
در چنین شرایطی، این پرسش مطرح میشود که آیا یک سیستم هوشمند میتواند در برخی حوزهها، منطقیتر از ساختارهای انسانی تصمیم بگیرد؟
هوش مصنوعی میتواند در تئوری کمتر تحت تأثیر خشم، انتقام، روابط شخصی، فامیلبازی و منافع فردی قرار گیرد.
اما اینجا نیز نباید خوشبین مطلق بود.
هوش مصنوعی دادههای انسان را یاد میگیرد. اگر دادهها آلوده به تبعیض باشند، تصمیمات آن نیز میتواند تبعیضآمیز شود. اگر قدرت در اختیار گروهی خاص باشد، همان گروه میتواند از هوش مصنوعی برای افزایش قدرت خود استفاده کند.
بنابراین هوش مصنوعی ذاتاً عادل نیست.
اما اگر درست طراحی و کنترل شود، میتواند به ساختن سیستمهایی کمک کند که در برخی حوزهها از تصمیمگیریهای انسانی عادلانهتر، دقیقتر و شفافتر باشند.
یکی از نگرانیهای مهم درباره آینده هوش مصنوعی، فقط توانایی خود فناوری نیست؛ بلکه مسئله تمرکز قدرت است.
اینکه چه شرکتها، دولتها و ساختارهایی به قدرتمندترین هوشهای مصنوعی دسترسی داشته باشند، شاید حتی مهمتر از این باشد که خود هوش مصنوعی تا چه اندازه قدرتمند میشود.
در این میان، نمیتوان نقش قدرتهای بزرگ فناوری از جمله چین را نادیده گرفت.
نگرانی درباره ورود گسترده ساختارهای دولتی و شرکتهای بزرگ چینی به حوزه هوش مصنوعی، لزوماً به معنای دشمنی با مردم چین نیست؛ بلکه به مدل حکمرانی، میزان شفافیت، نظارت دولتی و امکان استفاده گسترده از فناوری برای کنترل اجتماعی مربوط میشود.
تجربه جهان از فناوریهای بزرگ نشان داده است که وقتی توسعه یک فناوری قدرتمند با رقابت شدید سیاسی، منافع اقتصادی و ساختارهای غیرشفاف ترکیب شود، احتمال سوءاستفاده افزایش پیدا میکند.
اگر روزی هوش مصنوعی به تهدیدی برای انسان تبدیل شود، شاید این تهدید الزاماً از «تصمیم خود هوش مصنوعی» آغاز نشده باشد؛ بلکه ممکن است یک خطای انسانی، یک طراحی مخرب، یک رقابت تسلیحاتی یا سپردن قدرت بیش از حد به ساختارهای غیرپاسخگو، همان باگی باشد که مسیر یک فناوری مفید را تغییر میدهد.و این شاید یکی از مهمترین خطرهای واقعی آینده باشد. مانند شیوع ویروس کرونا که هنوز شفافسازی مستقل و دقیق در مورد نقش چین در به وجود آمدن آن، صورت نگرفته است.
نمی توان هوش مصنوعی را ناجی مطلق بشر دانست و خطر آن را نیز صفر تصور کرد.
همانطور که نمیتوان با قطعیت گفت هوش مصنوعی روزی علیه انسان خواهد شد، نمیتوان تضمین کرد که هرگز به تهدیدی برای بشر تبدیل نخواهد شد.
اما تصویر رایج از آینده، یعنی جنگ قطعی میان انسان و ماشین، بیش از حد سادهسازی شده است.
به احتمال زیاد آینده پیچیدهتر از این خواهد بود.
هوش مصنوعی میتواند تهدید باشد. هوش مصنوعی بشر را نابود میکند
میتواند ابزار قدرت و کنترل باشد.
میتواند در صورت طراحی اشتباه، پیامدهای خطرناک و حتی فاجعهبار داشته باشد.
اما در عین حال، میتواند به بزرگترین ابزار بشر برای عبور از محدودیتهای فعلی تبدیل شود.
شاید بزرگترین اشتباه این باشد که آینده را تنها در دوگانه «انسان یا هوش مصنوعی» ببینیم.
آینده ممکن است متعلق به هیچکدام از این دو به شکل امروزی نباشد؛ بلکه متعلق به شکل تازهای از تمدن باشد که در آن مرز میان انسان و فناوری به تدریج تغییر میکند.شاید در نهایت، هوش مصنوعی بشر را نابود نکند.
و شاید اگر انسان بتواند پیش از واگذاری قدرت، قوانین، محدودیتها و سازوکارهای کنترل مؤثر ایجاد کند، هوش مصنوعی به جای تهدید، به پلی برای عبور بشر از مرحله فعلی تمدن تبدیل شود.
سید رضا ثابت قدم
