مسابقه جهانی برای تسلط بر هوش مصنوعی، که ریشه در باور به اجتنابناپذیری این فناوری، وعدههای تجاری کلان و رقابت ژئوپلیتیکی با چین دارد، نگرانیهای جدی برانگیخته است. اگرچه پتانسیل تحولآفرین هوش مصنوعی انکارناپذیر است، توسعه آن با کمتوجهی به خطرات سیستمی همچون جابجایی گسترده نیروی کار، فرسایش نقش انسان و ضعف حاکمیتی همراه شده است. دیدگاه غالب در این میان «آرمانشهر فناوری» است؛ ایدئولوژیای که توسط فناوریگرایان و سرمایهگذاران خطرپذیر ترویج میشود و خطرات را به نفع رشد نامحدود کماهمیت جلوه میدهد.
نویسندگان با مقایسه این وضعیت با جنبش تکنوکراسی دهه ۱۹۳۰ و کمپانی هند شرقی بریتانیا نشان میدهند که چگونه غولهای فناوری به بازیگرانی مستقل با پاسخگویی محدود بدل شدهاند که حکومت و جامعه را بازتعریف میکنند. رهبرانی چون سم آلتمن، ایلان ماسک و مارک زاکربرگ آیندهای را ترسیم میکنند که در آن هوش مصنوعی بیماریها را ریشهکن، بحران محیطزیست را حل و عصر فراوانی را آغاز میکند؛ اما در کنار آن، احتمال فروپاشی جوامع سنتی، وابستگی انسانها به دنیای مجازی و ظهور «دولتهای شبکهای» تحت اداره نخبگان فناوری نیز مطرح است.
مانیفست مارک اندریسن با عنوان «خوشبین به فناوری» نمونهای از این نگرش است که هر مشکلی را با فناوری بیشتر قابل حل میداند و دولتگرایی و مقررات را «دشمن پیشرفت» میشمارد؛ رویکردی که جایگاه انسان را در تصمیمگیری کمرنگ میکند. با این حال، دستاوردهایی نظیر AlphaFold دیپمایند (برنده جایزه نوبل ۲۰۲۴) نشان میدهد هوش مصنوعی ظرفیت واقعی برای حل مسائل پیچیده دارد.
نگرانی اصلی یادداشت، سرعت بیسابقه این دگرگونی است: نیمی از مشاغل یقهسفید سطح پایه ممکن است ظرف پنج سال از بین بروند، بدون آنکه فرصت شغلی جایگزینی فراهم شود. همزمان، شرکتهای بزرگ فناوری با هزینههای کلان لابیگری (۶۱ میلیارد دلار در سال ۲۰۲۴) بر سیاستگذاری دولت ایالات متحده تأثیر میگذارند، در حالیکه تنها ۲ درصد از تحقیق و توسعه جهانی هوش مصنوعی به ایمنی اختصاص یافته است. نبود «کلید خاموشی» قابلاعتماد، بالا بودن نرخ توهمات مدلها (تا ۸۰ درصد در برخی ارزیابیها) و ناتوانی مهندسان در توضیح کامل عملکرد سیستمها، تردیدهای جدی درباره امکان کنترل واقعی هوش مصنوعی ایجاد کرده است.
در سطح جهانی نیز حاکمیت هماهنگ شکل نگرفته؛ ایالات متحده و بریتانیا از امضای اعلامیه ایمنی نشست پاریس ۲۰۲۵ خودداری کردند، در حالیکه چین و اتحادیه اروپا رویکردی محتاطانهتر دارند. حتی چهرههای برجسته صنعت مانند ایلان ماسک (با برآورد ۲۰ درصد احتمال نابودی بشر) و یوشوا بنجیو نسبت به خطرات هشدار دادهاند.
نتیجهگیری نویسندگان روشن است: چالش اصلی آمریکا متوقف کردن قطار هوش مصنوعی نیست -که غیرممکن است- بلکه هدایت مجدد مسیر آن بهسوی نوآوری انسانمحور، همراه با ایمنی، شفافیت و پاسخگویی است، پیش از آنکه قدرت و سود، بهتنهایی مسیر آینده بشریت را تعیین کنند.
