اگر اهل وب‌گردی یا از علاقه‌مندان اخبار علمی- اجتماعی باشید تقریباً محال است طی یک هفته، چند خبر و مطلب تازه  درباره مثبت و منفی‌های هوش مصنوعی و دستاوردهایش به چشمتان نخورد.اگر هم حوصله داشته باشید و مثلاً عنوان «خطرات هوش مصنوعی» را در اینترنت جست‌وجو کنید، بیشتر از 4 میلیون نتیجه پیش چشمتان ظاهر می‌شود که تعداد زیادی از آن‌ها مربوط به همین امسال و حتی همین یکی دوماه اخیر است. در میان نگرانی‌ها، هشدارها و خبرهای مربوط به خطرات احتمالی هوش مصنوعی، بیشتر از همه، دغدغه اینکه مبادا روزی هوش مصنوعی، گوی ذکاوت، رِندی و تیزهوشی را از انسان برباید و عنان اختیار جهان و زندگی ما را به دست بگیرد، دیده می‌شود. یعنی واقعاً چنین چیزی ممکن است؟ 

دغدغه‌های هوشی
خیلی از دانشمندان فکر می‌کنند نباید این سؤال و تهدید را شوخی گرفت. فرض کنید روزی هوش مصنوعی به چنان مرحله‌ای از پیشرفت برسد که بتواند نمونه‌های ارتقایافته‌تری از خودش بسازد. این یعنی، خیلی زود به نقطه‌ای می‌رسد که هیچ انسانی یارای مقابله با آن را ندارد. دانشمندان از این مرحله با عنوان «انفجارهوش» یاد کرده‌اند. شاید برای همین، هفته پیش خبرگزاری‌ها نوشتند: «اروپا نخستین قانون جهان را برای کنترل هوش مصنوعی تصویب کرد!»
 البته «فرانسوا شوله» مهندس نرم‌افزار و پژوهشگر هوش مصنوعی در مطلبی که سایت «ترجمان» آن را منتشر کرده، نظر دیگری ارائه می‌دهد. او معتقد است در همه نگرانی‌هایی که امروزه درباره هوش مصنوعی و پیش افتادنش از انسان وجود دارد، فرض اساسی این است که در آینده نزدیک، نخستین «هوش مصنوعی بذرگونه» خلق می‌شود که توانایی‌های حل مسئله‌اش کمی از انسان‌ها فراتر است. این هوش مصنوعیِ بذرگونه سپس شروع به طراحی هوش‌های مصنوعی بهتر و... می‌کند و سرانجام از هوش انسان کاملاً پیشی می‌گیرد و در مدت کوتاهی با اختلاف از آن جلو می‌افتد و به یک اَبَرهوش تبدیل می‌شود. نمونه‌ این فرضیه را هم می‌توان در فیلم‌های علمی‌تخیلی  ازجمله «تعالی» (۲۰۱۴) دید. با این دیدگاه، ابرهوش تقریباً به معنای تواناییِ مطلق و همچنین تهدیدی حیاتی برای بشریت است!
«فرانسوا شوله» در نوشته‌اش تلاش دارد خلاف جریان آب شنا کرده و به قول خودش استدلال کند اصل این بحث و جنجال که درباره خطرات هوش مصنوعی و ضرورت نظارت دولت‌ها بر آن، به راه افتاده، جریانی گمراه‌کننده است، چون اصولاً انفجار هوش غیرممکن است و این مفهوم به خاطر درک کاملاً غلط از ماهیت هوش و نیز رفتار سیستم‌هایی که قابلیت خودارتقایی دارند، در ذهن انسان شکل گرفته است. 

مغز صفر کیلومتر
این پژوهشگر ابتدا سعی می‌کند تعریف و شناخت دقیقی از«هوش» ارائه دهد و سپس برسد به نوع مصنوعی‌اش. روایت «انفجار هوش»، خود هوش را   «توانایی عمومیِ حل‌مسئله» می‌داند که عامل‌های هوشمند (مغز انسان یا مغز الکترونیکی) به نمایش می‌گذارند. این تصویر و تعریف از هوش، کامل نیست.
ایراد بزرگ نظریه «انفجارهوش» این است که نمی‌فهمد هوش لزوماً بخشی از یک سیستم کلی‌تر است و آن را مثلاً یک مغز می‌داند که می‌توان آن را درباره موضوع و مسئله خاصی، توانمند وهوشمند کرد.
در حالی که مثلاً نوزاد انسان به جز مغز، با مجموعه پیشرفته‌ای از رفتارهای بازتابی و چارچوب‌های ذاتی برای یادگیری به دنیا می‌آید که رشد اولیه حسی‌حرکتی را رقم می‌زنند و لازم‌اند تا هوش انسان کم‌کم کنترل جسم انسان را در اختیار بگیرد. بنابراین اگر بر فرض یک مغز صفر کیلومتر انسان را توی سر یک هشت‌پا بگذاریم، هیچ کارایی ندارد و نه مغز و نه هشت‌پا نمی‌توانند ادامه حیات بدهند. پس هوش یک ابرقدرت نیست و هوش استثنایی فی‌نفسه قدرتی استثنایی برای تسلط بر شرایط و محیط به ما نمی‌دهد. آنچه انسان امروزی از آن به عنوان هوش یاد می‌کند فقط مغز نیست بلکه شامل مغز و پروتزهای شناختی اطرافمان است. گوشی‌های هوشمند، لپ‌تاپ‌ها، جست‌وجوی گوگل، ابزارهای شناختی‌ای که در مدرسه به ما داده‌اند، کتاب‌ها، انسان‌های دیگر، علائم ریاضی، برنامه‌نویسی و... ابزار و فرایندهای بیرونی شناخت و باهوشی ما هستند و بیشتر توانایی‌های شناختیِ ما در این پروتزهای شناختی است، نه  در مغزمان.  وقتی دانشمندی به یک دستاورد بزرگ می‌رسد، فرایندهای فکری‌ای که در مغزش می‌گذرد فقط بخش کوچکی از معادله است و بخش‌های بیشتر و بزرگ‌تر به عهده رایانه‌ها، دانشمندان دیگر، ریاضیات و... است. 

حرف آخر
معنی همه این حرف‌ها این است که مغزی با این ویژگی و محدودیت‌ها و این حد از نیازمندی به عناصر دیگر، هرگز به ‌تنهایی، نمی‌تواند هوشی فراتر از خودش بسازد. منتها میلیاردها مغز، طی هزاران سال دانش‌اندوخته و فرایندهای هوش بیرونی را پرورش داده‌اند، سیستمی (به نام تمدن) خلق کرده‌اند که شاید سرانجام به مغزهای مصنوعی‌ای با هوش بیشتر از یک انسانِ واحد بینجامد.  
حالا اگر می‌پرسید آیا هوش‌های مصنوعی فرابشریِ آینده که به‌صورت جمعی و طی قرن‌ها ساخته می‌شوند، قابلیت ساختن هوش‌های مصنوعی قوی‌تر از خودشان را دارند؟ می‌گویم: خیر! اگر به این پرسش پاسخ مثبت بدهیم، به هرآنچه می‌دانیم پشت کرده‌ایم. باید به یاد داشته باشیم هیچ انسان یا موجود هوشمندی، تاکنون چیزی باهوش‌تر از خود خلق نکرده است. کاری که می‌کنیم این است به‌تدریج و به‌صورت جمعی، سیستم‌های بیرونیِ حل مسئله‌ای می‌سازیم که از خودمان عظیم‌ترند. منتها هوش‌های مصنوعیِ آینده، مثل انسان‌ها و دیگر سیستم‌های هوشمندی که تاکنون تولید کرده‌ایم، به تمدن ما بهره می‌رسانند و تمدن نیز به‌ نوبه خود از آن‌ها برای توسعه قابلیت‌های هوش‌های مصنوعیِ تولیدشده بهره می‌گیرد. تمدن هم سرانجام از آنچه اکنون هستیم جلوتر می‌رود، درست همان‌طور که نسبت به 10 هزار سال پیش جلوتر رفته است. این فرایندی تدریجی است، نه تغییری ناگهانی. حالا ممکن است بپرسید: «آیا خود تمدن، همان مغز خودتقویت‌کننده افسارگسیخته نیست؟ آیا هوش تمدنی ما در حال انفجار است؟» بازهم خیر! چون حلقه خودتقویت‌گریِ هوش و یا تمدن در گذر زمان فقط پیشرفتی خطی و سنجیدنی را در توانایی‌های حل مسئله ما به وجود آورده و انفجاری 
در کار نبوده است.