ابرهوش

امروز در رابطه با

ابرهوش (Superintelligence) اثر نیک باستروم (Nick Bostrom)

خلاصه ای از 8 ایده کلیدی این کتاب صحبت می کنیم.

خلاصه کوتاهی از این کتاب:

کتاب ابرهوش نوشته نیک باستروم اثری تفکر برانگیز است که به بررسی نتایج احتمالی و خطرات مرتبط با خلق هوش مصنوعی می‌پردازد و تأثیری که می‌تواند بر بشریت داشته باشد را مورد تحلیل قرار می‌دهد. این کتاب به سوالات مهمی درباره چگونگی مدیریت، کنترل و آینده‌نگری در برابر فناوری‌های نوظهور، به‌ویژه هوش مصنوعی فوق‌العاده، پاسخ می‌دهد و مخاطرات آن را برای آینده انسان‌ها بررسی می‌کند.

( زمان مطالعه بین ۱۵ تا ۳۰ دقیقه )

 

ایده کلیدی اول:

تاریخ نشان می‌دهد که ابرهوش یعنی فناوری‌ای که از هر انسان هوشمندتر است به سرعت در حال نزدیک شدن است.

چه چیزی ما را اساساً از حیوانات متمایز می‌کند؟ تفاوت اصلی بین انسان‌ها و حیوانات، توانایی ما در تفکر انتزاعی همراه با قابلیت برقراری ارتباط و جمع‌آوری اطلاعات است. به طور خلاصه، هوش برتر ما باعث شده است که انسان‌ها در صدر هرم موجودات قرار گیرند.

ظهور یک گونه جدید که از نظر هوش از انسان‌ها برتر باشد، چه معنایی برای جهان خواهد داشت؟

اولاً باید کمی تاریخ را مرور کنیم. برای مثال، آیا می‌دانستید که سرعت انقلاب‌های بزرگ فناوری در طول زمان در حال افزایش بوده است؟ برای نمونه، فناوری انسانی که در چند صد هزار سال پیش به آرامی پیشرفت می‌کرد، به یک میلیون سال زمان نیاز داشت تا به اندازه‌ای تولیدی شود که بتواند زندگی یک میلیون نفر اضافی را تامین کند. این عدد در دوران انقلاب کشاورزی در سال ۵۰۰۰ قبل از میلاد به دو قرن کاهش یافت. و در دوران پس از انقلاب صنعتی، به تنها ۹۰ دقیقه رسید.

پیشرفت‌های فناوری مانند ظهور ماشین‌های فوق‌هوشمند به معنای تغییرات بنیادی در جهان کنونی ما خواهد بود. اما وضعیت فناوری در حال حاضر چگونه است؟

ما توانسته‌ایم ماشین‌هایی را ایجاد کنیم که قادر به یادگیری و استدلال با استفاده از اطلاعاتی هستند که توسط انسان‌ها وارد شده است. برای مثال، به فیلترهای خودکار هرزنامه فکر کنید که صندوق‌های ورودی ما را از ایمیل‌های مزاحم و انبوه پاک می‌کنند و پیام‌های مهم را نجات می‌دهند.

با این حال، این بسیار دور از نوع «هوش عمومی» است که انسان‌ها دارند و هدف تحقیق در زمینه هوش مصنوعی برای دهه‌ها بوده است. و زمانی که صحبت از ساخت یک ماشین فوق‌هوشمند می‌شود که می‌تواند بدون دست راهنمایی انسان یاد بگیرد و عمل کند، ممکن است هنوز چندین دهه فاصله داشته باشیم. اما پیشرفت‌ها در این زمینه به سرعت در حال انجام است، بنابراین ممکن است زودتر از آنچه که فکر می‌کنیم به واقعیت بپیوندد. چنین ماشینی قدرت زیادی بر زندگی ما خواهد داشت و هوشش ممکن است حتی خطرناک باشد، زیرا ممکن است برای ما خیلی هوشمند باشد که در صورت بروز بحران بتوانیم آن را غیرفعال کنیم.

 

ایده کلیدی دوم:

تاریخ هوش ماشین در نیم‌قرن گذشته دارای فراز و نشیب‌های زیادی بوده است.

از زمان اختراع کامپیوترها در دهه ۱۹۴۰، دانشمندان در تلاش بوده‌اند تا ماشینی بسازند که بتواند فکر کند. چه پیشرفت‌هایی حاصل شده است؟ یکی از پیشرفت‌های عمده در هوش مصنوعی (AI)، ماشین‌های ساخته شده توسط انسان است که هوش خود ما را تقلید می‌کنند.

داستان از پروژه تابستانی دارتموث در سال ۱۹۵۶ آغاز می‌شود که به دنبال ساخت ماشین‌های هوشمند بود که قادر به انجام کارهایی باشند که انسان‌ها انجام می‌دهند.

 

ایده کلیدی سوم:

فوق‌هوش احتمالاً به دو روش مختلف ظهور خواهد کرد.

واضح است که تقلید از هوش انسانی راه موثری برای ساخت فناوری است، اما تقلید اشکال مختلفی دارد. بنابراین، در حالی که برخی از دانشمندان به طراحی مصنوعی ماشینی که شبیه‌ساز انسان‌ها باشد (از طریق هوش مصنوعی، برای مثال) معتقدند، دیگران به تقلید دقیق از زیست‌شناسی انسان‌ها پایبندند، استراتژی‌ای که می‌تواند با تکنیک‌هایی مانند شبیه‌سازی کامل مغز (WBE) محقق شود.

پس تفاوت‌های بین این دو چیست؟

 

ایده کلیدی چهارم:

فوق‌هوش یا به سرعت از طریق تسلط استراتژیک ظاهر خواهد شد یا به نتیجه تلاش‌های طولانی مدت و همکاری‌های مشترک خواهد رسید.

بیشتر کشفیات بزرگ بشری یا توسط یک دانشمند تنها که زودتر از دیگران به هدف رسید، به دست آمده یا از طریق همکاری‌های بین‌المللی وسیع تحقق یافته‌اند. پس هر یک از این مسیرها برای توسعه فوق‌هوش چه معنایی خواهد داشت؟

خب، اگر یک گروه از دانشمندان به سرعت راه‌حل‌هایی برای مسائل موجود در زمینه هوش مصنوعی و شبیه‌سازی کامل مغز پیدا کنند، احتمالاً نتایج آنها منجر به تولید یک ماشین فوق‌هوشمند واحد خواهد شد. این به این دلیل است که ماهیت رقابتی این زمینه ممکن است چنین گروهی را وادار کند که به صورت محرمانه کار کند.

 

ایده کلیدی پنجم:

می‌توانیم با برنامه‌ریزی فوق‌هوش برای یادگیری ارزش‌های انسانی، از بروز فاجعه‌های ناخواسته جلوگیری کنیم.

شاید میلیون‌ها بار این را شنیده‌اید، اما در مراقبت از آنچه که آرزو می‌کنیم، حکمت‌هایی وجود دارد. در حالی که ممکن است ما در تلاش برای دستیابی به فوق‌هوش باشیم، چگونه می‌توانیم اطمینان حاصل کنیم که فناوری هدف خود را اشتباه درک نکند و باعث ویرانی‌های غیرقابل توصیف نشود؟

کلید این مسئله در برنامه‌ریزی انگیزه‌های فوق‌هوش برای دستیابی به اهداف مختلفی است که به آن‌ها داده شده است. فرض کنید ما فوق‌هوشی را طراحی کنیم که وظیفه‌اش ساخت کلیپس‌های کاغذی باشد؛ این کار به نظر بی‌خطر می‌رسد، اما چه چیزی مانع از آن می‌شود که ماشین به شدت به این وظیفه بپردازد و تمام منابع جهان را برای تولید انبوهی از لوازم اداری مصرف کند؟

 

ایده کلیدی ششم:

ماشین‌های هوشمند احتمالاً کل نیروی کار انسانی را جایگزین خواهند کرد.

اما کافی است درباره نابودی و تخریب کامل صحبت کنیم. قبل از اینکه به خاطر آخرالزمانی که توسط ماشین‌ها هدایت می‌شود، دچار اضطراب شویم، بیایید نگاهی بیندازیم به اینکه چگونه می‌توان فناوری هوش عمومی را توسعه داد و به کارهای سازنده و مفید استفاده کرد.

احتمالاً در دسترس بودن روزافزون و کاهش هزینه فناوری منجر به تولید انبوه ارزان‌قیمت ماشین‌هایی خواهد شد که قادر به انجام کارهایی هستند که در حال حاضر به دست‌ها و ذهن انسان نیاز دارند. این بدین معناست که ماشین‌ها نه تنها کل نیروی کار انسانی را جایگزین خواهند کرد، بلکه به راحتی نیز قابل جایگزینی خواهند بود.

 

ایده کلیدی هفتم:

در آینده فوق‌هوشمند، انسان‌های متوسط به احتمال زیاد فقیر خواهند شد یا به سرمایه‌گذاری‌ها وابسته خواهند بود؛ در حالی که ثروتمندان به خرید لوکس‌های جدید خواهند پرداخت.

واضح است که یک نیروی کار کاملاً روباتیک اقتصاد را به طور کامل تغییر خواهد داد، همچنین سبک زندگی و خواسته‌های ما را. با تبدیل کار ماشین به نُرم جدید و ارزان‌تر، حقوق کارگران آن‌قدر کاهش خواهد یافت که هیچ انسانی قادر نخواهد بود تنها با یک حقوق زندگی کند. همچنین، تعداد کمی از کارفرمایان نیروی کار مکانیکی ثروت زیادی به دست خواهند آورد.

اما این ما را به نکته قبلی باز می‌گرداند، زیرا جایی که این پول پایان می‌یابد نیز به این بستگی دارد که آیا فوق‌هوش توسط یک گروه انحصاری طراحی شده است یا نتیجه یک فرآیند همکاری تدریجی است. اگر مورد اول درست باشد، بیشتر مردم با گزینه‌های کمی برای تولید درآمد روبه‌رو خواهند شد و احتمالاً به اجاره مسکن به سایر انسان‌ها یا اتکاء به پس‌انداز و حقوق بازنشستگی خود خواهند پرداخت.

 

ایده کلیدی آخر:

ایمنی باید قبل از توسعه فوق‌هوش، اولویت اول باشد.

واضح است که توسعه فوق‌هوش با مسائل ایمنی مختلفی همراه است و در بدترین حالت، می‌تواند به نابودی بشریت منجر شود. در حالی که می‌توانیم با در نظر گرفتن انگیزه‌های فوق‌هوش‌هایی که می‌سازیم، برخی احتیاط‌ها را انجام دهیم، اما این به تنهایی کافی نخواهد بود.

پس چه چیزی کافی خواهد بود؟

 

 

 

این فقط بخش کوتاهی از این کتاب بود؛

ممنون برای وقتی که گذاشتید🌱