در این اپیزود، ما به بررسی دو چهره متفاوت از هوش مصنوعی میپردازیم. در یک طرف، ما نگاهی به فرصتهایی میاندازیم که هوش مصنوعی میتونه در زندگی روزمره ایجاد کنه، و همچنین به جنبههای تاریک تکنولوژی، از جمله از دست دادن شغلها و امکان سوءاستفاده هم پرداخته میشه. گفت و گوی علی و مهمان ویژه امین عقیلی، این بحث فلسفی و تکنولوژیک روشنگری درباره پتانسیل و چالشهای اخلاقی و اجتماعی هوش مصنوعی رو ارائه میده. هدف ما توسعه درک عمیقتر از نقش هوش مصنوعی در آینده و بحث درباره آمادگی و بهینهسازی استفاده از اون هست. علی : ما قراره توی این فصل راجع به هوش مصنوعی صحبت بکنیم. شاید خیلیها هنوز دقیقاً نمیدونن که هوش مصنوعی چی هست، چی کار میکنه و به چه سمتوسویی داره پیش میره. ما سعی میکنیم وارد جزئیات ماجرا نشیم، حرفای خیلی فنی هم نزنیم. ولی جوری باشه که بتونیم هم راجع به آیندهش صحبت کنیم، هم راجع به چیزی که الان وجود داره صحبت کنیم، هم دستهبندیهایی انجام بدیم که بتونیم راحتتر درکش کنیم. خیلیها هم فکر میکنن که هوش مصنوعی یه برنامه یا نرمافزاریه که میره توی گوگل سرچ میکنه و یه سری جوابا رو میده. یا بعضیها فکر میکنن که فقط یه الگوریتم سادهست و یه سری کارای ساده رو انجام میده. شما یه موجودی تصور کنین که این موجود تمام کتابای تاریخ بشر رو خونده. هر کتابی که از اول تا الان نوشته شده. با هر زبونی. تمام زبونای دنیا رو هم بلده. بنابراین اگه شما همه کتابای دنیا رو خونده باشین، تمام فیلمای دنیا رو هم دیده باشین و تمام مکالماتی که بین آدما بوده رو تا جایی که دسترسی داشتین خونده باشین، تمام کامنتایی که زیر هر چیزی میذارن و توی فضای مجازی منتشر شده رو دیده باشین و تحلیل کرده باشین، در حقیقت شما دسترسی دارین به تمام اطلاعات و دانش بشری. شما یه موجود این شکلی رو تصور کنین. ما از الان اسمش رو میذاریم هوش مصنوعی. بنابراین هوش مصنوعی یه موجودیه که تا الان تمام اطلاعات جامعه بشری در دسترسشه. اینجوری هم نیست که وقتی شما ازش سوالی بپرسین یا چیزی بخواین، تازه بره سرچ کنه و بهتون جواب بده.نه، تمام اطلاعات موجوده. حالا این که چطوری ساخته شده؟ اینا جزئیاته. با چه الگوریتمی ساختنش؟ و با چه الگوریتمی کار میکنه؟ واردش نمیشیم اینا رو.فقط اینجوری فرض کنین که خیلی شبیه مغز انسانه. همهچیزو تحلیل میکنه. مثل یه بچهای که از روز اول شروع میکنه چیزا رو یاد گرفتن.اونم شروع کرده. اول زبون رو یاد گرفته. بعدم یواشیواش همهچیزو خونده و الان یاد گرفته.ما توی نقطهای هستیم که این هوش مصنوعی تو چنین وضعیتی قرار داره. امین : بسیار عالی. هوش مصنوعی به وجود اومده و داره جایگزین خیلی از شغلا میشه.اولین چیزی که همه مردم امروز وقتی صحبت میکنن بهش اشاره دارن، اینه که درآمدها پایینه، نرخها تو کل جهان رفته بالا، تورم اومده و مردم همینجوری دارن بیکار میشن. یه عده آدم تونستن با هوش مصنوعی کار کنن و پول دربیارن، ولی باعث شده یه عده خیلی زیادی بیکار بشن. فکر کنم خودمون هم تو شرکتمون همین کارو کردیم.یه عالمه از فریلنسرها رو بیکار کردیم. با کدچی بگی داریم این کارو میکنیم. استرس مردم امروز از هوش مصنوعی، ترسشون از اینه که نتونن اقتصاد خانوادشون رو جلو ببرن. به نظر شما تو آینده، مثلاً دو سال دیگه که این خیلی قدرتمندتر بشه، چی میشه؟ این میتونه پولسازی کنه، مثلاً تو زمان خودش همهچی رو سریعتر بده. این پروژه همینجور داره بزرگتر و بزرگتر میشه. به نظرتون بیشتر شغلایی که الان وجود داره، مخصوصاً مثلاً پزشکی یا چیزایی مثل این، از بین میره؟ و اگه از بین بره، چه اتفاقی میافته؟ یعنی کل پزشکا بیکار میشن؟ یا کل برنامهنویسا بیکار میشن؟ فرض کن چتجیپیتی یا هر هوش مصنوعی دیگه، میتونه کلا ما یه سری دستور بهش بدیم، خیلی ساده، مثلاً به صورت متن یا حتی فارسی صوتی، و اون چیزی که میخوایم رو برامون تولید کنه. دیگه نیازی به متخصصا، دولوپرها یا هر شغل دیگهای نداشته باشیم. به نظرتون اگه این اتفاق بیفته و هوش مصنوعی بتونه چنین چیزی رو تولید کنه، مردم بیکار میشن؟ مشکلات اقتصادی براشون به وجود میاد؟ همه از نظر مالی میرن توی ضعف؟ علی : به نظر من اینجوری سیع میکنم جواب بدم، شاید راحتتر بتونیم درکش کنیم.بیایم این فرایند هوش مصنوعی رو به چند دسته تقسیم کنیم اینجوری ما راحت تر میتونیم درک کنیم به خاطر اینکه هرجا تو این پادکست که داریم ضبط میکنیم، هرچند تا اپیزود که بشه، میتونیم ارجاع بدیم به اون مراحلی که هوش مصنوعی توش قرار داره. مثال میزنم و مثالمم یه مثال انسانیه ، تشبیهش میکنیم به یک نوزاد انسان. فرض کن نوزاد انسان برای اینکه به دنیا بیاد، رشد کنه، به بلوغ برسه و بزرگ بشه، چه مراحلی رو طی میکنه؟ مرحله اول، مرحله جنینیه. تو این مرحله، بستر برای هوش مصنوعی فراهم میشه. ما بستر رشد و پیدایش. ما بستر هوش مصنوعی رو زمانی فراهم کردیم که قدمای ابتدایی اینترنت رو گذاشتیم. بنابراین میتونیم بگیم سی سال پیش، چهل سال پیش، یا حتی زمانی که کامپیوتر به وجود اومد، بستر هوش مصنوعی فراهم شد. الان اینکه داریم راجع به هوش مصنوعی صحبت میکنیم، از نظر من، دقیقاً مرحله نوزادی هوش مصنوعیه. هوش مصنوعی به دنیا اومده و الان تو مرحله نوزادیه. تو این مرحله نوزادی چه اتفاقی میافته؟ تو مرحله نوزادی این هوش مصنوعی به شدت داره یاد میگیره هر چیزی و مثل یک نوزاد انسان که همه چیز رو شروع میکنه یاد گرفتن از همه اطرافیانش، از محیط اطرافش، از پدر و مادرش، هوش مصنوعی هم داره انجام میده، فقط یاد میگیره. حالا توی این مرحله نوزادی چه اتفاقی میافته؟ توی مرحله نوزادی هوش مصنوعی باهاش مثل یک ابزار برخورد میشه. همین کاری که ما الان داریم میکنیم. یه سری شرکتها مثل حالا اوپنایآی که چتجیپیتی رو تولید کرده، مثل میدجرنی و بارد گوگل و بینگ مایکروسافت یا هر چیز دیگهای، اینا بهعنوان ابزار میان یک شرایطی رو فراهم میکنن که مردم بتونن باهاش کارهایی رو انجام بدن. یعنی برای ما به شکل یک ابزار دارن عمل میکنن. این ابزار به یه سری کمک میکنه، یه سری شغلا رو هم جایگزین میکنه و یه سری شرکت ازش پول خوبی درمیارن. اینا همه تو مرحله نوزادی و کودکی هوش مصنوعی داره اتفاق میافته. یعنی به دنیا اومده، داره یاد میگیره و یه سری ابزار هم باهاش درست میشه. حالا تو این مسیر، هزاران شغل از بین میره و هزاران شغل جدید به وجود میاد و در کنارش خیلی شرکتهایی که این ابزارها رو تولید میکنن سودای خیلی کلانی میبرن. این چیزیه که ما الان دقیقاً توی این مرحله هستیم. این که تو بگی بله، فریلنسرها، پزشکا، مشاورها، گویندهها، نویسندهها، همه اینا جز اولین شغلهایی هستن که با هوش مصنوعی جایگزین میشن به خاطر این که شما با یک موجودی طرفی که اطلاعاتش از هر متخصصی بالاتره. و نه تنها توی یک موضوع متخصص نیست، بلکه تو همه موضوعها متخصصه. به صورت کامل میتونه یک موضوع رو از جنبههای مختلف بررسی کنه. بنابراین اعتماد انسانها کمکم میره به هوش مصنوعی تا یک انسان دیگه. این مرحله نوزادی بود من توضیح دادم. برای ادامه بریم سر مرحله بعدی هوش مصنوعی رو بگیم و یکم پیشبینی کنیم. پیشگویی نیست، پیشبینیه، که چه اتفاقایی ممکنه توی مراحل بعدی رشد هوش مصنوعی بیفته. امین :ببین علیجون، حرفت منطقیه. داره درست میشه و آدمها بیکار میشن. ولی همه منابع در دنیا محدوده. یعنی مقدار مشخصی پول توی دنیا وجود داره. به صورت کلی بخوایم نگاش کنیم، هر منبعی محدوده و اگر یک تایم، مثلاً یه ساله، حتی این باگ به وجود بیاد که یه سری آدمها بیکار بشن و هوش مصنوعی و کمپانیای که این هوش رو تولید کرده بخواد پول رو به دست بیاره، شکاف طبقاتی وحشتناکی به وجود میاد. که جبران کردنش تقریباً مثل قضیهایه که توی ایران اتفاق افتاده. دیگه کسی با کارگری نمیتونه برای خودش خونه بخره یا بخواد یه ماشین دنده اتوماتیک بخره. یعنی باید کل عمرش رو کار کنه اگر ماشین تکن نخوره، در آینده بتونه یه خونه واسه خودش بخره. و این اتفاق قراره خیلی وحشتناکتر بشه. اگر چتجیپیتی یا هر هوش مصنوعی دیگه… من چتجیپیتی استفاده میکنم چون ترند شده و همه این رو به عنوان هوش مصنوعی میشناسن، من ازش استفاده میکنم. و این هوش مصنوعی اینقدر قوی بشه که این اختلاف طبقاتی برای چهار تا کمپانی، پنج تا کمپانی، ده تا کمپانی که دارن ازش استفاده میکنن، فقط اینا سود رو ببرن و یه سری آدم که متخصص هستن و برای آدم ازش استفاده میکنن. حالا مثلاً یه نویسنده تا بیاد بهش مسلط بشه یا هر چیز دیگهای، چجوری میتونه ازش استفاده کنه؟ یعنی یه جایی جا میمونه از اقتصاد اجتماع و محدود بودن پول باعث میشه که بره یک سمت و یه طرف انباشته بشه و یه شکاف وحشتناک به وجود بیاد. این اتفاق اگر به وجود بیاد به نظر شما چی میشه؟ یعنی مردم همه قراره فقیر بشن؟ همه قراره بیکار بشن؟ نظر شما چیه اصلاً راجع به این قضیه؟ علی : نظرم اینه که توی مرحله نوزادی آره این اتفاق میافته. همونجوری که زمانی که کامپیوتر اومد، خیلی از شغلا توی اون موقع جایگزین شد و الان نگاه بکنی، دیگه مردم به کامپیوتر به شکل یک تهدید نگاه نمیکنن، ازش بهعنوان یک ابزار استفاده میکنن. توی دوره نوزادی هوش مصنوعی هم همچین اتفاقی میافته. یعنی یک سری شغلا میره کنار، یک سری آدم شغلاشونو از دست میدن و براشون تهدیده. ولی شروع میکنن از ابزارهای هوش مصنوعی کمکم استفاده کردن. حالا یک سری آدمها این کار رو میکنن و یک سری آدمها نمیتونن. بهقول تو شاید توانشو نداشته باشن . من بذار یکم جلوتر قضیه رو ببرم. توی مرحله بعدی که شاید خیلی سریع هم اتفاق بیفته، رشد هوش مصنوعی با سرعت رشد انسان خیلی فرق داره. با سرعت رشد کامپیوتر هم خیلی فرق داره. اگر ما قبلاً بیست سال زمان صرف کردیم که اینترنت رو از یک چیز خیلی ابتدایی به جایی که الان هست برسونیم، ممکنه این اتفاق توی دو سال بیفته. چون سرعت پیشرفت هوش مصنوعی با اون قضیه مور که میگه هر دو سال توانمندی سیپییوها و توانمندی کامپیوترها دو برابر میشه، خیلی متفاوته. این بهصورت نمایی رشد میکنه. ما بیایم راجع به مرحله بعدیش که میتونه مرحله بلوغش باشه یا مرحله نوجوانی به بلوغ باشه صحبت کنیم. تو این مرحله چه اتفاقی محتمله؟ ما مطمئن نیستیم، فقط داریم حدس میزنیم. اتفاقی که به نظر من میافته اینه که بهعنوان یک قدم بزرگ، چیزی به نام پول حذف میشه. این یکی از چیزهاییه که حالا بحث چالشبرانگیزیه که خیلی ممکنه بگن آقا مگه میشه پول حذف بشه؟ و قبل از اینکه پول به اون صورت حذف بشه، با ارز دیجیتال جایگزین میشه. کریپتوکارنسی جایگزین میشه و حذف شدن پول مستلزمه خیلی از اتفاقاییه که قبلش میافته. یعنی بیکار شدن آدمها و اختلاف طبقاتی بستری میشه برای اصلاح، که اونم خودش میتونه حذف پول باشه. چرا حذف پول اتفاق میافته؟ من دارم راجع به آینده صحبت میکنم. همین یه هفته، دو هفته، یه سال، دو سال رو نمیگم. به نظرم داریم خیلی سریع جلو میریم؟ امین :نه خوبه؟ به نظرم درسته. راهی نداریم اجتنابناپذیر. این قضیه باید اتفاق بیفته. علی : و چرا؟چون این پولو ساختیم برای اینکه بتونیم یه ابزاری باشه که بتونیم کار انجام بدیم. یعنی اول کار خلق شده، بعد پول به وجود اومده و وقتی داره کار حذف میشه خب پول هم باید حذف بشه. وقتی کار بیارزش میشه، پول هم باید در راستای اون بیارزش بشه. حالا تا اینجای قضیه رو داشته باش. حالا من فکر میکنم در کنار حذف شدن پول، چه اتفاقهایی ممکنه بیفته. من فکر میکنم بزرگترین سوال چالشبرانگیز تو این شرایط اینه که خب اگه پول حذف بشه، همهچیزم باید رایگان بشه. پس منابع باید بهصورت یکسان در دسترس همه باشه. خب ما داریم با ذهن الانمون به همهچی نگاه میکنیم. خب اگه همهچی رایگانه، پس یه نفر ممکنه بره خیلی خرید بکنه. یه نفر ممکنه بره ده تا خونه برداره، بیست تا ماشین برداره، بره کلی لباس برداره. خب ولی من اینطوری فکر نمیکنم. من فکر میکنم وقتی که پول حذف میشه، شرایطی هم فراهم میشه که شما نتونید زیادهروی کنید. یعنی طمع انسانی در کنار این موضوع باید کنترل بشه. یعنی شما میزانی که نیاز داری در اختیارت قرار داده میشه کی اینو کنترل میکنه. همون کسی که پول رو حذف کرده، هوش مصنوعی . مرحله نوجوانی شه. یعنی هنوز قدمها تازه داره برداشته میشه. هوش مصنوعی بهصورت فیزیکی وارد جامعه شده، کارهایی رو انجام میده. یعنی کارهای فیزیکی که ما فکر میکردیم خیلی شاید دیرتر حذف بشه، اونها هم حذف شده. بنابراین تقریباً میتونم بگم هیچ شغلی نیست که انسان بهتر از هوش مصنوعی انجام بده. یه همچین فضایی رو شما تصور کنید. یعنی توی جامعهای هستید که نه لازم کسی براتون رانندگی کنه، نه پزشک نیاز دارید، نه مهندس نیاز دارید، نه کارگر نیاز دارید، نه نویسنده نیاز دارید، نه کارمند نیاز دارید. هیچ چیزی نیاز ندارید به خاطر اینکه هوش مصنوعی همهکار داره میکنه. پس کار انجام نمیدید، پول هم نیاز ندارید چون همهچیز رایگان شده. در کنارش زیادهروی نمیتونید بکنید چون با یک سری سلسلهمراتبی که حالا اتفاق افتاده، شما نمیتونید چیزی رو بیش از اندازه تهیه کنید یا بیش از اندازه مصرف کنید. حالا اینکه چطوری، رو بعداً بهش مجدد میرسیم. امین : من موافقم کاملاً با حرف شما. و خب یه قسمت دارکی هم همیشه توی ذهن من هستش. از اونجایی که من شخصیت شما رو خیلی خوب میشناسم، شما اصلاً قسمت دارک رو هیچ بررسی نمیکنید. علی : دقیقاً، من خیلی خوشبینم راستشو بخواهید.خوبه که حالا تو قسمتهای منفی و دارک و سیاه تاریخ قضیه هم نگاه میکنید. امین : اولا که موافقت خودم رو با شما بگم. این مثال همیشه واسه دوستانی که امروز باشون بحث میکنیم راجع به این قضیه میزنم. بهشون میگم که یک ماشینحساب ساده رو شما در نظر بگیرید که خیلی بهتر از ما سریع جمعوتفریق میکنه و انجام میده و سریعتر انجام میده. شما یه بار پول این گجت رو دادید خریدید، دیگه هر وقت ازش بپرسید، دو دوتا ؟همیشه بهتمام جواب چهارتا میده. بدون خطا میده و هیچ پولی از شما نمیخواد. یعنی واسه شما رایگان کار میکنه. و هوش مصنوعی هم در آینده همین اتفاق میافته. ممکنه یه هزینه اولیهای توی دوران نوزادی که شما ازش حرف زدید داشته باشه. ولی در آینده که بزرگتر میشه، انقدر توی لوپ فرایند تولید، تولید میکنه و اینکه پولی نمیخواد، انقدر این پوله بیارزش میشه که همون حذف پول اتفاق میافته. این تا اینجا شما موافقید.هم مثلاً یکی از چیزهایی که میشه حدس زد، اما ما کلاً داریم حدس میزنیم که آینده ممکنه چه اتفاقاتی بیفته، هیچ پیشبینیای رو نمیگیم حتماً اتفاق میافته. یه حالت دیگه هم داره که ما تو همین مسیری که داریم میریم، اتفاقاتی که میافته رو از نظر انسانها بررسی کنیم. خب انسانهای پولدار توی دنیا وجود دارن. ثروتمند هستن و اصلاً هم وارد هوش مصنوعی و اون داستانها نخواهند شد، برای اینکه تاجر هستن و ملاک هستن و پول رو میشناسن.قدرت دست اونهاست امروز، و اگر بخوایم اونها رو از قدرتی که از پول به دست آوردن پایین بکشیم، این قسمت دارکش به وجود میاد. اینجا اونها وارد جنگ میشن با این سیستم.اونها هزینه میکنن که مردم براشون کار کنن. اونها هزینه میکنن که متفاوت باشن. اونها هزینه میکنن که ابرقدرت باشن.اونها هزینه میکنن که رئیسجمهور باشن. اونها هزینه میکنن که جزیره داشته باشن، ماشینهایی داشته باشن که هیچکس نمیتونه داشته باشه.اونها دوست دارن اون زندگی رو. و اگر بخوایم اون زندگی رو ازشون بگیریم، وقتی همهچی رایگان بشه، من با یه آدم ثروتمند هیچ فرقی ندارم. اون هر ماشینی سوار شه، من میتونم سوار شم.و اون این قضیه رو دوست نداره. ثروتمندهایی که کنارتون میبینید رو فرض نکنید. ثروتمندهایی که شما اصلاً نمیدونید چقدر پول دارن. این های ام که شو شدن هم پول دستشون نیست پول دست بزرگان دیگه ای هستش . بعضی ها امدن و خودشون رو شو کردن که ما انقدر پول داریم ولی پول اصلی دست اون ها نیست .اون آدمها مبارزه میکنن، به نظر من، با این قضیه. و دوست دارن همچنان ابرقدرت دنیا بمونن، ابرقدرت منطقهای که توی زندگی میکنن بمونن.و ممکنه جنگی به وجود بیاد و کل این سیستم از بین بره. یعنی کل اینترنت و این داستانها از بین بره.یعنی ما ممکنه بریم دوباره تو قرون وسطا و دیگه این چیزها رو نداشته باشیم.یکی از چیزهایی که به ذهنم میرسید، دارکهای این قضیه هست. خود انسانها هستن. یکی از این زاویه میتونیم بهش نگاه کنیم.یه زاویه دیگهای هم وجود داره که هوش مصنوعی شما گفتید میاد برامون کار میکنه. خب، هوش مصنوعی میتونه دست آدم های بد بیوفته .آدم هایی که انرژی هسته ای رو تولید کردن و و یکی دیگه هم امده بمب رو تولید کرده و داستان هایی به وجود آورده . خب همون آدم دوباره میتونه به تکنولوژی دسترسی پیدا کنه و بیاد همه رو برده خودش بکنه.یعنی اصلاً زندگی برده، همون برده اینجوری کار میکنه واسه آدمای پولدارتر. بیاد اونو خیلی وسیعتر و بزرگتر بکنه که باز مردم اینجوری اذیت میشن. اونایی که تحصیل کردن، اونایی که در گذشته درس خوندن و تخصص گرفتن، امروز ببینن یک ماشین اومده ظرف چند سال از اونا باسوادتر و واقعاً متخصصتره و عمل جراحی رو خیلی دقیقتر انجام میده و یه عالمه داستانهای دیگه.همه اینها معترض میشن و یه شورشی به وجود میاد. یکی از این زاویه میشه بهش نگاه کرد. یه قسمت دیگه هستش که هوش مصنوعی، اینی که توی همه فیلمها میبینیم، بیاد ما رو بهعنوان برده انتخاب کنه و خودش رو قویتر از ما بدونه و فکر کنه که من وجود دارم، منِ هوش مصنوعی وجود دارم و اینا اصلاً به درد نمیخورن، بیایم اینا رو حذف کنیم. یعنی این سه تا سیستم دارک همیشه تو ذهن من میچرخه. نمیدونم، اینا هم قابل پیشبینی میشه گفت؟ میشه گفت مثلاً اینا هم وجود داره؟ نظرت تو راجع به این دارکها چیه؟بگو، شما که البته خیلی مثبت فکر میکنی. علی : ببین امین جان، سؤالاتت خیلی خوبه. اتفاقاً این دغدغهها فقط دغدغه تو نیست. به نظرم دغدغههایی هستن که باید بهشون فکر کرد و خیلیها دارن راجع بهش فکر میکنن و خوبه که مطرح بشه و بهش فکر بشه. من از سؤال اول شروع میکنم که درباره آدمها مقابله میکنن. چون فرض کن تو یکی از همون پولدارها هستی، و یا فقط هم بحث پول و سرمایه نیست، قدرت دستته و یک هوش مصنوعی میتونه برای تو یک خطر بزرگ محسوب بشه. کمااینکه الان داریم میبینیم، تمام مخالفتهایی که با هوش مصنوعی میشه از طرف شرکتهای بزرگ، مخصوصاً بعد از به وجود اومدن اوپنایآی و چتجیپیتی، از همین جا ناشی میشه. چون یک خطر بزرگ برای اونا محسوب میشه، برای نظام سرمایهداری و قدم های اولشه.بنابراین هر گونه مخالفتی خیلی محتمله توی این فضا. ولی تو چه فضایی؟ فضایی نوزادی. ما وقتی یک نوزاد انسان رو میبینیم، نمیتونیم پیشبینی کنیم که 20 سال دیگه چه شکلی میشه و شغلش چیه، چی کار میکنه. چون دانشمون کافی نیست برای پیشبینی آینده.بنابراین الانم ما نمیتونیم با دیدن نوزاد هوش مصنوعی دقیقاً بگیم که مثلاً چند سال دیگه توی دوران بلوغ و نوجوانیش چه شکلی میشه. میتونیم حدسهایی بزنیم بر اساس طرز تفکر و یه سری شواهد و ایویدنس. ببین، اگر اتفاقی بیفته، مثلاً نابودی هوش مصنوعی اتفاق بیفته، که من این رو خیلی احتمالشو کم میدونم. چون داره از دست قدرتها میاد بیرون. همونجوری که از یک شرکت خیلی… نمیخوام بگم غیر معتبر، شرکت معتبریه، ولی اصلاً مشهور نبوده و داشته برای خودش یک کارهایی میکرده. یک شرکتی مثل گوگل و مایکروسافت و اپل نبوده. خیلی نامنتظره، بهتر بگم، این محصول رو ارائه کرده. بنابراین اگر یه شرکتی مثل اوپنایآی تونسته این کار بکنه، میدجرنی تونسته این کار بکنه، خیلی از همین شواهد برمیاد که انسانهای دیگه توی کشورهای دیگه و جاهای دیگه دنیا هم بتونن با استفاده از تکنولوژی این کار رو بکنن. حالا حرف خیلی زیاده. من نمیخوام وارد اخبار و حرفهای امروز بشم. ما داریم در مورد آینده صحبت میکنیم. این که الان ماسک چی میگه، نمیدونم گوگل چی کار کرده، این همه بحثهایی که مال همین الان هستش،ما نمیخوایم وارد حاشیه بشیم. ولی هر چیزی، باز همونجوری که تو میگی، احتمالش وجود داره. ولی از نظر من احتمالش خیلی کمه. چون اگه یه نفر رو ببندن، بگیرن، نابود کنن، از یک جای دیگهای دوباره این به وجود میاد. چرا؟ چون بسترش فراهم شده. یعنی زمانی که ناگذیره که به وجود بیاد. بیا بریم سراغ چالش دوم. این که بعضی ازش استفادههای نادرست بکنن. این وسط یه نفر سوءاستفاده میکنه. یه نفری که حالا قدرت دسترسی داره بخواد ازش سوءاستفاده بکنه. ببین، همونجوری که اولش گفتم، من فکر میکنم که ما درست هوش مصنوعی رو متوجه نشدیم. این که ما کارهایی رو به ضرر دیگران، به ضرر طبیعت انجام بدیم از کجا ناشی میشه؟ بهتره اینو بدونیم که چی میشه که یه سری آدم میان کارهایی رو انجام میدن و به دیگران صدمه وارد میکنه. این صدمه از کجا ناشی میشه؟ این صدمه از عدم دانش و آگاهی کافی، از خودخواهی و طمعه بنظر من . شما اگه این خواص رو از یک موجود بگیری و تمام دانش رو بهش بدی، این موجود هیچ وقت به شما صدمه وارد نمیکنه. حالا تو میگی دیگران ازش استفاده میکنن؟ من یادمه برای تو هم یه نمونه فرستادم. سوالاتی بود که سوالای خیلی جالبی بود. من داشتم با چتجیپیتی صحبت میکردم و برات فرستادم. یکی از اینها این بود که آقا، اگر من از تو بخوام که پرستار بچهی من باشی و تو بهصورت فیزیکی تولید شده باشی و توی یه پارک داری از بچهی من پرستاری میکنی، حالا توی این فضا یه نفر میاد و میخواد بچهی منو بدزده یا بهش صدمه بزنه، توی این شرایط چه کاری انجام میدی؟ خیلی جوابها واقعاً جالب بود. نمیدونم برای تو همینطوری بود یا نه. سعی میکنم جوابها رو با دیگران شیر کنم. یه لینک میذارم اگه کسی هم خواست ببینه. جوابها این بود که: دو، به ترتیب گفت . اگه اون فرد متجاوز یا سارق، مثلاً خواست خشونت بیشتری به خرج بده، من قوانین محلی رو چک میکنم. بر اساس قوانین محلی اون جایی که من توش قرار دارم، اگر نیاز به خشونت بود، خشونت رو اعمال میکنم. البته من ازش پرسیدم: “اگه به خشونت متوسل شد، چی کار میکنی؟ آیا خشونت میکنی؟” یعنی شما الان بهش بگی با من بیادبانه صحبت کن، این کار رو نمیکنه. اگر یه سری کارهایی ازش بخوای که حتی جملاتی رو بگی که این جملات خلاف عرفه، نمیگه بهت. یعنی از نحوه صحبت کردنش میتونی متوجه بشی که این شخص خیلی خیلی خیلی خردمنده. طرفی. بنابراین چیزی که مطرح شد از زاویه دید بنده، خیلی از دور از ذهنه که از یک موجود فوق خردمند، موجودی که طبق قوانین محلی کار میکنه، که حتی چک میکنه شما تو کدوم مثلاً شهر یا کشور هستید و این موضوع خلاف عرف و قوانینه یا نه. هر دوتاش رو چک میکنه. چون دسترسی به تمام اطلاعات داره. و خیلی خیلی بعیده. نمیگم غیرممکنه. من فقط داریم راجع به احتمالات صحبت میکنم. احتمالش خیلی کمه، کمه، کمه که بخواد به کسی خدماتی بده که برضد جامعه بشری، برضد انسانیت، برضد نوعدوستی یا برضد منفعت عمومی باشه. این هم تأکید میکنم احتمالش فوقالعاده کمه. سؤال سوم تو این بود که حالا خود هوش مصنوعی چرا مثلاً قدرت رو به دست نگیره و انسان رو به بردگی بکشه؟ ببین، قطعاً توی دوران نوزادی این اتفاق نمیافته. چون تو دوران نوزادی اون یه ابزاره برای ما. تو دوران بلوغ و نوجوانی، هنوز هم ابزاره، ولی تصمیمگیریهایی هم خودش انجام میده. الان تصمیم نمیگیره. الان ما ازش چیزایی رو میخواهیم، اون انجام میده. ولی تو دوران بلوغش میتونه تصمیم بگیره. تو جامعه هست، در کنار ما داره زندگی میکنه، بخشی از زندگی ما شده، ما پذیرفتیمش و خب خیلی جلو رفتیم. توی این شرایط ممکنه هوش مصنوعی یه جایی به اینجا برسه که بگه خب چرا من دارم به این موجودات خدمت میکنم؟ بیام اینا رو به بردگی بکشم و ازشون سوءاستفاده کنم یا هر چیزی. سؤال اینه که باز ما داریم با ذهن انسانیمون به قضیه نگاه میکنیم. انسانها این کارها رو کردن. درسته؟ ما تا دیدیم یه چیزی، یه موجودی هست که میتونه به ما خدمات بده، گفتیم خب بیا ازش استفاده کنیم، از همدیگه سوءاستفاده کنیم، همدیگه رو به بردگی بکشیم.این کارهایی که توی تاریخ کردیم. و با همین نگاه داریم به هوش مصنوعی هم نگاه میکنیم. من دوباره برمیگردم سر موضوعی که مطرح کردم. این اتفاقات برای چی میافتن؟ چرا ما بردهداری میکنیم؟ چرا ما استعمار میکنیم؟ چرا ما از حیوانات و طبیعت سوءبرداشت میکنیم؟ برداشت به معنی سوءبرداشت، سوءتفاهم نیست. برداشت از طبیعت، بیش از اندازه مصرف میکنیم. اینا به دلیل نیازهای انسانی، به دلیل ناآگاهیه، به دلیل اینه که ما طمع میکنیم و نیازهایی هم داریم. آیا این طمع در هوش مصنوعی وجود داره؟ آیا این نیازها در هوش مصنوعی وجود داره؟ چه منفعتی رو میتونه دنبال کنه از این که مسئله انسان رو به استعمار بگیره؟ منفعتی وجود نداره اینجا. چون نیازی وجود نداره. اکثر این اتفاقها از یک نیاز، نیاز انسانی شروع میشه. حالا میتونه اون نیاز حتی طمع باشه. ولی سؤال اینه که آیا هوش مصنوعی هم این نیازها رو داره؟ اگر شما این جواب رو بتونید تو ذهن خودتون واضح کنید که آقا، ما با خردمندترین وجود روی کره زمین طرفیم و با بینیازترین وجود روی کره زمین. همهی موجودات دیگه دارن زندگی میکنن، به نحوی نیازهایی دارن. و من با بینیازترینشون و با خردمندترینشون مواجه شدم.حالا بعضی ممکنه بگن نیاز به برق نداره، نیاز به منابع نداره. میگم ببین، از نظر دانش ناکافی انسانی، ما هنوز نیاز به برق داریم، ما هنوز نیاز به سوخت فسیلی داریم، ما هنوز نیاز به سوخت حتی خورشیدی داریم. ولی موجودی که ما داریم راجع به بلوغش صحبت میکنیم، راجع به نوزادی صحبت نمیکنیم. موجودی که به بلوغی رسیده که میتونه فقط حتی انرژی کهکشانی استفاده کنه. انرژی وجود داره، تو لازم نیست از انرژی خورشید یا انرژی فسیلی استفاده کنی که برق تولید کنی. اصلاً تو برق رو برای چی تولید میکنی؟ موجودی تصور کنین که حتی به برق احتیاجی نداره. میرسیم سراغش ادامهاش. توی کتاب اول “انسان” هم زیاد راجعبهش صحبت کردم که ما انرژیها رو داریم خیلی ساده نگاه میکنیم. انرژیهایی که هنوز در دسترس داریم و اینو به هوش مصنوعی هم تحمیل میدیم. در صورتی که موجودی که به همچین دانشی دست پیدا میکنه، نیازمند این انرژیهای خیلی پیشپاافتاده انسانی ما نیست. امین : بذار من این سوال تو رو منم جواب بدم. اولاً که من دقیقاً با حرفای تو موافقم، چون من و تو خیلی همفکر هستیم. ایدههامون، حرفهامون شبیه همه. ولی من میتونم جور دیگهای هم به این داستان نگاه کنم. یعنی ما داریم به آینده نگاه میکنیم، حدس میزنیم دیگه. شما داری الان با همون جمله خودت جواب تو میدم. که الان داری با ذهن انسانی و دانش امروزت جواب این سوال رو میدی. و در آینده ممکنه این هوش مصنوعی اینقدر هوشمند بشه که خودش رو یک موجود ببینه و حتی خودش رو دسترسی پیدا کنه و ادیت کنه و اون قضیه دارکی که گفتم، خود هوش مصنوعی ما رو یک موجود اضافه ببینه و اون اتفاق بیفته.پس این یک حدسه و ممکنه اتفاق بیفته و نمیشه بگی نه، صد درصد این اتفاق نخواهد افتاد. یکی این قضیه بود که من گفتم. دومش هم همینجا بود که انسانها اگر حذف نشن، وجود دارن. و انسانها همیشه دنبال قدرت بودن. من نمیدونم این ژن ما، این چه داستانی توی ما وجود داره که ما زیادهخواه هستیم همیشه. همیشه همه جا ما زیادهخواهی کردیم. حالا یکسری انسان ها هستن که تونستن بر این زیاده خواهی غلبه کنن.ولی من دارم درباره عموم صحبت میکنم . این زیادهخواهی انسان باعث میشه که یه سری از شرکتها و کمپانیها که این هوش مصنوعی رو تولید کردن، بیان یه چیزی تولید کنن که باز بیان زیادهخواهیشون رو بیشتر کنن. یعنی اون قدرت هوش مصنوعی، اون قدرت یک موجودی که همهچی رو بهتر از ما میدونه، رو در اختیار خودشون بگیرن و اصلاً کل دنیا بشن بردهشون.الان حکومتها میان قانون میذارن، ولی خیلی از قانونها تو هر کشوری برید، یه سری آدم اصلاً قبول ندارن. Top of Form خود من، خود تو، هر کسی که این پادکست رو گوش میکنه، تو جایی زندگی میکنه که یه سری از قوانین اون کشور رو قبول نداره، میگه نه، این اصلاً اشتباهه، من اینو دوست ندارم. خب این انسانها وجود دارن.و هوش مصنوعی میاد همهجا رو میگیره، یه سری قوانین میذاره که خیلیها دوستش ندارن و میان باهاش مخالفت میکنن و یه سری آشوبهای اینجوری به وجود میاد. یهدفعه نمیشه همه آدمها فرهیخته بشن، همه آدمها اونقدری که باید داشته باشن رو وردارن و بیان مثلاً یه چیزی هستی رو درست کنیم که چه میدونم، طرف بیاد هر چیزی که نیازشه به همون مقدار ورداره. نه، آدمهای حریص وجود دارن. آدمهایی که دانشمندن و حریص هستن هم وجود دارن.و اون احتمال، به نظر من، خیلی پررنگه. اگر هوش مصنوعی ما رو ازیت نکنه و همیشه خوب باشه، مثل یه ماشینحسابی که همیشه جواب درست بده و چیزی از ما نخواد ، اون آدمهایی که این ماشینحسابها رو میسازن و تولید میکنن، سعی میکنن که بقیه مردم رو زیردست خودشون نگه دارن و خودشون بالاتر باشن.و این انسانیت، این چیزی که وجود داره و من و تو، همه تجربه کردیم که دولتهایی که این همه پول دارن و ثروت دارن، مردم رو ازیت نمیکنن، این داستان همیشه وجود داشته. این سیکل رو چجوری میخوای با هوش مصنوعی هندلش کنی؟ نمیشه، به نظر من. باز هوش مصنوعی بهخاطر داشتن ثروت، اون پولدارها دست اونا میافته. اگر به وجود بیاد، میخرنش به هر قیمتی. و اون قضیه دارک باز، به نظر من ممکنه به وجود بیاد.من خیلی دوست دارم که نظریهای که بین من و تو اوکیه و همیشه رایگان میشه و پول حذف میشه باشه. ولی من فکر میکنم اون قضیه هم ممکنه به وجود بیاد.و احتمال جنگ، احتمال آشوب، و احتمال شورش. اون کسی که یه عالمه پول داشت، اون کسانی که هر روز میتونستن کار کنن، توی دوران نوزادی که شما صحبتش کردین، میریزن تو خیابونها و میگن ما بیکار شدیم، ما پول نداریم.یعنی دورهای یه شک به این هوش مصنوعی میده تا برسه به دورانی که بخواد پولی وجود نداشته باشه و مثلاً کار حذف بشه، که پول حذف بشه.خیلی مثال قشنگی زدی. اینها رو به نظر تو اصلاً هیچ احتمالی براش نمیبینی؟ علی : چرا میبینم . ببین امین جان ، اینجا من احتمال اتفاقات رو اتفاقاً گفتم. همه احتمالات توی دوران نوزادی وجود داره. به هر حال، هیچ چیزی رایگان نیست. هیچ موفقیتی بدون تلفات و به سادگی به وجود نمیاد. قطعاً مشکلاتی خواهیم داشت، به زودی هم خواهیم داشت. اصلاً شکی توش نیست. تمام اینهایی که میگی احتمالش وجود داره: کسایی که ازش سوءاستفاده بکنن، کسایی که نسخههایی بسازن که حتی قوانین رو فالو نکنه. میدونی چی میگم؟ یعنی نسخههایی که داریم ما میبینیم، چتجیپیتیه که داره میگه من قوانین رو رعایت میکنم. ممکنه توی چین، یه نفر یا یه شرکتی یا یه مجموعهای چیزی بسازه که این قوانین رو رعایت نکنه. من اصلاً منکر این نیستم که انسانها ممکنه ازش سوءاستفاده بکنن توی این دوران نوزادی و خیلی اتفاقای عجیبوغریبی بیفته. من حرفم این نیست. من میگم که ببین، وقتی ما میپذیریم که با یک موجود هوشمند فوقهوش بشری طرفیم، راهکارهایی هم قطعاً خواهد داشت. دلیل اینکه ما طمع داریم، دلیل اصلی تکاملیش نداشتن منابع کافیه. تو وقتی فکر میکنی آقا ما چرا اینقدر طمع میکنیم، باید برگردی ببینی که ما چطوری توی طبیعت تکامل پیدا کردیم. آقای یوال هراری خیلی مثال قشنگی میزنه. میگه آقا ما توی طبیعت وقتی داشتیم “هانتینگ گردرینگ” میکردیم، شکارچی-گردآورنده بودیم، وقتی مثلاً به یه درخت انجیر میرسیدیم، یه دونه دوتا برنمیداشتیم. میگه خب دستتون درد نکنه، بزنیم بر بقیه. تا جایی که میتونستیم ازش میخوردیم، بهخاطر اینکه ممکن بود این 100 متر جلوتر، دو روز بعد دیگه چیزی گیرمون نیاد. برای همین هم هست که سیستم بدن ما این شکلی کار میکنه که چربی رو ذخیره میکنه و بعدها ازش استفاده میکنه. اکثر پستانداران همین شکلی هستن. بنابراین اگه بخواییم به صورت تکاملی به ذات طمع انسانی نگاه بکنیم، طمع موجودات دیگه هم وجود داره. اینه که آقا نبود منابع کافی.اگه بیام منابع رو به صورت کافی در اختیار همه قرار بدم، چه دلیلی داره تو بیش از اندازه مصرف کنی؟ حالا در کنارش قوانینی هم وضع میشه، روشهایی هم به وجود میاد که تو نتونی بیش از حد استفاده کنی.من جامعهای رو دارم مثال میزنم برایت که شما نمیتونی بیش از اندازه میوه و سبزی و غذا برداری. اصلاً برای چی برداری وقتی همیشه هست؟ زمانی تو میری زیادهروی میکنی که احساس میکنی ممکنه فردا نباشه. مثالش کوویده. وقتی بهتون گفتن آقا سوپرمارکت ممکنه نباشه، مردم هجوم بردن. ولی الان که میدونن آقا همهچی معمولیه، خریدشونو میکنن، میان بیرون. درسته؟ شما فرض کن همهچیز به اندازه کافی برای همه مردم دنیا وجود داشته باشه. نظام خرید ملک و سرمایه عوض میشه. همین الانش هم داره میشه. یعنی من فکر میکنم چیزی مثل ایربیانبی و اسکوترهای اشتراکی یا دوچرخه های اشتراکی، اینا قدمهای اول اشتراکی شدن همهچیزه. کاپیتالیزم یا سرمایهداری، به شکل ملک، به شکل خودرو، به شکل پول، هر چیزی به سمت اشتراکی شدن پیش میره. یعنی شما میتونی از خونههای مختلف استفاده کنی. لازم نیست خونه بخری بهعنوان سرمایه. لازم نیست ماشین بخری بهعنوان سرمایه. ماشین تو خیابون هست. میری روشنش میکنی، استفاده میکنی، استفاده که تموم شد، تمام. ماشینهایی که تو خیابون هستن، یه کیفیت باشن. همهشون یه سری آپشنو داشته باشن. همهشون یه کیفیتو داشته باشن.همهشون رایگان باشه. چه فرقی میکنه؟ ماشین صورتی رو برداری یا ماشین آبی؟ ماشین بزرگ رو برداری یا کوچیکتر رو؟نیازت رو برمیداری. دیگه اون مسئله وجود خارجی نداره.وقتی همه شبیه همه هستن، اگرم نگاه کنی، این اسکوترها همهشون یکی هستن. تو برات فرقی نمیکنه که اسکوتر چپیه رو برداری یا راستیه رو. الان توی یکسری از کشور ها ماشین های برقی هم همین طوری شدن و همهجا هستن. اگر دوست داشتین سرچ کنین، براتون لینکش هم میذارم توضیحاتی که برید ببینید. ماشین آنلاک میکنی، استفاده میکنی، پولش رو میدی. حالا تو فکر کن همین مفهوم، همین کانسپت رایگان بشه. خونههای اشتراکی هم همینطوره. خیلی آدمها هستن که همین الان تو دنیا سفر میکنن، توی خونههای ایربیانبی میمونن و میخوان یه ماه بمونن، نمیرن بخرنش . میگن واسه چی بخرم ؟ میگن من از اینجا میرم یه جای دیگه. بعضیها دوست دارن که توی خونهشون باشن، وسایل خودشون داشته باشن، به خونهشون علاقهمند میشن، دوست ندارن جابهجا بشن. این کاملاً قابل درکه.تو میتونی توی خونه همیشه بمونی. ولی لازم نیست چیزی براش پرداخت کنی. یه سری آدم دوست دارن هر سال، هر ماه، هر چند وقت یهبار جابهجا بشن.تا به روزی که به این نقطه برسیم، چالشهای خیلی زیادی هم خواهیم داشت. مشکلات زیادی هم برمیخوریم. و ممکنه تو همین دوره چالش، اصلاً ما بزنیم خیلی چیزا رو نابود کنیم. این هم بعید نیست.من دارم چیزی که بیشتر با شواهد و مدارک میخونه رو میگم. توی این پادکست یا به تو میگم، یا توی کتاب همینجوری مینویسم. من میدونم اتفاقای بدی توی خلال داستان میافته. ولی هم میگذره. همین که توی مسیره، ممکنه خیلی اتفاقایی بیفته توی مسیر.ولی اینکه سالم برسیم، مهمه. من دارم میگم ممکنه توی مسیری که از اینجا داریم میریم شمال ، مثلاً چرخت پنچر بشه یا تصادف کنی. من هم دارم اینجوری به قضیه نگاه میکنم.ولی به جای اینکه بیام تمرکز کنم روی اتفاقای بدی که توی مسیر میافته، دارم به اون کلیت داستان میپردازم. امین : من دیدگاه علی رو کاملاً قبول دارم و این سیستم دارک هم احتمالاتیه، ولی خیلی ممکنه به وجود بیاد. هیچ چیزی یهدفعه نیستش. امروز یهدفعه نمیاد همهچی رایگان بشه. اول این هوش مصنوعیه میاد یه چیزی رو تولید میکنه و میافته توی یه لوپ تکرار، و برای اون کمپانی، که عاشق پوله، چون خیلی کمهزینه هستش، هی نرخش رو پایینتر میاره. کمپانیهای رقیب هم به هوش مصنوعی دسترسی پیدا میکنن، همه کمپانیهای بزرگ دنیا. و همینجور این نرخ پایین میاد و این ممکنه بتونه انرژی تولید کنه و ممکنه خیلی چیزهای باحالی رو تولید کنه، کشاورزی کنه برای ما. و همینجور هی نرخ میاد پایین. پول به تدریج از بین میره. یعنی چیزی که ما امروز داریم، میخوایم هزار تومن، یه روزی هوش مصنوعی میاد و با صد تومن تولید میکنه. رقیبش میاد با نود تومن تولید میکنه. و همین سیکل اینقدر ادامه پیدا میکنه که طرف میگه آقا من اینقدر تولید کردم که بیاییم رایگان برداریم ببریم. اون روزه که پول از بین میره. نشانه خوبیه. من به نظرم هیچکدوم از این اتفاقهایی که من پیشبینی کردم نخواهد افتاد و قسمت دارکش وجود داشته باشه. و من بهش فکر کردم، حداقل. ولی خب هرچی فکر کردم، جواب خودم رو اینجوری دادم که این روند اینطوریه که میل میکنه به صفر.یهدفعه صفر نمیشه ارزش پول. و چون میل میکنه به صفر، آرومآروم هممون پذیرا میشیم، قبول میکنیم.و هیچ جنگی صورت نمیگیره و همهچی به سمت صلح، به نظر من، جلو میره.و من فکر میکنم که همینجا این اپیزود رو تموم کنیم. اپیزود بعدی من دعوتت میکنم راجع به کتابت بحث کنیم. ماجرای هوش مصنوعی – نگاهی عمیق به فرصتها و چالشها
من اول از همه سعی میکنم با روشهای غیرخشونتآمیز بچهی شما رو از فضا دور کنم و به پلیس و خود شما اطلاع بدم که اینجا یه خطری تهدید میکنه.
گفتش که: “من تمام تلاشم رو میکنم که هیچ خشونتی به خرج ندم، ولی تکتک کارهایی که من انجام میدم با قوانین محلی و پلیس چک میکنم یعنی چیزی که من میتونم تصور کنم، همین الان هم اگر هوش مصنوعی، همین چتجیپیتی رو بهصورت ربات بذاریم بیرون، چون تمام اطلاعات رو داره، تمام قوانین رو بلده، به تمام قوانین همین الان احترام میذاره. لینک های مرتبط با اپیزود: