بیل گیتس در تمام دهه‌های گذشته نماد خوش‌بینی به فناوری بود؛ مردی که حتی در روزهای آغازین ظهور ChatGPT می‌گفت خطرات هوش مصنوعی واقعی اما قابل مدیریت‌اند. بااین‌حال، هم‌بنیان‌گذار مایکروسافت از اواخر تابستان امسال و پس از انتشار یادداشتی هشدارآمیز، لحن خود را به‌کلی تغییر داد و در مصاحبه‌ی اخیرش با نیویورک‌تایمز هم هوش مصنوعی را «خطرناک‌ترین چیزی که بشر تاکنون به آن نزدیک شده» نامید.
گیتس در گفت‌وگویی مفصل با نیلای پاتل، سردبیر ارشد وب‌سایت ورج و مجری پادکست Decoder، توضیح می‌دهد که چرا شتاب یک سال اخیر مدل‌ها او را نگران می‌کند، چرا اجرای مدل‌های بدون فیلتر روی کامپیوترهای شخصی را بی‌مسئولیتی می‌داند و چرا باور دارد حتی در بهترین سناریوی ممکن، بیست سال آینده یکی از پرآشوب‌ترین دوره‌های تاریخ بشر خواهد بود.
او همچنین از آینده‌ی مشاغل، دگرگونی بازار کار و صحبتش با کلاد آنتروپیک برای حفظ سهم انسان‌ها از فرصت‌های شغلی می‌گوید و تصویری بی‌پرده از دنیای فردا ترسیم می‌کند. در ادامه، مهم‌ترین محورهای این گفت‌وگوی خواندنی را مرور می‌کنیم.
کپی لینکخطرناکتر از بمب اتم؛ چرا بیل گیتس به هوش مصنوعی خوش‌بین نیست؟
نیلای پاتل: شما سال‌ها صدای خوش‌بین دنیای فناوری بودید و از سودمندی هوش مصنوعی می‌گفتید، با این شرط که درست هدایتش کنیم. در یک سال گذشته چه اتفاقی افتاد که حالا می‌گویید هوش مصنوعی سلاح اتمی را بی‌اهمیت جلوه می‌دهد؟ آیا شما هم به جمع بدبین‌هایی که از آخرالزمان هوش مصنوعی می‌گویند، پیوسته‌اید؟
بیل گیتس: نه، من اصلا بدبین آخرالزمانی نیستم. هوش مصنوعی را هم عمیق‌ترین و تحول‌آفرین‌ترین فناوری تاریخ بشر می‌دانم؛ هم از نظر دستاوردهای مثبتی که در درمان بیماری‌ها، آموزش و کشاورزی به همراه می‌آورد و هم از نظر سرعت تغییرات جامعه.
مشکل اینجاست که سرعت واکنش جامعه و دولت‌ها اصلا با شتاب پیدایش این چالش‌ها هم‌خوانی ندارد. اگر این فناوری را درست مدیریت نکنیم، خطراتش به حداقل نمی‌رسند و در مقابل، فواید بزرگش با تاخیر نصیب مردم می‌شوند.
ضربه‌ی هوش مصنوعی به بازار کار و امنیت سایبری، تا چند سال دیگر کاملا ملموس می‌شود
چیزی که در یک سال اخیر باعث شد احساس فوریت شدیدی کنم، جهش خیره‌کننده‌ی توانایی مدل‌ها در چند حوزه‌ی مشخص بود؛ مانند توانایی کدنویسی و پیداکردن حفره‌های امنیتی سایبری، قدرت استدلال در زیست‌شناسی، توانایی برقراری روابط عاطفی عمیق با کودکان و بزرگسالان و البته دگرگونی بازار کار.
توانایی‌های هوش مصنوعی از مرزی عبور کرده‌اند که آن را با فاصله‌ی زیادی به خطرناک‌ترین فناوری ساخته‌شده در تاریخ تبدیل می‌کند؛ فناوری‌ای که تاثیرات گسترده‌ای بر اقتصاد و شیوه‌ی جنگیدن خواهد گذاشت. قدرت شگفت‌انگیزی که همین امروز در این مدل‌ها وجود دارد به این معناست که تک‌تک این پیامدها رخ خواهند داد.
ظرف دو تا سه سال آینده شاهد آثار منفی ملموس هوش مصنوعی در حملات سایبری و بازار کار خواهیم بود و جامعه باید همین حالا خودش را آماده کند.
کپی لینکتسلیم در برابر تب رقابت؛ لزوم ورود دولت‌ها به میدان مهار هوش مصنوعی
نیلای پاتل: آزمایشگاه‌هایی مثل OpenAI، آنتروپیک و گوگل دیپ‌مایند کارشان را با ساختارهای حاکمیتی خاص و شعار «اول ایمنی، بعد محصول» شروع کردند، اما در عمل وارد مسابقه‌ی سریع تجاری‌سازی شدند. مدیران این شرکت‌ها می‌گویند دلشان می‌خواهد سرعت را کم کنند اما فشار رقابت اجازه نمی‌دهد و از طرفی سیاست‌مداران هم دانش فنی لازم برای قانون‌گذاری را ندارند. راه‌حل این بن‌بست چیست؟
بیل گیتس: من از هیچ‌کدام از مدیران نشنیده‌ام که واقعا بخواهند کارشان را متوقف کنند؛ چیزی که می‌شنوم صحبت درباره تنظیم سرعت حرکت و بررسی دولتی مدل‌هاست.
ساختار اولیه‌ی اوپن‌ای‌آی و این ایده که «ما یک نهاد غیرانتفاعی هستیم و اگر ببینیم فناوری خطرناک می‌شود، شاید هرگز محصولی عرضه نکنیم و به سود تجاری هم اهمیتی ندهیم» فقط زمانی کارایی داشت که تنها یک شرکت در خط مقدم وجود داشته باشد.
تغییر ساختار شرکت‌ها به این خاطر نبود که مدیران صنعت مثل سم آلتمن، داریو آمودی، ساتیا نادلا یا سوندار پیچای متوجه خطرات نیستند؛ هشدارهایی که پژوهشگران درون این شرکت‌ها می‌دهند کاملا حقیقت دارد، اما به‌محض اینکه چندین شرکت رقیب وارد میدان می‌شوند، دیگر نمی‌توان مسئولیت را بر دوش خود شرکت‌ها گذاشت.
در کوران رقابت تجاری، هیچ شرکتی داوطلبانه ترمز هوش مصنوعی را نمی‌کشد
درست مثل هر محصول خطرناک دیگری، دولت مسئولیت مستقیم اوضاع را در چنین شرایطی به عهده دارد. این حرف که «سیاست‌مداران جزئیات فنی هوش مصنوعی را نمی‌فهمند پس نمی‌توانند قانون بگذارند» اصلا بهانه‌ی درستی نیست. مگر نمایندگان کنگره جزئیات مهندسی موتور جت یا ایمنی تصادفات خودرو را طراحی می‌کنند؟
دولت‌ها برای هواپیما و خودرو استانداردهای فنی سخت‌گیرانه می‌گذارند و از متخصصان خود صنعت برای تدوین و اجرای آن‌ها کمک می‌گیرند. هوش مصنوعی بسیار خطرناک‌تر از خودرو و هواپیماست و واقعا شگفت‌زده می‌شوم که هنوز حتی یک فرآیند «ارزیابی و تست اجباری پیش از عرضه» توسط دولت برای مدل‌های هوش مصنوعی نداریم.
کپی لینکخطر مدل‌های محلی، وقتی قدرت تخریب به کامپیوترهای خانگی می‌رسد
نیلای پاتل: اگر دولت بخواهد همه چیز را کنترل کند، تکلیف مدل‌های متن‌باز و وزن‌های باز که هر کسی می‌تواند روی کامپیوتر شخصی یا یک مک استودیو در خانه‌اش اجرا کند چه می‌شود؟ آیا شما خواهان نظارت و محدودیت روی هوش مصنوعی محلی روی کامپیوترهای شخصی هستید؟
بیل گیتس: خطر اصلی در کوتاه‌مدت، رقابت بین این مدل یا آن مدل نیست؛ خطر واقعی به مدل‌هایی مربوط می‌شود که تمام سیف‌گاردها و نرده‌های محافظتی‌شان را می‌توان حذف کرد.
آزمایشگاه‌های بزرگی که مدل‌هایشان را روی سرورهای ابری خودشان میزبانی می‌کنند، محافظ‌ها را نگه می‌دارند و نحوه استفاده کاربران را رصد می‌کنند تا هکرهای سایبری یا بیوتروریست‌ها نتوانند از آن‌ها سوءاستفاده کنند؛ ریسک کوتاه‌مدت این مدل‌های نظارت‌شده چندان غول‌آسا نیست.
اما برای مهاجم سایبری فرقی نمی‌کند سراغ کدام مدل باز برود. من معتقدم از نظر خطرات سایبری و زیستی اصلا کار مسئولانه‌ای نیست که به افراد اجازه بدهیم از طریق وزن‌های باز تمام قفل‌ها و محافظ‌های ایمنی یک مدل قدرتمند را حذف کنند.
وقتی مدل‌ها از یک آستانه‌ی مشخص توانمندی عبور می‌کنند، نباید اجازه داد که به‌صورت فایل‌های خام و بدون محدودیت روی کامپیوترهای شخصی دانلود و اجرا شوند، بلکه باید فقط روی پلتفرم‌های تاییدشده‌ای اجرا شوند که امکان دست‌کاری و حذف گاردریل‌های امنیتی در آن‌ها وجود نداشته باشد.
هوش مصنوعی بدون حفاظ، قدرت تخریب ابرقدرت‌ها را دودستی تقدیم گروه‌های کوچک می‌کند
توجه کنید که این موضوع می‌تواند از مهار سلاح‌های هسته‌ای هم پیچیده‌تر شود. در عصر اتم، فقط ابرقدرت‌ها و دولت‌های بزرگ توان ساخت سلاح‌های کشتارجمعی را داشتند.
اما هوش مصنوعی بدون حفاظ، قدرت واردکردن ضربات مهلک را از انحصار دولت‌های بزرگ خارج می‌کند و دو دستی در اختیار گروه‌های کوچک مستقل قرار می‌دهد؛ گروه‌هایی که یا در حوزه سایبری دنبال اخاذی و ازکارانداختن بانک‌ها و شبکه برق هستند، یا در حوزه بیولوژیک صرفا می‌خواهند با طراحی پاتوژن‌ها فاجعه به بار بیاورند.
خود ما هم باید محدودیت‌هایی بر پلتفرم‌هایی مانند گیت‌هاب اعمال کنیم. گیت‌هاب امروز محدودیت‌های زیادی برای انتشار کد ندارد، اما درباره‌ی مدل‌های هوش مصنوعی بسیار قدرتمند به مقررات متفاوتی نیاز داریم.
اگر قرار باشد مدلی که توانایی انجام حملات سایبری یا زیستی گسترده را دارد روی گیت‌هاب منتشر شود، این پلتفرم باید تاییدیه‌ی دولت آمریکا را داشته باشد که اجازه نمی‌دهد کاربران با تغییر مدل، تدابیر امنیتی آن را حذف کنند.
نظارت باید در سطح پلتفرم‌های توزیع و اجرای مدل‌ها انجام شود، نه لزوما در سطح تراشه‌ها. اگر این کار را به‌موقع انجام ندهیم، مدل‌های قدرتمندی در دسترس افرادی قرار خواهند گرفت که دیگر نمی‌توانیم فعالیتشان را زیر نظر داشته باشیم.
کپی لینکفریب بحث خودآگاهی؛ سه مسیر برای مهار جعبه سیاه هوش مصنوعی
نیلای پاتل: درحالی‌که ما نگران امنیت هستیم، خود سازندگان مدل‌ها بر سر ماهیت آن‌ها اختلاف دارند؛ مثلا آنتروپیک رسما می‌گوید شاید مدل Claude نوعی آگاهی داشته باشد، درحالی‌که مصطفی سلیمان در مایکروسافت به‌شدت با این نگاه مخالف است. وقتی هنوز نمی‌دانیم این سیستم‌ها آگاه هستند یا نه، چطور می‌خواهیم مهارشان کنیم؟
بیل گیتس: تعریف AGI یا هوش مصنوعی عمومی یا بحث درباره اینکه آیا این مدل‌ها آگاه‌اند یا نه، کمترین اهمیتی برای مسائل ایمنی ندارد. اصلا واژه‌ی خودآگاهی جایی در این معادله ندارد؛ باید این سوال واقعی و بسیار ساده را بپرسیم: «آیا شما ابزاری ساخته‌اید که می‌تواند سیستم بانکی یا شبکه برق کشور را از کار بیندازد؟»
من این سیستم‌ها را شکل دیگری از هوش، متمایز از هوش انسانی می‌دانم و اصلا باور ندارم که دارای آگاهی یا شعور به معنای انسانی‌اند. در این زمینه کاملا با مصطفی سلیمان هم‌عقیده‌ام که نباید قوانین مدل‌ها را طوری بنویسیم که به مدل القا شود موجودی زنده است یا باید با آن مثل یک انسان صاحب حقوق رفتار کرد.
ما امروز مدل‌ها را فقط پرورش می‌دهیم و بعد تماشا می‌کنیم که چطور رفتار می‌کنند
اما در مورد بخش دوم سوالتان یعنی چگونگی کنترل فنی در بلندمدت؛ گرچه امروز ما این مدل‌ها را عملا پرورش می‌دهیم و بعد فقط نگاه می‌کنیم که چطور رفتار می‌کنند؛ ولی این مسئله لاینحل نیست و سه مسیر فنی مشخص دارد:
ساخت یک سیستم ناظر بیرونی با قواعد نمادین شفاف، یعنی سیستمی که بیرون از مدل بایستد و تک‌تک اقدامات آن را با محدودیت‌های صریح چک کند؛ مثلا بپرسد آیا قرار بود تو به افراد غریبه ایمیل بزنی؟ آیا من از تو خواسته بودم بروی و کنترل یک کلاستر کامپیوتری دیگر را به دست بگیری؟
تغییر روش آموزش و هدف‌گذاری مدل‌ها، چون در روش‌های فعلی یادگیری تقویتی (RL)، هر چیزی که صراحتا در تابع هدف گنجانده نشده باشد، پتانسیل سوءاستفاده و دورزدن دارد.
شفاف‌سازی درون مدل، یعنی به دانشی برسیم که بتوانیم درون جعبه سیاه مدل را ببینیم و دقیقا تشخیص دهیم یک خطا یا رفتار انحرافی از کجای شبکه عصبی نشات می‌گیرد.
کپی لینکچانهزنی بیل گیتس با کلاد؛ آیا شغلی برای انسان باقی می‌ماند؟
نیلای پاتل: بیایید سراغ تاثیر اقتصادی برویم. آیا مسیر فعلی حتما به حذف گسترده مشاغل منجر می‌شود؟ شما اشاره کرده‌اید که شاید لازم باشد بعضی شغل‌ها را عمدا برای انسان‌ها نگه داریم و ظاهرا درباره همین ایده با خود هوش مصنوعی هم بحث کرده‌اید!
بیل گیتس: هوش مصنوعی به‌تدریج بسیاری از کارهای یقه‌سفید را بر عهده خواهد گرفت؛ از پشتیبانی مشتریان، فروش تلفنی و حسابداری گرفته تا فعالیت‌های پیچیده‌تری مانند برنامه‌نویسی، پژوهش‌های ریاضی و تشخیص پزشکی. این فناوری می‌تواند بسیاری از این کارها را بسیار سریع‌تر، ارزان‌تر و حتی دقیق‌تر از انسان انجام دهد.
به اتفاقاتی نگاه کنید که همین امروز در ریاضیات می‌افتد. مدل‌هایی که در مقایسه با مدل‌های سال آینده بسیار ابتدایی هستند، همین حالا در تولید مقالات ریاضی مشارکت می‌کنند و ریاضی‌دانان را شگفت‌زده کرده‌اند.
اتفاقی که امروز در ریاضیات می‌بینیم، در حوزه‌های دیگر هم رخ خواهد داد. قبلا تصور می‌کردیم هوش مصنوعی می‌تواند مسائل ساده را حل کند، اما مدل‌سازی مسائل پیچیده‌ی زیست‌شناسی و فیزیک یا اثبات مسائل دشواری مثل معادلات ناویر-استوکس، همیشه در انحصار انسان باقی خواهد ماند. به نظرم دیگر نمی‌توانیم چنین فرضی داشته باشیم.
بدون محدودکردن عمدی هوش مصنوعی، حتی ۴۰ درصد از مشاغل هم برای انسان باقی نمی‌ماند
کمی بعد، با پیشرفت ربات‌های انسان‌نما، نوبت به مشاغل فیزیکی و یقه آبی می‌رسد؛ ربات‌هایی که می‌توانند خانه بسازند، غذا تولید کنند و حتی جراحی انجام دهند.
اما شغل برای انسان فقط منبع درآمد نیست. کارکردن به زندگی ما هدف می‌دهد، باعث می‌شود با دیگران ارتباط برقرار کنیم و احساس مفیدبودن کنیم. به همین دلیل، شاید در آینده تصمیم بگیریم بعضی مشاغل را فقط به انسان‌ها اختصاص دهیم، حتی اگر هوش مصنوعی بتواند آن‌ها را بهتر انجام دهد؛ مثلا مراقبت از کودکان، تهیه‌ی غذا، هنر یا ورزش. شاید ترجیح بدهیم انسان‌ها همچنان این فعالیت‌ها را انجام دهند.
با کلاد درباره‌ی دسته مشاغلی حرف می‌زدم که می‌توانیم برای انسان‌ها نگه داریم و سعی می‌کردم این سهم را مثلا به ۴۰ درصد از بازار کار برسانم، تا بتوانیم با بازنشستگی زودهنگام، هفته‌های کاری محدود و چیزهایی ازاین‌دست، به شرایطی مانند امروز دست یابیم.
جواب کلاد همیشه این بود که «شما دارید به طور مصنوعی توانایی‌های هوش مصنوعی را محدود می‌کنید تا این کارها را انجام ندهد.» خب هرچه کردم بدون محدودکردن هوش مصنوعی نمی‌شد سهم مشاغل انسانی را به چنین رقمی برسانم.
کپی لینکبیست سال پرتلاطم، زندگی به سبک «آمیش‌ها» و عصر وفور
نیلای پاتل: نسل جوان امروز با نوعی بدبینی و پوچ‌گرایی به این آینده نگاه می‌کند؛ اگر امروز جوان بودید و به بیل گیتس گوش می‌دادید که می‌گوید حدود ۲۰ سال پرتلاطم در پیش داریم و در پایان آن هم ممکن است ربات‌ها خانه بسازند، به چه چیزی امید داشتید؟
بیل گیتس: در تمام تاریخ بشر، ما با مشکلاتی مثل کمبود غذا، بیماری و جنگ دست‌وپنجه نرم کرده‌ایم. حالا فناوری‌ای در اختیار داریم که می‌تواند به حل بسیاری از این مشکلات کمک کند، اما درعین‌حال، مشاغل و احساس ما نسبت به نقش منحصربه‌فردمان در جهان را دگرگون خواهد کرد.
مثلا من فکر می‌کنم تجربه و توانایی‌هایی که برای مبارزه با مالاریا به کار می‌گیرم، ویژگی‌های منحصربه‌فردی دارند. اما تصور کنید هوش مصنوعی به من بگوید: «نه، من از تو بهترم. تو برو پیکل‌بال بازی کن، من خودم به این کار رسیدگی می‌کنم!» این حرف در ظاهر خنده‌دار به نظر می‌رسد، اما واقعا خنده‌دار نیست. برای جوانی که می‌خواهد کار مهم و منحصربه‌فردی در زندگی انجام دهد، چنین آینده‌ای می‌تواند بسیار ترسناک باشد.
حتی در بهترین سناریوی ممکن، ۲۰ سال آینده یکی از پرآشوب‌ترین دوران‌های تاریخ بشر خواهد بود
بحرانی که امروز در جامعه‌ی ریاضی‌دانان می‌بینیم، در آینده به حوزه‌های دیگر هم گسترش پیدا خواهد کرد. البته اگر امروز بیست‌وچند سال دارید، همچنان می‌توانید سراغ کارهایی بروید که هوش مصنوعی هنوز نمی‌تواند انجامشان دهد، از خود هوش مصنوعی برای ایجاد تغییرات مثبت کمک بگیرید و در شکل‌گیری سیاست‌های آینده نقش داشته باشید.
از طرف دیگر فواید و آسیب‌های این فناوری هم‌زمان از راه نمی‌رسند. پیشرفت در درمان بیماری‌ها و کاهش هزینه‌های زندگی زمان می‌برد، اما احتمالا طی دو تا سه سال آینده شاهد پیامدهای منفی قابل‌توجهی در امنیت سایبری و بازار کار خواهیم بود.
در مورد نکته‌ای که می‌گویید جوانان نگران آشفتگی‌ها و اختلال‌هایی هستند که در راه‌اند؛ باید بگویم حتی در بهترین سناریوی ممکن که ما هوش مصنوعی را به شکل عالی مدیریت کنیم، ۲۰ سال آینده یکی از پرتلاطم‌ترین و پرآشوب‌ترین دوران‌های تاریخ بشر خواهد بود، دورانی که برندگان و بازندگان زیادی دارد.
فشار روحی و اجتماعی این تغییرات می‌تواند آن‌قدر زیاد باشد که جامعه را به دو پاره تقسیم کند؛ گروهی که با اشتیاق در خط مقدم فناوری زندگی می‌کنند و گروه دیگری که تصمیم می‌گیرند مثل جامعه آمیش‌ها (Amish) خطی دور خودشان بکشند و بخش بزرگی از این فناوری‌های جدید را رد کنند تا سبک زندگی سنتی و انسانی‌شان را حفظ کنند.
شاید پس از این ۲۰ سال به عصر وفور برسیم؛ بشریت در آن دوران فراوانی باید راهی برای سازماندهی و داشتن هدف پیدا کند و امیدوارم که هنوز هم کنترل اوضاع را در دست داشته باشد. دورانی که دیگر با کمبود پزشک، معلم، غذا یا داروهای پیشرفته برای بیماری‌های صعب‌العلاج روبه‌رو نیستیم.
از اینکه هشدارهای نگران‌کننده بدهم متنفرم، ولی اگر به مردم نگوییم این اتفاق می‌افتد، بدتر می‌شود. ما هنوز حق انتخاب انسانی داریم که چگونه آینده را شکل دهیم.
