چگونه میتوان در برابر هوش مصنوعی مقاوم بود؟

تصور کنید ۲۰ سال از امروز گذشته است.

یک سیستم هوش مصنوعی می‌تواند در چند ثانیه مسئله‌ای را حل کند که یک دانشمند برای حل آن به چند ماه زمان نیاز دارد. می‌تواند میلیون‌ها صفحه اطلاعات را هم‌زمان بررسی کند، برنامه بنویسد، مقاله علمی تولید کند و در بعضی وظایف حتی بهتر از متخصصان انسانی تصمیم بگیرد.

حالا یک سؤال ترسناک مطرح می‌شود:

اگر هوش مصنوعی واقعاً از انسان باهوش‌تر شود، ما باید چه کار کنیم؟

آیا باید با آن مبارزه کنیم؟
آیا باید اینترنت را قطع کنیم؟
آیا باید جلوی توسعه هوش مصنوعی را بگیریم؟

یا شاید سؤال را از ابتدا اشتباه پرسیده‌ایم.

اول باید بفهمیم «باهوش‌تر بودن» یعنی چه

یکی از بزرگ‌ترین اشتباهات در بحث هوش مصنوعی این است که هوش را مانند یک عدد واحد در نظر بگیریم.

انسان ممکن است در یک زمینه ضعیف باشد و در زمینه‌ای دیگر فوق‌العاده عمل کند.

یک انسان می‌تواند درک اجتماعی بسیار خوبی داشته باشد، اما در محاسبات ریاضی ضعیف باشد. یک انسان دیگر ممکن است در ریاضیات نابغه باشد، اما در ارتباط با دیگران مشکل داشته باشد.

هوش مصنوعی نیز دقیقاً همین وضعیت را دارد.

امروز سیستم‌های AI در برخی کارها از انسان بهتر هستند؛ از محاسبات و جست‌وجوی اطلاعات گرفته تا بعضی مسائل ریاضی، برنامه‌نویسی و بازی‌های پیچیده.

اما این موضوع لزوماً به معنای آن نیست که یک ماشین، «در تمام ابعاد» همان چیزی است که ما از هوش انسانی می‌فهمیم.

یک مقاله پژوهشی درباره سنجش هوش انسان‌گونه در ماشین‌ها هشدار می‌دهد که بسیاری از بنچمارک‌های فعلی، به دلیل ساده‌سازی بیش از حد وظایف و مشکلات مربوط به طراحی ارزیابی‌ها، الزاماً نمی‌توانند هوش عمومی و انسان‌گونه را اندازه‌گیری کنند. (arXiv)

بنابراین وقتی می‌گوییم «AI از انسان باهوش‌تر شده»، باید بپرسیم:

در چه کاری؟ با چه معیاری؟ و تحت چه شرایطی؟

اما اگر واقعاً روزی از ما جلو زد چه؟

این احتمال را نمی‌توان با قطعیت رد کرد.

حتی پژوهش‌های مربوط به توانایی عامل‌های هوش مصنوعی نشان می‌دهند که مدت‌زمان کارهایی که برخی مدل‌های پیشرفته می‌توانند به‌صورت نسبتاً مستقل انجام دهند، در سال‌های اخیر با سرعت قابل توجهی افزایش یافته است.

گروه METR در اندازه‌گیری‌های خود، توانایی عامل‌های پیشرفته را با چیزی به نام «افق زمانی انجام کار» بررسی می‌کند؛ یعنی اینکه یک سیستم با چه احتمالی می‌تواند کاری را که برای یک متخصص انسانی مدت مشخصی زمان می‌برد، به‌صورت مستقل انجام دهد.

نتایج این پژوهش نشان داده‌اند که این توانایی در مجموعه‌ای از وظایف نرم‌افزاری و پژوهشی روندی بسیار سریع داشته است. (Metr)

اما خود METR نیز تأکید می‌کند که این نتایج به معنای توانایی انجام تمام کارهای انسانی نیست. وظایف مورد آزمایش محدود هستند و توانایی‌های AI در حوزه‌های مختلف به‌شدت نابرابر است. (Metr)

پس سناریوی «ماشینی که در همه چیز بهتر از همه انسان‌هاست» هنوز یک نتیجه علمی اثبات‌شده نیست.

پس در برابر چنین آینده‌ای چه کنیم؟

پاسخ عجیب اما ساده است:

نباید با هوش مصنوعی رقابت کنیم؛ باید چیزی را حفظ کنیم که ماشین به‌تنهایی ندارد.

انسان لازم نیست سریع‌تر از ماشین محاسبه کند.

لازم نیست حافظه بهتری از ماشین داشته باشد.

لازم نیست در هر آزمون ریاضی برنده شود.

این مسابقه را انسان از قبل باخته است.

ماشین می‌تواند میلیاردها محاسبه را در زمانی بسیار کوتاه انجام دهد. بنابراین تلاش برای شکست دادن AI در محاسبه، مانند تلاش برای شکست دادن هواپیما در پرواز است.

مسئله اصلی جای دیگری است.

انسان باید «مرجع تصمیم‌گیری» باقی بماند

فرض کنیم یک هوش مصنوعی بتواند بهترین سیاست اقتصادی ممکن را پیشنهاد دهد.

آیا خودش باید تصمیم بگیرد که آن سیاست اجرا شود؟

نه.

هوش مصنوعی می‌تواند محاسبه کند که کدام گزینه احتمالاً نتیجه بهتری دارد، اما اینکه چه چیزی برای جامعه ارزشمند است یک سؤال صرفاً محاسباتی نیست.

مثلاً:

آیا آزادی مهم‌تر از امنیت است؟

آیا عدالت باید همیشه بر افزایش ثروت اولویت داشته باشد؟

چه مقدار از حریم خصوصی را می‌توان برای امنیت قربانی کرد؟

آیا یک تصمیم اقتصادی که میلیون‌ها نفر را ثروتمندتر می‌کند اما گروه کوچکی را نابود می‌کند، تصمیم خوبی است؟

این‌ها فقط مسائل ریاضی نیستند.

این‌ها مسائل انسانی‌اند.

خطر واقعی شاید «باهوش‌تر شدن AI» نباشد

ممکن است بزرگ‌ترین خطر آینده این نباشد که یک ماشین از انسان باهوش‌تر شود.

خطر بزرگ‌تر می‌تواند این باشد که انسان اختیار تصمیم‌گیری را بدون فهمیدن پیامدها به ماشین واگذار کند.

تصور کنید مدیر یک شرکت دیگر هیچ تصمیمی نمی‌گیرد و فقط می‌پرسد:

«AI چه کاری را پیشنهاد می‌کند؟»

سیاستمدارها همین کار را انجام دهند.

دانشمندان همین کار را انجام دهند.

قاضی‌ها همین کار را انجام دهند.

و مردم نیز برای کوچک‌ترین تصمیم‌های زندگی به ماشین مراجعه کنند.

در چنین شرایطی حتی اگر AI هیچ نیت بدی نداشته باشد، انسان به‌تدریج توانایی تصمیم‌گیری مستقل خود را از دست می‌دهد.

به همین دلیل برخی پژوهشگران به جای حرکت مستقیم به سمت خودمختاری کامل، بر مدل‌های همکاری انسان و عامل هوش مصنوعی تأکید کرده‌اند؛ یعنی AI قدرت محاسباتی و تحلیلی را فراهم کند اما انسان همچنان در چرخه تصمیم‌گیری و کنترل حضور داشته باشد. (arXiv)

پس «مقاومت» واقعی چیست؟

مقاومت در برابر هوش مصنوعی به معنی نابود کردن هوش مصنوعی نیست.

مقاومت یعنی:

انسان بودن را فراموش نکنیم.

یعنی مهارت فکر کردن را کنار نگذاریم.

یعنی اگر AI جواب یک مسئله را داد، هنوز بتوانیم بپرسیم:

«چرا؟»

یعنی اگر AI یک تصمیم را پیشنهاد کرد، بتوانیم بپرسیم:

«آیا این تصمیم با ارزش‌های ما سازگار است؟»

یعنی به جای اینکه هوش مصنوعی جای مغز انسان را بگیرد، از آن به‌عنوان ابزاری برای تقویت مغز انسان استفاده کنیم.

اما آیا اصلاً قرار است AI از انسان جلو بزند؟

اینجا باید بسیار محتاط باشیم.

هیچ پژوهش علمی معتبری در حال حاضر نمی‌تواند با قطعیت بگوید که هوش مصنوعی در آینده حتماً به یک «هوش عمومی فراانسانی» تبدیل خواهد شد؛ همان‌طور که نمی‌تواند با قطعیت ثابت کند چنین چیزی هرگز اتفاق نمی‌افتد.

حتی در پژوهش‌های مربوط به رشد توانایی‌های AI، خود پژوهشگران تأکید می‌کنند که داده‌های موجود عمدتاً مربوط به حوزه‌هایی هستند که AI در آنها عملکرد خوبی دارد و نمی‌توان نتایج را به تمام فعالیت‌های انسانی تعمیم داد. (Metr)

از طرف دیگر، پژوهش‌های مربوط به سنجش هوش انسان‌گونه نیز نشان می‌دهند که بسیاری از معیارهایی که برای مقایسه AI و انسان استفاده می‌کنیم، هنوز تصویر کاملی از هوش انسانی ارائه نمی‌دهند. (arXiv)

بنابراین جمله «به‌زودی ماشین‌ها از انسان باهوش‌تر می‌شوند» بیشتر یک پیش‌بینی درباره آینده است تا یک واقعیت علمی اثبات‌شده.

شاید آینده اصلاً یک جنگ بین انسان و ماشین نباشد

تصویر سینمایی ما از آینده معمولاً دو طرف را مقابل یکدیگر قرار می‌دهد:

انسان در برابر ماشین.

اما شاید آینده واقعی بسیار متفاوت باشد.

در یک طرف، انسان قرار دارد؛ موجودی با تجربه، احساس، فرهنگ، ارزش‌ها، اهداف و محدودیت‌های زیستی.

در طرف دیگر، ماشین قرار دارد؛ سیستمی با سرعت محاسباتی فوق‌العاده، حافظه گسترده و توانایی پردازش حجم عظیمی از اطلاعات.

و بهترین نتیجه احتمالاً زمانی ایجاد می‌شود که این دو در مقابل یکدیگر قرار نگیرند.

بلکه در کنار یکدیگر کار کنند.

پژوهش‌هایی در حوزه «هوش جمعی مولد» نیز دقیقاً روی همین ایده تمرکز دارند: ترکیب توانایی‌های محاسباتی AI با قضاوت، خلاقیت و همکاری انسان‌ها می‌تواند از اتکا به هرکدام به‌تنهایی مؤثرتر باشد. (arXiv)

شاید چیزی که باید از آن بترسیم، خود AI نباشد

اگر روزی هوش مصنوعی در بعضی یا حتی بسیاری از توانایی‌های شناختی از انسان جلو بزند، این به‌تنهایی به معنی پایان انسان نیست.

ماشین حساب از انسان سریع‌تر حساب می‌کند.

رایانه حافظه بسیار بیشتری از انسان دارد.

موتور جست‌وجو اطلاعات را سریع‌تر پیدا می‌کند.

GPS بهتر از انسان مسیر را محاسبه می‌کند.

اما هیچ‌کدام از این ابزارها باعث نشدند انسان از بین برود.

آنچه تغییر کرد، تعریف توانایی انسان بود.

شاید هوش مصنوعی نیز همین کار را انجام دهد.

انسان آینده احتمالاً قرار نیست در مسابقه «چه کسی سریع‌تر اطلاعات پردازش می‌کند؟» برنده شود.

قرار است در مسابقه دیگری شرکت کند:

چه کسی بهتر می‌فهمد که با این قدرت چه باید کرد؟

نتیجه؛ قرار نیست تسلیم ماشین شویم

پس اگر یک روز هوش مصنوعی در برخی زمینه‌ها از انسان جلو زد، اولین واکنش نباید ترس باشد.

باید بپرسیم:

چه چیزی را می‌توانیم به ماشین بسپاریم؟

چه چیزی را نباید بسپاریم؟

چه تصمیم‌هایی باید همیشه تحت کنترل انسان باقی بمانند؟

و چگونه می‌توانیم مطمئن شویم که قدرت محاسباتی ماشین در خدمت اهداف انسانی باقی می‌ماند؟

واقعیت علمی امروز این است که نه ابرهوش مصنوعی قطعی است و نه غیرممکن بودن آن اثبات شده است.

پژوهش‌ها هم‌زمان دو واقعیت را نشان می‌دهند: توانایی برخی سیستم‌های AI با سرعت زیادی در حال پیشرفت است، اما معیارهای فعلی هنوز برای نتیجه‌گیری درباره «هوش عمومی انسان‌گونه» محدودیت دارند. (Metr)

بنابراین شاید بهترین راه برای «مقاومت در برابر هوش مصنوعی» این نباشد که مقابل آن بایستیم.

باید یاد بگیریم چگونه قدرتمندتر از قبل، در کنار آن انسان بمانیم.

چون اگر روزی ماشین از ما سریع‌تر، دقیق‌تر و حتی در بسیاری از مسائل باهوش‌تر شد، چیزی که هنوز باید از انسان باقی بماند، توانایی انتخاب این است که این هوش برای چه چیزی استفاده شود.