چرا غولهای هوش مصنوعی این روزها فیلسوف استخدام میکنند؟
زومیت: تا چند سال پیش، اگر کسی می گفت که بزرگترین شرکت های فناوری جهان به دنبال استخدام یک فیلسوف هستند، احتمالاً تعداد کمی از مردم او را باور می کردند. در ذهن بسیاری از مردم، فلسفه رشتهای بود که بیشتر با دانشگاه، کتابهای قطور و بحثهای انتزاعی سروکار داشت تا پیشرفتهترین فناوریهای جهان.
اما امروز وضعیت تغییر کرده است. آزمایشگاه های پیشرو در زمینه هوش مصنوعی مانند OpenAI، Google DeepMind و Entropic از فیلسوفان دعوت می کنند تا با برنامه نویسان، دانشمندان کامپیوتر و متخصصان یادگیری ماشین همکاری کنند. این موضوع آنقدر گسترده شده است که مجله اکونومیست در گزارشی به این موضوع پرداخته است: چرا شرکت های بزرگ هوش مصنوعی اینقدر به متخصصان فلسفه علاقه مند هستند.
شاید در نگاه اول این تصمیم عجیب به نظر برسد. آیا ایجاد یک چت بات یا یک مدل هوش مصنوعی وابسته به ریاضیات، کدنویسی و سخت افزار قدرتمند نیست؟ فیلسوف چه کمکی می تواند در ساختن چنین سیستم هایی داشته باشد؟
پاسخ به این سوال در تغییر بزرگی است که هوش مصنوعی در چند سال گذشته تجربه کرده است.
نسل های اولیه هوش مصنوعی معمولا وظایف خاصی داشتند. آنها تصویر یک گربه را از یک سگ تشخیص می دادند، متن را ترجمه می کردند یا بهترین مسیر را روی نقشه پیدا می کردند. در چنین سیستم هایی تقریباً مطمئن بود که پاسخ درست یا غلط است.
اما امروزه مدلهای زبانی مانند ChatGPT، Gemini و Cloud کارهای بسیار گستردهتری انجام میدهند. کاربران از آنها در مورد بیماری ها، روابط خانوادگی، مسائل حقوقی، مشکلات کاری، والدین، سیاست، تاریخ و حتی سوالات اخلاقی می پرسند.
فرض کنید شخصی از هوش مصنوعی می پرسد: “اگر گفتن حقیقت به کسی صدمه می زند، آیا باز هم باید حقیقت را بگویید؟” یا بپرسید: “اگر مجبور باشم بین نجات دوست و اطاعت از قانون یکی را افق میهن کنم، کدام کار درست است؟”
برخلاف تصور رایج، فیلسوفانی که در شرکتهای هوش مصنوعی کار میکنند، ساعتها را صرف بحث درباره افلاطون یا ارسطو نمیکنند. وظیفه آنها بسیار کاربردی تر است. آنها به مهندسان کمک می کنند تا تعیین کنند هوش مصنوعی در شرایط دشوار چگونه پاسخ می دهد. به عنوان مثال، اگر چندین پاسخ ممکن وجود داشته باشد، کدام یک عادلانه تر، محتاطانه تر یا مفیدتر است؟
یک مهندس می تواند یک الگوریتم بسیار دقیق طراحی کند، اما تصمیم گیری در مورد مقادیر موضوع دیگری است. به عنوان مثال، تصور کنید که به یک هوش مصنوعی آموزش می دهید که همیشه صادق باشد. در نگاه اول، این هدف کاملا منطقی به نظر می رسد. اما اگر گفتن حقیقت زندگی انسان را به خطر بیندازد چه؟ یا اگر کاربری از هوش مصنوعی بخواهد که اطلاعات شخصی شخص دیگری را فاش کند، آیا همچنان صداقت بهترین افق میهن است؟
پاسخ بسیاری از سوالاتی که کاربران در مورد هوش مصنوعی می پرسند را نمی توان در ریاضیات یافت
چنین موقعیت هایی نشان می دهد که قوانین ساده همیشه پاسخگو نیستند. گاهی اوقات چندین ارزش مختلف با یکدیگر تضاد دارند. مانند صداقت، حریم خصوصی، امنیت یا پیشگیری از آسیب.
فیلسوفان سالهاست که چنین درگیریها را مطالعه میکنند و شرکتهای هوش مصنوعی امیدوارند که این تجربه بتواند به طراحی سیستمهای مسئولانهتر کمک کند.
شاید عجیب باشد، اما بسیاری از سوالاتی که امروزه در آزمایشگاه های هوش مصنوعی مطرح می شود، قرن ها پیش ذهن فیلسوفان را به خود مشغول کرده است. مثلاً نتیجه یک عمل مهمتر است یا خود عمل؟ آیا همیشه باید حقیقت را گفت؟ چه چیزی یک تصمیم را منصفانه می کند؟ چگونه بین دو افق میهن نامطلوب گزینه بهتر را پیدا کنیم؟
این سوالات از زمان یونان باستان بارها مورد بررسی قرار گرفته است. البته فیلسوفان برای همه آنها پاسخ قطعی و مشترکی پیدا نکرده اند، اما در مورد این مسائل طرز تفکری را ایجاد کرده اند. اکنون این روش های استدلالی به کمک محققان هوش مصنوعی آمده است. به عبارت دیگر، شرکت های فناوری به دنبال تبدیل هوش مصنوعی به فیلسوف نیستند. آنها می خواهند از تجربیات فیلسوفان برای طراحی پاسخ های منطقی و مسئولانه تر استفاده کنند.
هوش مصنوعی هیچ احساس، وجدان یا درک درستی از خوب و بد ندارد. این سیستم ها فقط از الگوهایی که در فرآیند آموزش دریافت کرده اند استفاده می کنند. به همین دلیل، محققان سعی میکنند قوانین و دستورالعملهایی طراحی کنند که احتمال ایجاد پاسخهای مضر را کاهش دهد.
هوش مصنوعی می تواند حجم عظیمی از اطلاعات را در چند ثانیه پردازش کند، اما هنوز نمی تواند مانند انسان ها معنای عدالت، مسئولیت یا همدلی را تجربه کند. به همین دلیل، ساخت سیستمهای هوشمند تنها به پردازندههای سریعتر و مدلهای بزرگتر وابسته نیست. بلکه مستلزم دانشی است که طی قرن ها در مورد نحوه تفکر، استدلال و تصمیم گیری انسان ها شکل گرفته است.
همکاری بین متخصصان علوم کامپیوتر و علوم انسانی احتمالا در سال های آینده عمیق تر خواهد شد. هوش مصنوعی به تدریج وارد حوزه های حساس تری مانند آموزش، پزشکی، قضاوت حقوقی و خدمات عمومی می شود و در این گونه حوزه ها، دقت فنی به تنهایی کافی نیست. تصمیماتی که این سیستم ها می گیرند یا توصیه می کنند می تواند زندگی میلیون ها نفر را تحت تاثیر قرار دهد.
به همین دلیل حضور فیلسوفان در شرکت های بزرگ هوش مصنوعی را نباید نشانه ای از رفتن مهندسان دانست، بلکه باید آن را نشانه بلوغ این فناوری دانست. صنعت هوش مصنوعی به این نتیجه رسیده است که ساخت ماشینهایی که با انسان در تعامل هستند فقط یک چالش مهندسی نیست. همچنین مستلزم درک بهتر انسان ها، ارزش ها و روش های تصمیم گیری آنهاست.
شاید مهم ترین درس این تکامل این باشد که با وجود تمام پیشرفت های خیره کننده در هوش مصنوعی، هنوز نمی توان به بسیاری از مهم ترین سوالات به تنهایی در کدهای کامپیوتری پاسخ داد. گاهی برای ساختن فناوری آینده باید به سراغ ایده هایی رفت که بیش از دو هزار سال پیش شکل گرفته اند.
