قطعه قطعه کردن جامعه؛ هشدار تند استاد هاروارد در مورد تاثیر تاریک هوش مصنوعی

پایگاه خبری تحلیلی افق میهن (ofoghmihan.ir):

زومیت: جیل لپور، مورخ دانشگاه هاروارد، در کتاب جدید خود هشدار می دهد که نخبگان فناوری در حال شکل دادن به یک دولت مصنوعی هستند.

جیل لپور، مورخ و استاد دانشگاه هاروارد، هشدار می دهد که گسترش هوش مصنوعی و واگذاری تصمیمات اجتماعی و سیاسی به سیستم های تحت کنترل شرکت های فناوری می تواند به تدریج ساختار دموکراسی و زندگی عمومی را تضعیف کند.

لپور این وضعیت را با اصطلاح «دولت مصنوعی» توصیف می کند. سیستمی که در آن برخی از وظایف و اختیارات زمانی در اختیار نهادهای عمومی و دولت های منتخب بود به شرکت ها، پلتفرم های دیجیتال و سیستم های خودکار منتقل می شود. او در مصاحبه ای با پادکست هارد فورک نیویورک تایمز گفت که در چنین مدلی، تصمیم گیری ها به جای اینکه با رضایت شهروندان گرفته شود، تحت تاثیر ماشین ها و شرکت هایی قرار می گیرد که آنها را مالک یا کنترل می کنند.

لپور تاکید می کند که جهان هنوز به طور کامل وارد چنین وضعیتی نشده است، اما بسیاری از زیرساخت های لازم برای آن در حال شکل گیری است. به گفته وی، برخی از مدیران و سرمایه گذاران صنعت فناوری نیز چشم اندازی را دنبال می کنند که در آن قدرت شرکت های فناوری می تواند از نهادهای عمومی و اراده رای دهندگان فراتر رود.

لپور این ایده را با جزئیات بیشتری در کتاب آینده خود، ظهور و سقوط حالت مصنوعی، بررسی می کند. سوال اصلی او ساده است: چه کسی تصمیم گرفت که بسیاری از تعاملات روزمره انسانی، از دریافت خدمات تا دسترسی به اطلاعات، از طریق سیستم های خودکار انجام شود؟

امروزه تماس با شرکت ها، دریافت خدمات، جستجوی اطلاعات و حتی پیگیری برخی امور اداری بیش از گذشته به چت بات ها و سیستم های خودکار وابسته است. لپور معتقد است که این تغییر صرفاً به دلیل راحتی یا فناوری نیست، بلکه می تواند بر نحوه توزیع قدرت در جامعه نیز تأثیر بگذارد.

در تعریف او، «دولت مصنوعی» لزوماً به معنای دولتی نیست که مستقیماً توسط هوش مصنوعی اداره شود. مسئله اصلی، انتقال تدریجی عملکردهای عمومی به شرکت هایی است که زیرساخت ارتباطات دیجیتالی دارند.

امروزه بخش بزرگی از اخبار، اطلاعات سیاسی و تبلیغات افق میهناتی از طریق تریبون های خصوصی به دست مردم می رسد. الگوریتم‌های این پلتفرم‌ها همچنین تعیین می‌کنند که کاربران چه محتوایی را بیشتر ببینند و چه محتوایی را کمتر در معرض آنها قرار دهند. به گفته لپور، این میانجیگری می تواند ارتباط مستقیم شهروندان با نهادهای عمومی، رسانه ها و حتی یکدیگر را تضعیف کند.

لپور در مقاله ای در سال 2024 در نیویورکر، پیش از این گسترش این ساختار را با عبارتی تند، نوعی «صنعتی شدن زندگی عمومی» توصیف کرده بود. منظور او طبقه بندی و جدایی مردم، انزوا و از خود بیگانگی و نابودی جامعه بشری است.

به گفته لپور، هوش مصنوعی یکی از فناوری هایی است که می تواند این روند را سرعت بخشد. کاربران اکنون می توانند از چت بات ها درباره مسائل سیاسی بپرسند، در حالی که برخی از پیام های سیاسی، تبلیغات و محتوایی که آنلاین می بینند نیز ممکن است با کمک هوش مصنوعی تولید شوند.

در عین حال، سیستم‌های هوش مصنوعی در تجزیه و تحلیل حجم عظیمی از داده‌های کاربر، سیستم‌های نظارت و فرآیندهای تصمیم‌گیری خودکار استفاده می‌شوند. به همین دلیل، لپور نگران است که تصمیمات بیشتری بدون دخالت مستقیم انسان و بدون سازوکارهای شفاف پاسخگویی اتخاذ شود.

یکی دیگر از محورهای انتقاد لپور این ایده است که توسعه سریع هوش مصنوعی اجتناب ناپذیر است. او این دیدگاه را نوعی جبر تکنولوژیک می داند; یعنی این تصور که تکنولوژی مسیر مشخصی دارد و جامعه چاره ای جز پذیرش آن ندارد.

به گفته لپور، چنین استدلالی اغلب با ادعای دیگری همراه است: اینکه مقررات دولتی نوآوری را خفه می کند و بنابراین محدودیت های توسعه هوش مصنوعی باید تا حد امکان کاهش یابد.

لپور همچنین این ایده را که فناوری ذاتاً دموکراسی را تقویت می کند، به چالش می کشد. او به یاد می آورد که ادعاهای مشابهی در مورد رایانه های شخصی، اینترنت و شبکه های اجتماعی مطرح شد، اما پیامدهای واقعی این فناوری ها پیچیده تر از وعده های اولیه بود.

به گفته لپور، فناوری به خودی خود نه دموکراتیک است و نه ضد دموکراتیک. نتیجه به طراحی، مالکیت، مقررات و پاسخگویی شرکت ها و موسسات مالک آن بستگی دارد.

هشدار اصلی لپور بیشتر در مورد تمرکز قدرت است تا خود فناوری. او می‌پرسد، اگر بخش زیادی از ارتباطات، اطلاعات، تصمیم‌گیری و حتی خدمات عمومی به سیستم‌های تحت کنترل شرکت‌های خصوصی سپرده شود، چه مکانیسمی برای پاسخگویی صاحبان این فناوری‌ها باقی می‌ماند؟