تکینگی زمانی رخ میدهد که هوش مصنوعی توانایی ارتقای خودکار را پیدا کرده باشد و از هوش انسان فراتر برود.
سم آلتمن، مدیرعامل OpenAI در مصاحبه جدیدی اعلام کرده که هوش مصنوعی رسماً به مرحله «تکینگی» (Singularity) رسیده است؛ مفهومی که پیش از این بیشتر در فیلمهای علمی-تخیلی آن را شنیده بودیم. او همچنین اعلام کرده که یکی از بزرگترین نگرانیهایش در رابطه با هوش مصنوعی، نه قدرتمند شدن خود این فناوری، بلکه کنترل آن توسط چند شرکت محدود است.
آلتمن که مدیریت محبوبترین ابزار هوش مصنوعی جهان یعنی ChatGPT با بیش از ۹۰۰ میلیون کاربر فعال هفتگی را برعهده دارد، سال گذشته پیشبینی کرده بود هوش مصنوعی تا سال ۲۰۳۰ از هوش انسان فراتر میرود. بااینحال، او در جدیدترین قسمت از پادکست Relentless اعلام کرد:
«ما اکنون در مرحله تکینگی قرار داریم. ما درحالحاضر دقیقاً در همان لحظهای هستیم که زمانی سر میز غذا با بیتوجهی دربارهاش صحبت میکردیم. من تمام عمرم منتظر این لحظه بودم و فکر میکنم این اتفاق بسیار شگفتانگیز، فوقالعاده و به نفع جهان خواهد بود.»
تکینگی هوش مصنوعی چیست؟
به زبان ساده، «تکینگی» به نقطهای فرضی در آینده اشاره دارد که در آن هوش مصنوعی توانایی یادگیری و ارتقا خودکار پیدا میکند. در این حالت، هوش مصنوعی بدون نیاز به برنامهنویسان انسانی، الگوریتمهای خود را بازنویسی کرده و با سرعت بالایی رشد میکند. این سرعت پیشرفت چنان بالا خواهد بود که انسانها دیگر توانایی درک، پیشبینی یا بازگرداندن شرایط به حالت قبل را نخواهند داشت و فناوری عملاً مستقل از کنترل بشریت توسعه مییابد.
برخی از تحلیلگران عقیده دارند این نقطه میتواند باعث رفاه فوقالعاده و حل پیچیدهترین مشکلات بشر شود، اما گروهی دیگر هشدار میدهند که فراتر رفتن ماشین از انسان، پیامدهای غیرقابل پیشبینی و حتی فاجعهباری برای تمدن بشری خواهد داشت.
اظهارات آلتمن موجی از نگرانی را میان کارشناسان و سایر فعالان فناوری ایجاد کرده است. آلتمن در بخش دیگری از پادکست، با انتقاد از سایر مدیران حوزه هوش مصنوعی که نسبت به خطرات این فناوری هشدار میدهند، گفت:
«تصویرسازیهای ترسناکی که برخی شرکتهای دیگر ارائه میدهند واقعاً وحشتناک است و من سعی میکنم در برابر آنها مقاومت کنم تا چنین سناریوهایی رخ ندهد.»
اشاره آلتمن بهطور ویژه به شرکت آنتروپیک و مدیرعامل آن «داریو آمودی» مربوط است که اخیراً خواستار ایجاد یک توافق همهجانبه برای توقف موقت توسعه مدلهای پیشرفته شده بود.
نگرانی مدیرعامل OpenAI از تسلط چند شرکت بزرگ بر هوش مصنوعی
آلتمن در توضیحات خود اشاره کرده که نبرد اصلی زمانِ حال، انتخاب بین رفتن به سمت اقتدارگرایی هوش مصنوعی یا حفظ آزادی است. او میگوید:
«هر زمان که بشریت آزادی خود را در قبال امنیت معامله کرده، در بلندمدت دچار زیان خالص شده است. ما میخواهیم این فناوری را در دست مردم قرار دهیم. ما قرار است آنها را توانمند سازیم و اجازه دهیم جامعه ایدههای خود را ابراز کند و از این فناوری به همان شیوهای که میخواهد بهره ببرد.»
اظهارات آلتمن درحالی مطرح شده که شرکت خود او یعنی OpenAI، یکی از معدود مجموعههایی است که قدرتمندترین مدلهای هوش مصنوعی جهان را در اختیار دارد و فناوریهای خود را بهصورت بسته و غیرمتنباز نگه داشته است. گفتههای وی همزمان با مناقشات اخیر در سیلیکونولی و واشنگتن درباره میزان شفافیت معماری مدلهای پیشرفته مطرح شده است. بهتازگی انتشار مدل متنباز چینی Kimi K3 توسط شرکت Moonshot AI، واکنشهایی را به همراه داشت؛ بهطوریکه برخی مقامات آمریکایی خواستار محدودسازی دسترسی به مدلهای چینی شدهاند. درهمینحال سرمایهگذاران هشدار میدهند این محدودیتها رقابت جهانی را تضعیف میکند.
علاوه بر دسترسی به مدلها، کنترلهای صادراتی ایالات متحده بر سر توزیع تراشههای پیشرفته و ظرفیت پردازشی، نفوذ زیادی به واشنگتن برای تعیین سازندگان هوش مصنوعی داده است. در همین راستا، شرکتهایی مانند مایکروسافت، متا، انویدیا، گوگل و OpenAI نامهای امضا کردند و از واشنگتن خواستند هوش مصنوعی متنباز را محدود نکند. در این میان، آنتروپیک، اصلیترین رقیب OpenAI، تنها آزمایشگاه بزرگ هوش مصنوعی بود که این نامه را امضا نکرد؛ زیرا این شرکت رویکرد محافظهکارانهتری دارد و بر لزوم کنترلها و تدابیر امنیتی شدیدتر تأکید میکند.
آلتمن اما تأکید دارد که جلوگیری از تمرکز قدرت همواره هدف اصلی او بوده است تا جوامع انسانی بتوانند از هوش فراوان بهرهمند شوند.
