بیش از سه سال پیش، این ویراستار، سم آلتمن را برای یک رویداد کوچک در سانفرانسیسکو، مدت کوتاهی پس از اینکه او نقش خود را به عنوان رئیس Y Combinator ترک کرد و مدیر عامل شرکت هوش مصنوعی شد که در سال 2015 با الون ماسک و همکارانش تأسیس کرد، ملاقات کرد. OpenAI.
در آن زمان آلتمن پتانسیل OpenAI را به زبانی توصیف کرد که برای برخی عجیب به نظر می رسید. آلتمن گفت، برای مثال، فرصت با هوش عمومی مصنوعی – هوش ماشینی که می‌تواند مشکلات را به خوبی انسان حل کند – به قدری غیرقابل درک است که اگر OpenAI بتواند آن را شکست دهد، تجهیزات می‌توانند “شاید مخروط نور را با تمام ارزش‌های آینده جذب کنند. او گفت که شرکت «نباید تحقیقاتی را منتشر کند» زیرا بسیار قدرتمند است. ایلان ماسک، یکی از بنیانگذاران تیم، در پاسخ به این سوال که آیا OpenAI در ایجاد ترس مقصر است یا خیر، مکرراً از همه سازمان‌هایی که هوش مصنوعی را توسعه می‌دهند، خواسته است. تنظیم شده است – آلتمن در مورد خطرات صحبت می کند نه فکر کردن در مورد “پیامدهای اجتماعی” زمانی که “چیزی را بر روی یک منحنی نمایی ایجاد می کنید.”
حضار در نقاط مختلف گفتگو خندیدند و مطمئن نبودند که آلتمن را چقدر جدی بگیرند. حالا اما هیچ کس نمی خندد. در حالی که هنوز ماشین‌ها به اندازه انسان‌ها باهوش نیستند، برخی از فناوری‌هایی که OpenAI از آن زمان در جهان عرضه کرده است به اندازه‌ای نزدیک شده است که برخی از منتقدان می‌ترسند که ممکن است ما را از بین ببرد.
در واقع، مدل ChatGPT که OpenAI هفته گذشته در دسترس عموم قرار داد، بسیار قادر به پاسخگویی به پرسش است.به عنوان فردی که متخصصان در تعدادی از صنایع در حال تلاش برای پردازش پیامدها هستند، سؤال می کند. برای مثال، مربیان تعجب می‌کنند که چگونه می‌توانند نوشته‌های اصلی را از مقالاتی که به‌طور الگوریتمی تولید می‌شوند، متمایز کنند – و این می‌تواند از نرم‌افزار ضد سرقت ادبی فرار کند.
پل کدوسکی فی نفسه یک مربی نیست. او یک اقتصاددان، سرمایه‌دار مخاطره‌آمیز و همکار MIT است که خود را «یک فرد عادی ناامید با تمایل به تفکر در مورد خطرات و پیامدهای ناخواسته در سیستم‌های پیچیده» می‌نامد. اما او یکی از کسانی است که ناگهان نگران آینده جمعی ما هستند، توییت کردن دیروز: “[S]شرم بر OpenAI برای رها کردن این بمب هسته ای جیبی بدون هیچ محدودیتی در جامعه ناآماده. و اگر دوباره معرفی شود، فقط با محدودیت های سخت.
ما دیروز با او در مورد برخی از نگرانی‌هایش صحبت کردیم و اینکه چرا فکر می‌کند آنچه OpenAI در حال انجام است همان چیزی است که می‌گوید «مشکل‌کننده‌ترین تغییری است که اقتصاد آمریکا در 100 سال گذشته دیده است» و نه به روش خوبی.
چت ما برای طولانی بودن و وضوح ویرایش شده است.
TC: ChatGPT چهارشنبه گذشته منتشر شد. چه چیزی باعث واکنش شما در توییتر شد؟
PK: من در گذشته با این رابط‌های کاربری مکالمه و خدمات هوش مصنوعی بازی کرده‌ام، و واضح است که این یک جهش بزرگ فراتر از آن است. و آنچه مرا در اینجا به‌ویژه آزار می‌دهد، بی‌رحمی معمولی با پیامدهای بزرگ برای انبوهی از فعالیت‌های مختلف بود. نه فقط موارد واضح، مانند نوشتن مقاله دبیرستان، بلکه تقریباً در هر زمینه ای که دستور زبان وجود دارد- [meaning] شیوه بیان سازمان یافته این می تواند مهندسی نرم افزار، مقالات دبیرستان، مقالات حقوقی باشد. همه آنها به راحتی توسط این جانور حریص خورده می شوند و بدون جبران چیزی که برای تربیت آن استفاده شده است، دوباره تف می کنند.
من از یکی از همکاران در UCLA شنیدم که به من گفت که آنها نمی دانند در پایان ترم فعلی که در آن صدها مقاله در هر دوره و هزاران مقاله در هر دپارتمان دریافت می کنند، چه کار کنند، زیرا آنها دیگر نمی دانند که چه چیزی جعلی است و چه چیزی. نیست بنابراین انجام این کار به طور معمول – همانطور که قبلاً امروز یکی به من گفت – یادآور به اصطلاح است. [ethical] یک هکر کلاه سفید که اشکالی را در یک محصول پرکاربرد پیدا می‌کند، سپس قبل از اینکه عموم مردم بدانند، توسعه‌دهنده را مطلع می‌کند تا توسعه‌دهنده بتواند محصول خود را وصله کند و ما خرابی انبوه و قطعی شبکه برق نداشته باشیم. زمانی که ویروس بدون نگرانی از عواقب آن در طبیعت رها می شود، برعکس است.
انگار می تواند دنیا را بخورد.
برخی ممکن است بگویند، «خوب، آیا زمانی که اتوماسیون وارد کارخانه‌های خودروسازی شد و کارگران خودرو از کار بیکار شدند، همین احساس را داشتید؟ زیرا این یک نوع پدیده گسترده تر است. اما این بسیار متفاوت است. این فن آوری های یادگیری خاص خود کاتالیزور هستند. آنها از درخواست ها یاد می گیرند. بنابراین ربات‌های یک کارخانه تولیدی، در حالی که مختل می‌کردند و عواقب اقتصادی باورنکردنی را برای افرادی که در آنجا کار می‌کردند ایجاد می‌کردند، برنگرداندند و شروع به جذب هر چیزی که در کارخانه می‌افتد، بخش به بخش حرکت می‌کردند، تا زمانی که می‌توانیم انتظارش را داشته باشیم. آنچه باید انتظار داشته باشید
ماسک تا حدی از OpenAI خارج شد اختلاف نظرها او در سال 2019 از توسعه این شرکت گفت و مدتهاست که از هوش مصنوعی به عنوان یک تهدید وجودی صحبت کرده است. اما مردم از این که او نمی دانست دارد صحبت می کند آزرده می شدند. اکنون با این فناوری قدرتمند روبرو هستیم و مشخص نیست چه کسی برای مقابله با آن قدم می گذارد.
من فکر می‌کنم در یک سری مکان‌ها به طور همزمان شروع می‌شود، که اکثر آنها واقعاً بد به نظر می‌رسند و مردم [then] به طرز تمسخرآمیزی چون این کاری است که فناوران انجام می دهند. اما خیلی بد است، زیرا ما خودمان وارد آن شدیم و چیزی با چنین ثباتی ایجاد کردیم. بنابراین همان روشی که FTC سال‌ها پیش افراد را ملزم به وبلاگ‌نویسی کرد [make clear they] پیوندهای وابسته داشته باشید و از آنها درآمد کسب کنید، فکر می کنم در سطحی پیش پا افتاده مردم مجبور خواهند شد فاش کنند که «ما هیچ کدام از این ها را ننوشته ایم. این همه ماشین تولید شده است.
همچنین فکر می‌کنم انرژی جدیدی را برای شکایت جاری علیه مایکروسافت و OpenAI به دلیل نقض حق نسخه‌برداری در چارچوب الگوریتم‌های یادگیری ماشینی ما در فرآیند آموزش ببینیم. من فکر می کنم یک سوال DMCA گسترده تر در مورد این سرویس در اینجا وجود خواهد داشت.
و من فکر می کنم پتانسیل وجود دارد [massive] یک دعوای حقوقی و احتمالاً توافق در مورد عواقب خدمات، که، می دانید، احتمالاً خیلی طول می کشد و به اندازه کافی به افراد کمک نمی کند، اما من نمی دانم که چگونه نمی توانیم به آن برسیم [this place] در رابطه با این فناوری ها
آنها در MIT چه فکری می کنند؟
اندی مک آفی و گروهش در آنجا خوشبین ترند و دیدگاه ارتدوکس تری در آنجا دارند که هر بار که شاهد اختلال هستیم، فرصت های دیگری ایجاد می شود، مردم متحرک هستند، از جایی به مکان دیگر و از شغلی به شغل دیگر می روند و ما نه. نباید آنقدر پنهان باشد که فکر کنیم این تکامل خاص تکنولوژی، تحولی است که ما نمی توانیم حول آن جهش کنیم و مهاجرت کنیم. و من فکر می کنم که این در کل درست است.
اما درس پنج سال گذشته این است که این تغییرات می تواند زمان زیادی را ببرد. به عنوان مثال، تجارت آزاد یکی از آن تجربیات بسیار مخرب برای کل اقتصاد است و همه ما به عنوان اقتصاددان با خود گفته ایم که اقتصاد سازگار خواهد شد و مردم به طور کلی از قیمت های پایین تر سود خواهند برد. چیزی که هیچکس انتظارش را نداشت این بود که کسی همه مردم خشمگین را سازماندهی کند و دونالد ترامپ را انتخاب کند. بنابراین این ایده وجود دارد که ما می توانیم پیش بینی و پیش بینی کنیم که چه عواقبی خواهد داشت، اما [we can’t].
شما از نوشتن مقاله در دبیرستان و دانشگاه صحبت کردید. یکی از فرزندان ما قبلاً پرسیده است – از نظر تئوری! – اگر استفاده از ChatGPT برای نوشتن مقاله سرقت ادبی است.
هدف از مقاله نویسی اثبات این است که شما می توانید فکر کنید، بنابراین این روند را قطع می کند و هدف را شکست می دهد. باز هم از نظر عواقب و عوارض جانبی، اگر نمی‌توانیم اجازه دهیم افراد تکالیف خود را داشته باشند، زیرا دیگر نمی‌دانیم که تقلب می‌کنند یا نه، به این معنی است که همه چیز باید در کلاس اتفاق بیفتد و باید نظارت شود. چیزی برای بردن به خانه وجود ندارد. کارهای بیشتری باید به صورت شفاهی انجام شود و این به چه معناست؟ این بدان معناست که مدرسه به تازگی بسیار گران‌تر، بسیار حرفه‌ای‌تر، بسیار کوچک‌تر شده است، و دقیقاً در زمانی که ما تلاش می‌کنیم برعکس عمل کنیم. پیامدها برای آموزش عالی از نظر ارائه خدمات واقعی ویرانگر هستند.
نظر شما در مورد ایده درآمد پایه جهانی یا امکان سهیم شدن همه در سود حاصل از هوش مصنوعی چیست؟
من خیلی کمتر از قبل از کووید حامی قوی هستم. دلیل آن این است که کووید به نوعی آزمایشی با درآمد پایه جهانی بود. ما به مردم پول دادیم که در خانه بمانند و آنها با QAnon آمدند. بنابراین من واقعاً نگران هستم که چه اتفاقی می‌افتد وقتی مردم مجبور نباشند سوار ماشین شوند، جایی رانندگی کنند، کاری را انجام دهند که از آن متنفرند و به خانه بیایند، زیرا شیطان برای دست‌های خالی کار پیدا می‌کند و بیکاری زیادی وجود خواهد داشت. شیطان زیاد