مدارس دولتی نیویورک دسترسی محدودی به ChatGPT دارند، سیستم هوش مصنوعی که می تواند متنی را در طیف وسیعی از موضوعات و به سبک های مختلف در سراسر شبکه ها و دستگاه های مدرسه تولید کند. همانطور که صبح امروز به طور گسترده گزارش شد و سخنگوی اداره آموزش شهر نیویورک به TechCrunch تایید کرد، این محدودیت به دلیل نگرانی در مورد “[the] تأثیر منفی بر یادگیری دانش‌آموز و «ایمنی و دقت» محتوایی که ChatGPT تولید می‌کند.
یکی از سخنگویان TechCrunch به ایمیل گفت: “در حالی که این ابزار ممکن است بتواند پاسخ های سریع و آسان به سوالات ارائه دهد، تفکر انتقادی و مهارت های حل مسئله را که برای موفقیت تحصیلی و مادام العمر ضروری است ایجاد نمی کند.” در پاسخ به درخواست مدارس
این به خودی خود ممنوعیتی نیست. سیستم مدارس دولتی شهر نیویورک از همین فیلتر استفاده می کند ChatGPT که از آن برای مسدود کردن سایر برنامه ها و وب سایت ها استفاده می کند – به عنوان مثال. یوتیوب و فیس بوک – در اموال مدرسه. تک تک مدارس می توانند درخواست رفع انسداد ChatGPT را داشته باشند و سخنگوی وزارت آموزش شهر نیویورک از فرصت گفتگو با OpenAI، استارت آپ پشت ChatGPT، در مورد چگونگی تطبیق این ابزار برای آموزش استقبال می کند.
در مورد OpenAI، هنگامی که برای اظهار نظر تماس گرفته شد، سخنگوی شرکت گفت که OpenAI در حال توسعه “کاهش” برای کمک به هر کسی است که متن تولید شده توسط ChatGPT را شناسایی کند. این بسیار مهم است. در حالی که TechCrunch اخیرا گزارش داد که OpenAI در حال آزمایش تکنیکی برای واترمارک کردن متن تولید شده توسط هوش مصنوعی است، این اولین باری است که OpenAI تأیید می کند که روی ابزارهایی کار می کند که به طور خاص برای شناسایی متن هایی که از ChatGPT می آیند کار می کند.
ما ChatGPT را به عنوان یک پیش‌نمایش مطالعه در دسترس قرار دادیم تا از استفاده در دنیای واقعی بیاموزیم، که معتقدیم بخش مهمی از توسعه و استقرار سیستم‌های هوش مصنوعی توانمند و ایمن است. سخنگوی OpenAI گفت: ما دائماً بازخوردها و درس‌های آموخته‌شده را با هم ترکیب می‌کنیم. ما همیشه خواستار شفافیت در مورد استفاده از متن تولید شده توسط هوش مصنوعی بوده ایم. خط‌مشی‌های ما کاربران را ملزم می‌کند که هنگام استفاده از API و ابزارهای خلاقانه ما، با مخاطبان خود پیشرو باشند… ما مشتاقانه منتظر همکاری با مربیان بر روی راه‌حل‌های مفید و راه‌های دیگر برای کمک به معلمان و دانش‌آموزان در استفاده از هوش مصنوعی هستیم.»
ChatGPT این توانایی را دارد که به سؤالات در مورد موضوعات مختلف از شعر گرفته تا کدنویسی پاسخ دهد، اما یکی از بزرگترین نقص های آن توانایی آن در دادن پاسخ هایی است که قانع کننده به نظر می رسند اما از نظر واقعیات درست نیستند. این امر باعث شد تا سایت برنامه‌نویسی پرسش و پاسخ Stack Overflow به طور موقت کاربران را از اشتراک‌گذاری محتوای تولید شده توسط هوش مصنوعی منع کند و گفت که ChatGPT باعث می‌شود کاربران به راحتی پلتفرم را با پاسخ‌های مشکوک پر کنند. اخیراً، کنفرانس بین‌المللی یادگیری ماشین، یکی از بزرگترین کنفرانس‌های هوش مصنوعی و یادگیری ماشین در جهان، ممنوعیت مقالاتی را که شامل متن تولید شده توسط ChatGPT و سایر سیستم‌های هوش مصنوعی مشابه است، به دلیل ترس از «عواقب ناخواسته» اعلام کرد.
در آموزش و پرورش، بحث تا حد زیادی حول پتانسیل تقلب می چرخد. «ChatGPT برای نوشتن مقالات مدرسه» را در گوگل جستجو کنید و نمونه‌های زیادی از معلمان، روزنامه‌نگاران و دانش‌آموزان را خواهید یافت که با استفاده از ChatGPT برای انجام تکالیف و تست‌های مقاله استاندارد، آب را آزمایش می‌کنند. جوآنا استرن، ستون نویس وال استریت ژورنال، از ChatGPT برای نوشتن یک مقاله انگلیسی AP استفاده کرد، در حالی که اما ویتفورد، کارمند فوربس، از آن برای تکمیل دو مقاله دانشگاهی در 20 دقیقه استفاده کرد. دن گیلمور، استاد دانشگاه ایالتی آریزونا، در صحبت با گاردین، به یاد می آورد که چگونه یکی از تکالیفی را که معمولاً به دانشجویانش می داد به ChatGPT داد و متوجه شد که مقاله هوش مصنوعی «نمره خوبی» کسب می کند.
سرقت ادبی یکی دیگر از نگرانی هاست. مانند سایر سیستم‌های هوش مصنوعی تولید متن، ChatGPT – که بر روی داده‌های عمومی که معمولاً بدون رضایت جمع‌آوری می‌شوند آموزش داده می‌شود – گاهی اوقات می‌تواند آن اطلاعات را کلمه به کلمه بدون ذکر منبعی تکرار کند. این شامل نادرستی واقعی، همانطور که قبلا ذکر شد، و همچنین دیدگاه های جانبدارانه – از جمله نژادپرستانه و جنسیت آشکار است. OpenAI به معرفی فیلترها و تکنیک هایی برای جلوگیری از تولید متن مشکل دار ادامه می دهد، اما هر روز راه حل های جدیدی ظاهر می شود.
علی‌رغم این محدودیت‌ها و مسائل، برخی از مربیان پتانسیل آموزشی را در ChatGPT و سایر اشکال فناوری‌های هوش مصنوعی مولد می‌بینند. ویکتور لی، دانشیار آموزش در استنفورد، در مقاله‌ای اخیر برای وب‌سایت دانشکده تحصیلات تکمیلی استنفورد، خاطرنشان کرد که ChatGPT می‌تواند به دانش‌آموزان کمک کند «به روش‌هایی فکر کنند که در حال حاضر فکر نمی‌کنند»، مانند کمک به آنها در کشف و عقایدشان را روشن کنند. او استدلال می‌کند که معلمان همچنین می‌توانند از ChatGPT با تولید مثال‌های زیادی برای دانش‌آموزان از روایتی که در آن محتوای اصلی یکسان است اما سبک، نحو یا دستور زبان متفاوت است، بهره ببرند.
«ChatGPT می تواند [allow] دانش‌آموزان بارها بخوانند، تأمل کنند و بازنگری کنند، بدون آن که چنین فرآیندهایی اغلب باعث ناراحتی یا ناامیدی شوند. [while] لی در بیانیه‌ای گفت: معلمان می‌توانند از این ابزار به‌عنوان راهی برای تولید نمونه‌ها و غیرنمونه‌های بسیاری از یک فرم یا ژانر استفاده کنند. «ظاهراً معلمان از اینکه رایانه کارهای زیادی برای دانش‌آموزان انجام می‌دهد هیجان‌زده نیستند. و دانش آموزان هنوز نوشتن را یاد نگرفته اند. اما به چه شکل و چه نوع نوشتاری؟ یک عارضه جانبی این داروی جدید این است که همه ما را ملزم می کند این سوالات را بپرسیم و احتمالاً تغییرات قابل توجهی در اهداف و روش های اصلی آموزش ایجاد کنیم.
در هر صورت، سیاست مدارس دولتی نیویورک، که به نظر می‌رسد اولین در نوع خود در این کشور است، مطمئناً مکالمه را در مناطق مدرسه در جاهای دیگر مجبور خواهد کرد. با افزایش استفاده از این فناوری – ChatGPT تا دسامبر بیش از یک میلیون کاربر داشت – محققان و شرکت‌های مستقل آزمایشی ابزارهایی را برای تشخیص استفاده از متن تولید شده توسط هوش مصنوعی در برنامه‌های دانشجویی آغاز کرده‌اند. برخی از مربیان ممکن است انتخاب کنند که آنها را در آغوش بگیرند، در حالی که دیگران، مانند لی، در عوض استفاده از ChatGPT را به عنوان یک کمک نوشتاری تشویق می کنند.