گروهی که سعی در کسب درآمد از تولید پورن هوش مصنوعی، Unstable Diffusion دارد، بیش از 56000 دلار در Kickstarter از 867 حامی جمع آوری کرده است. اکنون که Kickstarter نظر خود را در مورد پروژه‌های مبتنی بر هوش مصنوعی تغییر داده است، پلتفرم تأمین مالی جمعی کمپین Unstable Diffusion را تعطیل کرده است. از آنجایی که Kickstarter یک مدل همه یا هیچ را اجرا می کند و کمپین هنوز به پایان نرسیده است، تمام پول جمع آوری شده توسط Unstable Diffusion به حامیان بازگردانده می شود. به عبارت دیگر، Unstable Diffusion آن 56000 دلار را نخواهد دید که بیش از دو برابر شدن هدف اولیه خود یعنی 25000 دلار است.
اورت تیلور، مدیر عامل شرکت، در یک پست وبلاگی گفت: «در چند روز گذشته، ما هیئت مشاوران جامعه خود را درگیر کرده‌ایم و بازخورد شما را از طریق تیم و رسانه‌های اجتماعی برای ما خوانده‌ایم. و یک چیز واضح است: Kickstarter باید و همیشه در کنار کارهای خلاقانه و افرادی که پشت آن کار هستند باشد. ما اینجا هستیم تا به پیشرفت کار خلاق کمک کنیم.»
رویکرد جدید Kickstarter برای میزبانی پروژه های هوش مصنوعی عمدا مبهم است.
تیلور نوشت: «این فناوری واقعاً جدید است و ما همه پاسخ ها را نداریم. تصمیم‌هایی که اکنون می‌گیریم ممکن است تصمیماتی نباشند که در آینده می‌گیریم، بنابراین می‌خواهیم این یک گفتگوی مداوم با همه شما باشد.»
در حال حاضر، این پلتفرم می گوید که در حال بررسی نحوه تعامل پروژه ها با مطالب دارای حق چاپ است، به ویژه زمانی که آثار هنرمندان بدون رضایت در داده های آموزشی الگوریتم ظاهر می شوند. Kickstarter همچنین بررسی خواهد کرد که آیا این پروژه “از یک جامعه خاص بهره برداری می کند یا کسی را در معرض خطر قرار می دهد.”
در ماه‌های اخیر، ابزارهایی مانند ChatGPT OpenAI و Stable AI’s Stable Diffusion موفقیت چشمگیری داشته‌اند و مکالمات مربوط به اخلاقیات خلاقیت‌های هوش مصنوعی را در خط مقدم بحث عمومی قرار داده‌اند. اگر اپلیکیشن‌هایی مانند هوش مصنوعی لنز می‌توانند از منبع باز Stable Diffusion برای ایجاد فورا آواتارهای هنری که شبیه کارهای یک هنرمند حرفه‌ای هستند استفاده کنند، چه تاثیری بر همان هنرمندان فعال دارد؟
برخی از هنرمندان در توییتر برای تحت فشار قرار دادن Kickstarter برای کنار گذاشتن پروژه Unstable Diffusion به دلیل نگرانی در مورد اینکه چگونه مولدهای هنر هوش مصنوعی می توانند حرفه هنرمندان را به خطر بیندازند، استفاده کردند.
بسیاری از سرنوشت شغل گرگ روتکوفسکی به عنوان نمونه ای از اشتباهات یاد می کنند. یک تصویرگر پر جنب و جوش که آثار هنری با جزئیات و بسیار فانتزی را برای فرنچایزهایی مانند “Dungeons & Dragons” خلق کرده است، نام Rutkowski یکی از محبوب ترین عبارات جستجو در Stable Diffusion در ماه سپتامبر بود که به کاربران اجازه می داد سبک متمایز او را به راحتی کپی کنند. روتکوفسکی هرگز موافقت نکرد که از آثار هنری او برای آموزش الگوریتم استفاده شود، و این باعث شد که او به یک مدافع سرسخت تبدیل شود که چگونه تولیدکنندگان هنر هوش مصنوعی بر هنرمندان فعال تأثیر می‌گذارند.
با بودجه 25000 دلاری، ما می توانیم مدل جدید را با 75 میلیون تصویر باکیفیت متشکل از 25 میلیون تصویر انیمه و کازپلی، 25 میلیون تصویر هنری از Artstation/DeviantArt/Behance و 25 میلیون عکس عکاسی آموزش دهیم. “Unstable Diffusion در Kickstarter خود نوشت.
Spawning، مجموعه‌ای از ابزارهای هوش مصنوعی که برای پشتیبانی از هنرمندان طراحی شده‌اند، وب‌سایتی به نام Have I Been Trained ایجاد کرده است که به هنرمندان اجازه می‌دهد ببینند آیا آثارشان در مجموعه داده‌های محبوب ظاهر می‌شود یا خیر و انصراف دهند. طبق یک پرونده دادگاه در ماه آوریل، سابقه قانونی برای محافظت از فرسودگی داده های در دسترس عموم وجود دارد.
مشکلات ذاتی در تولید پورن هوش مصنوعی
سوالات اخلاقی در مورد کارهای هوش مصنوعی با در نظر گرفتن پروژه هایی مانند انتشار ناپایدار که حول توسعه محتوای NSFW متمرکز است، حتی مبهم تر می شود.
Stable Diffusion از مجموعه داده ای از 2.3 میلیارد تصویر برای آموزش تولید کننده متن به تصویر خود استفاده می کند. اما تنها حدود 2.9٪ از مجموعه داده حاوی مواد NSFW است که اجازه نمی‌دهد الگو در مورد محتوای صریح ادامه یابد. اینجاست که Unstable Diffusion وارد می شود. این پروژه که بخشی از Equilibrium AI است، داوطلبانی را از سرور Discord خود برای توسعه مجموعه داده‌های پورنو قوی‌تر برای تنظیم الگوریتم خود به کار گرفت، به همان روشی که اگر بخواهید عکس‌های بیشتری از کاناپه‌ها و صندلی‌ها را روی مجموعه‌ای از داده‌ها آپلود می‌کنید. ساخت هوش مصنوعی برای تولید مبلمان
اما هر مولد هوش مصنوعی مستعد هر گونه تعصبی است که افراد پشت الگوریتم دارند. بسیاری از پورن‌هایی که رایگان هستند و به‌راحتی آنلاین در دسترس هستند، برای نگاه مردانه طراحی شده‌اند، به این معنی که احتمالاً این همان چیزی است که هوش مصنوعی بیرون می‌آورد، به خصوص اگر این نوع تصاویری باشد که کاربران در مجموعه داده‌ها وارد می‌کنند.
در Kickstarter که اکنون به حالت تعلیق درآمده است، Unstable Diffusion اعلام کرده است که برای ایجاد یک مدل هنری هوش مصنوعی کار خواهد کرد که بتواند «بهتر آناتومی انسان را مدیریت کند، سبک‌های هنری متنوع و قابل کنترلی تولید کند، مفاهیمی مانند LGBTQ و نژاد و جنسیت را منصفانه‌تر نشان دهد. “
علاوه بر این، هیچ راهی برای تأیید اینکه بسیاری از هرزه‌نگاری‌هایی که به‌طور رایگان در اینترنت در دسترس هستند، توافقی هستند وجود ندارد (با این حال، سازندگان بزرگسالی که از پلت‌فرم‌های پولی مانند OnlyFans و ManyVids استفاده می‌کنند باید سن و هویت خود را قبل از استفاده از این خدمات تأیید کنند). حتی در این صورت، اگر یک مدل موافقت کند که در فیلم های پورن ظاهر شود، به این معنی نیست که آنها موافق استفاده از تصاویر خود برای آموزش هوش مصنوعی نیستند. در حالی که این فناوری می تواند تصاویر واقعی خیره کننده ای ایجاد کند، همچنین به این معنی است که می توان از آن به عنوان سلاحی برای ایجاد پورنوگرافی عمیقا جعلی بدون رضایت استفاده کرد.
در حال حاضر، قوانین کمی در سرتاسر جهان به هرزه‌نگاری غیرقانونی عمیقا تقلبی می‌پردازد. در ایالات متحده، تنها ویرجینیا و کالیفرنیا مقرراتی دارند که استفاده از رسانه های مستهجن جعلی و جعلی را محدود می کند.
راویت دوتان، معاون هوش مصنوعی مسئول در Mission Control ماه گذشته به TechCrunch گفت: «یک جنبه ای که من به طور خاص نگران آن هستم تأثیر متفاوتی است که پورن های تولید شده توسط هوش مصنوعی بر زنان می گذارد. به عنوان مثال، یک برنامه قبلی مبتنی بر هوش مصنوعی که می‌توانست لباس افراد را درآورد، فقط روی زنان کار می‌کرد.»
Unstable Diffusion در زمان انتشار به درخواست نظر پاسخ نداد.