یوتیوب روز چهارشنبه از گسترش برنامه آزمایشی خود خبر داد که برای شناسایی و مدیریت محتوای تولید شده توسط هوش مصنوعی که شامل “شباهت”، از جمله چهره، سازندگان، هنرمندان و دیگر چهره‌های مشهور یا تأثیرگذار است، طراحی شده است. این شرکت همچنین به طور علنی حمایت خود را از قانونی موسوم به “قانون نه به فیک‌ها” (NO FAKES ACT) اعلام می‌کند که هدف آن مقابله با مشکل کپی‌های تولید شده توسط هوش مصنوعی است که تصویر یا صدای فردی را شبیه‌سازی می‌کنند تا دیگران را گمراه کرده و محتوای مضر ایجاد کنند.
این شرکت می‌گوید در مورد این لایحه با حامیان آن، سناتورهای دموکرات کریس کونز و جمهوری‌خواه مارشا بلکبرن، و دیگر فعالان صنعت، از جمله انجمن صنعت ضبط آمریکا (RIAA) و انجمن تصاویر متحرک آمریکا (MPA)، همکاری کرده است. کونز و بلکبرن قرار است روز چهارشنبه در یک کنفرانس مطبوعاتی از معرفی مجدد این قانون خبر دهند.
یوتیوب در یک پست وبلاگی، استدلال خود را برای حمایت مداوم از این قانون توضیح می‌دهد و می‌گوید در حالی که پتانسیل هوش مصنوعی برای “انقلاب در بیان خلاقانه” را درک می‌کند، جنبه منفی نیز دارد.
در این پست آمده است: “ما همچنین می‌دانیم که محتوای تولید شده توسط هوش مصنوعی خطراتی دارد، از جمله احتمال سوء استفاده یا ایجاد محتوای مضر. پلتفرم‌ها مسئولیت دارند که به طور فعال به این چالش‌ها رسیدگی کنند.”
یوتیوب می‌گوید: “قانون نه به فیک‌ها یک مسیر هوشمندانه رو به جلو ارائه می‌دهد زیرا بر بهترین راه برای ایجاد تعادل بین حفاظت و نوآوری تمرکز دارد: قرار دادن قدرت مستقیماً در دستان افراد برای اطلاع دادن به پلتفرم‌ها در مورد شباهت‌های تولید شده توسط هوش مصنوعی که معتقدند باید حذف شوند. این فرآیند اطلاع‌رسانی حیاتی است زیرا امکان تشخیص محتوای مجاز از فیک‌های مضر را برای پلتفرم‌ها فراهم می‌کند – بدون آن، پلتفرم‌ها به سادگی نمی‌توانند تصمیمات آگاهانه بگیرند.”
این شرکت سیستم تشخیص شباهت خود را در دسامبر ۲۰۲۴ با همکاری آژانس هنرمندان خلاق (CAA) معرفی کرد.
این فناوری جدید بر اساس تلاش‌های یوتیوب با سیستم Content ID موجود خود ساخته شده است که مواد دارای حق چاپ را در ویدیوهای بارگذاری شده توسط کاربران تشخیص می‌دهد. یوتیوب اوایل سال جاری توضیح داد که این برنامه مشابه Content ID، به طور خودکار محتوای متخلف را تشخیص می‌دهد – در این مورد، چهره‌ها یا صداهای شبیه‌سازی شده که با ابزارهای هوش مصنوعی ساخته شده‌اند.
برای اولین بار، یوتیوب فهرستی از آزمایش‌کنندگان اولیه این برنامه را نیز به اشتراک می‌گذارد. این فهرست شامل تولیدکنندگان برتر یوتیوب مانند MrBeast، Mark Rober، Doctor Mike، Flow Podcast، Marques Brownlee و Estude Matemática است.
یوتیوب همچنین اعلام کرد که در طول دوره آزمایش، با این تولیدکنندگان برای مقیاس‌بندی فناوری و بهبود کنترل‌های آن همکاری خواهد کرد. این برنامه در طول سال آینده به تولیدکنندگان بیشتری گسترش خواهد یافت. با این حال، یوتیوب نگفت که چه زمانی انتظار دارد سیستم تشخیص شباهت به طور عمومی‌تری راه‌اندازی شود.
علاوه بر برنامه آزمایشی فناوری تشخیص شباهت، این شرکت قبلاً فرآیند حفظ حریم خصوصی خود را نیز به‌روزرسانی کرده است تا به افراد اجازه دهد حذف محتوای تغییر یافته یا مصنوعی که شباهت آن‌ها را شبیه‌سازی می‌کند، درخواست کنند. همچنین ابزارهای مدیریت شباهت را اضافه کرده است که به افراد امکان می‌دهد نحوه استفاده هوش مصنوعی برای به تصویر کشیدن آن‌ها در یوتیوب را تشخیص داده و مدیریت کنند.
منبع: تک‌کرانچ
