تیک‌تاک محتوای تولید شده توسط هوش مصنوعی را برچسب‌گذاری می‌کند

ایتنا - تیک‌تاک قصد دارد برچسب‌گذاری تصاویر و ویدیوهای آپلود شده در سرویس اشتراک‌گذاری ویدیوی خود را که با استفاده از هوش مصنوعی تولید شده‌اند، با استفاده از واترمارک دیجیتالی به نام Content Credentials آغاز کند.

محققان ابراز نگرانی کرده‌اند که محتوای تولید شده توسط هوش مصنوعی می‌تواند برای تداخل در انتخابات ایالات متحده در پاییز امسال مورد سواستفاده قرار گیرد و تیک‌تاک در میان گروهی متشکل از 20 شرکت فناوری بود که اوایل سال جاری توافق نامه‌ای را امضا کردند که متعهد به مبارزه با آن بود.

به گزارش ایتنا، این شرکت قبلاً محتوای تولید شده توسط هوش مصنوعی را که با ابزارهای داخل برنامه ساخته شده است برچسب گذاری می‌کند، اما آخرین اقدام آن، برچسب‌گذاری را برای فیلم‌ها و تصاویر تولید شده خارج از سرویس اعمال می‌کند.

آدام پرسر، رئیس عملیات و اعتماد و ایمنی در تیک تاک گفت:« ما همچنین سیاست‌هایی داریم که هوش مصنوعی واقعی را که برچسب گذاری نشده است ممنوع می‌کند، بنابراین اگر هوش مصنوعی واقعی (محتوای تولید شده) در پلت‌فرم ظاهر شود، آن را به دلیل نقض دستورالعمل‌ها حذف خواهیم کرد.»

یوتیوب که متعلق به گوگل آلفابت است و متا که مالک اینستاگرام و فیسبوک است نیز اعلام کردند که قصد دارند از Content Credentials استفاده کنند.




برای اینکه سیستم کار کند، هم سازنده ابزار مولد هوش مصنوعی که برای تولید محتوا استفاده می‌شود و هم پلتفرم مورد استفاده برای توزیع محتوا باید هر دو با استفاده از استاندارد صنعتی موافقت کنند.

به عنوان مثال، زمانی که کاربر از ابزار OpenAI's Dall-E برای تولید یک تصویر استفاده می‌کند، OpenAI یک واترمارک به تصویر به دست آمده متصل می‌کند و داده‌هایی را به فایل اضافه می‌کند که بعداً نشان می‌دهد که آیا تصویر دستکاری شده است یا خیر. اگر آن تصویر علامت‌گذاری‌شده در تیک‌تاک آپلود شود، به‌طور خودکار به‌عنوان تولیدشده توسط هوش مصنوعی برچسب‌گذاری می‌شود.

تیک‌تاک که متعلق به بایت دنس چین است، 170 میلیون کاربر در ایالات متحده دارد، که اخیرا قانونی را تصویب کرده است که بایت دنس را ملزم می‌کند تا تیک‌تاک را واگذار کند یا با ممنوعیت مواجه شود. تیک‌تاک و بایت دنس برای جلوگیری از این قانون شکایت کرده‌اند و استدلال می‌کنند که این قانون، اصلاحیه اول را نقض می‌کند.