یک استارتاپ برزیلی رسماً پلتفرمی را راه‌اندازی کرد که می‌تواند ویدیوهای دیپ‌فیک را تشخیص دهد

اگر پیش از این چالش اصلی شناسایی دیپ‌فیک‌ها بود، اکنون نیاز فزاینده‌ای به اثبات منشأ محتوای معتبر نیز وجود دارد. در محیطی که اصالت تصاویر و اسناد می‌تواند مورد تردید قرار گیرد، استارتاپ برزیلی InspireIP رسماً این پنجشنبه (6) SIGNAIP را راه‌اندازی می‌کند، یک پلتفرم اصالت دیجیتال که ثبت اصالت و منشأ، اعتبارنامه‌های قابل تأیید تعبیه شده در فایل‌ها و تجزیه و تحلیل نشانه‌های احتمالی استفاده از هوش مصنوعی در محتوای دیجیتال را ترکیب می‌کند.

پس از یک دوره آزمایشی، این راهکار در بازار برزیل با دسترسی بنا به درخواست آغاز به کار خواهد کرد. این پلتفرم دو جبهه مکمل را گرد هم می‌آورد: ثبت منشأ و اصالت محتوای دیجیتال و تجزیه و تحلیل فنی تصاویر و اسناد متنی برای شناسایی نشانه‌های احتمالی تولید، ویرایش یا بازنویسی با پشتیبانی هوش مصنوعی.

این پلتفرم برای خدمت‌رسانی به تولیدکنندگان، شرکت‌ها و مؤسساتی توسعه داده شده است که نیاز به مستندسازی منشأ یک فایل، ثبت وجود قبلی آن، پیگیری تغییرات و ایجاد شرایط برای استفاده از آن توسط سیستم‌های هوش مصنوعی دارند.

: «هوش مصنوعی نحوه تولید محتوا را تغییر داده است، اما همچنین نحوه نیاز ما به اعتماد به آن را نیز تغییر داده است. این بحث فراتر از شناسایی محتوای مصنوعی رفته و اکنون شامل توانایی تأیید منشأ، یکپارچگی و تاریخچه فایل‌های دیجیتال است. این شکافی است که SIGNAIP به دنبال پر کردن آن است.»

مدارک معتبر مبدا

در طول ثبت نام، SIGNAIP یک اعتبارنامه‌ی منشأ قابل تأیید را در خود فایل قرار می‌دهد که حاوی اطلاعاتی در مورد مالک اعلام شده، ویژگی‌های فنی محتوا، تاریخ ثبت و ترجیحات تعریف شده برای استفاده از آن توسط سیستم‌های هوش مصنوعی است. این اعتبارنامه با فایل ثبت شده مرتبط باقی می‌ماند و امکان تأیید این اطلاعات را بعداً فراهم می‌کند.

تاریخ ثبت نام در بلاکچین ثبت می‌شود و یک مرجع زمانی قابل حسابرسی ایجاد می‌کند که به اثبات استفاده قبلی کمک می‌کند. طبق گفته InspireIP، اطلاعات مرتبط با اعتبارنامه قابل تأیید می‌تواند توسط اشخاص ثالث و بدون تکیه انحصاری بر زیرساخت شرکت قابل دسترسی باشد.

پس از تکمیل ثبت‌نام، کاربر فایلی حاوی اطلاعات احراز هویت قابل تأیید و گواهی مبدا با فرمت PDF دریافت می‌کند.

این ساختار امکان پیوند دادن نسخه‌های مستند و مداخلات درون یک آرشیو، از جمله ویرایش‌های بعدی و ادغام عناصر تولید شده توسط هوش مصنوعی را فراهم می‌کند. هدف، ایجاد یک تاریخچه قابل جستجو از تحولات ثبت شده در طول چرخه عمر آرشیو است.

با این حال، حفظ این اطلاعات در طول گردش محتوا ممکن است به نحوه ویرایش، استخراج، فشرده‌سازی یا اشتراک‌گذاری فایل بستگی داشته باشد.

استانداردهای بین‌المللی اصالت

SIGNAIP از C2PA (ائتلاف برای منشأ و اصالت محتوا) استفاده می‌کند، یک استاندارد فنی بین‌المللی که برای مرتبط کردن اعتبارنامه‌های مبدأ قابل تأیید با محتوای دیجیتال توسعه داده شده است.

اعتبارنامه‌های قابل تأیید، اطلاعاتی در مورد منشأ اعلام‌شده‌ی فایل و تغییرات مستند شده در طول چرخه‌ی حیات آن را ثبت می‌کنند و امکان بررسی بعدی تاریخچه‌ی منشأ آن را فراهم می‌کنند.

این استاندارد توسط شرکت‌هایی مانند ادوبی، گوگل، متا و OpenAI به عنوان بخشی از توسعه سازوکارهایی با هدف افزایش شفافیت در مورد منشأ و تاریخچه محتوای دیجیتال اتخاذ شده است.

InspireIP همچنین عضوی از ابتکار اصالت محتوا (CAI) است، ائتلافی بین‌المللی که به توسعه و پذیرش فناوری‌هایی برای احراز هویت و تأیید منشأ محتوای دیجیتال اختصاص دارد. به گفته این شرکت، این شرکت بخشی از گروهی از سازمان‌هایی است که رسماً مجوز استفاده از استاندارد C2PA را دارند و در حال حاضر تنها شرکت برزیلی در میان شرکت‌های دارای مجوز است.

با این حال، وجود یک مدرک معتبرِ منشأِ قابل تأیید، به خودی خود، اثباتی بر صحت واقعیتِ به تصویر کشیده شده نیست. این منبع، منشأ اعلام‌شده و تاریخچه فنی پرونده را مستند می‌کند، اما جایگزین تحقیقات روزنامه‌نگاری، تحلیل کارشناسی یا تأیید زمینه‌ای که محتوا در آن تولید شده است، نمی‌شود.

تحلیل تصاویر و اسناد متنی

علاوه بر تأیید منشأ، SIGNAIP تجزیه و تحلیل‌های احتمالی را برای شناسایی نشانه‌های بالقوه‌ی ابزارهای هوش مصنوعی که در ایجاد، ویرایش یا بازنویسی تصاویر و اسناد متنی دخیل هستند، انجام می‌دهد.

در فایل‌های تصویری، این فناوری، فراداده‌ها، ویژگی‌های فنی و الگوهای ساختاری مرتبط با تولید یا دستکاری دیجیتال را در نظر می‌گیرد. در اسناد متنی، می‌تواند الگوهای زبانی، یکنواختی سبک، ویژگی‌های آماری و تغییرات بین بخش‌های مختلف را تجزیه و تحلیل کند. در مطالب گسترده، محتوا را می‌توان به بلوک‌هایی تقسیم کرد که به گزارش اجازه می‌دهد نتایج متمایزی را در سراسر سند ارائه دهد.

در طول مرحله آزمایش، از فناوری‌های توسعه‌یافته توسط InspireIP برای ارزیابی تصاویر و اسنادی که اصالت یا روش تولید آنها به طور عمومی مورد تردید قرار گرفته بود، استفاده شد. به گفته این شرکت، این تجربیات به بهبود روش‌های تحلیل کمک کرده و اهمیت ترکیب شاخص‌های احتمالی با اطلاعات منشأ، فراداده، یکپارچگی فایل و زمینه را تقویت کرده است.

نتایج، مدرک قطعی نیستند

InspireIP تأکید می‌کند که تحلیل‌های محتوای مصنوعی ماهیتی احتمالی دارند. نتایج، به تنهایی، اثبات قطعی تألیف، دستکاری یا استفاده از هوش مصنوعی نیستند.

ابزارهای اصلاح، بررسی ویرایش، استانداردسازی سبک، فشرده‌سازی، تغییر اندازه و تغییرات متوالی می‌توانند ویژگی‌های بررسی‌شده را تغییر دهند و در موارد خاص، نتایج مثبت کاذب ایجاد کنند. بنابراین، گزارش‌ها باید در کنار سایر عناصر فنی، مستند و زمینه‌ای تفسیر شوند. یک تخمین احتمالی، به تنهایی، به فرد اجازه نمی‌دهد تعیین کند چه کسی محتوای خاصی را ایجاد کرده است و یا به طور قطعی بیان کند که یک فایل با هوش مصنوعی تولید یا اصلاح شده است.

کارولین نونز می‌گوید: « تحلیل نشانه‌های بالقوه‌ی استفاده از هوش مصنوعی تنها یکی از عناصر تأیید است. صحت محتوا به ترکیبی از منشأ، زمینه و شواهد فنی بستگی دارد .»

ترجیحات استفاده توسط سیستم‌های هوش مصنوعی

این پلتفرم به نویسندگان و دارندگان حق چاپ اجازه می‌دهد تا ترجیحات خود را در مورد استفاده از محتوای دیجیتالی خود توسط سیستم‌های هوش مصنوعی ثبت کنند.

مدیر فایل می‌تواند به‌طور جداگانه چهار حالت استفاده را مجاز یا محدود کند: آموزش مدل‌های هوش مصنوعی مولد؛ آموزش مدل‌های غیرمولد، مانند سیستم‌های طبقه‌بندی تصویر؛ داده‌کاوی؛ و استنتاج هوش مصنوعی.

سپس ترجیحات در مدارک مبدا قابل تأیید که در پرونده گنجانده شده است، ادغام می‌شوند و شرایط تعیین‌شده توسط دارنده برای هر نوع استفاده را مستند می‌کنند.

طبق گفته InspireIP، این اطلاعات در قالبی قابل خواندن توسط ماشین ثبت می‌شوند و پلتفرم‌ها و توسعه‌دهندگانی که به فایل دسترسی دارند، می‌توانند به آن دسترسی داشته باشند. با این حال، پایبندی مؤثر به این ترجیحات بستگی به پذیرش این استاندارد توسط سیستم‌هایی دارد که از محتوا استفاده می‌کنند و به خودی خود از استفاده غیرمجاز جلوگیری نمی‌کند.

راه اندازی

SIGNAIP رسماً از پنجشنبه این هفته (6) فعالیت خود را آغاز خواهد کرد. در این مرحله، دسترسی به پلتفرم بنا به درخواست و تجزیه و تحلیل درخواست‌ها توسط تیم InspireIP اعطا خواهد شد.

این راهکار برای تصویرگران، عکاسان، تولیدکنندگان محتوا، آژانس‌ها، شرکت‌های تولیدی، اتاق‌های خبر، شرکت‌های مالکیت معنوی، برندها و سازمان‌هایی که نیاز به ثبت، تأیید یا مستندسازی اصالت و منشأ دارایی‌های دیجیتال دارند، در نظر گرفته شده است.

این پلتفرم در حال حاضر ویژگی‌های ثبت، تأیید و تجزیه و تحلیل تصاویر، اسناد متنی، فایل‌های PDF، صدا و ویدیو را ارائه می‌دهد. درخواست‌های دسترسی را می‌توان در https://signaip.inspireip.io/ .