סטארט-אפ ברזילאי משיק רשמית פלטפורמה לזיהוי דיפפייקס

אם בעבר האתגר העיקרי היה זיהוי דיפפייקס, כיום ישנו גם צורך גובר להוכיח את מקורו של תוכן אותנטי. בסביבה שבה תמונות ומסמכים עלולות להיות מוטלות בספק, הסטארט-אפ הברזילאי InspireIP משיק רשמית ביום חמישי (6) את SIGNAIP, פלטפורמת אותנטיות דיגיטלית המשלבת רישום אותנטיות ומקור, אישורים ניתנים לאימות המוטמעים בקבצים וניתוח סימנים אפשריים לשימוש בבינה מלאכותית בתוכן דיגיטלי.

לאחר תקופת ניסוי, הפתרון יתחיל לפעול בשוק הברזילאי עם גישה לפי בקשה. הפלטפורמה משלבת שני חזיתות משלימות: רישום המקור והאותנטיות של תוכן דיגיטלי וניתוח טכני של תמונות ומסמכים טקסטואליים כדי לזהות סימנים אפשריים של יצירה, עריכה או כתיבה מחדש בתמיכת בינה מלאכותית.

הפלטפורמה פותחה כדי לשרת יוצרים, חברות ומוסדות שצריכים לתעד את מקורו של קובץ, לרשום את קיומו הקודם, לעקוב אחר שינויים ולקבוע תנאים לשימושו על ידי מערכות בינה מלאכותית.

"בינה מלאכותית שינתה את האופן שבו אנו מייצרים תוכן, אך היא גם שינתה את האופן שבו אנו צריכים לסמוך עליו. הדיון עבר מעבר לזיהוי תוכן סינתטי בלבד וכעת כולל את היכולת לאמת את המקור, השלמות וההיסטוריה של קבצים דיגיטליים. זהו הפער ש-SIGNAIP מבקש לעזור למלא", אומרת קרוליין נונס, מייסדת InspireIP ומומחית לקניין רוחני עם תואר מבית הספר למשפטים של USC גולד.

אישורי מקור ניתנים לאימות

במהלך הרישום, SIGNAIP משלבת בקובץ עצמו אישור מקור מאומת המכיל מידע על הבעלים המוצהר, המאפיינים הטכניים של התוכן, תאריך הרישום וההעדפות שהוגדרו לשימושו על ידי מערכות בינה מלאכותית. האישור נשאר מקושר לקובץ הרשום, מה שמאפשר אימות מידע זה מאוחר יותר.

תאריך הרישום מעוגן בבלוקצ'יין, ויוצר נקודת זמן ניתנת לביקורת שמטרתה לסייע בהוכחת שימוש קודם. על פי InspireIP, ניתן לגשת למידע המשויך לאישור הניתן לאימות על ידי צדדים שלישיים מבלי להסתמך אך ורק על התשתית של החברה.

לאחר השלמת ההרשמה, המשתמש מקבל קובץ המכיל את האישורים המאומתים המוטמעים ותעודת מקור בפורמט PDF.

המבנה מאפשר קישור של גרסאות מתועדות והתערבויות בתוך ארכיון, כולל עריכות לאחר מכן ושילוב אלמנטים שנוצרו על ידי בינה מלאכותית. המטרה היא ליצור היסטוריה ניתנת לחיפוש של הטרנספורמציות שתועדו לאורך מחזור החיים של הארכיון.

עם זאת, שימור מידע זה במהלך הפצת תוכן עשוי להיות תלוי באופן העריכה, הייצוא, הדחיסה או השיתוף של הקובץ.

סטנדרטים בינלאומיים של אותנטיות

SIGNAIP משתמש ב-C2PA (קואליציית מקור ואותנטיות של תוכן), תקן טכני בינלאומי שפותח כדי לקשר אישורי מקור ניתנים לאימות עם תוכן דיגיטלי.

אישורים ניתנים לאימות רושמים מידע על המקור המוצהר של הקובץ והשינויים המתועדים לאורך מחזור חייו, ומאפשרים עיון מאוחר יותר בהיסטוריית המקור שלו.

התקן אומץ על ידי חברות כמו אדובי, גוגל, מטה ו-OpenAI כחלק מפיתוח מנגנונים שמטרתם להגביר את השקיפות לגבי מקורו והיסטוריה של תוכן דיגיטלי.

InspireIP חברה גם ביוזמת אותנטיות התוכן (CAI), קואליציה בינלאומית המוקדשת לפיתוח ואימוץ טכנולוגיות לאימות ואימות מקור של תוכן דיגיטלי. על פי החברה, היא חלק מקבוצת ארגונים המוסמכים רשמית להשתמש בתקן C2PA והיא כיום החברה הברזילאית היחידה מבין אלו המוסמכת.

עם זאת, נוכחות של אישור מקור שניתן לאמת אינה מהווה, כשלעצמה, הוכחה לאמיתות העובדה המתוארת. המשאב מתעד את המקור המוצהר ואת ההיסטוריה הטכנית של הקובץ, אך אינו מחליף חקירה עיתונאית, ניתוח מומחה או אימות ההקשר בו נוצר התוכן.

ניתוח תמונות ומסמכים טקסטואליים

בנוסף לאימות מקור, SIGNAIP מבצע ניתוחים הסתברותיים כדי לזהות סימנים פוטנציאליים למעורבות כלי בינה מלאכותית ביצירה, עריכה או כתיבה מחדש של תמונות ומסמכי טקסט.

בקבצים חזותיים, הטכנולוגיה מתחשבת במטא-דאטה, מאפיינים טכניים ודפוסים מבניים הקשורים ליצירה או מניפולציה דיגיטלית. במסמכים טקסטואליים, היא יכולה לנתח דפוסי שפה, אחידות סגנון, מאפיינים סטטיסטיים ושונות בין קטעים שונים. בחומרים נרחבים, ניתן לחלק את התוכן לגושים, מה שמאפשר לדוח להציג תוצאות נפרדות לאורך המסמך.

במהלך שלב הבדיקה, טכנולוגיות שפותחו על ידי InspireIP שימשו להערכת תמונות ומסמכים שאותנטיותם או שיטת הייצור שלהם הוטלו בספק בפומבי. לדברי החברה, ניסיון זה תרמו לשיפור שיטות הניתוח וחיזקו את החשיבות של שילוב אינדיקטורים הסתברותיים עם מידע על מקור, מטא-נתונים, שלמות קבצים והקשר.

התוצאות אינן הוכחה חותכת

InspireIP מדגישה כי ניתוחי תוכן סינתטי הם בעלי אופי הסתברותי. התוצאות, בפני עצמן, אינן מהוות הוכחה חד משמעית ליצירת תוכן, מניפולציה או שימוש בבינה מלאכותית.

כלי תיקון, סקירה עריכתית, סטנדרטיזציה של סגנון, דחיסה, שינוי גודל ושינויים עוקבים יכולים לשנות את המאפיינים הנבדקים, ובמקרים מסוימים, לייצר תוצאות חיוביות שגויות. לכן, יש לפרש דוחות בשילוב עם אלמנטים טכניים, תיעודיים והקשריים אחרים. אומדן הסתברותי, בפני עצמו, אינו מאפשר לקבוע מי יצר תוכן מסוים וגם לא לקבוע באופן חד משמעי שקובץ נוצר או שונה באמצעות בינה מלאכותית.

"ניתוח סימנים פוטנציאליים לשימוש בבינה מלאכותית הוא רק מרכיב אחד של אימות. האותנטיות של תוכן תלויה בשילוב של מקור, הקשר וראיות טכניות", אומרת קרוליין נונס.

העדפות לשימוש על ידי מערכות בינה מלאכותית

הפלטפורמה מאפשרת ליוצרים ולבעלי זכויות יוצרים לרשום העדפות בנוגע לשימוש בתוכן הדיגיטלי שלהם על ידי מערכות בינה מלאכותית.

מנהל הקבצים יכול לאשר או להגביל בנפרד ארבעה מצבי שימוש: אימון מודלים גנרטיביים של בינה מלאכותית; אימון מודלים לא גנרטיביים, כגון מערכות סיווג תמונות; כריית נתונים; והסקת בינה מלאכותית.

לאחר מכן, ההעדפות משולבות בתעודות המקור הניתנות לאימות המשולבות בקובץ, ומתעדות את התנאים שקבע המחזיק עבור כל סוג שימוש.

לפי InspireIP, מידע זה נרשם בפורמט קריא על ידי מכונה וניתן לגשת אליו על ידי פלטפורמות ומפתחים בעלי גישה לקובץ. עם זאת, עמידה יעילה בהעדפות אלו תלויה באימוץ תקן זה על ידי המערכות המשתמשות בתוכן ואינה מונעת, כשלעצמה, שימוש בלתי מורשה.

לְהַשִׁיק

SIGNAIP יתחיל לפעול רשמית ביום חמישי הקרוב (6). בשלב זה, גישה לפלטפורמה תינתן על פי בקשה וניתוח של אפליקציות על ידי צוות InspireIP.

הפתרון מיועד למאיירים, צלמים, יוצרי תוכן, סוכנויות, חברות הפקה, חדרי חדשות, חברות קניין רוחני, מותגים וארגונים שצריכים לרשום, לאמת או לתעד את האותנטיות והמקור של נכסים דיגיטליים.

הפלטפורמה כבר מציעה תכונות רישום, אימות וניתוח עבור תמונות, מסמכי טקסט, קבצי PDF, אודיו ווידאו. ניתן להגיש בקשות גישה בכתובת https://signaip.inspireip.io/ .