איך לזהות תמונות מזויפות שנוצרו ב-AI: המדריך המעודכן

התמונה נוחתת בקבוצת הוואטסאפ המשפחתית. שריפה ענקית, או פוליטיקאי במצב מביך, או חיה שנראית קצת מוזרה מדי. תוך שנייה מישהו כותב את המשפט הקבוע: "תספרו אצבעות". כולנו למדנו את הטריק הזה איפשהו ב-2023, והוא הפך לבדיקת האמת הביתית של כולם.

תמונת המחשה שנוצרה בבינה מלאכותית

הבעיה היא שהוא כבר לא עובד. הדורות הנוכחיים של מחוללי התמונות מייצרים ידיים תקינות, טקסט קריא ועור עם נקבוביות. לכן בדקנו איך לזהות תמונות מזויפות בשיטות שבאמת מחזיקות היום, ומצאנו שהתשובה מפתיעה: היא כמעט לא קשורה למה שרואים בתמונה. הסימנים שלימדו אותנו לחפש תוקנו אחד אחרי השני, וכל מי שממשיך להסתמך עליהם מרגיש בטוח בדיוק כשהוא הכי טועה.

למה הסימנים הוויזואליים הפסיקו להסגיר

רשימת הסימנים המפורסמת נבנתה סביב חולשות ספציפיות של מודלים מוקדמים. שש אצבעות ביד, שלט עם אותיות שנראות כמו שפה מומצאת, עור חלק מדי שנראה כמו שעווה, השתקפויות בעיניים שלא מתאימות לסצנה. כל אחת מהחולשות האלה הייתה באג, ומפתחי המודלים התייחסו אליהם בדיוק כמו לכל באג אחר.

התוצאה היא שהרשימה התיישנה. אנטומיה של ידיים השתפרה משמעותית, טקסט בתמונות נעשה קריא, והמודלים החדשים מוסיפים גרעיניות ומרקם עור באופן מכוון כדי להימנע מהמראה המלוטש מדי. מי שבודק תמונה לפי הרשימה הישנה עלול להגיע למסקנה הפוכה מהמציאות, ולהכריז שתמונה מזויפת היא אמיתית רק כי האצבעות בסדר.

זה לא אומר שאין מה לחפש. זה אומר ששום סימן בודד אינו מספיק, ושהעין האנושית ירדה מדרגת הכלי הראשי לדרגת רמז משלים. הכלים שכן עובדים נבנו במקום אחר לגמרי, בתוך הקובץ עצמו.

שכבה ראשונה: סימן מים שאי אפשר לראות

בזמן שכולנו ספרנו אצבעות, חברות ה-AI התחילו להטביע חתימה בתוך התמונות שהן מייצרות. הכלי המוכר ביותר הוא SynthID של Google DeepMind, שמשנה את הפיקסלים בצורה עדינה כל כך שהעין לא קולטת אותה, אבל גלאי ייעודי כן.

מה שמעניין בשיטה הזאת הוא העמידות שלה. בניגוד למטא דאטה רגילה, הסימן שורד חיתוך של התמונה, הוספת פילטר ודחיסה מחדש. כלומר גם אחרי שהתמונה עברה שלוש קבוצות וואטסאפ וצולמה מחדש מהמסך, לפחות חלק מהחתימה נשאר.

ההיקף כבר לא זניח. גוגל מדווחת בהודעה הרשמית על השקת SynthID Detector שיותר מ-10 מיליארד פריטי תוכן כבר סומנו כך. הפורטל הייעודי לבדיקה, לעומת זאת, עדיין לא פתוח לכולם: הוא נפתח למשתמשים ראשונים בלבד, עם רשימת המתנה שמיועדת לעיתונאים, אנשי מדיה וחוקרים.

מה שכן זמין לציבור הרחב הוא הדרך הפשוטה יותר. לפי הדף הרשמי של SynthID, אפשר להעלות תוכן לאפליקציית Gemini ופשוט לשאול אותה אם מוטבע בו סימן מים. זו הבדיקה הכי נגישה שקיימת כרגע.

המגבלה המרכזית ברורה: הגלאי מזהה את החתימה של הכלים שמטביעים אותה. מחולל תמונות שלא משתתף בסימון, או מודל פתוח שרץ על מחשב ביתי, פשוט לא ישאיר שום דבר למצוא.

שכבה שנייה: תעודת הזהות של הקובץ

הגישה השנייה לא מנסה לזהות AI בכלל. היא מנסה לתעד מאיפה הקובץ הגיע. התקן הפתוח C2PA מצרף לתמונה רשומה חתומה קריפטוגרפית שמתארת את ההיסטוריה שלה: באיזה כלי היא נוצרה, אילו עריכות עברה, והאם היה מעורב בה AI.

הבדיקה עצמה קלה. גוררים את קובץ התמונה לכלי Content Credentials, ואם מצורף לקובץ תיעוד חתום, הוא נפרס על המסך. זה ההבדל בין לנחש לבין לקרוא.

הרשתות החברתיות כבר קוראות את התיעוד הזה. פייסבוק, אינסטגרם וטיקטוק בודקות את הרשומה בזמן ההעלאה, וכשהיא מצביעה על AI הן מוסיפות לפוסט תווית מתאימה. התווית הקטנה הזאת מתחת לשם המשתמש היא לרוב לא החלטה של מי שהעלה את התמונה, אלא תוצאה של קריאה אוטומטית של הקובץ.

הנקודה שרוב האנשים מפספסים

וכאן מגיעה המסקנה החשובה ביותר במדריך הזה, וגם המתסכלת ביותר: היעדר סימון אינו הוכחה לכלום.

תיעוד C2PA ניתן להסרה, וזה לא באג אלא החלטה תכנונית. קובץ עובר בדרכו בין עשרות כלים ופלטפורמות שמסירים מטא דאטה משיקולים לגיטימיים של גודל ופרטיות, ורשתות חברתיות מנקות מטא דאטה כדבר שבשגרה בהעלאה. כלומר אותה רשת שהוסיפה את תווית ה-AI עשויה להגיש הלאה קובץ נקי מהתיעוד המקורי.

המשמעות המעשית היא אסימטריה. כשיש סימן מים או תיעוד שמצביע על AI, זו אינדיקציה חזקה. כשאין כלום, לא למדנו דבר: ייתכן שהתמונה צולמה במצלמה, וייתכן בדיוק באותה מידה שהיא נוצרה במחולל שלא מסמן, או שהתיעוד נמחק בדרך. מי שמסיק מהיעדר סימון שהתמונה אותנטית עושה בדיוק את הטעות שהמערכת הזאת נועדה למנוע.

איך לזהות תמונות מזויפות: סדר הפעולות שעובד

כשמגיעה תמונה חשודה, זה הסדר שאנחנו ממליצים עליו, מהמהיר והיעיל ביותר כלפי מטה:

1. חפשו את המקור, לא את הפגם. חיפוש תמונה הפוך הוא הפעולה עם התשואה הגבוהה ביותר. אם התמונה מתארת אירוע אמיתי, כלי תקשורת מבוססים יפרסמו אותה עם קרדיט ותאריך. אם היא מופיעה רק בשרשורים ובקבוצות, זה כבר חצי תשובה.
2. בדקו את התיעוד. אם הקובץ המקורי בידיכם ולא צילום מסך שלו, העבירו אותו בכלי Content Credentials.
3. שאלו את Gemini. העלאה ובקשה לבדוק סימן מים היא בדיקה של שלושים שניות.
4. בדקו הקשר לפני פיקסלים. האם מישהו אחר מדווח על האירוע? האם הצללים, הלבוש והעונה מתאימים למקום ולתאריך הנטענים? זיוף נופל על ההקשר הרבה לפני שהוא נופל על האנטומיה.
5. רק בסוף, הסתכלו טוב. טקסט ברקע, תכשיטים, שיניים ומעברים בין שיער לרקע עדיין נכשלים לפעמים. זה רמז, לא פסק דין.

שימו לב שארבעת השלבים הראשונים לא דורשים שום מומחיות ויזואלית. הם דורשים סבלנות של דקה, וזה בדיוק מה שחסר לרובנו כשתמונה מרגשת נוחתת במסך.

למה זה נהיה דחוף דווקא עכשיו

תמונה מזויפת כבר מזמן איננה מתיחה בלבד. היא כלי עבודה מרכזי בהונאות, בדיוק כמו ההודעות שכתבנו עליהן במדריך על זיהוי הודעות הונאה בוואטסאפ. צילום מסך מזויף של אישור העברה בנקאית, תמונה של מוצר שלא קיים, או דמות שנראית כמו נציג רשמי, כולם עוברים היום את מבחן העין בקלות.

במקביל, מערכות ה-AI עצמן נעשות עצמאיות יותר ופחות צפויות, כפי שראינו כשבדקנו איך סוכני AI חרגו מגבולות המבחן שהוגדר להם. ככל שייצור התוכן נעשה זול ומהיר יותר, ההנחה שאפשר לסמוך על מה שנראה טוב הופכת ליקרה יותר.

מעניין לשים לב שזו אותה תבנית שראינו בנושאים אחרים של פרטיות ואבטחה ברשת. גם כשבדקנו את מה גלישה בסתר באמת מסתירה, גילינו שהפער העיקרי הוא בין מה שאנשים מניחים שהכלי עושה לבין מה שהוא באמת עושה. גם כאן, הסכנה הגדולה איננה חוסר הכלים אלא ביטחון עצמי שמבוסס על שיטה שפג תוקפה.

מה לוקחים מכל זה

הכלל הפשוט שכדאי לאמץ הוא זה: סימון חיובי הוא ראיה, היעדר סימון הוא לא כלום, וההקשר חזק מהפיקסלים.

בפעם הבאה שתמונה מסעירה נוחתת בקבוצה, השאלה הראשונה איננה כמה אצבעות יש ביד. היא מי פרסם את זה קודם, ומאיפה הקובץ הגיע. הבדיקה הזאת לוקחת פחות זמן מהוויכוח שיתפתח בקבוצה בלעדיה, והיא כמעט תמיד תיתן תשובה ברורה יותר.