כוכבת Teen Marvel Xochitl Gomez היא הקורבן האחרון של פורנו מזויף עמוק. עם זאת, לאחר שמצאה את הזיופים העמוקים המיניים המפורשים ללא הסכמה שהסתובבו ב-X, לשעבר טוויטר, היא התבלבלה כשהפלטפורמה לא נקטה פעולה והסרה אותם.
בעיות רבות התעוררו לצד עליית הבינה המלאכותית, אבל פורנו מזויף עמוק הוא אחד המדאיגים ביותר. בעוד שזיופים עמוקים קיימים כבר די הרבה זמן, התקדמות הטכנולוגיה הפכה אותם לנגישים ומשכנעים יותר. כתוצאה מכך, אנשים רבים, במיוחד נשים, מצאו את הדמיון שלהם נלקח או שוחזר ללא הסכמתם ונעשה בהם שימוש בתוכן פורנוגרפי. זה הפך לבעיה מסיבית עבור מפורסמות, אבל גם עבור נשים רגילות שחוו את דמותן בשימוש בתוכן מיני בוטה לפורנו נקמה, הטרדה והצקות. יש גם חשש גדול מהשימוש בזיופים עמוקים כדי לתאר התעללות בילדים.
למרבה הצער, אין כיום חוקים פדרליים נגד פורנו מזויף עמוק ללא הסכמה, ורק למדינות בודדות יש חקיקה המגנה על אזרחים מפני זה. נשים רבות שהפכו לקורבנות של פורנוגרפיה מזויפת עמוקה מצאו את עצמן ללא אפשרויות להילחם בה בשל היעדר רגולציה והפקרות של האינטרנט. לרובם אין את המשאבים הכספיים לנקוט בצעדים משפטיים. אפילו סלבריטאים כמו סקרלט ג'והנסון הכריזו שאין טעם לנסות להילחם נגד הזיופים העמוקים.
רמה אחת קטנה של הגנה לנשים מגיעה מפלטפורמות המדיה החברתית שאסרו על זיוף עמוק ופורנו שנוצר בינה מלאכותית. אם האתרים האלה יאכפו איסורים כאלה, זה יקשה על תפוצת התוכן המזיק הזה. עם זאת, הניסיון של גומז מראה שהמדיה החברתית לא אוכפת את הכללים שלה.
Xochitl Gomez פותחת על הניסיון שלה עם פורנו מזויף עמוק
(אקסל/באואר-גריפין/גטי)
בזמן שהופיע בפודקאסט של טיילור לאוטנר ואשתו, הסחיטה , Xochitl Gomez (המכונה אמריקה צ'אבז) פתחה את חוויותיה כקורבן של פורנוגרפיה מזויפת עמוקה. בת ה-17 חשפה שהיא מצאה את החומר המיני מפורש מסתובב ב-X, לשעבר טוויטר, אבל מתקשה מאוד להסיר אותו. X אסר על פורנו שנוצר על ידי בינה מלאכותית בשנת 2018 ויש לו מדיניות נגד תמונות וסרטונים מזויפים מיניים מפורשים, כמו גם תקשורת מטעה ועירום ללא הסכמה. בהתחשב בכך שהתמונות של גומז מפרות בבירור את הכללים של X ושהתוכן הזה כולל קטין, אפשר היה לחשוב שהפלטפורמה תנקוט פעולה מיד.
עם זאת, גומז הייתה המומה כשגילתה שהצוות שלה כבר ניסה לפעול נגד התוכן ללא הועיל. חדשות NBC דיווח שעדיין ב-19 בינואר 2024 עדיין ניתן היה למצוא את התמונות ב-X, שלא הגיב לבקשות להגיב. גומז הסבירה שהתוכן הותיר אותה מוזרה ורוצה נואשות להוריד אותו כי זה לא נראה טוב עבורה. היא שאלה, למה כל כך קשה להוריד? זו הייתה כל המחשבה שלי על זה, הייתה, 'למה זה מותר?'
עם זאת, בסופו של דבר היא התפטרה כדי לקבל שפשוט אי אפשר להוריד את התוכן, וחשפה שהיא פשוט מנסה לא לחשוב על זה ומניחה את הטלפון שלה כדי לטפל בבעיה. ובכל זאת, השאלות שהיא שאלה נותרו רלוונטיות מאוד. למה האם כל כך קשה להסיר את התוכן הזה? זה ראוי לגינוי מוסרי ומגעיל כשפורנו מזויף עמוק עשוי מכל אדם שאינו מסכים. זה ממש נורא כשזה מערב קטין. יש פורנוגרפיית ילדים ממשית שמסתובבת ב-X, והפלטפורמה, באופן מוזר, לא עושה שום דבר בנידון, למרות שזה אמור להיות הנושא הכי דחוף להתמודד איתו.
זה כמעט לא נשמע כמו מצב מורכב אם אדם מדווח על חומר בעל אופי מיני בוטה ומודיע לפלטפורמה שהוא לא הסכים לכך. החומר נוגד כללים מרובים באתר. מה עוד יש לבדוק או לקבוע? זה כבר מספיק טראומטי לאדם למצוא תוכן מסוג זה במדיה החברתית; המעט שפלטפורמות אלו יכולות לעשות הוא לדבוק בבקשותיהן להסיר אותה. אף אדם, במיוחד לא קטין, לא צריך רק לקבל שהתוכן קיים מכיוון ש-X ופלטפורמות מדיה חברתית אחרות מסרבים בהתמדה ומבולבלת להגן על המשתמשים שלהם.
(תמונה מומלצת: אקסל/באואר-גריפין/FilmMagic / Getty)
