75 מיליון שירים מזויפים נמחקו מ-Spotify. הבעיה האמיתית היא אלה שלא נמחקו.

לפני כמה חודשים ישבתי בפגישה עם מפיץ מוזיקה שסיפר לי משהו ששינה מהיסוד את האופן שבו אני חושב על כל תעשיית האודיו. הוא פתח לוח בקרה שהציג את צינור הקליטה היומי שלהם. "רואה את זה?" הוא אמר, תוך גלילה בזרם של העלאות חדשות. "אנחנו מקבלים בערך ארבעת אלפים רצועות ביום דרך הפלטפורמה שלנו בלבד. הייתי מעריך ששליש מהן נוצרו על ידי מישהו שהשקיע בייצור הרצועה פחות זמן ממה שאתה השקעת בצחצוח השיניים שלך הבוקר."

אני צחקתי. הוא לא.

הוא לא הגזים. Spotify לבדה קולטת בערך 100,000 רצועות חדשות בכל יום ויום. אם היית מנסה להאזין ל-30 שניות בלבד מכל אחת מהן, היו נדרשים לך 35 ימים של השמעה רצופה כדי לעבור על ההעלאות של יום אחד בלבד. וחלק הולך וגדל מהמבול הזה אינו מוזיקה בשום מובן אמיתי — זהו רעש שנוצר אלגוריתמית ונועד לשאוב כסף מהאנשים שבאמת יוצרים אמנות.

זוהי בעיית סימון המים באודיו שבה אני עוסק באובססיביות בתקופה האחרונה בקריירה שלי ב-Veriprajna. לא משום שסימון מים הוא טכנולוגיה סקסית — הוא לא — אלא משום שלכל פתרון אחר שהתעשייה נשענת עליו יש פגם קטלני שאיש אינו רוצה לדבר עליו בכנות.

השוד בהיקף 3 מיליארד דולר שמסתתר ברשימת ההשמעה שלך

הנה החלק שאמור להכעיס אותך, בין אם אתה מוזיקאי, מאזין, או סתם מישהו שמשלם 10.99$ בחודש עבור מנוי סטרימינג.

האופן שבו רוב הפלטפורמות הגדולות משלמות לאמנים נקרא מודל הפרו-רטה. כל הכנסות המנויים והפרסום נכנסות למאגר ענק אחד. המאגר הזה מחולק במספר הכולל של ההשמעות בפלטפורמה. התעריף שלך לכל השמעה הוא חלק זעיר מהשלם.

המשמעות היא שכל השמעה מזויפת אינה גונבת רק מהפלטפורמה — היא גונבת מכל אמן אמיתי. כשחוות בוטים מייצרת מיליארד השמעות על רעש לבן שנוצר בבינה מלאכותית, היא מנפחת את המכנה. התשלום לכל השמעה יורד עבור כולם. האמן העצמאי האהוב עליך, זה שהשקיע שישה חודשים בכתיבת אלבום בחדר השינה שלו, מקבל תשלום נמוך יותר משום שרשת הונאה במדינה אחרת העלתה עשרת אלפים לולאות של צלילי גשם וכיוונה אליהן רשת בוטים.

הערכות התעשייה מעמידות את הנזק השנתי על 2 מיליארד עד 3 מיליארד דולר. Deezer דיווחה כי 70% מההשמעות על רצועות שנוצרו בבינה מלאכותית בפלטפורמה שלהם סומנו כהונאה. Spotify נאלצה לטהר יותר מ-75 מיליון רצועות בשנים 2024 ו-2025 בלבד — מספר שמתחרה בגודלו של כל הקטלוג ההיסטורי של המוזיקה המוקלטת.

כל השמעה הונאתית אינה רק גניבה מפלטפורמה. היא מס המוטל על כל אמן לגיטימי, המשולם באופן בלתי נראה דרך מאגר תמלוגים מתכווץ.

אני זוכר את הלילה שבו התפרסמו מספרי הטיהור של Spotify. ישבתי ליד השולחן שלי, והתגובה הראשונה שלי הייתה הקלה — סוף סוף, הפלטפורמות מתייחסות לזה ברצינות. התגובה השנייה שלי, כעשר דקות מאוחר יותר, הייתה חרדה. משום ש-75 מיליון הוא המספר שהם תפסו. מה לגבי אלה שחמקו?

מדוע טביעת אצבע אודיו נכשלת מול מוזיקת בינה מלאכותית?

זו השאלה שהובילה אותי להתחיל לבנות את מה שאנחנו בונים. והתשובה פשוטה באופן מטעה ברגע שרואים אותה.

מערכת ההגנה העיקרית של תעשיית המוזיקה היא טביעת אצבע אודיו — הטכנולוגיה שמאחורי Shazam, Content ID של YouTube, ורוב פלטפורמות ניהול הזכויות. טביעת אצבע פועלת באמצעות חילוץ חתימה תפיסתית מקטע אודיו והתאמתה מול מסד נתונים עצום של הקלטות מוכרות.

והנה הבעיה: בינה מלאכותית יוצרת אינה מעתיקה. היא מסנתזת.

כשמודל דיפוזיה מייצר רצועה חדשה, הוא יוצר צורת גל שמעולם לא הייתה קיימת. אין שום רשומה בשום מסד נתונים של טביעות אצבע להתאים מולה. עבור Content ID, רצועת ספאם חדשה לגמרי של בינה מלאכותית נראית בדיוק כמו יצירת מופת אנושית חדשה לגמרי. שתיהן הן פשוט "תוכן לא מוכר."

אני קורא לזה פרדוקס המקוריות, וזו הסיבה שלא הצלחתי לישון במשך כשבוע לאחר שהרצנו את הבדיקות הראשונות שלנו. לקחנו אוסף של רצועות שנוצרו בבינה מלאכותית — חלקן נגזרות בבירור מאמנים קיימים, חלקן חדשניות לחלוטין — והרצנו אותן דרך צינורות טביעת אצבע סטנדרטיים. הנגזרות הפעילו מדי פעם התאמות חלקיות. והחדשניות? שקט מוחלט ממערכת הזיהוי. אף סימון אחד.

השותף המייסד שלי הביט בתוצאות ואמר, "אז ככל שהבינה המלאכותית משתפרת בלהיות מקורית, כך הזיהוי שלנו נעשה גרוע יותר?" כן. בדיוק. זו המלכודת.

טביעת אצבע היא טכנולוגיית זיהוי. היא אומרת לך מה משהו הוא. סימון מים הוא טכנולוגיית אימות. הוא אומר לך מהיכן משהו הגיע. תעשיית המוזיקה השתמשה בכלי הלא נכון.

כתבתי על ההבחנה הזו — ועל הארכיטקטורה הטכנית המלאה שמסבירה מדוע טביעת אצבע קורסת — במסמך העמדה האינטראקטיבי שלנו. אבל הגרסה הקצרה היא זו: טביעת אצבע היא תגובתית. היא זקוקה לכך שהתוכן כבר יהיה קיים ורשום. אנחנו היינו צריכים משהו יזום — משהו שמטמיע מקור ברגע היצירה.

ההונאה נעשתה חכמה יותר בזמן שלא הסתכלנו

הדבר הנוסף שהדיר שינה מעיניי היה ללמוד כיצד פעולות ההונאה עובדות בפועל כיום. המדריך הישן היה גס: להעלות רצועה, להפגיז אותה במיליוני השמעות מכתובת IP אחת, ולפדות. הפלטפורמות תפסו את זה לפני שנים.

המדריך החדש אלגנטי באופן מפחיד. הם קוראים לזה "נמוך ואיטי."

במקום שרצועה אחת תקבל מיליון השמעות מזויפות, רשת הונאה משתמשת בבינה מלאכותית כדי לייצר עשרת אלפים רצועות. לאחר מכן רשת בוטים משמיעה כל רצועה מאה פעמים בלבד. התשלום המצטבר זהה, אך אף רצועה בודדת אינה מפעילה התראת זינוק ויראלי. ההונאה מסתתרת בזנב הארוך, קבורה תחת הנפח העצום של נתונים לגיטימיים.

והתשתית שמאחורי הפעולות הללו הפכה לרמה ארגונית. אנחנו מדברים על שרתי פרוקסי ביתיים שמנתבים תעבורה דרך מכשירי IoT פרוצים כך שכל השמעה נראית כאילו הגיעה מבית אחר. דפדפנים ללא ממשק גרפי שמריצים סקריפטים המחקים התנהגות אנושית — תנועות עכבר, השהיה, דילוג על רצועות, חיפוש — כדי להטעות את ניתוחי המעורבות. רשימות השמעה שנוצרו בבינה מלאכותית עם כותרות ממוטבות ל-SEO כמו "Chill Lo-Fi for Coding" שמערבבות כמה להיטים לגיטימיים של אמנים גדולים עם עשרות רצועות ספאם, מסוות את ההונאה ולעיתים אף מרמות את אלגוריתם ההמלצות של הפלטפורמה כך שיגיש את הרצועות המזויפות למאזינים אמיתיים.

ישבתי עם הצוות שלנו אחר צהריים אחד ומיפינו את שרשרת ההרג הזו על לוח מחיק, ומישהו אמר, "זו אינה פיראטיות מוזיקה. זוהי הונאה פיננסית שבמקרה משתמשת בקבצי אודיו ככלי." מסגור מחדש זה שינה עבורנו הכול.

מה קורה כשמשמיעים שיר דרך רמקול ומקליטים אותו מחדש?

זהו האתגר הטכני שמבדיל בין סימון מים רציני לכל השאר, וזה זה שאני הכי גאה בצוות שלנו על שהתמודד איתו.

הוא נקרא הפער האנלוגי — לעיתים החור האנלוגי. דמיינו שיר דיפ-פייק מתנגן ברמקולי המחשב הנייד של מישהו. הצליל נע באוויר. מישהו מקליט אותו בטלפון שלו. ההקלטה הזו מועלית לפלטפורמה.

במהלך המסע הזה, אות האודיו נהרס בדרכים שהן כמעט קומיות בעוינותן לשימור נתונים. הצליל מוקפץ מקירות, רצפות ורהיטים — המיקרופון קולט את האות הישיר בתוספת אלפי החזרות מושהות מעט. רמקולים זולים חותכים כל דבר מתחת ל-300Hz ומעל ל-15kHz. מכשיר ההקלטה אינו יודע היכן סימן המים "מתחיל", ולכן כל האות אינו מסונכרן.

רוב מערכות סימון המים ששורדות דחיסת MP3 — הפער הדיגיטלי — מתות מיד בפער האנלוגי. ובכל זאת, הפער האנלוגי הוא בדיוק התרחיש החשוב ביותר לזיהוי דיפ-פייקים המשותפים ברשתות חברתיות, המושמעים ברדיו, או הנלכדים במהלך שיחות חיות.

בילינו שבועות בכישלון בזה לפני שמצאנו את הגישה שעבדה. פריצת הדרך הייתה ההבנה שאסור לנו כלל להשוות את האות הנקלט לייחוס חיצוני. במקום זאת, אנחנו מטמיעים דפוס חוזר בתוך האות עצמו ומשתמשים באוטוקורלציה — האות משווה את עצמו לעצמו.

הנה מדוע זה מחוכם: כשאודיו נע דרך חדר עם הדהוד, כל האות מעוות באותו אופן. גם בלוק A וגם בלוק B של סימן המים החוזר שלנו נמרחים על ידי אותה אקוסטיקת חדר. היחס ביניהם שורד גם כאשר האות המוחלט מעוות. הגלאי מחפש זינוק מחזורי באוטוקורלציה במרווח ידוע, והזינוק הזה מאשר את נוכחות סימן המים מבלי שיצטרך אי פעם לדעת כיצד נשמע האודיו המקורי.

היה רגע במעבדה — ואני משתמש במילה "מעבדה" באופן חופשי, זה היה למעשה רק חדר ישיבות עם מחשב נייד ורמקול Bluetooth שקנינו בחנות נוחות — שבו השמענו רצועה מסומנת דרך אותו רמקול נורא, הקלטנו אותה בטלפון מעברו השני של החדר, והרצנו את הגלאי. כשהתוצאה חזרה חיובית, המהנדס שלי הביט בי ואמר, בשקט רב, "זה לא היה אמור לעבוד." אבל זה עבד. ואז ידעתי שיש לנו משהו.

האם תוקפים לא יכולים פשוט להסיר את סימן המים?

זו ההתנגדות הראשונה שכולם מעלים, והיא הנכונה.

תוקפים מתוחכמים בהחלט ינסו להשתמש בבינה מלאכותית כדי למצוא ולהסיר סימני מים. היינו נאיביים לחשוב אחרת. זו הסיבה שצינור האימון שלנו אינו מגן רק מפני רשימה קבועה של התקפות מוכרות כמו "הוסף רעש" או "דחוס ל-MP3." אנחנו משתמשים במסגרת אימון יריבה — למעשה, אנחנו מאמנים רשת תוקפת לצד מערכת סימון המים שלנו. התוקף מנסה להשמיד את סימן המים תוך שמירה על האודיו כניתן להאזנה. המקודד מסתגל כדי לשרוד את ההתקפה. הם משחקים את משחק המינימקס הזה לאורך אלפי איטרציות עד שסימן המים שורד התקפות שאפילו לא היו קיימות כשהאימון החל.

התוצאה: המערכת שלנו משיגה דיוק ייחוס מעל 98% אפילו תחת עריכה אגרסיבית — מתיחת זמן, הזזת גובה צליל, חיתוך. גם אם רמאי חותך קטע של 30 שניות ל-10 שניות, הגלאי צובר מספיק ראיות סטטיסטיות מהשבר כדי לפענח את חתימת המקור.

לפירוט הטכני המלא של הטמעת ספקטרום פרוש, פירוק SVD, ופרוטוקולי עמידות מול יריבים, ראו מאמר המחקר שלנו. אך התובנה המרכזית אינה נוגעת לטכניקה בודדת כלשהי — אלא לכך שסימן המים חי במבנה של האודיו, לא על פני השטח שלו. אפשר לשייף את פני השטח בהתזת חול. המבנה נשאר.

תווית הערכים התזונתיים של הצליל

סימן מים כשלעצמו הוא קישור. הוא אומר "האודיו הזה סומן." אך סומן על ידי מי? לאיזו מטרה? כדי לבנות מערכת אמון אמיתית, צריך לחבר את האות האקוסטי הזה לזהות שניתן לאמת.

כאן אנחנו משתלבים עם C2PA — הקואליציה למקור ואותנטיות של תוכן — תקן פתוח שמתפקד כמו תווית ערכים תזונתיים עבור תוכן דיגיטלי. הוא מתעד באופן קריפטוגרפי מי יצר נכס, כיצד הוא נוצר (אדם או בינה מלאכותית), ואילו עריכות נעשו.

הפגיעות של פתרונות מבוססי מטא-נתונים בלבד ברורה: המירו קובץ WAV חתום ל-MP3 גנרי, וכותרת המטא-נתונים נעלמת. השמיעו אותו ברדיו, והיא איננה. אך סימן המים שלנו שורד את התמורות הללו. לכן אנחנו משתמשים בסימן המים כקישור רך — הוא נושא מזהה ייחודי שמצביע על מניפסט C2PA המאוחסן בענן. הסירו את המטא-נתונים, המירו את הפורמט, השמיעו אותו באוויר והקליטו אותו מחדש. סימן המים נשאר. הגלאי מחלץ את המזהה, מתשאל את הרישום, ומאחזר את רשומת המקור המלאה.

המקור צריך לנוע יחד עם התוכן, ולא לשבת בכותרת שנמחקת ברגע שמישהו לוחץ "ייצא כ-MP3."

ולכל מי שמודאג מפרטיות — עיתונאי דיסידנט או אמן אנונימי לא אמור להזדקק לצרף את שמו החוקי לקובץ רק כדי להוכיח שהוא אמיתי. C2PA תומך בטענות בדויות ובחשיפה סלקטיבית. אמן יכול לחתום על רצועה בתור "יוצר מאומת #892", המקושר לאישור שהונפק על ידי צד שלישי מהימן, מבלי לחשוף את כתובת ביתו.

מדוע לא פשוט לשכור עוד מנהלי תוכן?

משום שזה בלתי אפשרי כלכלית. מחקרים מראים שמנהלי תוכן אנושיים מדויקים יותר בזיהוי ניואנסים והקשר, אך הם עולים כמעט פי 40 יותר ממערכות אוטומטיות. והשמיעה האנושית הופכת לבלתי מספקת ביולוגית — הבחנה בין שכפול קול איכותי של בינה מלאכותית לבין הקלטה אמיתית מתקרבת לגבולות של מה שאוזנינו מסוגלות לעשות, בעודה נותרת פתירה מתמטית עבור מכונות.

התעשייה זקוקה לניואנס של שיפוט אנושי בקנה המידה ובעלות של תוכנה. זה בדיוק מה שזיהוי דטרמיניסטי של סימן מים מספק. סימן מים או שהוא קיים או שאינו. אין ציון ביטחון לפרשנות, אין עקומת הסתברות שדורשת סוקר אנושי כדי להכריע. זה מאפשר פעולה אוטומטית לחלוטין — ביטול מונטיזציה, סימון, הסרה — בוודאות ברמה משפטית.

פרשת הדרכים

אנשים שואלים אותי לפעמים אם אני חושב שבינה מלאכותית תהרוס את תעשיית המוזיקה. אני לא חושב כך. אני חושב שתעשיית המוזיקה תהיה בסדר — אם היא תפסיק להעמיד פנים שהכלים שנבנו עבור העידן הקודם עובדים בעידן הזה.

טביעת אצבע נבנתה עבור עולם שבו תוכן נוצר על ידי בני אדם והאתגר היה זיהוי עותקים. כעת אנו חיים בעולם שבו תוכן נוצר על ידי מכונות והאתגר הוא הוכחת מקור. אלה בעיות שונות מהיסוד, והן דורשות תשתית שונה מהיסוד.

סף המינימום של Spotify של 1,000 השמעות לתשלומי תמלוגים הוא פלסטר מדיניות. מודלי תשלום ממוקדי-משתמש הם שיפור מבני. אך אף אחד מהם אינו מטפל בשורש הבעיה: פלטפורמות אינן מסוגלות כיום להבחין בין רצועה חדשה של בינה מלאכותית לבין רצועה חדשה של אדם. עד שזה ישתנה, כל תיקון אחר הוא במורד הזרם.

יכולת הייצור היא כיום מצרך זמין. כל אחד עם GPU או מפתח API יכול להציף את הצינור. המחסור — ולכן הערך — עבר אל המקור. לא מה נוצר, אלא מי יצר אותו, איך, והאם הוא אמיתי.

עתידה של מוזיקת הבינה המלאכותית אינו נוגע למודל שמייצר את המנגינה הטובה ביותר. הוא נוגע לתשתית שמבטיחה שהמנגינה הזו אמיתית, מתוגמלת ומוכרת.

עם חוק הבינה המלאכותית של האיחוד האירופי ורגולציית הדיפ-פייק הממתינה בארה"ב, סימון מים עובר מאופציונלי למחייב. השאלה אינה האם התעשייה תאמץ תקני מקור. השאלה היא האם היא תאמץ אותם לפני או אחרי שמאגרי התמלוגים יורוקנו עד תום.

אני יודע על איזה צד של ההימור הזה אני בונה. אם אינך יכול לסמן את זה בסימן מים, אל תייצר את זה. זו אינה סיסמה. זו המציאות התפעולית היחידה שמאפשרת אינטרנט אודיו מהימן.