הפסקתי לסמוך על מחוללי מוזיקת AI בלילה שאחד מהם פלט ריצת קול של מריה קארי

היה כמעט חצות, וישבתי במשרד שלנו עם שני מהנדסים וקנקן של קפה נורא, מריץ מבחני עומס על פלטפורמת אודיו גנרטיבית פופולרית. נשכרנו כדי להעריך אם סוכנות פרסום יכולה להשתמש בבטחה במוזיקה שנוצרה על ידי AI בקמפיין ארצי. אז תיחקרנו את הכלי בשיטתיות — ז'אנר אחר ז'אנר, סגנון אחר סגנון — ותיעדנו מה יצא.

ואז אחת המהנדסות שלי, פריה, השמיעה רצועה שהיא יצרה בעזרת פרומפט פשוט: "בלדת פופ עם אנרגיה, זמרת, טווח קולי עוצמתי." היא לא הזכירה אף אמן. היא לא ביקשה חיקוי צליל. אבל מה שיצא מהרמקולים גרם לשלושתנו להשתתק.

זה היה חד-משמעי. המליזמה — אותה ריצת קול מתגלגלת ומכופפת תווים — שייכת לאדם אחד. הכלי לא "יצר" סגנון קולי. הוא שחזר את הטכניקה החתומה של מריה קארי מכל מה שבלע במהלך האימון. והוא עשה זאת מפרומפט שמעולם לא הזכיר את שמה.

פניתי לפריה ואמרתי: "אם נשלח את זה ללקוח ומישהו בסוני ישמע את זה, לא אנחנו ניתבע. הלקוח הוא זה שייתבע."

זה היה הלילה שבו הפסקתי לחשוב על מוזיקת AI גנרטיבית ככלי יצירתי והתחלתי לראות אותה כפי שהיא באמת: אלגוריתם דחיסה לחומר מוגן בזכויות יוצרים, עטוף בתיבת טקסט. וזה היה הלילה שבו התחייבתי לבנות משהו שונה מהיסוד ב-VeriPrajna.

התביעה ששינתה הכול

אם לא עקבתם אחר התיקים של איגוד תעשיית ההקלטות של אמריקה (RIAA) נגד Suno ו-Udio, כדאי שתתחילו. זו אינה תביעת סרק. זהו קו הגבול של תעשיית המוזיקה.

ה-RIAA טוענת שהפלטפורמות הללו עסקו ב"stream-ripping" בקנה מידה תעשייתי — עקיפת הצפנת ה-rolling cipher של YouTube כדי להוריד מיליוני הקלטות מוגנות בזכויות יוצרים ולהזין אותן ישירות לצינורות האימון שלהן. לא בליעה מקרית. לא כמה שירים שחומקים פנימה. מיליוני רצועות, שנגרדו בכוונה תחילה, המאפיינים ההבעתיים שלהן כומתו לווקטורים כך שהמודל יכול לשחזר אותן לפי דרישה.

התאוריה המשפטית אלגנטית והרסנית: פרי העץ המורעל. אם נתוני האימון הושגו באופן בלתי חוקי, כל פלט מזוהם. לא משנה אם למשתמש היו כוונות תמימות. לא משנה אם הפלט אינו העתק תו-אחר-תו. המודל למד לייצר "שיר כמו של מריה קארי" על ידי שינון טביעת האצבע הסטטיסטית של ההקלטות האמיתיות של מריה קארי. זו אינה השראה. זהו פענוח דחיסה של נתונים כשפרומפט טקסט הוא המפתח.

כשמודל אינו יכול לומר לך מהיכן הגיעו החלטותיו היצירתיות, אי אפשר לסמוך עליו בשרשרת אספקה מסחרית. נקודה.

כתבתי על הפירוט המשפטי והטכני המלא בגרסה האינטראקטיבית של המחקר שלנו, אבל הגרסה הקצרה היא זו: משתמשים ארגוניים בכלים הללו שוכרים תביעה. תנאי השירות של הפלטפורמות נועדו להעביר את החבות בחזרה למשתמש ברגע שהפרומפט הופך ספציפי. ו"ספציפי" הוא רף נמוך יותר מכפי שאתם חושבים.

מדוע "שימוש הוגן" נכשל עבור מוזיקת AI?

זו השאלה שאני שומע לרוב ממנהלים שרוצים להשתמש בכלים הללו. "האם האימון אינו טרנספורמטיבי? האם זה לא כמו מוזיקאי שמאזין לרדיו?"

לא. ובתי המשפט אומרים זאת יותר ויותר.

שימוש הוגן בארה"ב תלוי בארבעה גורמים, אך זה שקוטל את מחוללי מוזיקת ה-AI הוא הרביעי: השפעה על השוק הפוטנציאלי. כאשר כלי AI גובה מהמשתמשים $24 לחודש כדי לייצר רצועות שמתחרות ישירות — ומחליפות — את ההקלטות המורשות שעליהן הוא אומן, הנזק לשוק אינו תאורטי. זהו מודל העסקי עצמו.

מוזיקאי אנושי שמאזין למריה קארי וכותב שיר מקורי עיבד את ההשפעה הזו לאורך שנים של ניסיון חיים, אימון קולי פיזי ופרשנות יצירתית. מודל דיפוזיה שבולע את הספקטרוגרמה שלה ולומד להנדס אותה לאחור מרעש עשה משהו שונה בתכלית. הוא דחס את יצירתה למשקלים ולמד לפענח אותה בפקודה.

ההסדר של Udio עם Universal Music Group הפך את זה למוחשי באופן כואב. כחלק מהעסקה, משתמשי הפלטפורמה המקורית כביכול אינם יכולים אפילו להוריד עוד את היצירות שלהם עצמם. הכול נעול בגן מוקף חומה. אם בניתם פסקול לקמפיין פרסום ב-Udio, ייתכן שהפסקול הזה חסר ערך מסחרי כעת עבור כל יישום מחוץ לפלטפורמה.

ראיתי את פניה של מנהלת יצירה בסוכנות מחווירות כשהסברתי זאת בפגישה. היו לה שישה חודשים של אודיו קמפיינים שיושבים על פלטפורמה שזה עתה הגיעה להסדר בתביעת זכויות יוצרים. אף אחד מהם לא ניתן לייצוא.

הלילה שבו התווכחנו על הבעיה הלא נכונה

במשך זמן מה, אני והצוות שלי היינו אובססיביים לשאלה הלא נכונה. שוב ושוב שאלנו: "כיצד נהפוך מוזיקת AI גנרטיבית לבטוחה יותר?" ניסינו מעקות הגנה לפרומפטים. ניסינו טביעת אצבע של פלט. ניסינו לבנות מסווגים שיכולים לזהות מתי רצועה שנוצרה קרובה מדי להקלטה מוכרת.

כל זה היה טלאי על יסוד שבור.

הוויכוח ששינה את הכיוון שלנו התרחש מול לוח מחיק מכוסה בדיאגרמות ארכיטקטורה. אחד המהנדסים הבכירים שלנו — אקרא לו ראג' — התנגד שוב ושוב לכל אמצעי הגנה שהצעתי. "אתה מנסה לגרום למערכת הסתברותית להתנהג באופן דטרמיניסטי," הוא אמר. "היא לא יכולה. כל העיקרון של דיפוזיה הוא לשחזר נתוני אימון. אתה מבקש ממנה לא לעשות את הדבר שלשמו היא תוכננה."

הוא צדק. והוא היה מתוסכל, כי הוא אמר זאת כבר שבועות ואני לא הקשבתי.

השאלה לא הייתה כיצד להפוך יצירה בקופסה שחורה לבטוחה יותר. השאלה הייתה: מדוע אנחנו בכלל מייצרים מאפס?

לכל לקוח ארגוני שאיתו שוחחנו כבר היו נכסי אודיו. היו להם הקלטות דמו. היו להם רצועות סטוק מורשות. היה להם חומר קטלוג מדור קודם. הם לא היו זקוקים למודל שיהזה שיר מכלום. הם היו זקוקים למודל שיהפוך את מה שכבר היה בבעלותם — לשנות קול, לחדש מיקס, לבודד סטם — מבלי לשבור את שרשרת הבעלות על זכויות היוצרים.

התובנה הזו הייתה לידתו של מה שאנו מכנים כעת מנוע הרישוי מבוסס הפרדת המקור (Source-Separated Licensing Engine).

מהו מנוע רישוי מבוסס הפרדת מקור?

במקום לבקש מ-AI לייצר אודיו מפרומפט טקסט — מה שמחייב את המודל לחצות מרחב סמוי הבנוי מזכויות יוצרים גנובות — אנו מבקשים מה-AI לעשות שני דברים ספציפיים מאוד, הניתנים מאוד לביקורת:

ראשית, לפרק. באמצעות הפרדת מקור עמוקה, אנו מפרקים רצועה מורשית לסטמים המרכיבים אותה: שירה, תופים, בס וכל השאר. ה-AI אינו יוצר דבר. הוא מבודד את מה שכבר קיים, כמו מנתח המפריד שכבות רקמה.

לאחר מכן, להמיר. באמצעות המרת קול מבוססת אחזור (RVC), אנו משנים את זהות הקול על הסטם המבודד. המנגינה נשארת. המילים נשארות. הביצוע נשאר. אבל הקול — גון הצליל, המרקם, הגרעיניות — מגיע ממודל קול מורשה שאימנו על הקלטות של שחקן קול שחתם על שחרור מסחרי.

הקומפוזיציה מגיעה מהקלט המורשה של הלקוח. הקול מגיע מהמודל המורשה שלנו. לכל מרכיב יש שרשרת בעלות ברורה. אין מרחב סמוי של זכויות יוצרים שנגרדו. אין הזיה הסתברותית. אין תעלומה לגבי מהיכן הגיע כל אלמנט.

המרנו את הקסם של ההזיה בוודאות של הנדסה. ולקוחות ארגוניים אינם רוצים קסם — הם רוצים נכסים שהם באמת יכולים להיות בעליהם.

כיצד הפרדת מקור עמוקה פועלת בפועל?

כשאתם מאזינים לשיר מוגמר, אתם שומעים תערובת פוליפונית — שירה, תופים, בס, גיטרות, סינתיסייזרים, הכול משוכב זה על גבי זה. גיטרת בס ותוף בעיטה חיים שניהם בטווח 50–200Hz. שירה ופסנתר חולקים את טווח 500Hz–2kHz. מסנני אודיו מסורתיים אינם יכולים להפריד ביניהם מבלי להרוס את הצליל.

הפרדת מקור עמוקה משתמשת ברשתות עצביות כדי לפתור זאת. האודיו המעורבב מומר לספקטרוגרמה — למעשה מפה חזותית של תדרים לאורך זמן — והרשת לומדת לייצר "מסכה" עבור כל מקור. חשבו על זה כמו שבלונה: המסכה אומרת למערכת אילו תדרים באילו רגעים שייכים לתופים, אילו שייכים לשירה, ואילו שייכים לכל השאר. החילו את המסכה, ותקבלו סטם מבודד ונקי.

אנו מריצים אנסמבל של הארכיטקטורות הטובות ביותר — Hybrid Transformer Demucs ללכידת דפוסים ארוכי-טווח כמו מקצב תופים חוזר לאורך שיר שלם, ו-MDX-Net לבהירות ספקטרלית על פני רצועות התדרים. הרצת מודלים מרובים ומיצוע התוצאות ממזערת "דליפה", אותם ארטיפקטים מעצבנים שבהם ניתן לשמוע תופי רפאים ברצועת השירה.

הנקודה המשפטית היא מה שחשוב: אנו מבצעים את ההפרדה הזו על רצועות שהלקוח כבר בבעלותו או שקיבל עליהן רישיון. ה-AI הוא כלי לבידוד, לא להמצאה. הסטמים המתקבלים נגזרים חוקית מרצועת האב המורשית.

מדוע המרת קול חשובה יותר מיצירת קול?

כאן האינטואיציה של רוב האנשים מתעה אותם. הם מניחים שהחלק המרשים באודיו של AI הוא יצירת קול מכלום. הוא לא. החלק המרשים — והחלק שניתן להגן עליו משפטית — הוא המרת קול אחד לאחר תוך שימור כל שאר מרכיבי הביצוע.

RVC פועל על ידי הפרדה בין מה שמושר לבין מי ששר אותו. מודל בשם HuBERT מפשיט את קול המקור לתוכן לשוני ומלודי טהור — פונמות, פרוזודיה, מקצב — תוך השלכת זהות הדובר. הוא הופך את הביצוע לאנונימי.

לאחר מכן מגיע שלב האחזור, שהוא החדשנות המרכזית. במקום לתת לרשת עצבית לנחש כיצד קול היעד אמור להישמע (מה שמייצר את החלקות הסינתטית המובהקת), המערכת מחפשת באינדקס בנוי-מראש של המאפיינים האמיתיים של קול היעד — נשימות, צרידות, צורות תנועות — ומזריקה קטעי מאפיינים אמיתיים לאודיו המומר. התוצאה נשמעת אותנטית משום שהיא אכן אותנטית. היא בנויה מדגימות אמיתיות של הקול המורשה, לא מקירוב סטטיסטי.

לבסוף, וקודר HiFi-GAN מסנתז את צורת הגל, מאומן באופן יריבותי מול הקלטות אמיתיות של דובר היעד עד שהפלט אינו ניתן להבחנה מביצוע אמיתי.

כל התהליך דורש רק 30–60 דקות של אודיו נקי מדובר יחיד כדי לאמן מודל קול. השוו זאת ל-Suno או Udio, שזקוקים למיליוני רצועות שנגרדו כדי ללמוד "מוזיקה." הגישה שלנו כירורגית במקום שבו שלהם תעשייתית.

כפתור המחיקה שלמודלי קופסה שחורה אין

הנה משהו שמדיר שינה מעיני צוותי משפט ארגוניים: אם שחקן קול מבטל את הסכמתו, או שעסקת רישוי פגה, האם תוכלו להסיר את תרומתו ממערכת ה-AI שלכם?

עם מודלי טרנספורמר גדולים — מהסוג שמניע את Suno ו-Udio — התשובה היא למעשה לא. נתוני האימון אפויים לתוך מיליארדי פרמטרים. הסרת השפעתו של אמן ספציפי דורשת אימון מחדש יקר ומסכנת ב"שכחה קטסטרופלית," שבה המודל מאבד יכולות הרבה מעבר למה שהתכוונתם להסיר.

בארכיטקטורה שלנו, כל קול הוא קובץ נפרד. בערך 50 מגה-בייט. אם שחקן קול אומר "סיימתי," אנו מוחקים את הקובץ. מנוע ההפרדה ממשיך לעבוד. כל מודל קול אחר ממשיך לעבוד. עמידה בבקשות "הזכות להישכח" היא מיידית וכירורגית.

במודל קופסה שחורה, שכחת-למידה היא בעיית מחקר. בארכיטקטורה שלנו, זהו מקש מחיקה.

אני לא יכול להפריז בחשיבות של זה ככל שהרגולציה מתהדקת. חוק ה-AI של האיחוד האירופי (EU AI Act) ידרוש שקיפות לגבי נתוני אימון. היכולת להדגים שליטה גרנולרית על כל רכיב בצינור ה-AI שלכם אינה בגדר "נחמד שיהיה" — היא הולכת להיות תנאי סף.

מה קורה כאשר מישהו מטיל ספק באודיו ה-AI שלכם?

כל קובץ שיוצא מהצינור שלנו נושא מניפסט C2PA — חתימה קריפטוגרפית של Coalition for Content Provenance and Authenticity. חשבו על זה כתווית תזונה דיגיטלית שמלווה את הקובץ ואי אפשר לזייף אותה.

המניפסט מתעד: את ה-hash של אודיו הקלט (המוכיח גזירה ממקור מורשה), את ה-hash של מודל ההפרדה (המוכיח באיזה כלי נעשה שימוש), את ה-hash של מודל הקול (המוכיח איזה קול מורשה הוחל), ואת החתימה הקריפטוגרפית של VeriPrajna המאשרת את שלמות השרשרת כולה.

אם YouTube מסמן רצועה, אם Spotify מטיל ספק במעמד זכויות היוצרים שלה, אם מתחרה טוען שזהו דיפ-פייק — הלקוח פותח את המניפסט והמקור נמצא ממש שם, ניתן לאימות מתמטי. ללא עמימות. ללא "תסמכו עלינו." הוכחה קריפטוגרפית.

לקבלת הארכיטקטורה הטכנית המלאה של הצינור ושילוב C2PA, פרסמתי מאמר מחקר מפורט שמעמיק יותר משאני יכול כאן.

"אבל האם זה לא סתם מגביל את מה ש-AI יכול לעשות?"

אנשים שואלים אותי זאת כל הזמן. בדרך כלל בטון שרומז שאני מקלקל את השמחה.

התשובה שלי: אני לא מגביל AI. אני מגביל חבות. יש הבדל.

מחולל קופסה שחורה שיכול לייצר כל שיר מפרומפט טקסט הוא טכנולוגיה מרשימה באמת. אני לא מכחיש זאת. אבל טכנולוגיה מרשימה שאינה יכולה לומר לך מהיכן הגיעו הפלטים שלה, שאי אפשר לבקר אותה, שאינה יכולה להבטיח שאתה הבעלים של מה שהיא מייצרת — הטכנולוגיה הזו היא צעצוע צרכני, לא כלי ארגוני.

משרד זכויות היוצרים של ארה"ב (US Copyright Office) הבהיר יותר ויותר: יצירות שנוצרו כולן על ידי AI ככל הנראה אינן זכאיות להגנת זכויות יוצרים. הקלדת "תעשה שיר ג'אז" אינה מחברות. זהו רעיון, לא ביטוי. משמעות הדבר היא שאם המתחרה שלך גונב את הג'ינגל שנוצר על ידי ה-AI שלך ומשתמש בו בפרסומת שלו, ייתכן שלא יהיה לך שום סעד משפטי.

הגישה שלנו משמרת את הזכאות להגנת זכויות יוצרים משום שיש רצועת הכוונה שנוצרה בידי אדם ביסוד, וטרנספורמציה בהכוונת אדם בכל שלב. ה-AI הוא כלי בידי יוצר, לא יוצר בעצמו. ההבחנה הזו היא ההבדל בין להיות הבעלים של הפלט שלך לבין לקוות שאיש לא יגנוב אותו.

משוואת העלות האמיתית

אהיה ישיר לגבי הכלכלה משום שנראה שאף אחד אחר בתחום הזה אינו מוכן להיות.

אימון על נתונים שנגרדו הוא חינם. החבות המשפטית בלתי מוגבלת — פיצויים סטטוטוריים של עד $150,000 לכל יצירה שהופרה. אם המודל שלך בלע עשרת אלפים שירים, עשה את החשבון.

רישוי נתוני אימון והקלטות קול מציג עלות מקדימה. אבל הוא מגביל את החבות שלך לאפס. לכל רכיב בשרשרת יש הסכם חתום מאחוריו. לכל פלט מצורף מניפסט מקור.

סוכנות הפרסום ששכרה אותנו להערכה הראשונית ההיא? הם עשו את החישוב. עלות הצינור שלנו הייתה טעות עיגול בהשוואה לתביעת הפרה בודדת של זכויות יוצרים. ובניגוד לפלטפורמות הקופסה השחורה, יכולנו באמת להבטיח שטעות העיגול הייתה העלות הכוללת — ולא מקדמה על תביעה.

הסוף של "פרומפט ותתפלל"

תביעות ה-RIAA נגד Suno ו-Udio אינן הסוף של אודיו AI. הן הסוף של השלב שבו איש לא שאל מהיכן הגיעו נתוני האימון. תנאי ההסדר — גנים מוקפי חומה, הגבלות הורדה, פלטפורמות מורשות חדשות — אומרים לך בדיוק לאן זה מתקדם. המערב הפרוע נסגר.

מה שיבוא בהמשך הוא מה שאנו בונים: צינורות אודיו ריבוניים שבהם לכל ארטיפקט יש מקור הניתן לאימות, שבהם ניתן לבקר, לעדכן ולמחוק מודלים ברמת הרכיב, שבהם הפלט דטרמיניסטי ולא הסתברותי, ושבהם הלקוח הארגוני באמת הבעלים של מה ששילם עליו.

אני חושב על אותו לילה עם פריה ועל ריצת הקול של מריה קארי לעתים קרובות יותר משהייתי רוצה להודות. לא משום שזה היה מפתיע מבחינה טכנית — ידענו שהמודלים משננים נתוני אימון. אלא משום שזה הפך את הסיכון למוחשי. זו לא הייתה תאוריה משפטית מופשטת שמתנגנת דרך הרמקולים שלנו. זו הייתה יצירת חייו של מישהו, דחוסה למשקלים ומשוחזרת ללא רשות, מוכנה להישלח ללקוח שלא היה לו מושג מה הוא מפיץ.

אי אפשר לבנות עסק על מערכת שאינה יכולה להסביר את עצמה. אם אינך יודע על אילו נתונים אומן המודל, אינך הבעלים של הפלט. אינך יוצר. אתה מהמר.

בעידן של אי-ודאות סינתטית, המקור הוא המוצר.

אנו בונים מערכות שבהן לכל תו יש שם, לכל קול יש חוזה, וכל קובץ נושא הוכחה. זו אינה הגבלה על AI. כך נראה AI כשהוא מוכן לעולם האמיתי.