הרעלת יצירות אומנות כנגד AI

[The oldman]

מאחר ב MIT מציג כלי חדש בשם Nightshade נועד לתת ליוצרים ואמנים את האפשרות להגן על האומנות שלהם מפני AI - בעצם "להרעיל" את האומנות ולשבש את האלגוריתמים של ה AI.
זה נשמע מעניין אבל יותר אקזוטי מאשר שימושי לדעתי - יש מספיק Datasets שה AI יכול להתאמן עליהם כדי ליצור אומנות חדשה.
לא ברור לי לאיפה זה יתפתח...

This new data poisoning tool lets artists fight back against generative AI

The tool, called Nightshade, messes up training data in ways that could cause serious damage to image-generating AI models.

www.technologyreview.com

 

[SandChicken]

להרעלה יש סנטימנט מאוד מתאים בהקשר הזה

 

[Adran]

אני מתאר לעצמי שיש המעוניינים לשלוט על אומנות של IP-ים מסוימים.

 

[TheKnightWhosaidKnit]

זה די מדאיג שזו הדרך - ז"א, כל דבר שייך לAI אלא אם הוא הורעל נגדה ( וכמובן - יהיה נוגדי רעל באיזשהו שלב)

 

[The New Paladin]

כן, יש מספיק דאטה כדי לאמן מודלים כאלו.
השיפור במודלים החדשים יותר לא מגיע בגלל שימוש בעוד דאטה, אלא בגלל התפתחות של שיטות האימון.

אולי יהיה אפשר לא רק לגלות איזו תמונה עברה טיפול, אלא גם להסיר את השינויים שהתמונה עברה.
אחר כך גם ירצו למנוע יצירה משימוש בתוכן של וידאו.
לא יודע כמה טעם יש במלחמה הזאת.