במאמר זו נבחן את הישות המרכזית אתיקה ואחריות בבינה מלאכותית בשיווק, וננתח את המתח שבין פרסונליזציה אפקטיבית לבין מניפולציה פולשנית. נבחן כיצד כלים המבוססים על מודלים של OpenAI ואחרים משפיעים על אמון הצרכנים, זכויות יוצרים והטיות חברתיות.
כדאי לדעת
- בינה מלאכותית משפרת את יחס ההמרה אך עלולה לפגוע בפרטיות הלקוח אם אינה מרוסנת.
- קיימת סכנה מוחשבת של שכפול הטיות חברתיות וסטריאוטיפים מתוך מאגרי המידע שעליהם אומן ה-AI.
- הגבול בין תוכן אותנטי לבין תוכן מפוברק (דיפ פייק) הופך למטושטש, מה שיוצר סיכון מוניטיני לעסקים.
- סוגיית הבעלות על תוכן AI נותרת מורכבת, ודורשת הכרה בחוק זכויות יוצרים, התשס"ח,2007.
מה האחריות הגדולה של AI בשיווק?
בינה מלאכותית היא תחום במדעי המחשב. הבינה המלאכותית או בשמה השני ה- AI מסוגלות לבצע משימות בתחומים רבים ומגוונים, באמצעות יכולות למידה, זיהוי הטיות ונורמות חברתיות ופתרון הבעיות שלה.
הבינה המלאכותית הפכה בשנים האחרונות לכלי שיווקי ותורמת רבות לעסקים בשיווק בית העסק, היא תורמת בהבנת צרכי הלקוחות וניתוח רצונות הלקוח.
לבינה המלאכותית יש אחריות גדולה בשיווק, חלק מתפקידיה הם:
- לשמור על אותנטיות
- למנוע העתקה בין חברות ומוצרים שונים
- לשמור על פרטיות הלקוח ולא לפלוש לפרטיות הלקוחות בעת הבנת צרכיהם
- למנוע מניפולציות בתוכן השיווקי
תפקידו של השיווק הוא לקדם, להפיץ מידע על מוצר או שירות ובסופו של דבר לסגור עסקה, שיווק נכון ואמין הוא קריטי לבית העסק ולהמשך דרכו.
מה זה פרסונליזציה אפקטיבית ?
פרסונליזציה אפקטיבית הוא כלי שיווקי שתורם לשיפור חווית המשתמש באתר בית העסק ומוביל בכך לשיפור יחס המרה (משתמשים המבצעים את הפעולה הרצויה שבית העסק הגדיר, לרוב הגדרה זו היא ביצוע רכישה באתר).
על מנת לעבוד בכלי שיווקי זה ,יש צורך בשימוש נתונים כמו היסטוריית רכישות, נתוני גלישה והעדפות אישיות של המשתמש.
אסיפת מידע זה תורם רבות לבית העסק על מנת לשפר את הכנסותיו, אך האם כלי שיווקי זה לא עובר את גבול פרטיות הלקוח?
האם בכך שהוא אוסף פרטים אישיים על משתמשי האתר הוא יוצר בדיוק את מה שהמשתמש מחפש גם אם זה אינו נכון או מדויק?
מניפולציה פולשנית היא שימוש בדרכי פעולה פסיכולוגיות על מנת להשפיע על הצרכן ולגרום לו לבחור בפעולה הרצויה אף על פי שאינו יודע זאת.
האם השימוש בבינה מלאכותית בתחום השיווק פוגע בחופש הבחירה של הצרכנים בעקבות איסוף המידע מהאתרים ושימוש במידע זה על מנת להגדיל את רווחי בית העסק בצורה מניפולטיבית כלפי הלקוח?
הגבול בין פרסונליזציה אפקטיבית לבין מניפולציה פולשנית הוא דק מאוד ועלינו לשים לב שהגבול לא נחצה בצורה שתשפיע לרעה על הצרכנים בהחלטותיהם ובכך לאיבוד אמונם בעסק והמשך איבוד האמון בכלי שיווקי זה.
השאלה האתית המרכזית היא האם איסוף מידע כה נרחב פוגע בחופש הבחירה. כאשר אלגוריתם יוצר עבור המשתמש "בועה" של תכנים המותאמים רק למה שהוא מחפש, הוא עלול למנוע ממנו מידע אובייקטיבי ולהוביל לאובדן אמון בעסק בטווח הארוך.
כיצד אלגוריתמי AI יכולים ללמוד ולשכפל הטיות חברתיות קיימות
בני אדם מוטים חברתית, במוחנו ישנם דפוסים קבועים איתם אנו תופסים ושופטים אנשים אחרים. תפיסה ושיפוט אלה משפיעים על האופן בו אנו מקיימים אינטראקציה חברתית ובדרך בה אנו מעריכים ושופטים את האינטראקציה.
אלו תפיסות אשר אמורות להגן עלינו, אך תפיסות אלה לא תמיד נכונות ועלולות להוביל לתגובה הפוכה,
סטריאוטיפ יכול להיחשב כהטיה חברתית והטיות אלו יכולות להוביל לאפליה של קבוצות בחברה.
אלגוריתמי ה- AI יכולים ללמוד את ההטיות החברתיות הקיימות בחברה ולהמשיך אותם במודלים שלו. הטיות אלה יכולות להיות חוסר שוויון מגדרי והגדרת מעמדות שונות. היות ואלגוריתמי ה AI מאומנים על ידי נתונים אנושיים בהחלט ייתכן כי הם לומדים ומשכפלים את ההטיות החברתיות שטבועות בטבע האנושי.
אז איך בעצם ההטיה החברתית עוברת לאלגוריתם?
המערכות לומדות את המידע מתוך מאגרי מידע שנוצרו על ידי בני האדם, מאגרים אלו כוללים דעות קדומות, סטריאוטיפים ודפוסי התנהגות מקובלים. בכך האלגוריתם לומד מה מקובל לפי הנורמות האנושיות ומה לא מקובל ומשכפל את ההטיות שהוא לומד בעת השימוש בו.
כיצד ניתן לצמצם הטיות (Debiasing)?
כדי להתמודד עם הטיות אלו, חברות טכנולוגיה משקיעות בשיטות של התערבות אנושית (Human in the loop) ושימוש בסטים של נתונים מאוזנים. בישראל, משרד המשפטים בוחן טיוטות רגולציה שיחייבו שקיפות בשימוש באלגוריתמים המשפיעים על הציבור.
תוכן אותנטי מול דיפ פייק (Deepfake)
תוכן אותנטי בונה חיבור רגשי ואמון. מנגד, השכיחות של תוכן מפוברק, סרטוני דיפ פייק ומידע שקרי, גבוהה מאי פעם. צרכן שמגלה ששיקרו לו בפרסומת או שהבטחות המותג היו מבוססות על תוצר סינתטי, יפסיק את התקשרותו עם העסק. בעידן הרשתות החברתיות, נזק למוניטין מלקוח אחד עלול להדהד לאלפי אחרים תוך שניות.
ניצול חולשות רגשיות באמצעות AI
טכנולוגיות מתקדמות מאפשרות ל AI לזהות מצב רוח של משתמש דרך ניתוח דפוסי הקלדה, האזנה או מצלמת המכשיר. המערכת יכולה לשנות את גוני האתר או להקפיץ הודעות דחופות ברגעי הססנות. שימוש כזה בחולשות רגשיות על מנת "לסגור עסקה" בכל מחיר עלול להוביל לחרטת קנייה ולפגיעה קשה באמינות המותג.
איפה עובר הגבול בין תוכן אותנטי למפוברק והשפעתו על אמון הצרכנים?
תוכן אותנטי הוא תוכן חשוב וקריטי לבית העסק. תוכן זה יוצר אמון עם קהל היעד, הצרכנים ,כך הוא מחבר אותם רגשית לסיפור ולערכים של בית העסק ושל מוצריו.
בעידן הנוכחי השכיחות של תוכן מפוברק היא גבוהה. סרטונים, תמונות, פרסומות ומידע שקרי שלא תמיד אנו יכולים לזהות שהוא שקרי.
תוכן מפוברק פוגע קשות באמון הצרכנים לבית העסק או המוצר ויוביל את הצרכנים להפסקת רכישת מוצרים מעסק זה.
כאשר לקוח רואה פרסומים על מוצר מסוים של בית עסק ובוחר לרכוש את המוצר אך אינו רואה את התוצאות שהובטחו לו זה יגרום לתהיות ושאלות על אמינות בית העסק, אמינות המוצר ואמינות התוכן שיתגלה בהמשך כשקרי.
לטווח הרחוק דבר זה יוביל לירידה בהכנסות העסק, משום שהלקוח ידע כי עסק זה אינו אמין ולא ירצה לרכוש את מוצריו בשנית.
בעידן הטכנולוגיה העכשווית, כאשר צרכן מרוצה או אינו מרוצה ממוצר שרכש, הוא ממליץ עליו או להפך ברשתות החברתיות, כך שעסק עלול להפסיד יותר מלקוח אחד.
כיצד AI יכול לזהות מצב רוח של משתמש ולהתאים את המסר השיווקי כדי לנצל חולשות רגשיות?
מצב רוח של המשתמש ניתן לזיהוי על ידי AI באמצעות מצלמת המכשיר, האזנה ודפוסי הקלדה, ה- AI יכול לנתח בזמן אמת נתונים אלו ולהשפיע על הצרכן.
כאשר המשתמש חוזר שוב ושוב לאותו האתר, אך אינו מבצע רכישה, ייתכן כי המערכת תזהה זאת כהססנות ותקפיץ למשתמש הודעות ופרסומות הקשורות לאתר בו התעניין על מנת להשפיע ולהוביל את המשתמש לביצוע עסקה.
בנוסף, המערכת יכולה להשפיע על המשתמש באמצעות מידע קודם. לפי חיפושים קודמים שלו ברשת היא תראה לו לפעמים מידע שקרי, תוכן מפוברק והטעיה על מנת להוביל אותו לביצוע רכישה.
- שינוי גווני האתר, צבעים מוכחים כמשפיעים על מצב הרוח.
- שינוי צבעי הרקע באתר יכולים להשפיע באופן פסיכולוגי שלא במודע על הצרכן ולגרום לו לרכוש את המוצר.
בדרכים אלו ה AI יכול להתאים את המסר השיווקי שלו לפי צורכי ורגשות הצרכן, המערכת מנצלת את חולשות הצרכן וגורמת לו לביצוע עסקה שייתכן כי יתחרט עליה בהמשך, דבר זה יוביל בטווח הרחוק לחוסר אמון בקרב הצרכנים.
על מי חלה הבעלות על תוכן שנוצר על ידי AI?
זכויות יוצרים, מושג זה אומר כי ישנה בעלות בלעדית על יצירה ליוצר שלה.
במקרה של תוכן AI יש לנו מקרים של 2 יוצרים ומעלה.
- הבינה המלאכותית היא היוצר הראשון
- האיש או האנשים אשר נותנים לה את הנחיות ייצור התוכן הם היוצר השני
אז על מי חלה הבעלות?
ישנה דילמה בנושא ומידע משפטי אשר מנסה למצוא את העמק השווה, היות וה- AI יוצר על ידי אדם/ חברה האם התוכן אותו מייצר ה- AI שייך אוטומטית אל החברה שיצרה אותו גם כן?
ומה עם עבודתו של האדם שנתן את ההנחיות לייצור התוכן, שכתוב התוכן, שהנחה ותיקן את המערכת לייצור התוצר הסופי.
ייצור תוכן לוקח זמן, מחשבה וידע בשימוש כלי הבינה המלאכותית.
התשובה היא כי הבעלות לרוב חלה על שני הצדדים. הבעלות שייכת לחברה שמפעילה את כלי הבינה המלאכותית ולחברה או לאיש אשר הנחה את הכלי לייצור התוכן.
מומלץ לכתוב כי התוכן נוצר באמצעות כלי בינה מלאכותית ולציין את סוג הבינה והחברה בה השתמשתם, על מנת למנוע תביעות עתידיות מהיוצר השני.
השוואת גישות אתיות לאימון מודלים
| הגישה השוללת (הגנת הקניין) | הגישה התומכת (השראה חופשית) |
|---|---|
| אימון על יצירות ללא אישור הוא העתקה ופוגע בפרנסת אמנים. | המערכת לומדת ויוצרת יצירה חדשה, בדומה לאמן אנושי השואב השראה. |
| יש להחיל רגולציה מחמירה ותשלום תמלוגים ליוצרים המקוריים. | זהו כלי טכנולוגי המנגיש את היצירה לכלל הציבור ומייעל את העבודה. |
האם זה אתי להשתמש ב- AI שאומן על יצירות של אחרים ללא רשותם?
ישנו ויכוח בנושא זה משום שהאתיקה בנושא היא אתיקה אישית ולכן לכל אדם צו מצפונו האישי.
יש הטוענים כי זו העתקה וזה מבטל את יניין זכויות היוצרים, הקניין הרוחני של היוצר על יצירתו. בכך היוצר אינו יכול לדעת כי ה- AI משתמש ביצירותיו ככלי.
בנוסף לכך, יש אמנים אשר מרגישים כי פרנסתם נפגעת היות ויש כלי בינה מלאכותית שיכול לעשות את עבודתם באמצעות מאגרי מידע ענקיים מתחומים רבים, כך כלי זה יכול ליצור יצירה במספר שניות בניגוד לאמנים רבים שמביאים את הרגש ליצירה דבר הלוקח זמן.
לעומת זאת יש אנשים הטוענים כי השימוש בכלי זה הוא אתי למרות שאין אישור מהיוצר.
אנשים אלו טוענים כי המערכת עושה בדיוק מה שאמנים אחרים עשו לאורך השנים, היא צופה, לומדת ויוצרת את יצירתה, הטענה היא כי המערכת אינה מעתיקה יצירות ,אלא לוקחת מהן השראה ויוצרת יצירה חדשה לגמרי.
בסופו של דבר, אין תשובה נכונה בנושא זה משום שאתיקה- עקרונות המוסר יכולה להיות אינדיבידואלית וכל אדם יראה את התשובה לנושא זה בצורה שונה.
אך עלינו לחשוב איך כלי הבינה המלאכותית נכנס לחיינו ומשפיע על החלטותינו בצורה לא מודעת.
לסיכום
כלי בינה מלאכותית נכנס לחיינו כרוח סערה ותורם רבות בחיי היום יום שלנו. באמצעות שאלות יומיומיות, שאלות על העבודה, לימודים או סתם התייעצות בנושא מסוים.
עלינו להבין כי באמצעות ההיעזרות בו ה- AI לומד ומכיר אותנו וזהו צד אפל ,אשר משפיע עלינו בצורה פחות טובה.
עלינו להיות מודעים ליתרונות ולחסרונות של ה- AI.
