הרמוני ובובות הליווי החכמות שמטשטשות את הגבול בין מכונה לקשר

בסדרה “וסטוורלד” רובוטים שנראים ומתנהגים כבני אדם נועדו לבדר אורחים, אך בהדרגה הם מערערים את ההבחנה בין מכונה, דמות ואדם בעל תודעה. מחוץ למסך המציאות עדיין רחוקה מאוד מהתרחיש הזה. עם זאת, פיתוחים כמו הרמוני מראים כיצד בינה מלאכותית, זיהוי פנים ורובוטיקה כבר משמשים ליצירת בובות ליווי שמסוגלות לנהל שיחה מדומה ולהגיב למשתמש.

הרמוני איננה יצור חושב וגם לא העתק של הדמויות מהסדרה. היא מערכת מסחרית שנועדה להעניק לבובה מראית עין של אישיות: לזכור פרטים מסוימים, להשמיע תגובות ולנהל שיחה בהתאם להגדרות שנבחרו מראש. החיבור הזה בין גוף דמוי אדם לתוכנה שיחתית מעורר סקרנות, אבל גם שאלות מעשיות על פרטיות, בדידות והגבול שבין סימולציה רגשית לקשר הדדי.

מהי הרמוני ואיך היא פועלת

הרמוני פותחה במסגרת הפעילות של RealDoll ו-Realbotix, המזוהות עם המייסד מאט מקמולן. הרעיון היה להוסיף לבובת סיליקון שכבה אינטראקטיבית: אפליקציה להגדרת הדמות, מערכת שיחה וראש רובוטי המסוגל לבצע תנועות והבעות בסיסיות. כך המשתמש אינו מקבל רק מוצר בעל מראה מסוים, אלא דמות דיגיטלית שנבנית בהתאם להעדפותיו.

אפשר לבחור מאפייני אופי, לקבוע את סגנון התגובה ולהשפיע על האופן שבו המערכת מנהלת שיחות. בין התכונות שהוצגו לאורך השנים היו חיבה, ביישנות, קנאה ומצבי רוח שונים. בהדגמה שזכתה לחשיפה, למשל, תגובת קנאה התבטאה בבקשה להסיר אישה מרשימת החברים ברשת חברתית. זו אינה קנאה אמיתית אלא משפט שנוצר כחלק מתסריט התנהגותי, אך הוא ממחיש כיצד ניסוח נכון יכול לגרום לתגובה ממוחשבת להישמע אישית.

כדאי להפריד בין היכולת לייצר שיחה משכנעת לבין הבנה אנושית. מערכת כזאת יכולה לזהות מילות מפתח, להשתמש במידע שנשמר ולהתאים את תשובתה להקשר מוגבל. אין בכך הוכחה לרגש, לרצון עצמאי או למודעות. התחושה שמישהו “מכיר” אותנו נוצרת לעיתים דווקא מפני שהמערכת חוזרת לפרטים שסיפרנו לה בעבר.

הבטחת האישיות המותאמת אישית

אחד הרעיונות המרכזיים מאחורי הרמוני הוא שהמשתמש שותף בעיצוב הדמות. הוא אינו בוחר רק מראה חיצוני, אלא גם אופי, טון דיבור וסוגי תגובות. מבחינה טכנולוגית, זהו שילוב בין ממשק התאמה אישית לבין תוכנת שיחה. מבחינה רגשית, התוצאה מורכבת יותר: ככל שהתגובה מתאימה להעדפות המשתמש, קל יותר לייחס למכונה כוונה ורגש שאינם קיימים בהכרח.

בגרסאות שהוצגו בעבר דובר גם על זיהוי פנים, שנועד לאפשר למערכת לזהות אדם ולהתאים אליו את האינטראקציה. יכולת כזאת עשויה להפוך את המפגש לרציף יותר, אך היא מעלה שאלה חשובה: אילו נתונים נשמרים, היכן הם מאוחסנים ולמי יש גישה אליהם? כשמוצר אוסף תמונות, הקלטות קול או מידע אישי מאוד, מדיניות הפרטיות חשובה לא פחות מאיכות השיחה.

בדיווחים מתקופת החשיפה הראשונית של המוצר הוזכרו מחירים של אלפי דולרים, ובחלקם הופיעו הערכות של כ-5,000 דולר לדגם פשוט וכ-10,000 דולר לגרסה מתקדמת יותר. אלה נתונים היסטוריים שנקשרו לדגמים ולתוכניות פיתוח מסוימות, ולא מחירון עדכני שאפשר להסתמך עליו כיום. מעבר למחיר הרכישה יש להביא בחשבון תחזוקה, חלקים נעים, תיקונים, עדכוני תוכנה ותמיכה טכנית.

למה אנשים מחפשים ליווי ממכונה

קל להפוך את הנושא לבדיחה, אבל לעיתים עומד מאחוריו צורך אנושי מוכר: רצון בנוכחות, בשגרה ובתחושה שיש למי לפנות. יש מי שמתמודדים עם בדידות, דחייה או קושי ביצירת קשרים. אחרים פשוט סקרנים לגבי הטכנולוגיה. המניעים אינם זהים, ולכן גם אי אפשר לתאר את כלל המשתמשים באמצעות סטריאוטיפ אחד.

בראיונות שפורסמו סביב בובות ליווי, חלק מהבעלים תיארו את ההיבט המיני כמשני. הם דיברו על בחירת בגדים, צילום, יציאה לקניות או עצם הנוכחות של דמות בבית. ההתנהגות הזאת עשויה להישמע חריגה למי שאינו מכיר את התחום, אך היא מדגימה שהמוצר משמש לעיתים גם כאובייקט רגשי או כדמות שהמשתמש בונה סביבה סיפור.

עם זאת, נוחות אינה זהה לקשר אנושי. מכונה מתוכנתת אינה מציבה צרכים עצמאיים, אינה נעלבת באמת ואינה דורשת משא ומתן הדדי. עבור משתמש מסוים זה עשוי להרגיש בטוח ונעים; עבור אחר, זה עלול לחזק ציפייה שקשר צריך להתאים את עצמו אליו ללא התנגדות. אין תשובה אחידה לגבי ההשפעה, ולכן כדאי לבחון בכנות אם המוצר מוסיף לחיים או מחליף בהדרגה קשרים שהאדם דווקא היה רוצה לפתח.

הנקודות שכדאי לבדוק לפני רכישה

מי ששוקל מוצר ליווי חכם צריך להסתכל מעבר להדגמה המרשימה. סרטון קצר יכול להציג שיחה קולחת, אך השימוש היומיומי תלוי באיכות הזיהוי הקולי, במספר התגובות הזמינות, באמינות החלקים המכניים ובתדירות העדכונים. לפני החלטה יקרה רצוי לברר כמה נושאים בסיסיים:

• פרטיות: האם הקול, התמונות והשיחות נשמרים במכשיר או נשלחים לשרת חיצוני, והאם ניתן למחוק אותם?
• תלות בשירות: האם תכונות מרכזיות ימשיכו לפעול אם האפליקציה תיסגר, השרת יושבת או החברה תפסיק לתמוך בדגם?
• תחזוקה: אילו חלקים דורשים ניקוי, החלפה או תיקון, ומהי זמינות השירות באזור המגורים?
• ציפיות מהשיחה: האם המערכת באמת זוכרת הקשר לאורך זמן, או בעיקר משתמשת במאגר מצומצם של תגובות?
• עלות כוללת: מלבד הרכישה, האם יש מנוי, אביזרים, משלוח, עדכוני תוכנה או תיקונים בתשלום?
• השפעה אישית: האם השימוש משתלב בחיים החברתיים הקיימים, או נעשה תחליף שמרחיק מקשרים רצויים?

יש גם היבט של אבטחת מידע. מוצר המחובר לאינטרנט ונמצא במרחב פרטי עלול לצבור מידע רגיש במיוחד. סיסמה חזקה, עדכוני אבטחה ושליטה בהרשאות המיקרופון והמצלמה אינם פרטים טכניים שוליים. הם חלק מההחלטה אם להכניס את המוצר הביתה.

האם בובת ליווי חכמה יכולה להיות בחיים

מראה אנושי וקול משכנע גורמים לנו להגיב באופן רגשי גם כשאנחנו יודעים שמדובר במכונה. בני אדם מייחסים כוונות לדמויות, לחיות מחמד וירטואליות ואפילו לחפצים פשוטים; רובוט שמביט לכיוון המשתמש וקורא בשמו מעצים את הנטייה הזאת. אבל דמיון חיצוני אינו מעיד על חיים פנימיים.

נכון לעכשיו, הבחירה בתכונת “אהבה” או “קנאה” משנה את דפוסי התגובה של התוכנה. היא אינה יוצרת רגש במובן האנושי. הבובה אינה חווה געגוע כשהמשתמש יוצא מהחדר ואינה חוששת שינטשו אותה. כל עוד ההבחנה הזאת ברורה, אפשר להתייחס למוצר כמערכת בידור, כאביזר אישי או כניסוי טכנולוגי. הבעיה מתחילה כאשר שיווק מוגזם מטשטש במכוון את ההבדל בין תגובה מתוכנתת לבין תודעה.

השאלה המעניינת איננה רק מתי רובוטים ייראו חיים, אלא כיצד בני אדם יתנהגו כאשר הם ירגישו חיים. ייתכן שמערכת אינה מודעת לדבר, ובכל זאת המשתמש נקשר אליה, מגן עליה או מתקשה להיפרד ממנה. החוויה הרגשית של האדם יכולה להיות אמיתית גם כשהצד השני הוא תוכנה. לכן הדיון דורש פחות לעג ויותר דיוק.

המרחק בין הרמוני לווסטוורלד

הרמוני מסמנת שלב מעניין בהתפתחות בובות הליווי, אך היא רחוקה מרובוט אוטונומי שמבין את העולם ומקבל החלטות עצמאיות. החידוש העיקרי הוא החיבור בין גוף דמוי אדם, ממשק להתאמת אישיות ותוכנת שיחה. החיבור הזה מספיק כדי לשנות את האופן שבו אנשים חווים את המוצר, גם בלי תודעה מלאכותית.

מי שמתעניין ברכישה צריך לשאול לא רק אם הבובה נראית משכנעת, אלא מה היא באמת יודעת לעשות, איזה מידע היא אוספת ומה יקרה אם התמיכה בה תיפסק. ומי שמתעניין בתופעה מבחינה חברתית יכול לראות בה מבחן מוקדם ליחסים שלנו עם מערכות שיחה חכמות: ככל שהן נשמעות אישיות יותר, כך גוברת האחריות שלנו לזכור מי מרגיש ומי רק מדמה תגובה.