שימוש אתי בבינה מלאכותית: גבולות שכל עסק צריך
חנות בגדים בוטיק מתחילה להשתמש בכלי בינה מלאכותית לכתיבת תיאורי מוצרים, ואחרי כמה שבועות גם בצ'אטבוט למענה על הודעות בוואטסאפ. הבוט טוב עד כדי כך שלקוחה פעם החמיאה 'לבחורה שעזרה לי אתמול בלילה', שהייתה בפועל סקריפט שרץ בשתיים לפנות בוקר. הבעלים לא התכוונה להטעות אף אחד. היא פשוט אף פעם לא עצרה לשאול את עצמה אם זה משנה.
איפה שאלות אתיות באמת עולות בעסק קטן
שימוש אתי בבינה מלאכותית בעסק של חמישה אנשים כמעט אף פעם לא נראה כמו הדיונים הגדולים על החלפת מקומות עבודה או סיכון קיומי. הוא מופיע בהחלטות קטנות וקונקרטיות: האם צ'אטבוט צריך להודות שהוא בוט, מה קורה לתמלול של לקוח שמתאר בעיה רפואית אישית לעוזר הזמנות, האם הצעת הנחה מותאמת אישית מבוססת על נתונים שהלקוח היה מופתע לגלות שנאספו, והאם תוכן שנכתב על ידי בינה מלאכותית עובר בדיקת עובדות לפני שהוא יוצא בשם העסק.
ההחלטות האלה כמעט אף פעם לא מרגישות דרמטיות ברגע נתון, וזו בדיוק הסיבה שהן דורשות תשובה מודעת ולא ברירת מחדל. ברירת המחדל, מה שהכלי מגיע איתו, בדרך כלל מותאמת למעורבות או להמרה, לא למה שלקוח היה חושב שהוגן אם היה עוצר לחשוב על זה חמש דקות.
גילוי נאות: האם הלקוח צריך לדעת שזה בוט
יש כאן טווח סביר של דעות, אבל העמדה הבטוחה והמוצדקת יותר היא שלקוח שמתקשר עם מערכת אוטומטית בכל דבר שמעבר לשאלה הכי טריוויאלית (שעות פתיחה, כתובת) צריך להיות מסוגל להבין את זה, או לשאול ולקבל תשובה כנה. זה חשוב במיוחד בהקשרים טעוני רגש: מטופל ששואל את בוט ההזמנות של הקליניקה על בעיה בריאותית, או לקוח שחולק על חיוב, ראוי שידע מתי הוא עבר מסקריפט לבן אדם, ולהפך.
תווית פשוטה בתחילת הצ'אט ('את/ה משוחח/ת עם העוזר הווירטואלי שלנו') כמעט לא עולה כלום וחוסכת את הרגע המביך שבו לקוח מגלה בדיעבד ששיחה חמה ואישית לכאורה הייתה אוטומטית לגמרי. במדינות מסוימות גילוי נאות של שימוש בבינה מלאכותית הופך לדרישה חוקית ולא רק לנימוס, וכדאי לעקוב אחרי זה אם העסק פועל באיחוד האירופי או מתכנן להגיע לשם.
טיפול בנתונים ראוי לאותה זהירות כמו כל רשומת לקוח אחרת
תמלולי צ'אט, תמלולי שיחות, והתנהגות גלישה שמוזנת לכלי בינה מלאכותית עדיין נשארים נתוני לקוח, וראויים לאותו טיפול שהעסק היה מפעיל על תיק נייר: מי יכול לגשת אליהם, כמה זמן הם נשמרים, והאם הם משמשים למשהו מעבר למטרה שהלקוח ציפה לה. לקוח שמזכיר מצב רפואי לעוזר הזמנות מצפה בסבירות שהפרט הזה יישאר צמוד לתור, לא ייכנס לפלח שיווקי.
כדאי גם לבדוק במפורש מה ספק כלי הבינה המלאכותית עושה עם הנתונים של העסק: האם השיחות משמשות לאימון המודלים הרחבים יותר של הספק, האם הנתונים נשמרים באזור מסוים, ומה מדיניות השמירה בפועל אומרת, במקום להניח שכלי בטוח פשוט כי הוא פופולרי או משווק היטב.
הטיה מופיעה בשקט בהחלטות אוטומטיות
כל מערכת בינה מלאכותית שמסננת, מדרגת או מתעדפת לקוחות, מחליטה למי חוזרים ראשון, מי רואה הנחה, של מי בקשת אשראי או ליסינג נראית חזקה יותר, יכולה לקודד הטיה מנתוני האימון שלה או מהכללים שלה, בלי שאף אחד התכוון לכך. מערכת שמורידה בעדיפות לקוחות עם שמות לא סטנדרטיים או פורמט מספר טלפון חריג, למשל, יכולה בשקט להפלות קהילה מסוימת בלי אף שורת קוד אחת שאומרת את זה במפורש.
המגן המעשי כאן הוא לא ויכוח פילוסופי. הוא בדיקה תקופתית, במספרים פשוטים, האם המערכת האוטומטית מתייחסת ללקוחות דומים בצורה דומה, ונכונות לתקן אותה כשלא.
דרך מפוכחת לחשוב על זה
שום דבר מזה לא דורש מעסק קטן ועדת אתיקה רשמית. זה דורש להתייחס לכלי בינה מלאכותית כמו שבעלים זהיר היה מתייחס לעובד חדש: לתת לו הוראות ברורות, לבדוק את העבודה שלו מדי פעם, להיות כן עם הלקוחות לגבי מה שהוא, ולא להניח שכוונות טובות של הספק מחליפות פיקוח אמיתי מצד העסק שמשתמש בכלי.