AI מנסח טיוטות מצוין. אבל מי מנהל לכם את הסיכון העסקי?
תקציר מנהלים:
בינה מלאכותית יודעת לנסח טיוטות מרשימות, אבל היא אינה מנהלת סיכונים עסקיים או משפטיים.
במאמר זה אני בוחן שלושה מקרים אמיתיים – Air Canada, Zillow ו-DoNotPay – שממחישים את הפער בין טקסט שנראה מקצועי לבין קבלת החלטות משפטיות ועסקיות. המסקנה אינה שצריך להימנע מ-AI, אלא להבין את מקומו: כלי מצוין למחקר ולהכנת טיוטות, אך לא תחליף לשיקול דעת מקצועי כאשר מדובר בהקצאת סיכונים ובהגנה על האינטרסים של העסק.
___________________________
יותר ויותר מנכ"לים, יזמים ובעלי חברות שולחים לי לאחרונה הסכמים מסחריים שנוסחו באמצעות כלי בינה מלאכותית, למשל CHATGPT או קלוד.
ברוב המקרים, הרושם הראשוני מצוין. הניסוח ברור, המבנה מסודר והשפה מקצועית. אין ספק, הבינה המלאכותית יודעת לעשות את העבודה מבחינת ניסוח וסדר מובנה, עד כדי כך שלעיתים קשה להבחין שמדובר בטיוטה שנוצרה באמצעות מודל שפה.
אבל כאן בדיוק מתחילה הבעיה.
מודל שפה יודע לייצר טקסט איכותי על בסיס דפוסים סטטיסטיים. הוא אינו מבין את מטרות העסקה, אינו מפעיל שיקול דעת משפטי עצמאי, אינו מנהל משא ומתן ואינו מקבל החלטות באשר לאופן שבו נכון להקצות את הסיכונים בין הצדדים. האחריות להחלטות הללו נותרת בידי בני האדם.
לכן אני רואה בבינה מלאכותית כלי עבודה מצוין להכנת טיוטות ראשוניות, למחקר ולהאצת העבודה – אך לא תחליף לשיקול דעת מקצועי.
הפער בין טיוטה מנוסחת היטב לבין הסכם שמגן באמת על האינטרסים של החברה עלול להיות משמעותי מאוד. ישנם המון סיכונים מסחריים ומשפטיים כאחד, שרק עורך דין מיומן ובעל ניסיון יודע להבחין בהם, הבינה המלאכותית לא (עדיין).
לאורך השנים כבר ראינו מספר מקרים שבהם הסתמכות לא מבוקרת על מערכות אוטומטיות הובילה להשלכות עסקיות ומשפטיות משמעותיות.
1. Air Canada – כאשר החברה אחראית גם למה שהצ'אטבוט שלה אומר
בשנת 2022 פנה נוסע בשם ג'ייק מופאט (Jake Moffatt) לצ'אטבוט של חברת Air Canada לאחר פטירת סבתו, וביקש לברר האם הוא זכאי להנחת אבל.
הצ'אטבוט השיב כי ניתן לרכוש את כרטיס הטיסה במחיר מלא ולהגיש לאחר מכן בקשה להחזר במסגרת תעריף האבל.
בהסתמך על תשובה זו רכש מופאט את הכרטיס. כאשר ביקש את ההחזר, דחתה Air Canada את בקשתו בטענה שהמדיניות הרשמית שלה מחייבת להגיש את הבקשה לפני רכישת הכרטיס.
ההליך התנהל בפני ה־Civil Resolution Tribunal (CRT) בקולומביה הבריטית. הטריבונל קבע כי החברה אחראית למידע שמסר הצ'אטבוט שפעל מטעמה, ואינה יכולה להתנער מהמצגים שנמסרו באמצעותו ללקוחות.
הלקח העסקי: שימוש בבינה מלאכותית בשירות הלקוחות אינו מצמצם את אחריות החברה – אלא מחייב אותה לוודא שהמידע שהמערכת מספקת מדויק ועקבי עם מדיניותה.
2. Zillow – כאשר האלגוריתם אינו מספיק כדי לנהל סיכונים עסקיים
בשנת 2021 הפעילה Zillow את שירות Zillow Offers, שבמסגרתו רכשה החברה בתים ישירות מבעלי נכסים, תוך הסתמכות על מודלים אלגוריתמיים להערכת שווי ולהפקת הצעות רכישה.
כאשר שוק הנדל"ן השתנה במהירות בעקבות עליית הריבית, האינפלציה ושינויים בתנאי השוק, המודלים לא התאימו את עצמם בקצב הנדרש. החברה המשיכה להציע מחירים שהתבררו בדיעבד כגבוהים משווי השוק.
התוצאה הייתה הפסדים כבדים. Zillow סגרה את פעילות Zillow Offers, פיטרה כ־2,000 עובדים ורשמה מחיקות והפסדים בהיקף של למעלה מחצי מיליארד דולר.
הלקח העסקי: גם מודל חיזוי מתקדם אינו מחליף שיקול דעת עסקי כאשר תנאי השוק משתנים במהירות.
3. DoNotPay – כאשר AI אינו תחליף לייעוץ משפטי
חברת DoNotPay שיווקה את עצמה במשך שנים כ"עורך הדין הרובוטי הראשון בעולם" והציעה למשתמשים ליצור מסמכים משפטיים באמצעות בינה מלאכותית.
בשנת 2023 הוגשה נגדה תביעה ייצוגית בקליפורניה. במסגרת התביעה נטען כי החברה הציגה את השירות באופן שעלול להטעות צרכנים לחשוב שהם מקבלים ייעוץ משפטי מקצועי, בעוד שבפועל מדובר במערכת אוטומטית שאינה מחליפה עורך דין.
מבלי להתייחס לתוצאות ההליך, המקרה ממחיש עיקרון חשוב: גם כאשר מערכת AI מסוגלת לנסח מסמך בצורה משכנעת, אין בכך כדי להבטיח שהמסמך מותאם לנסיבות הספציפיות של העסקה, לדין החל או לרמת הסיכון שהצדדים מבקשים לנהל.
הלקח העסקי: איכות הניסוח אינה מבטיחה איכות משפטית.
השורה התחתונה
אני משתמש בבינה מלאכותית כמעט מדי יום, ואני משוכנע שהיא משנה את הדרך שבה עורכי דין עובדים.
היא חוסכת זמן, מסייעת במחקר ומאפשרת להכין טיוטות ראשוניות במהירות שלא הייתה אפשרית בעבר.
אבל יש הבדל מהותי בין ניסוח מסמך לבין ניהול סיכונים משפטיים ועסקיים.
בסופו של דבר, הסכם מסחרי אינו נבחן לפי איכות הניסוח שלו, אלא לפי השאלה כיצד הוא יגן על הצדדים כאשר העסקה משתבשת, מתעורר סכסוך או מוגשת תביעה.
בנקודה הזו, הניסיון, שיקול הדעת והחשיבה האסטרטגית של עורך הדין עדיין עושים את ההבדל.
מקורות
• Moffatt v. Air Canada, 2024 BCCRT 149.
• BBC, CBC News ו-CBS News – דיווחים על פרשת Air Canada. https://canadanewsmedia.ca/air-canada-found-liable-for-chatbots-bad-advice-on-plane-tickets-cbc-ca/?utm_source=chatgpt.com
• https://www.classaction.org/news/zillows-decision-to-wind-down-zillow-offers-after-q3-losses-sparks-stock-drop-class-action?utm_source=chatgpt.com CNN Business ו-Zillow – דיווחים ומסמכי החברה בנוגע לסגירת Zillow Offers.
• ABA Journal – דיווח על ההליך נגד DoNotPay.
הערה: המקרים המובאים לעיל מבוססים על הליכים משפטיים ופרסומים פומביים. הם מובאים לצורך המחשה בלבד ואינם מהווים ייעוץ משפטי.
