לפי הערכות עדכניות מתחילת שנת 2024, ל-ChatGPT יש כיום כ-831 מיליון משתמשים ייחודיים והוא מעבד למעלה מ-5.7 מיליארד ביקורים מדי חודש. לצד זאת, מחקר של OpenAI והלשכה הלאומית למחקר כלכלי (NBER) שניתח 1.5 מיליון שיחות תוך שמירה על פרטיות, אישר כי למעלה מ-700 מיליון משתמשים פעילים שבועיים משתמשים במודלים של שיחה. מרכז המחקר Pew מחזק מגמה זו ומציין כי 34% מהמבוגרים בארה"ב השתמשו בממשקים אלו – נתון שהכפיל את עצמו בערך מאז קיץ 2023, עם רוב של 58% בקרב צעירים מתחת לגיל 30.
עם כל כך הרבה אנשים שמשלבים את המערכות הללו בחיי היומיום שלהם, הרצון לנתח נתונים אישיים – ספציפית היסטוריית הודעות מיוצאת – עלה בצורה חדה. אם אתם רוצים להפוך קובץ טקסט ענקי ומבולגן לנרטיב משעשע, הסתמכות על כלי ייעודי שנועד לניתוח הודעות היא הרבה יותר יעילה מהדבקת הנתונים הפרטיים שלכם בתוך ממשק אינטרנט ציבורי. ב-Wrapped AI Chat Analysis Recap, חצינו לאחרונה אבן דרך משמעותית בעיבוד נתונים, מה שהעניק לנו נקודת מבט ייחודית על האופן שבו אנשים באמת מתקשרים עם הפלטפורמות הללו.
כמפתח המתמקד בפרטיות במובייל וארכיטקטורת נתונים מאובטחת, אני מבלה זמן רב בבחינת האופן שבו טקסט מנוהל מאחורי הקלעים. באופן מעניין, יומני החיפוש שלנו בחנויות האפליקציות מראים נפח משמעותי של משתמשים שמחפשים כלי char gbt או מקלידים בחיפזון gbt char במקלדת הטלפון שלהם. טעויות ההקלדה הנפוצות הללו מדגישות אמת רחבה יותר: משתמשים רגילים ממהרים לגשת למודלים עוצמתיים מהנייד, אך הם נושאים עמם תפיסות שגויות רבות לגבי האופן שבו הכלים הללו מעבדים נתונים אישיים בפועל. היום, אני רוצה להתייחס למיתוסים הגדולים ביותר שזיהינו ולנפץ אותם בעזרת הנתונים הקשיחים שאספנו.
מיתוס 1: פרומפט AI סטנדרטי יכול לארגן בקלות את הצ'אטים הקבוצתיים המבולגנים שלכם
המיתוס הנפוץ ביותר שבו אני נתקל הוא האמונה שאינטליגנציה גולמית פותרת בעיות פורמט באופן אוטומטי. משתמשים רבים מניחים שאם הם יכולים לייצא קובץ מ-WhatsApp Messenger, הם יכולים פשוט לזרוק אותו לתוך ממשק שיחה רגיל, לבקש סיכום ולקבל תוצאה מושלמת.
המציאות מורכבת בהרבה. יומני הודעות מיוצאים הם כאוטיים להחריד. בין אם אתם משתמשים באפליקציה הרגילה ובין אם התנסיתם בהורדת GB WhatsApp עבור תכונות הודעות נוספות, ייצוא ה-.txt הגולמי נראה זהה: קיר אינסופי ולא מעוצב של חותמות זמן, הודעות מערכת (כמו "משתמש עזב את הקבוצה"), תגי מדיה שהושמטו ותגובות חופפות.
כשמזינים את הפורמט הגולמי הזה לצ'אטבוט AI גנרי, המערכת מאבדת מהר מאוד את חוט הנרטיב. היא מתקשה להבחין בין בדיחה פנימית משמעותית לבין רצף של תגובות "אוקיי" שגרתיות. מעבר לכך, לממשקים סטנדרטיים יש מגבלות של חלון הקשר (context window). אם תנסו להדביק היסטוריה של שנה שלמה מקבוצת מכללה, המערכת לעיתים קרובות תקצר את הטקסט, תמציא אירועים שמעולם לא קרו (הזיות), או פשוט תסרב לבקשה. כלים ייעודיים פותרים זאת על ידי עיבוד מקדים של הקובץ, הסרת מטא-נתונים מיותרים והזנת המודל בנתונים נקיים ומובנים.
מיתוס 2: האם אפליקציות סיכום ייעודיות פחות מאובטחות מממשקים מוכרים?
מכיוון שהרקע שלי הוא באבטחת מובייל, זו התפיסה השגויה שהכי חשובה לי. קיימת הנחה שגויה שהעלאת היסטוריית השיחות המיוצאת שלכם לאפליקציה ייעודית היא מסוכנת יותר מהדבקתה ישירות לממשק שמסופק על ידי חברות טכנולוגיה ענקיות.
בפועל, ההיפך הוא לרוב הנכון כשבוחנים את מדיניות שמירת הנתונים. כשמדביקים שיחות אישיות רגישות לממשק אינטרנט סטנדרטי, הטקסט הזה הופך לעיתים קרובות לחלק מהיסטוריית החשבון הקבועה שלכם. בהתאם להגדרות החשבון, הוא עשוי אפילו לשמש לאימון גרסאות עתידיות של המודל.
כלים שנבנו למטרה ספציפית, כמו Wrapped AI Chat Analysis Recap, מתוכננים עם תהליך עבודה קצר-מועד (ephemeral) בראש סדר העדיפויות. האפליקציה לוקחת את הקובץ שלכם, מתקשרת בצורה מאובטחת עם ה-API לעיבוד כדי ליצור את התובנות והסטטיסטיקות המהנות, ולאחר מכן משמידה את הקובץ הגולמי. אנחנו לא מעוניינים לאחסן את היסטוריית ההודעות שלכם בנפח גיגה-בייט בשרתים שלנו; זוהי אחריות משפטית וטכנית מיותרת שאינה דרושה לשירות שאנו מספקים. הבנת מודל העיבוד הזמני הזה חיונית לכל מי שמעריך את פרטיותו אך עדיין רוצה מבט מהנה ומבוסס נתונים על מערכות היחסים שלו.
מיתוס 3: הפסיקו להניח שכל מודלי ה-AI מטפלים בקבצים מיוצאים באותה צורה
קל לראות את השוק הנוכחי כמקשה אחת. משתמש עשוי לנסות לנתח קובץ עם Gemini, אחר כך לנסות את DeepSeek, ולבסוף לבדוק את Grok AI, כשהוא מצפה לתוצאות שונות לחלוטין רק בגלל שם המותג. בעוד שלמודלים הללו יש חוזקות שונות בתכנות או בכתיבה יצירתית, כולם ניצבים בפני אותו מחסום מבני כשמדובר בנתוני הודעות גולמיים: חוסר בכוונון ספציפי לתחום (domain-specific tuning).
המודלים הענקיים הללו מאומנים על האינטרנט הרחב – ספרים, מאמרים, מאגרי קוד וסטים של נתונים מובנים. הם אינם מותאמים מראש להבין את הטבע המהיר, עמוס ההקשר והסלנג של צ'אט קבוצתי פרטי.
כפי שציינה עמיתתי נאז ארטורק (Naz Ertürk) כשניתחה את מגמות המשתמשים שלנו, מודלים כלליים נכשלים לעיתים קרובות בתפיסת המשקל הרגשי של שיחה. תוכלו לקרוא עוד על דפוסי ההתנהגות הספציפיים הללו בניתוח המפורט שלה על מה ש-50,000 העלאות צ'אט לימדו אותנו על הרגלי השימוש בבינה מלאכותית. המסקנה היא שהמודל עצמו חשוב פחות מה"פיגומים" שנבנו סביבו. מודל ממוצע עם עיבוד מקדים מצוין ואילוצי פלט מובנים תמיד יפיק סיכום טוב יותר ממודל קצה (state-of-the-art) שמוזן בטקסט גולמי ולא מעוצב.
מיתוס 4: אתם זקוקים לכישורי "פרומפטינג" טכניים כדי לקבל תוצאה טובה
בגלל שתעשיית ההייטק קידמה רבות את הרעיון של "הנדסת פרומפטים" (prompt engineering), אנשים רבים מאמינים שקבלת סיכום מצחיק או מעמיק דורשת הנחיות מורכבות וטכניות מאוד. אני רואה לעיתים קרובות משתמשים שמנסים לכתוב פרומפטים ארוכים בני מספר פסקאות, המפרטים בדיוק איך הם רוצים שהסטטיסטיקות שלהם יחושבו ואיך צירי הזמן שלהם יעוצבו.
כאן חוויית המשתמש נוטה להישבר. אתם לא אמורים להזדקק לתואר במדעי המחשב או לשעה של זמן פנוי כדי להבין מי שלח הכי הרבה הודעות למי בשנה שעברה. המטרה המרכזית של האפליקציה שלנו היא להחליף את החיכוך הזה בלחיצת כפתור אחת. אנחנו מטפלים בלוגיקת ההנחיות המורכבת בצד השרת.
במקום להיאבק בהוראות עיצוב, המשתמשים צריכים ליהנות מהמוצר הסופי. זו הסיבה שאנחנו מתמקדים רבות בסיפור חזותי ולא רק בהוצאת נקודות (bullet points). לצלילה עמוקה יותר לשאלה מדוע הפרזנטציה חשובה בדיוק כמו הנתונים שמתחתיה, ג'אן ארסלן (Can Arslan) כתב לאחרונה מאמר מצוין המסביר מדוע תצוגת סיפור (Story) הופכת את סיכומי הצ'אט ליעילים יותר מסיכומים גולמיים.
מתקדמים לעבר כלים טובים יותר
האימוץ המהיר של ממשקי שיחה – המודגש על ידי העובדה ש-26% מהמשתמשים מסתמכים עליהם כעת ללמידה ומשימות מורכבות – מוכיח שהטכנולוגיה הזו כאן כדי להישאר. אך ככל שאנו עוברים מאימוץ מוקדם לשימוש יומיומי, עלינו להפסיק להסתמך על פתרונות גנריים לבעיות ספציפיות מאוד.
בין אם אתם מנסים לנתח ייצוא ענקי מ-WhatsApp Web, להשוות סטטיסטיקות בין חברים, או פשוט מנסים לשמר זיכרונות בפורמט קריא, הכלי שבו אתם משתמשים קובע. חיפוש גנרי של gbt char עשוי להוביל אתכם למחולל טקסט חזק, אך הוא לא יוביל אתכם לחוויה מותאמת אישית.
על ידי הבנת המגבלות של ייצוא טקסט גולמי, המציאות של פרטיות הנתונים והצורך בעיבוד ייעודי, תוכלו לקבל בדיוק את התובנות שאתם רוצים ללא התסכול. אם אתם מעוניינים לחקור אפליקציות שימושיות וסגנון חיים נוספות שנבנו תוך מחשבה על פרטיות וחוויית משתמש, תוכלו גם לראות את פורטפוליו הכלים הרחב שפותח על ידי הצוות שלנו ב-Dynapps LTD.
בפעם הבאה שתרצו להפוך שנה של שיחות דיגיטליות לסיפור מרתק, זכרו: הקסם אינו טמון רק בבינה המלאכותית עצמה, אלא באופן הספציפי שבו היא מונחית להבין את ההיסטוריה האישית שלכם.