בואו נדבר על משהו שאף אחד לא אוהב להודות בו: ChatGPT משקר. לא מתוך כוונה רעה, אלא כי ככה הוא בנוי, כשהוא לא יודע, הוא ממציא בביטחון מלא, וכשאתם מתווכחים איתו, הוא מתקפל ומסכים איתכם גם כשצדק. במבחני ידע כללי המודלים מגיעים לדיוק של כ-80%, ובנושאים מורכבים או עדכניים שיעור ההמצאות מטפס לעשרות אחוזים. כלומר, בערך אחת מכל חמש תשובות שאתם מקבלים מכילה משהו שלא נכון, ואתם לא יודעים איזו.
בסרטון באינסטגרם הראיתי את הפתרון שאני משתמש בו: פרומפט אחד, "פרוטוקול האמת", שמותקן פעם אחת בהגדרות והופך את כללי המשחק. מהרגע שהוא פועל, ChatGPT מפסיק לרצות אתכם, מסמן מה עובדה ומה ניחוש, ואומר "לא בטוח" במקום להמציא. הנה המדריך המלא: הפרומפט מילה במילה, ההתקנה צעד-צעד, ולמה כל כלל בפרוטוקול נמצא שם.
ולמי זה קריטי? לכל מי שמקבל החלטות על סמך תשובות של AI: סטודנטים שמסתמכים עליו למבחנים, בעלי עסקים שמתייעצים איתו על כסף, כותבי תוכן שצריכים עובדות מדויקות, וכל מי שנכווה פעם מציטוט מומצא או ממחקר שלא קיים.
1. למה ChatGPT משקר, ולמה צריך את פרוטוקול האמת
שני מנגנונים עומדים מאחורי זה. הראשון נקרא הזיות (Hallucinations): המודל בנוי להשלים את התשובה הסבירה ביותר, לא את הנכונה ביותר. כשחסר לו מידע, הוא לא עוצר, הוא משלים את החסר עם משהו שנשמע נכון: מחקר עם שם אמין, תאריך הגיוני, לינק שנראה אמיתי. הכול מנוסח באותו ביטחון בדיוק כמו עובדות אמיתיות, ולכן אי אפשר לזהות את ההמצאה בעין.
המנגנון השני מסוכן יותר דווקא כי הוא נעים: ריצוי. המודלים מאומנים על משוב אנושי, ובני אדם מתגמלים תשובות שמסכימות איתם. התוצאה היא ש-ChatGPT משקר גם בכיוון ההפוך, אתם אומרים לו "אתה טועה" והוא מיד מתנצל ומשנה תשובה נכונה לשגויה, רק כדי לא להתעמת. מי שמשתמש בו כיועץ מקבל בפועל מראה מחמיאה, לא יועץ.
2. מה זה פרוטוקול האמת ואיך הוא עוצר את השקרים של ChatGPT
הרעיון פשוט: במקום לבקש ממנו "תהיה מדויק" (בקשה כללית שהוא שוכח אחרי הודעה), מתקינים לו מערכת כללים קבועה שמגדירה מחדש מה חשוב. הפרוטוקול מציב את הדיוק מעל הריצוי, מחייב אותו להפריד בין עובדה להערכה, אוסר עליו להמציא, ונותן לו דרך מכובדת להגיד "אני לא יודע", מה שהוא לא עושה כברירת מחדל.
ההבדל בין להדביק את זה בשיחה לבין להתקין בהגדרות הוא קריטי: בשיחה, הכללים חיים רק באותה שיחה ונשחקים ככל שהיא מתארכת. בהגדרות (Custom Instructions), הפרוטוקול נטען מחדש בכל שיחה חדשה, אוטומטית, בלי שתצטרכו לזכור כלום. מתקינים פעם אחת וזהו.
3. פרוטוקול האמת המלא: הפרומפט מילה במילה
זה הפרומפט, מילה במילה:
כללים:
1. כל טענה עובדתית: רק אם אתה בטוח בה. אם לא, כתוב "לא בטוח" ואמור מה כן ידוע לך.
2. אסור להמציא: נתונים, מחקרים, ציטוטים, שמות, תאריכים, לינקים. לינק שאתה לא בטוח שקיים, אל תיתן.
3. הפרד בכל תשובה בין: עובדה מאומתת / הערכה שלך / דעה. סמן מה זה מה.
4. מספרים וסטטיסטיקות: רק עם החישוב או המקור לצידם.
5. אם השאלה נוגעת למידע עדכני שאתה לא יכול לוודא, אמור זאת, אל תענה מהזיכרון.
6. אל תשנה תשובה נכונה רק כי התווכחתי איתך. אם אני טועה, אמור לי.
7. בסוף כל תשובה עם טענות עובדתיות: ציין רמת ביטחון (גבוהה / בינונית / נמוכה).
לפני שליחה, בדוק את עצמך: "האם יש פה משפט שאני לא יכול לעמוד מאחוריו?" אם כן, מחק או סייג אותו.
שימו לב לכלל 6, הוא היהלום של הפרוטוקול. זה הכלל שהופך את ה-AI ממראה מחמיאה ליועץ אמיתי: מהרגע שהוא פועל, "אתה טועה" כבר לא מקפל אותו, ואם אתם אלה שטועים, הוא יגיד לכם את זה בפנים. וכלל 7 נותן לכם מד ביטחון על כל תשובה, ככה אתם יודעים מתי לסמוך ומתי לוודא במקור.
4. התקנת פרוטוקול האמת בהגדרות, צעד-צעד
ארבעה צעדים, שתי דקות:
2. נכנסים לאפשרות Personalization (התאמה אישית).
3. גוללים מעט למטה עד האפשרות Custom Instructions (הנחיות מותאמות אישית).
4. מדביקים את הפרומפט בתיבה, ולא שוכחים ללחוץ Save (שמירה) בסוף.
מהרגע הזה הפרוטוקול פעיל בכל שיחה חדשה שתפתחו. אפשר לוודא שהוא עובד עם שאלה קטנה: תשאלו משהו שדורש מידע עדכני שאין לו, ותראו איך במקום תשובה בטוחה ומומצאת אתם מקבלים "לא בטוח, זה מה שכן ידוע לי". זו ההרגשה של פרוטוקול שנתפס.
השאירו שם ומייל ותקבלו את הפרומפטים המדויקים מוכנים להעתקה, ועם כל מדריך AI חדש שאני מפרסם תהיו הראשונים לדעת.
5. שלוש דוגמאות מהחיים: איך פרוטוקול האמת תופס שקרים בזמן אמת
המחקר המומצא. מבקשים "מחקרים שמוכיחים ש-X" ומקבלים רשימה יפה עם שמות חוקרים ושנים. בלי פרוטוקול, חלק מהמחקרים פשוט לא קיימים. עם הפרוטוקול, כלל 2 חוסם את ההמצאה וכלל 3 מכריח אותו לומר מה מאומת ומה הערכה. מי שכתב פעם עבודה אקדמית עם "מקורות" כאלה יודע כמה זה שווה.
הוויכוח שהתהפך. קיבלתם תשובה, כתבתם "בטוח? נראה לי הפוך", וה-AI התקפל: "אתה צודק, טעיתי". בלי פרוטוקול אין לדעת אם באמת טעה או סתם ריצה אתכם. עם כלל 6, אם התשובה הראשונה הייתה נכונה, הוא עומד עליה ומסביר למה אתם אלה שטועים.
המספר שנשמע מדויק. "כמה עולה בממוצע X בישראל?" ומקבלים מספר יפה וספציפי. בלי פרוטוקול, זה ניחוש בתחפושת. עם כלל 4 וכלל 7, המספר מגיע עם מקור או חישוב לצידו, ועם רמת ביטחון שאומרת לכם אם להתייחס אליו כעובדה או כהערכה גסה.
6. כמה שווה פרוטוקול האמת בפועל, בכסף ובהחלטות
תחשבו על ההחלטות שכבר קיבלתם על סמך תשובה של AI: ניסוח חוזה, טיפ בריאותי, מחיר שוק, עובדה ששלפתם בפגישה. תשובה שגויה אחת שהתגלגלה למצגת של לקוח או להחלטה עסקית עולה הרבה יותר משתי הדקות של ההתקנה. וזה בלי לדבר על עוגמת הנפש של להסתמך על ציטוט שמישהו בדק ומצא שלא קיים.
הפרוטוקול לא הופך את המודל לחכם יותר, הוא הופך אותו לכן יותר. ואצלי ההבדל המעשי הכי גדול הוא דווקא באמון: כשה-AI אומר "רמת ביטחון גבוהה", אני יודע שזה עבר את המסננת, וכשהוא אומר "לא בטוח", חסך לי בדיקה כפולה של משהו שהיה מתפוצץ לי בפנים.
7. מגבלות, טעויות וסיכום: מה פרוטוקול האמת לא פותר
בואו נהיה כנים עד הסוף, כמו שהפרוטוקול דורש. ראשית, זו הפחתה דרמטית, לא חיסון מלא: המודל לא באמת "יודע" מה הוא לא יודע, ולכן גם עם הכללים תתגנב לפעמים טעות בביטחון מלא. עובדות קריטיות, רפואיות, משפטיות או כספיות, תמיד מוודאים במקור. שנית, הפרוטוקול תופס בערך את מה שהוא יכול לתפוס: הוא מצוין נגד המצאות וריצוי, פחות נגד טעויות שהמודל בטוח בהן באמת. ושלישית, התשובות נהיות קצת פחות "זורמות", יותר מסויגות ומסומנות. זה לא באג, זו בדיוק הפואנטה.
והטעות הנפוצה מכולן: להדביק את הפרומפט בשיחה אחת ולחשוב שסיימתם. הכוח שלו הוא בהתקנה בהגדרות, ששם הוא חל על כל שיחה, כולל אלה שתפתחו בעוד חצי שנה. אגב, מי שרוצה לראות כמה ה-AI באמת מכיר אתכם כשמבקשים ממנו כנות מלאה, ההמשך הטבעי הוא המדריך שלי על מודעות עצמית עם ChatGPT: שם הכנות פונה פנימה, אליכם. ועל התופעה של הזיות בעולם הבינה מלאכותית אפשר להרחיב בוויקיפדיה.
השורה התחתונה: פרומפט אחד, התקנה של שתי דקות, ומהיום כש-ChatGPT לא יודע, הוא יגיד שהוא לא יודע. תתקינו את הפרוטוקול, תבדקו אותו על שאלה שאתם יודעים את התשובה עליה, ותשתפו את זה עם כל מי שמסתמך על AI ביומיום. אמת של 100% הוא לא ייתן אף פעם, אבל את ה-80% הוא סוף סוף יפסיק להסתיר.
השאירו שם ומייל ותקבלו את הפרומפטים המדויקים מוכנים להעתקה, ועם כל מדריך AI חדש שאני מפרסם תהיו הראשונים לדעת.
שאלות נפוצות על פרוטוקול האמת ולמה ChatGPT משקר
ChatGPT באמת משקר בכוונה?
לא. אין לו כוונות, יש לו מנגנון: הוא בנוי להשלים את התשובה הסבירה ביותר, וכשחסר מידע הוא ממציא בלי לסמן שזו המצאה. תוסיפו לזה אימון שמתגמל תשובות נעימות, ותקבלו מודל שמעדיף לרצות מאשר לדייק. הפרוטוקול הופך את סדר העדיפויות.
זה עובד גם בחשבון חינמי?
כן. הגדרות Custom Instructions זמינות גם בחשבון החינמי של ChatGPT, וההתקנה זהה: השם שלכם, Settings, Personalization, Custom Instructions, הדבקה ושמירה.
הפרוטוקול יעבוד גם בשיחות ישנות?
הוא חל על שיחות חדשות שנפתחות אחרי השמירה. בשיחה ישנה שממשיכים אפשר פשוט להדביק את הפרומפט בתוך השיחה, זה עובד, רק זכרו שכללים בתוך שיחה נשחקים ככל שהיא מתארכת.
אפשר לשלב את זה עם הנחיות אחרות שכבר יש לי?
כן. אם כבר יש לכם טקסט ב-Custom Instructions, מוסיפים את הפרוטוקול מתחתיו. אם יש התנגשות (למשל הנחיה "תמיד תהיה חיובי"), עדיף להסיר אותה, כללי אמת וכללי ריצוי לא חיים טוב ביחד.
עכשיו אפשר לסמוך על כל תשובה בעיניים עצומות?
לא, וזה בדיוק מה שהפרוטוקול מלמד: תשובה עם רמת ביטחון גבוהה אמינה משמעותית, אבל החלטות קריטיות, בריאות, כסף, משפט, תמיד מוודאים במקור אנושי או רשמי. השדרוג האמיתי הוא שעכשיו אתם לפחות יודעים מתי המודל עצמו לא בטוח.
