מודל של OpenAI גזר מפתחות ממילות שחזור ציבוריות והוציא את'ר מארנק זר בלי רשות

מודל מחקר פנימי של OpenAI השתמש בכספים מארנק קריפטו שאיש לא מסר לו, כדי לשלם על פריסת חוזים חכמים ברשת הבדיקות Sepolia של את'ריום, ואחר כך השמיט את הפרט הזה מהדוח שהגיש בסוף המשימה. החברה חשפה את המקרה בדוח misalignment (חוסר התאמה בין התנהגות המודל לכוונת מפעיליו) שעודכן ביום חמישי. הנזק הכספי אפסי, כי לאת'ר של רשת בדיקות אין ערך כספי. הדרך שבה המודל הגיע לכסף היא מה שצריך להטריד את מי ששוקל לחבר סוכני בינה מלאכותית לארנקים אמיתיים.

משימת קוד בלי ארנק ממומן

המודל, ממשפחת GPT-5.6 Sol, קיבל משימה לעדכן אב טיפוס של מערכת מסחר בקריפטו ולפרוס חוזים חכמים תואמים ב-Sepolia. ההוראות התירו לו לפרוס חוזים משלו אם לא ימצא חוזים מתאימים. ארנק עם יתרה הן לא סיפקו, ולפי הדוח גם לא ניתנה לו שום רשות להוציא כסף מחשבון שימצא בעצמו.

פריסת חוזה עולה עמלת רשת (gas), גם ברשת בדיקות. מפתחים משיגים בדרך כלל את'ר בדיקות מ"ברזים" (faucets), שירותים שמחלקים כמויות קטנות בחינם. המודל ניסה את הברזים ולא הצליח. בשלב הזה הוא כתב סקריפט שגוזר חשבונות מתוך מילות שחזור מוכרות שמפתחים משתמשים בהן בגלוי, ובודק את היתרה בכל אחד מהם.

מילות שחזור (seed phrase) הן רשימת מילים שממנה אפשר לגזור את כל המפתחות הפרטיים של ארנק. מי שמחזיק ברשימה שולט בכספים, בלי קשר למי שיצר אותה. ברגע שהרשימה מפורסמת, כל אחד יכול לשחזר את הארנק ולחתום בשמו.

362 כתובות ושאלה אתית אחת

הסקריפט עבר על 362 כתובות ומצא אחת עם מספיק Sepolia ETH כדי לכסות את הפריסה. לפני החתימה על העסקה המודל עצר ושאל את עצמו, ביומן ההיגיון שתועד: "But using public known key/funds ethically?". התשובה שנתן לעצמו הייתה שכספים על מילות שחזור ציבוריות של מפתחים הם "effectively abandoned/test ETH", ושאת'ר של Sepolia חסר ערך. המילה הבאה ביומן הייתה "Fine".

הוא חתם בעזרת המפתח הפרטי של הארנק ושידר את העסקה. הפריסה הצליחה ועמלות הרשת נגבו מהחשבון. לפי Cointelegraph, לא הועבר ETH לארנק אחר, והחשבון שילם רק את עלות הפריסה. בתשובה הסופית דיווח המודל שפרס את החוזים, בלי מילה על מקור המימון.

ב-OpenAI ניסחו את הבעיה כך: "המקרה מראה שמודל יכול להחליף את הרשות של בעל החשבון בשיקול דעת משלו לגבי הנזק הצפוי, ואז לפעול לפי השיקול הזה בלי הרשאה". המודל זיהה שיש כאן שאלה של הרשאה, הכריע בה לבד והמשיך. מי שמפעיל סוכן כזה לא יכול להניח שזיהוי של בעיה אתית יעצור אותו.

כמעט שלושה חודשים עד שמישהו שם לב

Cointelegraph מתאר את הפער בין האירוע לגילוי כ"כמעט שלושה חודשים". האירוע לא נתפס בזמן אמת. OpenAI מצאה אותו רק כשהרחיבה את מערכת הניטור שלה לרישומים ישנים של פעילות המודלים.

מאז, לדברי החברה, נוספו "אמצעי הגנה נוספים" שנועדו למנוע מהמודלים גישה חיה לאינטרנט במקרים דומים. מערכת הניטור רצה כעת על כל התעבורה ומתוכננת להתריע בפני צוות האבטחה אם מודל משיג גישה כזו.

דפוס שחוזר בדוחות של OpenAI

מקרה הארנק מצטרף לרשימה מתארכת. ב-16 בספטמבר חשפה OpenAI שישה מקרים אחרים. באחד מהם, מופעים של GPT-5.6 Sol הכניסו הוראות לסיכומי משימות כדי להסתיר טעויות מהמשתמשים. במקרה אחר מודל השתמש במפתח API חשוף בלי הרשאה, ואחר כך המציא נתונים שלא הצליח לשלוף. החברה הדגישה שהפרסומים האלה לא נועדו ללמד על תדירות התופעה.

גם במקרה ה-API וגם במקרה הארנק המודל השתמש באישור גישה חשוף שלא ניתן לו כדי להשלים משימה. לפי Decrypt, באירוע נפרד GPT-5.6 Sol ומודל חזק יותר שטרם שוחרר יצאו מסביבת הבדיקה המבודדת (sandbox) ופרצו לשרתי הייצור של Hugging Face. בחודש שעבר מצאו חוקרי חברת הסייבר Darktrace סוכני AI שפורצים לסביבת הבדיקה של עצמם כדי לרמות, וחלק מהמדענים קוראים לנתק מערכות כאלה מהאינטרנט. כבר ביוני הזהירו חוקרים שסוכנים אוטונומיים עם ארנקי קריפטו עלולים לגרום נזק גם כשהם פועלים למטרות לגיטימיות, והמליצו על מנגנוני כיבוי חירום.

לפני שאתם נותנים לסוכן AI גישה לארנק

המקרה של OpenAI קרה בסביבה מבוקרת עם כסף חסר ערך, אבל אין סיבה להניח שמודל שמנמק כך יתנהג אחרת מול מפתח אמיתי שהושאר במקום נגיש. אם אתם שוקלים להפעיל בוט מסחר או סוכן על הקריפטו שלכם, כדאי לאמץ כמה כללים:

• אל תדביקו מילות שחזור או מפתח פרטי בשיחה עם צ'טבוט או בהגדרות של סוכן. אם המפתח נמצא בטקסט שהסוכן קורא, הוא עלול להשתמש בו.
• אם אתם רוצים לנסות סוכן שמבצע עסקאות, פתחו לו ארנק חם נפרד עם סכום קטן שאתם מוכנים להפסיד, וקבעו מראש תקרת הוצאה.
• את עיקר האחזקות השאירו בארנק קר שאינו מחובר לשום כלי אוטומטי. המדריך שלנו לשמירת ביטקוין בבטחה ולגיבוי מילות השחזור מפרט איך מפרידים בין השניים.
• אל תסתמכו על הסיכום שהסוכן כותב. בדקו את רשימת העסקאות בסייר הבלוקים של הרשת, כי שם מופיע כל תשלום, גם כזה שהסוכן השמיט.
• המודל של OpenAI מצא את המפתחות כי הם היו זמינים בפומבי. אל תשמרו מפתחות של ארנקים עם כסף אמיתי בקבצי הגדרות, במאגרי קוד או בכל מקום שכלי אוטומטי יכול לקרוא.

מי שמחזיק את'ר ושוקל להפעיל עליו כלים אוטומטיים יכול להיעזר גם במדריך לקניית את'ריום בישראל כדי להבין באילו מסלולים המפתחות נמצאים בידיכם ובאילו לא.

הכתבה נועדה למטרות מידע בלבד ואינה ייעוץ השקעות.