דמיינו כלי שיכול לסרוק מיליוני שורות קוד בתוך שעות, לאתר פרצות אבטחה שחוקרים אנושיים לא מצאו במשך עשרות שנים, ולתעד אותן בדו"ח מסודר. זה בדיוק מה ש-Claude Mythos של Anthropic עושה. אבל השאלה שאיש בתעשייה לא ממהר לענות עליה היא פשוטה: מה קורה כשאותה יכולת בדיוק נופלת לידיים הלא נכונות? זו לא שאלה תיאורטית. זו הדילמה האתית הגדולה ביותר של עידן ה-AI בסייבר.

כשמודל AI מוצא פרצות שאיש לא ידע עליהן

הגילוי שזעזע את עולם הסייבר

Anthropic חשפה ש-Claude Mythos זיהה אלפי פרצות מסוג zero-day במהלך שבועות ספורים של בדיקות. פרצות כאלה הן חורי אבטחה שהיצרן עצמו אינו מודע לקיומן. אחת הממצאים המדהימים: פרצה בת 27 שנה ב-OpenBSD, מערכת הפעלה המוכרת כאחת המאובטחות בעולם. הבאג אפשר לכל תוקף להקריס מרחוק כל מכונה פשוט על ידי התחברות אליה.

זה לא עוד כלי אוטומציה רגיל. מדובר ביכולת אנליטית שמדענים ומהנדסים בכירים לא הצליחו לשכפל בעשרות שנות עבודה. לכן Anthropic עצמה מסרבת לשחרר את המודל לציבור הרחב, ומגבילה את הגישה אליו רק לקבוצה נבחרת של שותפים מאושרים. ההחלטה הזו מעידה על כך שגם יוצרי הטכנולוגיה מבינים את הסיכון.

מהי פרצת zero-day ולמה היא שונה

כדי להבין את הסכנה, צריך להבין את ההגדרה. פרצת zero-day היא חולשה שאיש לא גילה עדיין, ולכן אין לה תיקון. לא מבצע עדכוני תוכנה. לא שדרוג אנטי-וירוס. אין הגנה קיימת. מי שמחזיק בידע על פרצה כזו, מחזיק בנשק דיגיטלי ממוקד שיכול לפרוץ לתוך מערכות בנקאיות, תשתיות ממשלתיות, ורשתות תקשורת.

בשוק השחור, מידע על פרצת zero-day נמכר תמורת מאות אלפי דולרים. כמה כלי AI שמוצאים אלפי פרצות כאלה בשבועות עשויים לשנות את כלכלת הפשע הסייברנטי מקצה לקצה. זו הסיבה שהדיון על שימוש אחראי ב-AI לסייבר חשוב כל כך.

הדואליות המסוכנת של כלי הגנת סייבר

אותו מודל, שתי פרספקטיבות

חוקר סייבר ישראלי עובד כך: הוא מקבל מנדט לבדוק מערכת, מאתר חולשות, ומדווח ליצרן. התהליך הזה נקרא Responsible Disclosure, וזו הבסיס של כל תעשיית ה-Penetration Testing. כעת דמיינו שאותו חוקר משתמש ב-Claude Mythos כדי לבצע את אותה עבודה פי עשרה מהר יותר ובפחות מאמץ. זה שדרוג לגיטימי לחלוטין.

אבל עכשיו דמיינו גורם עוין, ממדינה עוינת או מארגון פשע מאורגן, שמשיג גישה לאותה יכולת. התוצאה זהה מבחינה טכנית, אבל ההשלכות הפוכות לחלוטין. זה בדיוק הפרדוקס. הכלי אינו מוסרי ואינו בלתי מוסרי בפני עצמו. הכוונה של המשתמש היא שקובעת את ההשפעה, ולא ניתן לשלוט על הכוונה דרך טכנולוגיה בלבד.

ההיסטוריה שחוזרת על עצמה

זו לא הפעם הראשונה שתעשייה מתמודדת עם טכנולוגיה בעלת שני קצוות. בשנות ה-90, ממשלת ארה"ב ניסתה לאסור ייצוא של אלגוריתמי הצפנה חזקים. הנימוק היה שהצפנה חזקה תסייע לגורמי טרור. בסופו של דבר, ההגבלות הוסרו, ואותה הצפנה שמרה על מיליארדי עסקאות פיננסיות ברחבי העולם. לכן, הוויכוח על הגבלת כלי AI לסייבר הוא מוכר, אבל הפעם קצב ההתפשטות מהיר פי כמה.

ב-ניתוח שפרסם Jerusalem Post, הוסבר שמלחמות סייבר מודרניות אינן נקבעות לפי גודל הארגון, אלא לפי מי שמאמץ מערכות אוטונומיות AI מהר יותר. ישראל, כמעצמת סייבר מוכרת, נמצאת בצומת הזה בדיוק עכשיו.

מה קורה כשאין מדיניות ברורה

הוואקום שמסוכן מהטכנולוגיה עצמה

כרגע, אין מסגרת בינלאומית מוסכמת לשימוש ב-AI לצורכי סייבר התקפי. Anthropic פועלת לפי שיקול דעת פנימי. גוגל ומיקרוסופט עושות כנ"ל. כל חברה בונה את ה-Guardrails שלה. אבל הפרצה האמיתית היא שחברות ממדינות אחרות, שאינן כפופות לאותם ערכים, מפתחות כלים מקבילים ללא מגבלות.

בנוסף, שוק ה-Exploit הפרטי הוא עגום במיוחד. חברות כמו NSO Group, שפעלה מישראל, הראו שגם כאשר ממשלה מאשרת שימוש בכלי סייבר עוצמתיים, הגדרות ה"שימוש הלגיטימי" יכולות להתפרק בקלות. AI שמייצר פרצות zero-day באופן אוטומטי מכפיל את הסיכון הזה בסדרי גודל.

איפה ישראל בתמונה הזו

ישראל היא אחת ממעצמות הסייבר הבולטות בעולם. חברות כמו Check Point ו-CyberArk בנו תעשייה שלמה על הגנת תשתיות. אולם, בשיתוף הפעולה של Anthropic עם ענקי טכנולוגיה גלובליים לפרויקטי אבטחה, שמות ישראליים לא מופיעים ברשימת השותפים המייסדים. זה פרדוקס מעניין.

לכן, השאלה שצריכה לעמוד על שולחן קובעי המדיניות בישראל היא ברורה. מה המסגרת החוקית לשימוש בכלי AI שמאתרים zero-days? מי מפקח על כך? ומה הסנקציות למי שמשתמש בהם לתקיפה? כמו כן, בהיעדר תשובות ברורות, הוואקום הרגולטורי עצמו הופך לחולשת אבטחה.

לקראת מדיניות אחראית: מה זה אומר בפועל

שלושה עקרונות לשימוש אתי

תעשיית הסייבר לא יכולה להמשיך להתחמק מהדיון הזה. ישנם עקרונות בסיסיים שצריכים לעמוד בבסיס כל מדיניות שימוש ב-AI לאיתור פרצות:

• שקיפות מלאה: כל ממצא zero-day שמאותר על ידי AI חייב לעבור דיווח ליצרן לפני כל שימוש אחר.
• פיקוח אנושי: מודל AI לא יכול לפעול ללא מפעיל אנושי שמורשה ואחראי לתוצאות.
• הגבלת גישה: לא מספיק לדחות שחרור ציבורי. יש להגדיר מה מוסמך שותף מאושר לעשות עם הכלי.

הדילמה שלא תיעלם

אולם, גם אם כל אחת מחברות ה-AI הגדולות תאמץ מדיניות מחמירה, הבעיה לא תיפתר לחלוטין. כלי open-source לניתוח קוד כבר מתפתחים. מודלים קטנים יותר, שאינם בשליטת Anthropic או Google, עשויים להדביק את הפער ביכולות בתוך שנים ספורות. לכן, הסתמכות על רצון טוב של כמה חברות גדולות היא אסטרטגיה לא מספקת.

מה שנדרש הוא שיח בינלאומי אמיתי, בדומה לאמנות על נשק כימי או ביולוגי. זה נשמע אוטופי בעידן של מלחמות סייבר שמתנהלות בצל, אבל ההיסטוריה מלמדת שגם בנשק גרעיני, שיח בינלאומי העניק מסגרת חלקית לפחות. AI לסייבר ראוי לאותה רצינות.

בסופו של דבר, הדילמה האתית שמציב Claude Mythos אינה בעיה טכנולוגית. זו בעיה אנושית. הטכנולוגיה תמשיך להתפתח ללא קשר לוויכוח המוסרי. השאלה היא האם קובעי המדיניות, אנשי הסייבר, ותעשיית ה-AI ייצרו יחד מסגרת שמגינה על ההגנה ומגבילה את התקיפה, לפני שהפרצה הבאה תימצא בידי מי שלא שאלו אם מותר. אם אתם עוסקים בתחום הסייבר או מנהלים תקציב טכנולוגי בחברה, AIBox מתעד את ההתפתחויות האלה מדי שבוע. כמו כן, אם שאלת עלויות ה-AI מעניינת אתכם באותה מידה, הניתוח על עלויות AI בעסקים ישראלים ייתן לכם מספרים שיפתיעו אתכם.