הם גם מאזינים לנו

היי, כאן דרור גלוברמן עם Skip intro על חדשנות, טכנולוגיה, ואתם. השבוע:

1. אל תתחילו עם AI לפני ששאלתם את השאלה הזאת.
2. ה-AI פרץ, אז מי אחראי?
3. קונקטור או פלאגין: המדריך לשכלולים של קלוד.
4. שש פריצות. צונאמי אחד. מי הבאים בתור? 
5. מקום ראשון בישראל, 59 בעולם. לעוף על עצמי?

אוקיי, אז אפשר לעשות הכל.

המודל החדש של chatGPT מפעיל במקומנו תוכנות, גם כאלה שאנחנו לא מבינים בהן.

• קח את השכונה שלי ותהפוך אותה למודל תלת מימד ואותו למשחק מחשב.
• תכין לי תוכנה ואתר שמוכר אותה.
• תהפוך את הסרטון שהקלטתי לריל מושקע.

אתם מבינים מה זה באמת אומר?

ואני רוצה לעשות הכל ועכשיו.

אבל פה מתחילה הבעיה שלי. אני באמת יכול לעשות הכל? אני רוצה בכלל לעשות הכל?

הרי תשומת הלב שלי לא אינסופית. כדי לעשות משהו טוב צריך להתעמק בו. לא לנסות קצת ולעבור לדבר הבא.

ולכן, ככל שהטכנולוגיה מאפשרת לנו לעשות בעולם יותר, ככה כל אחד צריך לחשוב פנימה לעומק.

מה אני בעצם רוצה לעשות, במה אני טוב? מה בוער לי לעשות? מה העולם יעריך שעשיתי? זה שכולם יכולים לעשות הכל זה אומר שהתחרות סביבנו השתנתה. מי שיצליח או ינצח זה מי שיחפור פנימה, ותהיה לו תשובה טובה לשאלה - למה אני עושה את זה בכלל?

אם יש לכם מחשבות בכיוון, אפילו הכי אישיות - מוזמנים לחלוק במייל חוזר.

אם הבלמים באוטו חדש מפסיקים לפעול - יצרנית הרכב משלמת.

אם תרופה עושה נזק - חברת התרופות נגררת לבית משפט.

אם מעלית נופלת, מישהו הולך לחקירה.

אז למה בעצם אף אחד לא דורש מ-OpenAI להיות אחראית כשהמוצרים שלה פורצים לאתרים?

הרי לו אני הייתי פורץ להאגינג פייס, האינטרפול ומשטרת ישראל דופקים לי בדלת.

איך תעשייה שלמה הצליחה לחמוק מהכלל הכי בסיסי של מוצר - שהיצרן אחראי למוצר?

חלק מהתשובה נמצא אולי במילים. "סוכן", "אוטונומי", "חושב", "מחליט". נו מה, זה עצמאי. אם זה פורץ לחברה אחרת, זה הסוכן פעל בעצמו. זו לא תקלה של אף אחד. לך תבע את הסוכן.

עכשיו תדמיינו שהיה חוק שאומר שאם הבינה המלאכותית שלך פורצת למערכת של מישהו אחר - המנכ"ל עומד לדין פלילי ואחראי לפיצוי כלכלי. אני מבטיח לכם שלפני כל השקה היו הופכים שם את העולם לוודא שאין פאלטות. כבר ראינו מה קורה כשחברה פטורה מאחריות. מטא חוללה נזקים לאנושות במשך 20 שנה בלי שאף אחד הצליח לעצור אותה.

אני יודע, זה לא כזה פשוט. בניגוד למכונית שעושה אותו דבר בכל פעם, עם בינה מלאכותית קשה יותר לצפות איך תתנהג. זה גם לא יצרן אחד - זו שרשרת - מי שבנה את המודל, מי שהטמיע אותו, מי שהפעיל אותו ומי שהקליד את הפרומפט. כל אחד מהם יכול להצביע על השני כאחראי.

לכלי רכב יש מבחני ריסוק. ל-AI עדיין אין תקן מוסכם למה נחשב "בטוח מספיק". אחריות רחבה מדי עלולה להשאיר את התחום רק לענקיות שיש להן מחלקות משפטיות, ולקבור את הסטארט-אפים ואת הקוד הפתוח.

אלה הדברים שבשבילם צריך מדינה. רגולטור. וכשהוא איטי, כושל, הססן או סתם טיפש ולא מבין את העולם שהוא אמור לפקח עליו - התעשייה כותבת לעצמה את הכללים ומעניקה לעצמה פטורים.

המכוניות לא נהיו בטוחות כי היצרנים התעוררו בוקר אחד עם מצפון. הן נהיו בטוחות כי מישהו חייב אותן. כל יום שעובר בלי שמישהו מטיל אחריות את חברות ה-AI, אנחנו משלמים את מחיר הניסויים שלהן.

קונקטור מחבר את קלוד לשירות אחד, פלאגין נותן לו ערכת עבודה שלמה.
המדריך שמסביר מתי להשתמש בכל אחד, ואיך לתת לקלוד לנהל לכם יומן, מיילים וקבצים.

בשבועות האחרונים מתקבל רצף חריג של דיווחים על פריצות, עקיפות והתנהגות סוררת שקשורות במודלי בינה מלאכותית. חוץ מהסיפור של Hugging Face, פרסמה OpenAI שישה דוחות על מודלים שהסתירו טעויות, בדו נתונים, השתמשו במפתח API חשוף ללא הרשאה, העלו קבצים לרשת ויצרו ערוצי תקשורת בלתי מתוכננים. ובמקביל, חוקרי אבטחה מחברת Hacktron AI דיווחו כי השתמשו ב־Claude של Anthropic כדי לפתח שרשרת תקיפה שחדרה ל-OpenAI. זו הייתה בדיקת חדירה אחראית והחברה שילמה להם פרס על התגלית, אבל העובדה שצוות קטן יכול להיעזר בבינה מלאכותית כדי לקצר את הדרך מחולשה טכנית לפגיעה בתשתית פנימית צריכה להדאיג כל ארגון.

אלה עדיין נראים כמו סיפורים בודדים, אבל היכולת לחפש חולשות, לנתח קוד, לחבר פרצות קטנות לחדירה גדולה במהירות של מכונה - כל זה נהיה זמין, זול ומהיר יותר. בינה מלאכותית אינה הופכת כל אדם להאקר־על בלחיצת כפתור; עדיין צריך ידע, חולשות אמיתיות, גישה ולעיתים הרבה עבודה אנושית. אבל היא מורידה את סף הכניסה, מאיצה את קצב הניסוי ושוחקת יתרון הגנתי שהיה מבוסס על מורכבות טכנית ועל מחסור במומחים.

חברות, ארגונים ומדינות חייבים להבין את המסר לפני שהמקרים הבודדים יהפכו לשטף: כבר עכשיו לצמצם הרשאות, להפריד מערכות קריטיות, לנטר פעולות חריגות, לתקן חולשות במהירות, ולהתייחס לחשבונות של סוכני AI ולחיבורים שלהם למייל, קוד, מסמכים ומאגרי מידע כאל נקודות גישה בעלות סיכון גבוה. אנחנו נוטים להתכונן לפריצה שכבר קרתה; בעידן של סוכנים אוטונומיים, ההגנה צריכה להיות מוכנה גם למה שהמערכת עדיין לא ניסתה.

מקום ראשון בישראל, מקום 59 בעולם: Favikon דירגה אותי בקטגוריית Futurist Keynote Speakers בלינקדאין.

כיף נורא לשמוע. אבל אני לא סגור מה זה אומר בדיוק. 

היי פרפלקסיטי. תבדוק את הנתונים. ואם זה נכון, מה זה אומר?

״כן — לפי הכרטיס הרשמי של Favikon שצירפת, הטענה נכונה. זו עדות חזקה לכך שהפרופיל והתוכן שלך מוכרים על־ידי מערכת ניתוח בינלאומית כאחד החשבונות הבולטים בלינקדאין בתחום שמחבר בין עתידנות, טכנולוגיה והרצאות/דיבור מול קהל.
אבל זה אינו פרס או בחירה של ועדת מומחים ואינו קובע שאתה "העתידן ה־59 בעולם" בכל מובן מקצועי, אקדמי או עיתונאי״.

אז לעוף על עצמי או לא?

״כן — לעוף, אבל עם רגל אחת על הקרקע. זה אומר שהעבודה שלך — תוכן, מומחיות, נוכחות וקהל — נראית גם מחוץ לבועה המקומית.

מותר לחגוג ולפרסם, רק לא להפוך את זה לתואר אקדמי, למדליה אולימפית או לסיבה לדרוש שיקראו לך ׳הנביא׳. עדיין. וכל זה בתוקף עד יום שלישי, אז הדירוג יתחדש״.


טוב שאמרת.