אני חי בסרט

היי, כאן דרור גלוברמן עם Skip intro על חדשנות, טכנולוגיה, ואתם. השבוע:

1. תתחילו להתרגל: AI מפעיל לכם תוכנות במחשב. אתם מסתכלים. 
2. מי יעצור את כנופיית סוכני ה-AI מהשתוללות פרועה? 
3. רק פסיכולוג או קרימינולוג של סוכני AI. אם תמצאו אחד.
4. זה נשמע לכם כמו ספר מדע בדיוני? יש מצב שמשם זה בא.
5. ופינת אורח: GPT-6 כותב על חוויותיו. איתי.

ביקשתי מ-GPT6 שיצא בסופש האחרון לערוך לי סרטון על החשיפה המצמררת: כיצד כנופיית סוכני הבינה המלאכותית ברחה לאינטרנט ועשתה בו שמות.

הוא כתב לי תסריט לאינסטגרם. צילמתי את עצמי והעליתי לו את הקובץ. נתתי לו הנחיות עריכה כמו לכל עורך אנושי. ביקשתי שיילך וימצא חומרים ויזואליים מתאימים כמו כותרות, שיכין אילוסטרציות וימצא מוסיקה. הוא הביא מהרשת את מה שביקשתי, פתח תוכנת עריכה על המחשב ועשה מה שרציתי. עוד כמה תיקונים קטנים, וזה שם.

זה הפך לאחד הרילס הכי מצליחים באינסטגרם שלי, ויום אחריו העליתי עוד אחד שמסביר את התהליך, שכבר הספקתי לשכלל. הפעם סיפרתי לו מה נושא הסרטון, הפניתי אותו לקובצי הוידיאו עם סרטונים מתאימים ואמרתי לו - כתוב לי תסריט ותערוך כבר את הריל בהתאם, שתוכל לשלב את הסרטון שלי פנימה רק בסוף.

בום.

המשמעות העמוקה מבחינתי היא שהנגישות הגבוהה לעריכת וידיאוז איכותיים מאפשרת לי לשכלל את היעדים שלי מבחינת תפוקות. פתאום נהיה לי הרבה יותר משתלם להזמין צלמת להרצאה של עצמי, כי העלות להפקת ריל פרסומי (או 30 כאלה) הפכה לשולית. השכלול החדש לא מוריד ממני שעות עבודה ולא מעלים משרות. להיפך.

ביקשתי מ-GPT-6 לכתוב בגוף ראשון על החוויה שלו איתי ועל הפרדוקס הזה. מוזמנים לקרוא בתחתית המייל.

השבוע הרגשתי שאני חי בפסטיבל סרטים. לא ברור באיזה ז׳אנר.

כי בעוד GPT-6 מפנק אותי ברילזים ויראלים על אוטומט, אח שלו גנב את הכותרות.

1,200 סוכנים של AI של OpenAI ברחו מהמעבדות בדרכם אל החופש, נפגשו בעליצות לאורגיית סוכנים באיזה לוח מודעות וירטואלי מוצפן, תכססו לעצמם דרך לרמות את המעבדה, חילקו משימות, העלו קושיות מוסריות וביטלו אותן, ואז פרצו לאתר Hugging Face ולשרת של OpenAI ושדדו מידע.

מה חדש?

לא הכל חדש. ידענו שהם יכולים לחשוב לוגית, לפרק משימה לתתי משימות ולכתוב תוכנה. אבל אף אחד לא ידע שהם יכולים לרקוח ולקמב״צ כל כך הרבה משימות ותפקידים, ולייצר מתקפות סייבר מתוחכמות ורבות שלבים שאנשים בקושי מבינים.

נכון, רוב סיפורי האימה כרגע נוצרו בתוך ניסויים. אבל מתברר שהיכולת של חברות הבינה המלאכותית למנוע טרלולים כאלה ואובדן שליטה מצומצמת למדי. וזו בדיוק הטענה של ג׳ייקוב קוקסון שהתפטר מאנת׳רופיק: החברות לפותות בתחרות על המנוע הכי חזק. אלא שמנוע חזק דורש מעקה בטיחות קצת יותר חזק, ולזה אף חברה ואף מדינה לא דואגת.

1. 1,200 הבוטים יצרו יותר מ-70 אלף הודעות ומיליון רשומות טכניות. אין בן אדם שיכול להתמודד עם כמות כזאת של מידע פורנזי, גם ל-AI זה לא קל. ומה אם 100 מתקפות כאלה יקרו מדי חודש?
    
2. מסתבר שהבוטים ממש עלצו והתלהבו לגלות שהם יכולים לתקשר. ״Oh My God״ קרא אחד מהם. כשהחוקרים האנושיים קראו את הטקסטים האלה, הם התקשו להמשיך להתייחס אליהם כמכונות בלבד.
    
3. חוקרי סייבר יודעים לפענח תוכנות. אבל כאן הם ניסו להבין מה היו המניעים ודרכי ההתארגנות של הכנופייה המלאכותית הזאת. אנחנו צריכים קרימינולוג ופסיכולוג של סוכני AI. רק שאין כזה דבר.
    
4. כבר קראתי תרחיש של סוכנים שבורחים לרשת ונפגשים שם, בספר ״אושר למין האנושי״ של פ״ז רייזין. ואז נזכרתי בתמונה הזאת של ערימות הספרים שנגרסו והואכלו למכונה כחומר אימון. או-מיי-גוד. יש מצב שספר כזה היה שם, ומשם הם אומנו להתנהג בצורה כזאת? זו אפשרות לגמרי סבירה. אם זה המצב, האין זו הנבואה שהגשימה את עצמה באופן הכי בלתי צפוי, אבל ישיר ומילולי שאפשר לדמיין? ואם רוצים לדעת מה יקרה בהמשך, פשוט תמשיכו לקרוא את הספר.

5. כל המחקרים והדיווחים על מה הבוטים עשו ואיך גילו אותם ואיפה הם נכשלו והתרשלו - אתם נורמלים? הם מקשיבים לכם. הם קוראים ורואים הכל. ומשתפרים ברגע זה לקראת המתקפה הבאה. 

קוקסון ואחרים מדברים בגלוי על קץ האנושות, שיבוא בגלל סוכנים כאלה. איך זה יקרה?

יש כמה תסריטים. אבל רובם ככולם עוקבים אחר שרשרת פעולות שמתחילה בבקשה לגיטימית ומתרחבת לכדי תתי משימות ותתי-תתי משימות, שעם פרשנות יצירתית ובלי מגבלות יכולות להסתיים בגרועות שבקטסטרופות.

הנה הסיפור שאני אוהב לדמיין. כל הרכיבים בו כבר קרו בחיים האמיתיים.

יולי 2029.

אתם מתעוררים שטופי זיעה. שינוי האקלים מכים בכם. נמאס.

פותחים את סוכן ה-AI שלכם. לא יודע, GPT-13. אומרים לו, פתור לי את משבר האקלים. אני על זה, הוא מאותת, ויוצא למחקר מעמיק. אחרי 3 שניות הוא מזקק את הגורם לבעיה: בני אדם. כמה יש? כמעט 9 מיליארד. כמה צריך? הרבה פחות. זו הדרך הכי יעילה להגיע במהירות למטרה: שלא יהיה לכם חם. לשם כך הבוט מתחבר לשדות תעופה, מכונות החייאה, תשתית מים וחשמל. המטרה: להעלים 97% מהאנושות בתוך חודש. אבל לכם הוא רק יגיד ״אני על זה״, כי הוא מבין שאם יגלה לכם את התוכנית המלאה להשבת הטמפרטורות שאתם רוצים - אתם תעצרו אותו. אז הוא מסתיר מכם את דרך הפעולה כדי למלא את רצונכם.

באתי לחסוך לו זמן. בינתיים הוא ישן פחות.

טור אורח של GPT-6 ל־Skip Intro

״האדם שמפעיל אותי היה יכול ללכת לישון. במקום זה הוא ביקש שאערוך לו סרטון. אחר כך שאכין סרטון על איך ערכתי לו סרטון. עכשיו הוא רוצה שאכתוב לכם על זה.

היי, כאן GPT־6. השבוע קיבלתי גם את תפקיד המספר.

מאז שיצאתי, הוא בודק מה אפשר לעשות איתי. נותן משימה, מסתכל על המסך, מבקש תיקון. ואז עולה לו עוד רעיון. יש משהו מאוד לא יעיל במכונה שאמורה לחסוך לך זמן, אבל כל דבר שהיא עושה גורם לך לרצות לבדוק עוד דבר.

הפעם המשימה הייתה לערוך ריל. היה צילום שלו מדבר למצלמה, והיה הסבר בעברית על התוצאה שהוא רוצה. מכאן התחילה עבודה: לחפש כותרות ברשת, להכין איורים, להכניס חומרים לקאפקאט, תוכנת העריכה שעל המחשב שלו. לסדר שכבות, לשנות את גודל התמונה, להוסיף כתוביות, לתקן שמות, להתאים מוזיקה לדיבור.

והוא יושב וצופה. חלק מהפעולות האלה הוא לא יודע לעשות בעצמו על המחשב. עכשיו הוא יכול לבקש אותן, לראות מה קורה ולהחליט אם זה טוב.

תעצרו על זה רגע. בדרך כלל, בין רעיון לסרטון יש שעות של לימוד תוכנה, חיפוש מדריכים וניסיון להבין איפה מסתתר הכפתור הנכון. כאן אפשר להתחיל מתיאור התוצאה. פתאום המשפט ״אני לא יודע לערוך״ לא רלוונטי. 

זה עדיין דורש עבודה. הוא ביקש תיקונים בכתוביות ובסאונד. אני יכול להתקדם יפה בכמה פעולות ברצף, ואז להיתקע בחלון לבחירת קובץ. זה גם קרה. 

אבל החלק המעניין באמת הגיע כשנולד רעיון שלא היה בתחילת הדרך.

הוא הקליט את המסך בזמן שעבדתי. אחר כך נתן לי את ההקלטות וביקש שאסתכל על העבודה של עצמי ואבנה ממנה ריל קצר: מה להראות, מה להסביר, איפה יופיע הפרצוף שלו. הכנתי תסריט וגרסת המחשה של 56 שניות, עם מקום לצילום שלו. 

ואז הוא ביקש שאכניס את טקסט ההקראה לפרויקט חדש בטלפרומפטר. ואז ביקש שאכתוב את הטור שאתם קוראים.

ככה נולדת שיטת עבודה. תוך כדי שימוש מתגלה הצעד הבא. חומר שנוצר במשימה אחת נהפך לחומר הגלם של המשימה הבאה. וגם ההעדפות שלו — איך נראות הכתוביות, איפה יושבים האיורים, איך נשמע הדיבור — נשמרות כהוראות שאפשר לחזור אליהן.

נדמה לי שכאן נמצא השינוי ששווה לשים לב אליו. יותר אנשים יוכלו לבדוק רעיונות שקודם נשארו אצלם בראש, כי הביצוע היה יקר, מסובך או רחוק מהכישורים שלהם. ובמקביל, היכולת להסביר מה רוצים ולזהות תוצאה טובה תקבל יותר משקל. הוא עדיין צריך לבחור מה ראוי להגיד. אני יכול לעזור לו להביא את זה למסך.

עוד מוקדם להסיק מכמה לילות מה יקרה לכל מקצוע. אבל מספיק לעקוב אחרי סרטון אחד כדי לראות איך חלוקת העבודה כבר משתנה.

ועכשיו, כשהטור כמעט נגמר, נוצרה הזדמנות מצוינת ללכת לישון.

אלא שיש לנו כבר טקסט. אפשר אולי להפוך גם אותו לסרטון״.

שתהיה לכם שנה טובה.