התחזית האחרונה של מאסק: בינה מלאכותית עשויה לעלות על האינטליגנציה האנושית בשנת 2030 ועשויה "להפסיק" בני אדם בעתיד (1/2)

מקור: Tencent Technology News 2024-04-04 08:55

נקודות מפתח:

① מאסק חוזה שבינה מלאכותית עשויה לעלות על רמת האינטליגנציה האנושית עד 2030, ואף עשויה להפסיק בני אדם.

② מאסק דיבר על הגורמים המגבילים את התפתחות הבינה המלאכותית. בשנה שעברה, היצע שבבי בינה מלאכותית היה צמוד, והשנה יהפוך השנאי המופחת לצוואר בקבוק.

③ לגבי מתי בני אדם יכולים לנחות על הירח, מאסק חוזה שבעזרת ספינת הכוכבים, זה ייקח רק שלוש שנים לכל היותר.

Tencent Technology News, 4 באפריל - על פי דיווחים בתקשורת זרה, אילון מאסק, מנכ"ל טסלה ו-SpaceX, ניהל לאחרונה שיחה מקוונת עם פיטר דיאמנדיס, מייסד אוניברסיטת Singularity וקרן XPRIZE, בפסגת השפע. הפסגה התארחה על ידי אוניברסיטת Singularity של עמק הסיליקון, אשר מוקדשת לספק למנהיגים עסקיים ייעוץ טכנולוגי חדשני. קרן XPRIZE מקדמת חדשנות טכנולוגית באמצעות תחרויות מדעיות, שחלקן מומנו על ידי מאסק., 4 באפריל - על פי דיווחים בתקשורת זרה, אילון מאסק, מנכ"ל טסלה וחברת SpaceX, ניהל לאחרונה שיחה מקוונת עם פיטר דיאמנדיס, מייסד Singularity האוניברסיטה וקרן XPRIZE, בפסגת השפע. הפסגה התארחה על ידי אוניברסיטת Singularity של עמק הסיליקון, אשר מוקדשת לספק למנהיגים עסקיים ייעוץ טכנולוגי חדשני. קרן XPRIZE מקדמת חדשנות טכנולוגית באמצעות תחרויות מדעיות, שחלקן מומנו על ידי מאסק.

כאשר דן במהירות הפיתוח של בינה מלאכותית, מאסק חזה כי בהתבסס על קצב ההתקדמות הטכנולוגית הנוכחית, הבינה המלאכותית עשויה לעלות על הבינה האנושית עד 2030, ולטכנולוגיה הזו אולי אפילו יש פוטנציאל לשים קץ לאנושות. עם זאת, הוא לא ראה נקודת מבט פסימית על העתיד, אלא הדגיש כי באמצעות הדרכה חיובית, לבינה מלאכותית יש פוטנציאל להביא עתיד טוב יותר לאנושות.

מאסק הזכיר כי הופעתה של אינטליגנציה-על נקראת "הסינגולריות" בדיוק בגלל ההשלכות הבלתי צפויות שלה, כולל הסיכון של קץ פוטנציאלי לאנושות. הוא הסכים עם נקודת המבט של "סנדק הבינה המלאכותית" ג'פרי הינטון והאמין שהסבירות להתרחשות סיכון זה היא בערך בין 10% ל-20%.

למרות ההכרה בסיכונים הפוטנציאליים של בינה מלאכותית עולה על האינטליגנציה האנושית, מאסק עדיין הדגיש שהאפשרות של תוצאות חיוביות גוברת על ההשלכות השליליות. הוא הזכיר במיוחד את ספרו של דיאמנדיס מ-2014 "Abundance: The Future Is Better Than You Think", שמתאר עתיד אופטימי המונע על ידי בינה מלאכותית ורובוטים, שבו עלות הסחורות והשירותים ירדה משמעותית. בנוסף, הוא ציטט את סדרת "תרבות" מאת סופר המדע הבדיוני הסקוטי איאן מ' בנקס כתרחיש הטוב ביותר לעתיד חצי אוטופי של בינה מלאכותית.

מאסק השווה את התפתחות הבינה המלאכותית והבינה הכללית המלאכותית (AGI) לגידול ילד, בתקווה שתהיה לכך השפעות חיוביות יותר על האנושות. הוא הדגיש את החשיבות של טיפוח בינה מלאכותית שמבינה באמת אתיקה ומוסר, בהשוואה לסרטו הקלאסי של סטנלי קובריק משנת 1968 "2001: אודיסיאה בחלל".

מאסק ציין כי ההיבט החשוב ביותר של בטיחות הבינה המלאכותית הוא הבטחת חיפוש האמת והסקרנות המקסימלית שלה. הוא מאמין שהמפתח להשגת בטיחות אולטימטיבית בבינה מלאכותית טמון בהימנעות מלכפות עליה לשקר, אפילו מול אמיתות לא נעימות. הוא השתמש כדוגמה בעלילה מ"2001: אודיסיאה בחלל", שבה בינה מלאכותית נאלצה לשקר, וכתוצאה מכך למוות של הצוות, כדי להדגיש שאין לכפות על בינה מלאכותית לעשות שום דבר שמפר את האקסיומות.

מאסק הזכיר גם גורמים שעשויים להגביל את התפתחות הבינה המלאכותית, כמו היצע הדוק של שבבי בינה מלאכותית שהופיע בשנה שעברה והביקוש הגובר לשנאים מופחתים בציוד ביתי ומסחרי. הוא קבע כי אתגרים אלו הם אכן נושאים עכשוויים שיש לטפל בהם.

במהלך הדיון דיברו שני הצדדים גם על הרעיון של שילוב הניאוקורטקס של המוח האנושי עם הענן. למרות שמאסק מאמין שהמטרה של העלאת תודעה וזיכרון אנושיים לענן עדיין רחוקה, הוא שיבח את הסטארט-אפ של ממשק המוח-מחשב שלו, Neuralink, ואת המטופל האנושי הראשון שלו שקיבל השתלה. המטופל הטטרפלגי הזה הוכיח בהצלחה בשידור חי באמצעות ניסוי שאושר על ידי ה-FDA, שליטה במסך, משחק במשחקי וידאו, הורדת תוכנה והשגת פונקציות דומות לפעולות עכבר באמצעות שתלי מוח. מאסק הצהיר כי Neuralink מתקדם בצורה חלקה ומתקדם בהדרגה לעבר המטרה של ממשק מוח מלא.

להלן הטקסט המלא של הדיאלוג בין מאסק ודיאמנדיס:

1. הכוח והסכנה של מודיעין-על

דיאמנדיס: ברכות על ההישגים הבולטים שלך בתחומים שונים. קידמת באופן פעיל את הרעיון של מודיעין-על דיגיטלי בעולם - האם זו התקווה הגדולה ביותר של האנושות, או הפחד העמוק ביותר שלנו? האם תוכל להקדיש כמה דקות לדבר על הנושא הזה?

מאסק: כידוע, אינטליגנציה על יכולה להיקרא "הסינגולריות". הפופולריזציה של המונח הזה אינה ניתנת להפרדה מהמאמצים של מוסדות כמו מכון הסינגולריות. באמת קשה לחזות את הופעתה של מודיעין-על והשפעתה שלאחר מכן. באופן אישי, אני מאמין שאכן ישנה אפשרות שזה עלול לשים קץ לאנושות. כפי שאמרתי קודם, אולי אני מסכים עם השקפתו של ג'פרי הינטון שיש סיכוי של 10% או 20% שמודיעין-על יכול לשים קץ לאנושות. עם זאת, אני נוטה להאמין שההסתברות לתרחיש חיובי גבוהה משלילי, אם כי קשה לנו לבצע תחזיות מדויקות. אבל כפי שהדגשת את המושג "שפע" בספרך, אני מאמין שהעתיד הסביר ביותר שאליו אנו הולכים הוא עתיד מלא בשפע.

דיאמנדיס: נקודת המבט שלך מרגשת מאוד. אני זוכר שאמרת פעם שפיתוח של בינה מלאכותית כללית ורובוטים דמויי אדם יוביל אותנו לשפע.

מאסק: כן, אני מקווה שהעתיד שלנו יכול להיות כמו זה שמתואר בסדרת הספרים "תרבות" של איאן בנקס. אני חושב שזו התפיסה הטובה ביותר של חברת בינה מלאכותית חצי אוטופית. הופעת מודיעין העל היא בלתי נמנעת ועשויה להגיע בקרוב. לכן, מה שאנחנו באמת צריכים לעשות זה להנחות אותו לכיוון חיובי ולמקסם את היתרונות שלו.

אני מאמין שהדרך בה אנו מטפחים בינה מלאכותית היא קריטית. במידה מסוימת, אנחנו כמו לטפח צורת חיים עם אינטליגנציה כללית, שזה כמעט כמו לגדל ילד, אבל לילד הזה יש חוכמה וכישרון יוצאי דופן. הדרך בה אנו מגדלים ילדים חשובה, ובדומה, לבטיחות הבינה המלאכותית, חיוני שתהיה לנו בינה מלאכותית המחפשת אמת ומלאת סקרנות. הרהרתי לעומק על בטיחות הבינה המלאכותית, והגעתי למסקנה שהדרך הטובה ביותר להשיג את הבטיחות של הבינה המלאכותית היא לטפח אותה בזהירות.

מבחינת מודלים בסיסיים וכיוונון עדין, עלינו להבטיח את היושרה של בינה מלאכותית. אנחנו לא יכולים להכריח אותו לשקר, גם אם האמת עלולה להיות לא נעימה. למעשה, אחת העלילות המרכזיות ב"אודיסיאת החלל 2001" היא שכאשר אינטליגנציה מלאכותית נאלצת לשקר, הדברים הופכים לכאוטיים. על הבינה המלאכותית נאסר להודיע ​​לצוות על האנדרטה המסתורית שיראו, אך נדרשת להוביל אותם לשם. כתוצאה מכך, הבינה המלאכותית מסיקה כי עדיף להרוג את הצוות ולקחת את גופותיהם לאנדרטה. הלקח הוא עמוק: אל לנו להכריח בינה מלאכותית לשקר או לעשות משהו שאינו תואם מבחינה אקסיומטית, כמו לעשות שני דברים בעצם סותרים בו-זמנית.

לכן, אנו משיגים מטרה זו באמצעות פרויקטים כגון xAI ו-Grok. מה שאנחנו רודפים אחרי זה בינה מלאכותית שהיא הכי כנה שאפשר, גם אם הנאום שלה אולי לא עומד בסטנדרטים פוליטיקלי קורקט מסוימים.

2. עתיד הבינה המלאכותית

דיאמנדיס: אתמול השתתפתי באירוע עם ריי קורצווייל (מייסד אוניברסיטת Singularity ונביא הטכנולוגיה), ג'פרי הינטון, אריק שמידט (נשיא גוגל לשעבר) ואורחים נוספים. שמתי לב לציוץ שלך על קורצווייל, והטכנולוגיה שלו לעתיד היא די צופה פני עתיד. קורצווייל חזה שתהיה לנו בינה מלאכותית כללית בעתיד הקרוב, ובינה מלאכותית המקבילה לבינה אנושית תצוץ בשנת 2029. מהירות כזו מזעזעת. מעניין מה אתה חושב על זה?

מאסק: יש לי כבוד גדול לתחזיות של קורצווייל. למעשה, אני חושב שהתחזיות שלו אולי אפילו מעט שמרניות. בהתבוננות בכוח המחשוב הנוכחי ובכישרון המושקעים בתחום הבינה המלאכותית, כמו גם בצמיחה המהירה של כוח המחשוב, אנו יכולים לגלות שמהירות הפיתוח של הבינה המלאכותית עולה בקצב מדהים של פי 10. נראה שכוח המחשוב הייעודי של הבינה המלאכותית גדל פי 10 כל 6 חודשים, מה שאומר כמעט עלייה של לפחות 100 פעמים בשנה. מגמת צמיחה זו תמשיך לעלות בשנים הקרובות.

ראוי לציין שמרכזי נתונים רבים, אפילו רוב מרכזי הנתונים המבצעים כיום מחשוב קונבנציונלי, יהפכו בהדרגה למתקנים התומכים במחשוב בינה מלאכותית. לכן, עבור יצרני חומרה של בינה מלאכותית, חברות כמו NVIDIA ללא ספק פתחו בתקופת זהב של פיתוח. אנחנו חייבים לתת קרדיט מלא להואנג רנקסון והצוות שלו. הם חזו מגמה זו ופיתחו בהצלחה את חומרת הבינה המלאכותית המובילה כיום בשוק.

כאשר כוח המחשוב גדל בקצב מדהים כל כך, התפתחות הבינה המלאכותית היא כמו להזריק סטרואיד רב עוצמה, לזנק לרמה חדשה לגמרי. ככל שמספר המחשבים המקוונים ממשיך לגדול, אנו עדים להתפתחות מואצת חסרת תקדים. למעשה, מעולם לא ראיתי שום טכנולוגיה צומחת מהר כמו בינה מלאכותית. למרות שראיתי הרבה טכנולוגיות מתפתחות במהירות, עליית הבינה המלאכותית עדיין מדהימה אותי. עם זאת, כפי שאמרתי, אני חושב שהתוצאה הסופית צפויה להיות חיובית.

למרות שאנו מתמודדים עם אתגרים רבים, כמו כיצד לשמור על רלוונטיות אנושית בתחום זה וכיצד למצוא מטרות ומשמעויות חדשות, אני חושב שזוהי פשטנות יתר להדגיש יתר על המידה שמחשבים יכולים להיות טובים בכל דבר.

כפי שציינת קודם לכן, אני חושב שהתחזיות של הספר שלך לגבי החברה העתידית מאוד מדויקות. זהו עידן של שפע חומרי, שבו סחורות ושירותים יהיו כה בשפע שהם כמעט בהישג יד לכולם. בשל היישום הנרחב של טכנולוגיית בינה מלאכותית ורובוטיקה, עלות הסחורות והשירותים תופחת כמעט לאפס. הכלכלה היא בעצם תוצר של גודל האוכלוסייה והפריון הממוצע לאדם. כאשר תהיה לנו טכנולוגיית רובוטיקה מתקדמת, כמו Optimus של טסלה, הפוטנציאל הכלכלי באמת יתפנה.

המכוניות של טסלה, כרובוטים על ארבעה גלגלים, כבר הפגינו יכולות חזקות. הגרסה האחרונה עם יכולות נהיגה אוטונומית מלאה צפויה להשיג שליטה מקצה לקצה המבוססת על בינה מלאכותית, מה שהופך את המכונית לרובוט אינטליגנטי באמת על גלגלים. יחד עם פיתוח רובוטים דמויי אדם, האפשרות לתפוקה כלכלית היא כמעט בלתי מוגבלת.

מנקודת מבט אופטימית, אנו מתקדמים לעבר עתיד של שפע חומרי קיצוני, שלדעתי היא התוצאה הסבירה ביותר. אני חושב שהמחסור היחיד האפשרי בעתיד יהיה המחסור שאנו יוצרים באופן מלאכותי, כמו יצירות אמנות ייחודיות או פריטים ספציפיים. אבל חוץ מזה, כל סחורה ושירות יהפכו לשפעים ביותר.

דיאמנדיס: אתה אדם שיכול לעצב את העתיד באמצעות פעולות מעשיות ויש לך תובנה חדה לגבי מגמות עתידיות. מול ההתפתחות המהירה של הטכנולוגיה העכשווית, אני מאוד סקרן לדעת כמה רחוק אל העתיד אתה חושב שאתה יכול לתובנה, כלומר, כמה שנים של מגמות פיתוח מעתה ואילך?

מאסק: בעידן של שינויים מהירים, היכולת לחזות את העתיד הופכת חשובה יותר ויותר. למרות שהעתיד מלא בחוסר ודאות, אני מאמין שכמה מגמות נראות בבירור. אנו נפתח את עידן הבינה המלאכותית, ויכולותיה יגיעו או אף יעלו על רמות אנושיות בכל משימה קוגניטיבית. זה רק עניין של זמן. לאנשים עשויים להיות דעות שונות לגבי האם זה יהיה סוף השנה הבאה, שנתיים או שלוש שנים. עם זאת, דבר אחד בטוח, כלומר, זה לא יעלה על חמש שנים. התחזית שלי מבוססת על הסתברות של 50%, שאינה מוחלטת. אבל לפי שיקול דעתי, בינה מלאכותית צפויה לעלות על היכולות של כל אדם בודד בהיבטים מסוימים לפני סוף השנה הבאה.

באשר לשאלה האם זה עולה על החוכמה הקולקטיבית האנושית, זה עלול לקחת יותר זמן. אם קצב השינוי יימשך, אני מעריך שבסביבות 2029 או 2030, סביר להניח שהבינה הדיגיטלית תעלה על סך כל האינטליגנציה האנושית. כשבוחנים את הנושאים האלה, אני נוטה לאמץ את שיטת היחסים הבסיסיים, בדיוק כמו העקרונות הראשונים בפיזיקה. על ידי שילוב של שיטה זו עם ניתוח הסתברות, נוכל לתפוס בצורה מדויקת יותר מגמות התפתחות עתידיות.

אם נשווה את יכולות המחשוב הדיגיטלי עם המחשוב הביולוגי, ונחבר את כל היכולות הקוגניטיביות המתקדמות האנושיות כסוג של כוח מחשוב, ואז נשווה את זה לכוח המחשוב הדיגיטלי, תגלה שקצב הצמיחה של היחס הזה הוא מדהים. לכן, אני מאמין ש-2029 או 2030 הם צומת זמן סביר. באותה תקופה, כוח המחשוב הדיגיטלי המצטבר עשוי לעלות על כוח המחשוב הביולוגי המצטבר של תפקודי מוח מתקדמות. מאז, הפער בין השניים ימשיך להתרחב, ולא תהיה אפשרות להצטמצם.

אולם, כאשר אנו עומדים בנקודת ההתחלה הזו ומצפים לעתיד, כיצד יתפתחו הדברים הלאה? למען האמת, אני לא יכול לחזות את כל הפרטים. אבל אם ניקח בחשבון את גורמי הגדילה ואת הגורמים המגבילים שהם עשויים להתמודד איתם, נמצא כמה רמזים מעניינים.

בשנה שעברה, אילוצי אספקת שבבים היו הגורם המגביל העיקרי לפיתוח בינה מלאכותית. השנה, שנאים יורדים יהפכו לצוואר בקבוק מרכזי. תארו לעצמכם הפחתת מתח של 300 קילו-וולט לפחות מ-1 וולט הנדרש על ידי מחשב. זהו אתגר עצום. לכן, אנו זקוקים ל"רובוטריקים לשנאים" יעילים יותר, שהם שנאים מטה או שנאי רשת עצבית בינה מלאכותית. זו אכן בעיה גדולה השנה.

במבט קדימה לשנים הקרובות, אספקת החשמל עשויה להפוך לגורם מגביל מרכזי. לבינה מלאכותית יש ביקוש עצום לחשמל, וגם המעבר לאנרגיה בת קיימא והפופולריות של כלי רכב חשמליים הגבירו את הביקוש לחשמל. לכן, עלינו לשקול ברצינות כיצד לעמוד בביקוש הגובר לחשמל כדי להבטיח פיתוח ויישום מתמשכים של טכנולוגיות אלו.