היום, 18 למרץ התקיים כנס GTC 2024 של NVIDIA בו הכריז Jensen Huang, מנכ"ל חברת NVIDIA על פתרונות חומרה ותוכנה חדשים בתחום הבינה המלאכותית שחלקם הם פרי פיתוח של סניף החברה הישראלית.
בכדי להגדיל את המתח של הנוכחים באולם ולפני הכרזה של חידושי החברה, Jensen Huang סיפר על תולדות החברה ואמר כי NVIDIA היא חברת טכנולוגיה אמריקאית שהוקמה בשנת 1993 בסנטה קלרה, קליפורניה. החברה התמקדה בתחילה בפיתוח שבבים גרפיים למחשבים אישיים וציוד עזר למשחקי מחשב.
בשנות ה-2000, החברה החלה להרחיב את פעילותה לתחום חישוב הגרפיקה המקבילית והבינה המלאכותית. היא פיתחה מעבדי גרפיקה ייעודיים ידועים כ-GPU שהפכו לליבה המרכזית של מערכות חישוב מקביליות מודרניות.
בשנים האחרונות, NVIDIA השקיעה משאבים רבים בפיתוח טכנולוגיות בינה מלאכותית ולמידת מכונה. מעבדי ה-GPU החזקים של החברה הפכו לבסיס לחישובי AI מורכבים בתחומים כגון ראיית מחשב, עיבוד שפה טבעית וסימולציות מבוססות פיזיקה.
במרכז ההכרזות הוא חשף את ארכיטקטורת Blackwell החדשנית – מהפכת המחשוב הבאה! בשילוב טכנולוגיות תקשורת שפותחו בישראל, כמו Quantum-X800 ו-Spectrum-X800, היא תוביל את עידן הבינה המלאכותית הבא.
ארכיטקטורת Blackwell – המנוע שיניע את עידן המחשוב הבא והבינה המלאכותית היוצרת. Blackwell GPUs, בשילוב טכנולוגיות חדשניות כמו NVLink מדור 5 שפותחה בישראל, מאפשרים פיתוח מודלי בינה מלאכותית עם טריליוני פרמטרים תוך צמצום עלויות תפעול ב-25 לעומת הדור הקודם.
NVIDIA Blackwell Architecture
ליבות Tensor החדשות עם TensorRT-LLM מפחיתות את עלויות ה-Inference של מודלי שפה גדולים ב-25.
סביבת התוכנה של NVIDIA מחלקת דרישות מחשוב בין ה-GPUs, המתגים החדשים ושבבי BlueField-3 כדי להאיץ בינה מלאכותית, עיבוד נתונים, מחשוב על ויכולות ענן.
השבב החזק בעולם, NVIDIA GB200 Grace Blackwell, משלב 2 GPUs Blackwell ו-CPU Grace בחיבור שבב-לשבב והוא הבסיס למערכת NVL72 ול-DGX SuperPOD החדש המסוגל להגיע לסקייל של עשרות אלפי שבבים אלו.
DGX SuperPOD with DGX GB200 תמונה של
תמונה של NVIDIA GB200 NVL72
תמונה של NVIDIA GB200 Grace Blackwell Superchip
ענקי טכנולוגיה (*) כמו Amazon, Google, Meta, Microsoft ו- OpenAI יאמצו את הטכנולוגיה החדשנית לבינה מלאכותית שתאפשר מודלים עצומים.
השבבים החדשים יהיו זמינים השנה דרך ספקי ענן, שותפי NVIDIA והדגמים DGX GB200 ו-DGX SuperPOD. בקיצור, Blackwell היא המהפכה הבאה – מחשוב על שמאפשר לכולנו להנות מבינה מלאכותית אמיתית בכל תחום.
אבל זו רק ההתחלה. NVIDIA חשפה שורת טכנולוגיות תקשורת מהירות במיוחד בשם מתגי Quantum-X800 ו-Spectrum–X800 שפותחו כאן בישראל, וישמשו כצינורות מהירים להעביר את כל המידע הזה בין המערכות השונות. המתגים והכבלים הללו יאפשרו קישוריות בלתי רגילה שתמריץ חישובים מבוזרים וסינכרון נתונים על-פני מרכזי נתונים שלמים.
תמונת מתגי Spectrum-X800 Ethernet
מעבר לחומרה החזקה, NVIDIA גם חשפה יוזמה מעניינת בשם NVIDIA NIM, שתכלול מיקרו-שירותים לבניית ושילוב אפליקציות בינה מלאכותית יוצרת. זו צעד משמעותי שיפתח את הדלת למאות אלפי מפתחים להטמיע כלים כאלה ביישומים שלהם, תוך שמירה על בעלות על התוכן המקורי.
גם בתחום הבריאות הציגה NVIDIA כמה שירותי AI שיסייעו למשל בגילוי תרופות חדשות.
הדבר המרגש ביותר מבחינתי היה החשיפה של פרויקט GROOT, שמטרתו לפתח רובוטים דמויי אדם באמצעות שילוב של יכולות חומרה וגם כלי בינה מלאכותית גנרטיבית. מחשב הרובוטיקה Jetson Thor משולב ב-GPU חזק, ויחד עם הפלטפורמה Isaac המשודרגת, זה נראה מבטיח מאוד לקידום משמעותי בתחום הרובוטים ההומנואידים.
תמונה של Project GR00T Humanoid
כמו כן, גם עולם הרכב לא נשאר מאחור – NVIDIA הכריזה על שילוב של טכנולוגיות AI יוצרות בפלטפורמת DRIVE שלה, על מנת להאיץ את ההתקדמות לקראת רכבים אוטונומיים חכמים יותר.
בנוסף, היא חשפה את Omniverse NVIDIA שהינה תוכנית לסימולציות ברזולוציה גבוהה של כדור הארץ באמצעות בינה מלאכותית, שיכולות לספק התראות על שינויי אקלים בזמן אמת. כל העולם נאבק בסוגיות אלו, וזה יכול להיות כלי חשוב מאוד.
תמונה של Drive
לסיכום, NVIDIA לא אכזבה בכנס השנתי שלה והציגה חידושים מרתקים שיטלטלו את עולם הבינה המלאכותית, הרובוטיקה והמחשוב בשנים הקרובות. היא צועדת בגדול לקראת שליטת עתיד הבינה המלאכותית, רובוטיקה ורכבים אוטונומיים. מחכים בקוצר רוח ליישומים המעשיים של כל החידושים האלה!
את נעילת הטקס Jensen Huang עשה ביחד עם רובוטים מסדרת מלחמת הכוכבים המופעלים בטכנולוגיות החדשות שהוצגו בכנס ונסגר סופית עם הקרנת סרט בו חללית של מלחמת הכוכבים הטסה בין הרכיבים החדשים, יצור המערכות החדשות, התחנות העבודה ולתוך אולם מחשבי-על שכל החומרה והתוכנה תוצרת נבידיה לבסוף רואים מי מנווט את החללית.
(*) ציטוט דברי מנכלי חברות הטכנולוגיה הגדולות, מאמצי את ארכיטקטורת Blackwell החדשנית לבינה מלאכותית שתאפשר מודלים עצומים. (LLM's)
מארק צוקרברג, מייסד ומנכ"ל Meta: "AI כבר מפעיל הכל, החל ממודלי השפה הגדולים שלנו ועד להמלצות התוכן, המודעות ומערכות הבטיחות שלנו, והוא רק יהפוך להיות חשוב יותר בעתיד. אנחנו מצפים להשתמש ב-Blackwell של אנבידיה כדי לעזור לאמן את מודלי הקוד הפתוח שלנו מסדרת Llama, ולבנות את הדור הבא של מוצרי Meta AI ומוצרים צרכניים".
סאטיה נאדלה, יו"ר ומנכ"ל מיקרוסופט: "אנו מחויבים להציע ללקוחותינו את התשתית המתקדמת ביותר להפעלת משימות הבינה המלאכותית שלהם. על ידי הטמעת מעבד GB200 Grace Blackwell במרכזי הנתונים שלנו ברחבי העולם, אנחנו מסתמכים על הניסיון הארוך שלנו באופטימיזציה של GPUs של אנבידיה עבור הענן שלנו, בזמן שאנו הופכים את ההבטחה של בינה מלאכותית לממשית עבור ארגונים בכל מקום".
סונדר פיצ'אי, מנכ"ל Alphabet ו- Google: "התרחבות שירותים כמו חיפוש ו-Gmail למיליארדי משתמשים לימדה אותנו הרבה על ניהול תשתית מחשוב. כאשר אנו נכנסים לעידן פלטפורמות הבינה המלאכותית, אנו ממשיכים להשקיע רבות בתשתית עבור המוצרים והשירותים שלנו, ועבור לקוחות הענן שלנו. אנו ברי מזל על השותפות ארוכת השנים עם אנבידיה, ומצפים להביא את היכולות פורצות הדרך של שבבי Blackwell ללקוחות ולצוותים שלנו בענן ברחבי גוגל, כולל Google DeepMind, כדי להאיץ גילויים עתידיים".
סם אלטמן, מנכ"ל OpenAI: "בלאקוול מציע זינוקים מאסיביים בביצועים, והוא יאיץ את היכולת שלנו לספק מודלים מובילים. אנו נרגשים להמשיך לעבוד עם אנבידיה כדי לשפר את מחשוב הבינה המלאכותית".
אילון מאסק, מנכ"ל טסלה ו-xAI: "אין כרגע דבר טוב יותר מהחומרה של אנבידיה עבור בינה מלאכותית."
אנדי ג'אסי, נשיא ומנכ"ל אמזון: "שיתוף הפעולה העמוק שלנו עם NVIDIA החל לפני יותר מ-13 שנה, כאשר השקנו את משאב הענן מבוסס GPU הראשון בעולם על גבי AWS. כיום אנו מציעים את המגוון הרחב ביותר של פתרונות GPU הזמינים בכל מקום בענן, שתומכים בעומסי העבודה המואצים המתקדמים ביותר בעולם. זו הסיבה שה-NVIDIA Blackwell GPU החדש יפעל כל כך טוב על גבי AWS, והסיבה שאנבידיה בחרה ב-AWS לפיתוח משותף של פרויקט Ceiba, תוך שילוב הדור הבא של שבבי העלGrace Blackwell של אנבידיה עם פלטפורמת הווירטואליזציה המתקדמת AWS Nitro ומערכות הרשת האולטרה-מהירות שלנו, למחקר ופיתוח בינה מלאכותית של אנבידיה עצמה. באמצעות המאמץ המשותף הזה בין מהנדסי AWS ואנבידיה, אנו ממשיכים לחדש יחד כדי להפוך את AWS למקום הטוב ביותר עבור כל אחד המעוניין להפעיל מעבדים גרפיים של אנבידיה בענן".
מייקל דל, מייסד ומנכ"ל Dell טכנולוגיות: "בינה מלאכותית יוצרת חיונית ליצירת מערכות חכמות, אמינות ויעילות יותר. דל ואנבידיה עובדות יחד על מנת לעצב את העתיד של הטכנולוגיה. עם השקת Blackwell, נמשיך להפיץ את הדור הבא של מוצרים ושירותים מואצים עבור לקוחותינו, כשאנו מספקים להם את הכלים שהם צריכים להניע חדשנות בתעשיות שונות".
דמיס הסביס, מייסד-שותף ומנכ"ל Google DeepMind: "הפוטנציאל הטרנספורמטיבי של בינה מלאכותית הוא מדהים, והוא יעזור לנו לפתור כמה מהבעיות המדעיות החשובות בעולם. היכולות הטכנולוגיות פורצות הדרך של Blackwell יספקו את יכולות המחשוב הקריטיות הדרושות כדי לעזור למוחות המבריקים בעולם לחתור לעבר תגליות מדעיות חדשות".
לארי אליסון, יו"ר וסמנכ"ל טכנולוגיה Oracle: "שיתוף הפעולה ההדוק של אורקל עם אנבידיה יאפשר פריצות דרך איכותיות וכמותיות בבינה המלאכותית, למידת מכונה וניתוח נתונים. על מנת שלקוחות יוכלו לחשוף יותר תובנות ברות יישום, יש צורך במנוע חזק עוד יותר כמו Blackwell, אשר נבנה באופן ייעודי עבור מחשוב מואץ ובינה מלאכותית יוצרת".
