האם אור יכול לפתור את צוואר בקבוק האנרגיה של בינה מלאכותית?

ההשקעה בתשתית בינה מלאכותית (AI) עברה את הגג מאז הגעתם של מודלים של שפות בינה מלאכותית כמו ChatGPT בשנת 2022. עם היפר-scalers שמובילים את ההשקעה בתשתית AI לשיאים ב-2025, International Data Corp. מגלגלת את ההשקעות העולמיות בסכום מדהים של 318 מיליארד דולר, ונראה שהיא עומדת להמשיך לעלות שנה אחר שנה.

על רקע הזרקות הון מרקיעות שחקים, התעשייה מתקרבת ל"קיר קנה מידה" פיזי. התשתית המסורתית מתחילה לחרוק תחת העומס של אילוצי קיבולת מרכזי הנתונים ודרישות האנרגיה הגואה.

דרישות האנרגיה הגוברות להפעלת בינה מלאכותית אינן בנות קיימא, והחששות גוברים גם לגבי הנזק הסביבתי שאספקת אנרגיה כזו עלולה לגרום.

אנו נמצאים כעת בנקודת פיתול. שיטות העברת נתונים חשמליות מסורתיות מגיעות לגבולותיהן, כאשר NVIDIA הראתה את ידה על ידי השקעה לאחרונה של 4 מיליארד דולר בשתי חברות פוטוניקה, Coherent Corp. ו- Lumentum. NVIDIA מהמרת על עתיד שבו נתונים מועברים באמצעות אור (פוטונים) ולא חשמל.

צריכת אנרגיה של AI

המכון לחקר חשמלמעריך שמרכזי נתונים יכולים לצרוך עד 9% מייצור החשמל בארה"ב מדי שנה עד 2030, עלייה מ-4% בשנת 2023. ככל שדגמי בינה מלאכותית מתמודדים עם-ביקוש צרכני הולך וגובר ודורשים יותר מחשוב, אנחנו הולכים לראות את הביקוש לאנרגיה גלובלית עולה. זה מציב בעיה חריפה לעלויות קנה המידה של שירותי AI, לאור התנודתיות האחרונה במחירי האנרגיה. אנחנו כבר רואים את הבעיה הזו מתממשת, כאשר OpenAI מצטט את חשבונות האנרגיה העולים כסיבה להחזיר את תוכניות ההתרחבות שלה בבריטניה.

המעבדים מתקרבים לגבולות פיזיים. טרנזיסטורים, המתגים האלקטרוניים המהווים את הבסיס למעגלים אלקטרוניים, הם כעת רק ברוחב של כמה אטומים-בגודל שבו השפעות קוונטיות וחום הופכים למגבלות משמעותיות.

אור בקצה המנהרה

מעבר לאתגר של כמויות האנרגיה המשמשות לעיבוד והעברת נתונים, המרחק הפיזי בין רכיבי העיבוד והזיכרון, הן בשבב והן ברמת המערכת, מגביל כעת את המהירות שבה ניתן להפעיל ולאמן מודלים של AI. בניית מרכזי נתונים על בסיס פוטוני הוא השלב ההגיוני הבא.

בקרוב, חישוב בתוך נתיב הנתונים האופטי יתאפשר והוא מציע את ההזדמנות להפחית את זמן ההשהיה ולהרחיב את התשתית ללא עלייה פרופורציונלית בצריכת החשמל.

ניתן לשלב פוטוניקה ישירות על שבבי סיליקון כדי לאפשר מדרגיות ושיפורי יעילות ביחס לחשמל. עיקר הרווח של הפוטוניקה הוא פשוט: האור נע מהר יותר ונושא יותר מידע, תוך הפקת פחות חום מאשר אלקטרונים. זה מביא לצפיפות מחשוב גבוהה יותר באופן דרמטי, צריכת חשמל נמוכה יותר וביצועים תרמיים מעולים כדי להתגבר על הגבולות המוטלים על ידי עליית הסיליקון הכהה על שבבים קונבנציונליים.

היתרונות של שיפור היעילות ברמת השבב ניכרים באיזו מהירות חיסכון באנרגיה מורכב. וואט אחד של אנרגיה שנחסך על ידי הפעלת שבב גם מפחית את האנרגיה המבוזבזת על צריכת חשמל וקירור. פוטוניקה פותחת עתיד של פיתוח תשתית AI, שבמרכזה בסיס מהיר יותר, נקי יותר וניתן להרחבה ביסודו.

הטמעת מרכז הנתונים של פוטוניקה

צוואר הבקבוק הבסיסי ב-AI-בקנה מידה גדול הוא כבר לא מחשוב גולמי אלא עלות האנרגיה המדהימה של העברת נתונים במהירות ובנפח שדורשים עומסי העבודה של בינה מלאכותית מודרנית. ההתפתחות המהירה של דגמי חזית פירושה שהמערכות נמצאות במתח מתמיד מתאום אלפי שבבים בו זמנית. תשתית מרכזי נתונים מסורתיים פשוט לא יכולה לעמוד בקצב הביקוש להחלפת נתונים מתמדת ואינטנסיבית במיוחד.

פוטוניקה מציגה הזדמנות לטפל בבעיה זו ברמה אסטרטגית, במקום רק להפחית את הדרישות התרמיות המתפתחות של ארכיטקטורה חשמלית מתוחה יותר ויותר. הערכות מוקדמות בתעשייה מצביעות על כך ששימוש באור להעברת נתונים מספק בערך פי 5 את יעילות ההספק ופי 10 מגמישות הרשת של אלקטרוניקה קונבנציונלית.

היתרונות של פוטוניקת סיליקון חורגים מעבר לרווחי יעילות וקיימות מיידיים. על ידי ביטול צווארי בקבוק משמעותיים בהעברת נתונים-, הפוטוניקה גם פותחת סוגי מחשוב שנחשבו בעבר בלתי מעשיים עקב עלויות אנרגיה, כגון הצפנה הומומורפית מלאה (עיבוד נתונים מוצפנים מבלי לפענח אותם).

באמצעות ביטול המגבלות של ארכיטקטורות מחשוב מסורתיות, לפוטוניקה יש השלכות- מרחיקות לכת על מגזרים שבהם הביצועים ופרטיות הנתונים הנדרשים על ידי תעשיות הביטחון, הפיננסים והבריאות אינם ניתנים- למשא ומתן.

עד כה, התגובה של תעשיית הבינה המלאכותית לצרכי האנרגיה המתגברים שלה הייתה איטית ואינה מצליחה לטפל בפגמים המבניים של ארכיטקטורות סיליקון מסורתיות. ההשקעות האחרונות של מיליארדי-הדולרים של NVIDIA משמשות אות ברור לכך שה-Hyperscalers מזהים כעת שזוהי בעיית תשתית ביסודה.

כעת עלינו לשאול את עצמנו האם אנו עושים יותר מאותו הדבר-ממשיכים לחרוש עין-להשקות כמויות לתוך בניית מרכז נתונים ותשתית קירור, או משקיעים בפתרונות חדשניים כגון פוטוניקה, שיכולים לפתור מגבלות עיקריות במקור.

פוטוניקה מייצגת אופק חדש של הזדמנויות. במקום להחליף מערכות קיימות, הפוטוניקה מגדילה את ארכיטקטורות המחשוב המודרניות על ידי פתיחת קיבולת מחשוב חדשה בתוך הרשת עצמה. פוטוניקס מניעה את תעשיית השבבים לעבר השינוי הארכיטקטוני הגדול ביותר שלה מאז הופעת ארכיטקטורת פון נוימן, והיא מציגה הזדמנות לפתוח מחשוב בלתי מוגבל.