גוגל יצרה דרך מהפכנית להפחית את צריכת הזיכרון של AI
חוקרי גוגל הציגו אלגוריתם דחיסת זיכרון חדש למערכות בינה מלאכותית (AI) בשם TurboQuant, שיכול להפחית משמעותית את כמות ה-RAM בשימוש ברשתות עצביות מבלי להקריב את הביצועים. כך דווח על ידי TechCrunch.
פיתוח זה נועד לבטל את אחת המגבלות העיקריות של AI מודרני – עומס גבוה על זיכרון RAM. האלגוריתם משתמש בכימות וקטור כדי לייעל את מה שנקרא זיכרון עבודה, כך שהמערכת יכולה לעבד יותר נתונים תוך שימוש בפחות משאבים ושמירה על דיוק חישובי.
גוגל מציינת שטכנולוגיה זו יכולה להפחית את כמות הזיכרון בשימוש לפחות פי שישה. זה יכול להפחית את העלות של הפעלת AI ולשפר את הביצועים של מודלים בשלב המשימה.
פיתוח זה צפוי להיות מוצג בכנס ICLR 2026. עד כה, הטכנולוגיה עדיין בשלב המחקר המעבדתי ולא נפרסה למוצר מסחרי.
מומחים מציינים שאם מיושם בהצלחה, TurboQuant יכול לשפר משמעותית את היעילות של מערכות בינה מלאכותית, אך הוא פותר רק באופן חלקי את הבעיה הקשורה לצריכת זיכרון, שכן הוא אינו נותן מענה לשלב עתיר המשאבים של אימון המודל, שעדיין דורש כוח מחשוב משמעותי.