MediaTek משתפת פעולה עם Alibaba Cloud עבור שבבים ניידים בדגמים גדולים

מָקוֹר:www.ichunt.com

על פי ה-Sci-Tech Innovation Board Daily, MediaTek, יצרנית שבבי סמארטפונים, פרסה בהצלחה דגמים גדולים עם 1.8 מיליארד ו-4 מיליארד פרמטרים על שבבי הדגל שלה כמו Dimensity 9300, והשיגה התאמה עמוקה של הדגם הגדול על שבבים ניידים ו מה שמאפשר ל-Tongyi Qianwen להריץ סבבים מרובים של דיאלוג בינה מלאכותית גם במצבים לא מקוונים. בעתיד, שני הצדדים יתאימו גם דגמים גדולים נוספים בגדלים שונים, כולל אחד עם 7 מיליארד פרמטרים, המבוססים על שבב Dimensity.

Alibaba Cloud הצהירה כי היא תעבוד בשיתוף פעולה הדוק עם MediaTek כדי לספק פתרונות דגמים גדולים צדדיים ליצרני טלפונים ניידים גלובליים.

נכון לעכשיו, MediaTek היא חברת המוליכים למחצה עם נפח המשלוח הגבוה ביותר של שבבי סמארטפון בעולם. לפי הנתונים האחרונים של Canalys, היא שלחה יותר מ-117 מיליון יחידות ברבעון הרביעי של 2023, במקום הראשון, אחריה אפל עם 78 מיליון משלוחים וקוואלקום עם 69 מיליון משלוחים. Tongyi Qianwen הוא מודל גדול בסיסי שפותח על ידי Alibaba Cloud. עד כה היא השיקה גרסאות עם עד 100 מיליארד פרמטרים וגרסאות קוד פתוח עם 72 מיליארד, 14 מיליארד, 7 מיליארד, 4 מיליארד, 1.8 מיליארד ו-500 מיליון פרמטרים, כמו גם דגמים גדולים מולטי-מודאליים כגון מודל ההבנה החזותית Qwen-VL ודגם השמע הגדול Qwen-Audio.

במהלך MWC2024, MediaTek הציגה יישומי בינה מלאכותית שונים, כולל השבבים Dimensity 9300 ו-8300. מובן שהשבב Dimensity 9300 כבר תמך ביישום של הדגם הגדול של Meta Llama 2 בחו"ל, והוא הוטמע בטלפונים מסדרת vivo X100 בסין עם דגם שפה גדול של 7 מיליארד פרמטרים על צד קצה, וגם הפעיל בהצלחה מודל של 13 מיליארד פרמטרים בסביבת ניסוי צדדית.

שיתוף הפעולה בין MediaTek ו-Alibaba Cloud מסמן את הפעם הראשונה שהדגם הגדול Tongyi משיג התאמת חומרה ותוכנה ברמת השבב. שו דונג, המנהל העסקי של מעבדת Tongyi של עליבאבא, הסביר, "בינה מלאכותית קצה היא אחד התרחישים החשובים ליישום של מודלים גדולים, אך היא מתמודדת עם אתגרים רבים כמו קשיים בהתאמת חומרה ותוכנה וסביבות פיתוח לא שלמות. עליבאבא Cloud ו-MediaTek התגברו על שורה של אתגרים טכניים והנדסיים הקשורים להתאמה הבסיסית ולפיתוח ברמה העליונה, תוך שילוב אמיתי של הדגם הגדול בנייד שבב ובחינת מודל פריסה חדש של Model-on-Chip עבור AI בצד הקצה."

בנוסף ל-MediaTek, קוואלקום מקדמת באופן פעיל גם יישום של דגמים גדולים במכשירים ניידים. ב-18 במרץ, הודיעה קוואלקום על השקת הדור השלישי של פלטפורמת ה-Snapdragon 8s הניידת, התומכת בדגמי שפה גדולים עם עד 10 מיליארד פרמטרים ויכולה לתמוך גם בדגמי AI גנרטיביים מולטי-מודאליים, כולל Baichuan-7B, Gemini Nano, Llama 2 , ו-Zhipu ChatGLM מחברות כמו Baidu Xiriver, Google ו- META. דווח כי Xiaomi Civi 4 Pro יהיה הראשון שיצויד בפלטפורמת הנייד Snapdragon 8s.

אנליסט של תעשיית האלקטרוניקה הצרכנית הצהיר כי שיתוף הפעולה בין Alibaba Cloud ו-MediaTek פירושו שלצרני טלפונים סלולריים מקומיים יש כעת אלטרנטיבה ל-Baidu.

לפי הבנת הכתב, Honor וסמסונג הכריזו בעבר על שיתופי פעולה עם Baidu Wenxin Yiyan. לדוגמה, טלפון הדגל האחרון של סמסונג, סדרת Galaxy S24, משלב יכולות מרובות של הדגם הגדול של Wenxin, כולל שיחות, תרגום וסיכום חכם. בנוסף, מקור חשף כי אפל נמצאת כעת בקשר עם Baidu, בתקווה להשתמש בטכנולוגיית הבינה המלאכותית של Baidu, וכבר התקיימו שיחות ראשוניות בין שני הצדדים.

לין דהוא, מדען מוביל במעבדת הבינה המלאכותית של שנחאי, הצהיר שעם הצמיחה האקספוננציאלית של מודלים גדולים מבוססי ענן, הצד הקצה עומד להיכנס לתקופת צמיחה מוזהבת. שיתוף פעולה בענן יהפוך למגמה חשובה בעתיד, כאשר מחשוב צד ענן יקבע את התקרה ומחשוב צד קצה יתמוך באימוץ משתמשים בקנה מידה גדול.

לפי התחזיות של חברת הייעוץ IDC, היקף המשלוחים של הסמארטפונים בשוק הסיני יגיע ל-277 מיליון יחידות ב-2024, עם קצב צמיחה של 2.3% משנה לשנה. ביניהם, נפח המשלוחים של טלפונים בינה מלאכותית יגיע ל-36.6 מיליון, עם קצב צמיחה משנה לשנה העולה על שלוש ספרות. היישום של דגמי AI גדולים בטלפונים ניידים יהפוך לנפוצים יותר.