משאבים
MindRouter
תרגום אוטומטי של העמוד באנגלית, שטרם נבדק בידי דובר/ת שפת אם.
רוב השיחות על בינה מלאכותית בקמפוס מתחילות באיזה מודל לקנות ונעצרות לפני השאלה הקשה יותר: היכן הוא רץ, מי מודד אותו ומי יכול לראות את היומנים. MindRouter הוא תשובה לשאלה השנייה. זהו שער מתארח עצמית שיושב לפני אשכול הטרוגני של שרתי LLM — צומתי vLLM ו-Ollama על GPUs שבבעלות המוסד — וחושף API אחד שמדבר בדיאלקטים של OpenAI, Anthropic ו-Ollama, ומתרגם ביניהם כך שקוד לקוח קיים ממשיך לעבוד.
מה אפשר לעשות איתו
כוונו כלי אל השער במקום אל נקודת קצה של ספק. מאחוריו MindRouter מטפל בחלקים שפריסה משותפת צריכה: תזמון חלוקה הוגנת עם deficit round robin משוקלל, מכסות טוקנים ובקשות פר משתמש, גישה מבוססת תפקידים עם SSO אופציונלי דרך Azure AD/Entra, Google, כל ספק OIDC או SAML 2.0, ותיעוד ביקורת מלא של הנחיות, תשובות ותוצרים. סוכן צד-GPU מדווח ניצולת, זיכרון, טמפרטורה והספק לכל צומת, כך שמנהל יכול לראות עלות אנרגיה לבקשה ולרוקן שרת אחורי בעדינות כשמגיע תחזוקה. הוא מכסה יותר מצ'אט — embeddings, ראייה, יצירת תמונות ווידאו, טקסט לדיבור ודיבור לטקסט, OCR של מסמכים — ומגיע עם שרתי MCP וכישורי סוכן לעוזרי קידוד.
הסיבה שמכללה תתעניין היא זו שהפרויקט נוקב בה: ריבונות בינה מלאכותית מוסדית. הנחיות ומסמכים נשארים על תשתית שהמוסד מפעיל ולא עוברים דרך ענן של צד שלישי, וזה קל יותר להגנה בפני סנאט סגל או משרד פרטיות מאשר הסכם עיבוד נתונים עם ספק. האם הטיעון מחזיק תלוי אם למוסד יש את ה-GPUs, החשמל והצוות — השער הופך אירוח מקומי לניהולי, לא לזול.
למי זה מיועד
קבוצות מחשוב מחקר ו-IT מרכזי עם קיבולת GPU קיימת, מרכזי הוראה ולמידה שרוצים מקום אחד למדוד שימוש של סגל וסטודנטים, ומנהלים ששוקלים פלטפורמות ארגוניות מתארחות מול הרצת הסקה בעצמם. זו פריסת Docker Compose עם תצורת SSO מתועדת ומיתוג מותאם, והיא מתוחזקת באוניברסיטת איידהו, שם המחבר הציג אותה ב-PEARC '26; לפרויקט 22 כוכבים ו-3 הסתעפויות נכון לנובמבר 2026.
הערות ואזהרות
חופשי וקוד פתוח תחת Apache-2.0, אבל העלות זזה ולא נעלמת: חומרה, חשמל וזמן צוות להפעלת אשכול. התוכנה צעירה בסטנדרטים של תשתיות — שלושה תורמים, מוסד מקור אחד, ומהדורות שמספרן במאות תגים — כך שמכללה צריכה להריץ אותה בפיילוט לצד שירות קיים ולא כמסלול היחיד למודל. לא פורסמה במאגר הערכה של התנהגות התזמון והמכסות תחת עומס קמפוס אמיתי; מאמר PEARC הוא המקום לחפש בו את התיאור של המחברים עצמם.
מושגים מחוברים
משאבים קשורים
- Amplify GenAIפלטפורמת בינה מלאכותית יוצרת ארגונית של ואנדרבילט ברישיון MIT, הנפרסת בחשבון ה-AWS של המוסד עצמו: עוזרים מותאמים מעל מסמכים מקומיים, תשובות מבוססות שליפה, שיתוף בארגון, והקצאת עלויות עד לרמת ההודעה הבודדת.