وسائل
Amplify GenAI
انگریزی صفحے کا خودکار ترجمہ، جو ابھی تک کسی مقامی بولنے والے کے ذریعے جانچا نہیں گیا۔
Amplify GenAI کسی تجارتی معاون کے لیے کیمپس بھر کے لائسنس کے بالکل اُلٹ داؤ ہے: ادارہ پلیٹ فارم خود چلاتا ہے، اپنے Amazon Web Services اکاؤنٹ کے اندر، اور جو استعمال کرتا ہے اس کی قیمت دیتا ہے۔ Vanderbilt نے اسے اپنی برادری کے لیے بنایا، MIT کے تحت تین ریپوزٹریوں میں جاری کیا، اور اب دیگر اداروں کو فی سیٹ انٹرپرائز معاہدوں کے متبادل کے طور پر پیش کرتا ہے — دلیل یہ ہے کہ مہنگا حصہ ماڈلز ہونا چاہیے، نشستوں کی تعداد نہیں۔
اس سے آپ کیا کر سکتے ہیں
صارفین دستاویزات اپ لوڈ کر کے یا ڈیٹا ماخذ جوڑ کر اپنے معاونین بناتے ہیں، اور معاونین اس مواد پر ریٹریول سے تقویت یافتہ جنریشن کے ذریعے جواب دیتے ہیں، محض عمومی تربیت سے نہیں۔ معاونین کو تنظیم بھر میں شیئر کیا جا سکتا ہے، ایک گفتگو میں زنجیر کی طرح جوڑا جا سکتا ہے، اور انہیں پرامپٹ سانچے دیے جا سکتے ہیں؛ پلیٹ فارم PowerPoint اور Word فائلیں، خاکے اور بصری نمائشیں بھی بناتا ہے۔ منتظمین کو وہ ملتا ہے جو مشترکہ خدمت کو درکار ہے: پیغام کی سطح تک لاگت کا حساب، فی صارف حدود، فولڈرز اور ورک اسپیسز، اور SSO، سب کچھ ادارے کے کنٹرول والی تعیناتی میں۔
کالج کے لیے سب سے اہم ڈیزائن فیصلہ لاگت کے حساب کا ماڈل ہے۔ Vanderbilt بتاتا ہے کہ 1,300 پائلٹ صارفین کے ساتھ فی صارف لاگت AWS سمیت تقریباً $3 ماہانہ تھی، اور ان میں سے نصف نے ٹوکنز پر $1 ماہانہ سے کم خرچ کیا — یہ اعداد وہ یونیورسٹی کیس اسٹڈی کے طور پر پیش کرتی ہے، آڈٹ شدہ بینچ مارک کے طور پر نہیں۔ استعمال پر مبنی بلنگ ایسے کیمپس کو انعام دیتی ہے جہاں اقلیت زیادہ تر کام کرتی ہے، جو AI اپنانے کی معمول کی شکل ہے، اور یہ فنانس آفس کے سوال (”یہ فی طالب علم کتنا خرچ آتا ہے؟“) کو معاہدے کے بجائے لاگز سے قابلِ جواب بناتی ہے۔
یہ کس کے لیے ہے
مرکزی IT اور CIO دفاتر جو پہلے ہی AWS میں ورک لوڈ چلاتے ہیں اور تجارتی انٹرپرائز معاون کے متبادل کے طور پر برادری کی حمایت یافتہ چیز چاہتے ہیں؛ وہ اساتذہ جنہیں کورس کے مواد پر مبنی معاونین چاہیے بغیر اسے کسی وینڈر کی صارفی مصنوعات کو بھیجے؛ اور وہ ادارے جو ایک ہی جگہ دیکھنا چاہتے ہیں کہ لوگ ماڈلز کے ساتھ کیا کر رہے ہیں۔ چونکہ یہ ادارے کے اپنے اکاؤنٹ میں تعینات ہوتا ہے، ڈیٹا کی رہائش کا سوال تعیناتی سے حل ہوتا ہے، وینڈر کے وعدے سے نہیں۔
نوٹس اور احتیاطیں
لائسنس کے لیے مفت، چلانے کے لیے مفت نہیں: ادارہ AWS اور ماڈل فراہم کنندگان کو ادائیگی کرتا ہے۔ ماڈل کا انتخاب Amazon Bedrock (Anthropic، Mistral) یا OpenAI اور Microsoft Azure سے ہوتا ہے، اور اپنے مقامی ماڈل چلانا نافذ نہیں ہے۔ منصوبہ صاف کہتا ہے کہ وہ انفرادی تعیناتیوں کی حمایت نہیں کر سکتا اور اداروں کو تجارتی شراکت داروں کی طرف بھیجتا ہے — اس لیے حقیقی لاگت میں عملہ یا ٹھیکیدار شامل ہے۔ یہ تین ریپوزٹریوں کی تعیناتی ہے (فرنٹ اینڈ، بیک اینڈ، انفراسٹرکچر) جس پر ہزاروں کے بجائے درجنوں اسٹارز ہیں، اور اوپر کا لاگت موازنہ Vanderbilt کا اپنا تجربہ ہے، کنٹرول شدہ مطالعہ نہیں۔ جو ادارے انفرنس اپنی ہارڈ ویئر پر رکھنا پسند کریں انہیں MindRouter دیکھنا چاہیے اور دونوں کو ساتھ پڑھنا چاہیے: Amplify وینڈر ماڈلز کے اوپر ایپلیکیشن کی تہہ ہے، MindRouter آپ کے اپنے GPUs کے اوپر گیٹ وے۔
منسلک تصورات
متعلقہ وسائل
- MindRouterیونیورسٹی آف ایڈاہو کا Apache-2.0 انفرنس گیٹ وے جو vLLM اور Ollama GPU نوڈز کے کیمپس کلسٹر کو ایک OpenAI کے ساتھ ہم آہنگ API کے پیچھے لاتا ہے، اور منصفانہ شیئر شیڈولنگ، فی صارف ٹوکن کوٹے، SSO، آڈٹ لاگنگ اور GPU و توانائی کی زندہ نگرانی شامل کرتا ہے۔