Amplify GenAI

Bu İngilizce sayfanın bir ana dili konuşanı tarafından gözden geçirilmemiş otomatik çevirisidir.

Amplify GenAI, ticari bir asistana kampüs çapında lisans vermenin tam tersi bir bahistir: kurum platformu kendisi, kendi Amazon Web Services hesabının içinde çalıştırır ve kullandığı kadarını öder. Vanderbilt onu kendi topluluğu için kurdu, üç depoda MIT lisansıyla yayımladı ve şimdi diğer kuruluşlara kişi başı kurumsal sözleşmelere bir alternatif olarak sunuyor — sav şu: pahalı kısım koltuk sayısı değil, modeller olmalı.

Bu kaynakla neler yapılabilir

Kullanıcılar belge yükleyerek ya da veri kaynakları bağlayarak özel asistanlar kurar ve asistanlar yalnızca genel eğitimden değil, o malzeme üzerinde getirmeyle güçlendirilmiş üretim ile yanıt verir. Asistanlar kuruluş genelinde paylaşılabilir, tek bir konuşmada zincirlenebilir ve istem şablonlarıyla donatılabilir; platform ayrıca PowerPoint ve Word dosyaları, diyagramlar ve görselleştirmeler üretir. Yöneticiler paylaşılan bir hizmetin ihtiyaç duyduğu şeyleri alır: mesaj düzeyine kadar maliyet muhasebesi, kullanıcı başına sınırlar, klasörler ve çalışma alanları ve SSO; hepsi kurumun denetlediği bir kurulumda.

Bir kolej için en çok önem taşıyan tasarım kararı muhasebe modelidir. Vanderbilt, 1.300 pilot kullanıcıyla kullanıcı başına maliyetinin AWS dahil ayda yaklaşık $3 olduğunu ve bu kullanıcıların yarısının tokenlarda ayda $1'den az tükettiğini bildiriyor — üniversitenin denetlenmiş bir kıyaslama değil, vaka çalışması olarak sunduğu rakamlar. Kullanım bazlı faturalama, kullanıcıların bir azınlığının işin çoğunu yaptığı bir kampüsü ödüllendirir; bu, YZ benimsemesinin olağan biçimidir ve finans ofisinin sorusunu ("bunun öğrenci başına maliyeti nedir?") sözleşmeden değil günlüklerden yanıtlanabilir kılar.

Kimler için

AWS'te hâlihazırda iş yükü çalıştıran ve ticari bir kurumsal asistana topluluk tarafından desteklenen bir alternatif isteyen merkezi BT ve CIO ofisleri; ders malzemesine dayanan ama onu bir satıcının tüketici ürününe göndermeyen asistanlara ihtiyaç duyan öğretim üyeleri; ve insanların modellerle ne yaptığını görebilecekleri tek bir yer isteyen kurumlar. Kurumun kendi hesabına kurulduğu için veri ikametgâhı sorusu bir satıcının vaadiyle değil kurulumun kendisiyle yanıtlanır.

Notlar ve uyarılar

Lisansı ücretsiz, çalıştırması değil: kurum AWS'ye ve model sağlayıcılarına öder. Model seçimi Amazon Bedrock (Anthropic, Mistral) ya da OpenAI ve Microsoft Azure üzerinden yürür ve kendi yerel modellerinizi çalıştırma uygulanmamıştır. Proje, bireysel kurulumları destekleyemeyeceğini açıkça belirtir ve kuruluşları ticari ortaklara yönlendirir — yani gerçekçi maliyet personel ya da bir yüklenici içerir. Üç depolu bir kurulumdur (ön uç, arka uç, altyapı) ve binlerce değil onlarca yıldızı vardır; yukarıdaki maliyet karşılaştırması da kontrollü bir çalışma değil Vanderbilt'in kendi deneyimidir. Çıkarımı sahip oldukları donanımda tutmayı yeğleyen kurumlar MindRouter'a bakmalı ve ikisini birlikte okumalı: Amplify satıcı modellerinin üzerinde bir uygulama katmanı, MindRouter ise kendi GPU'larınızın üzerinde bir ağ geçididir.

Bağlı kavramlar

• RAG (Alım Artırımlı Üretim)
• Açık Kaynak
• Edtech Platformu
• YZ Yönetişimi