Giga ML کمپنیوں کو LLMs کو آف لائن تعینات کرنے میں مدد کرنا چاہتا ہے۔

AI تمام غصہ ہے – خاص طور پر ٹیکسٹ تیار کرنے والا AI، جسے بڑے لینگویج ماڈل بھی کہا جاتا ہے (سوچیں ماڈلز چیٹ جی پی ٹی)۔ ایک حالیہ میں سروے ~1,000 انٹرپرائز تنظیموں میں سے، 67.2% کا کہنا ہے کہ وہ 2024 کے اوائل تک بڑے لینگویج ماڈلز (LLMs) کو اپنانے کو اولین ترجیح کے طور پر دیکھتے ہیں۔

لیکن راستے میں رکاوٹیں کھڑی ہیں۔ اسی سروے کے مطابق، حسب ضرورت اور لچک کا فقدان، جو کہ کمپنی کے علم اور IP کو محفوظ رکھنے میں ناکامی کے ساتھ جوڑا ہے، تھے – اور ہیں – بہت سے کاروباروں کو LLMs کو پروڈکشن میں تعینات کرنے سے روکتے ہیں۔

اس سے ورون وومادی اور ایشا منیدیپ دن سوچ رہے تھے: انٹرپرائز ایل ایل ایم گود لینے کے چیلنج کا حل کیا ہو سکتا ہے؟ ایک کی تلاش میں، انہوں نے بنیاد رکھی گیگا ایم ایل، ایک ایسا پلیٹ فارم تیار کرنے والا ایک اسٹارٹ اپ جو کمپنیوں کو LLMs کو بنیاد پر تعینات کرنے دیتا ہے – ظاہری طور پر لاگت میں کمی اور اس عمل میں رازداری کا تحفظ۔

Vummadi نے TechCrunch کو ایک ای میل انٹرویو میں بتایا کہ “ڈیٹا کی رازداری اور LLMs کو اپنی مرضی کے مطابق بنانا کاروباری اداروں کو درپیش سب سے بڑے چیلنجز میں سے کچھ ہیں جو مسائل کو حل کرنے کے لیے LLMs کو اپناتے ہیں۔” “گیگا ایم ایل ان دونوں چیلنجوں کو حل کرتا ہے۔”

Giga ML LLMs کا اپنا سیٹ پیش کرتا ہے، “X1 سیریز”، کوڈ بنانے اور عام صارفین کے سوالات کے جوابات دینے جیسے کاموں کے لیے (مثلاً “میں اپنے آرڈر کے آنے کی کب توقع کر سکتا ہوں؟”)۔ اسٹارٹ اپ ماڈلز کا دعویٰ کرتا ہے، جو میٹا کے اوپر بنائے گئے ہیں۔ لامہ 2، مخصوص معیارات پر مقبول LLMs کو پیچھے چھوڑنا، خاص طور پر ایم ٹی بنچ ڈائیلاگ کے لیے ٹیسٹ سیٹ۔ لیکن یہ کہنا مشکل ہے کہ X1 کس طرح معیار کے لحاظ سے موازنہ کرتا ہے۔ اس رپورٹر نے گیگا ایم ایل کی کوشش کی۔ آن لائن ڈیمو لیکن تکنیکی مسائل میں پڑ گئے۔ (ایپ کا وقت ختم ہو گیا اس سے کوئی فرق نہیں پڑتا ہے کہ میں نے جو بھی اشارہ کیا ہے۔)

یہاں تک کہ اگر گیگا ایم ایل کے ماڈلز ہیں کچھ پہلوؤں میں برتر، اگرچہ، کیا وہ واقعی میں ایک چمک پیدا کر سکتے ہیں۔ سمندر کی آزاد مصدر، آف لائن ایل ایل ایمز?

Vummadi سے بات کرتے ہوئے، میں نے محسوس کیا کہ Giga ML وہاں بہترین کارکردگی کا مظاہرہ کرنے والے LLMs بنانے کی اتنی زیادہ کوشش نہیں کر رہا ہے بلکہ اس کے بجائے کاروبار کو تیسرے فریق کے وسائل پر انحصار کیے بغیر مقامی طور پر LLMs کو ٹھیک کرنے کی اجازت دینے کے لیے ٹولز تیار کر رہا ہے۔ پلیٹ فارمز

Vummadi نے کہا، “Giga ML کا مشن کاروباری اداروں کو محفوظ طریقے سے اور مؤثر طریقے سے LLMs کو ان کے اپنے آن پریمیسس انفراسٹرکچر یا ورچوئل پرائیویٹ کلاؤڈ پر تعینات کرنے میں مدد کرنا ہے۔” “Giga ML کسی بھی متعلقہ پریشانی کو ختم کرتے ہوئے، استعمال میں آسان API کے ذریعے اس کی دیکھ بھال کرکے LLMs کی تربیت، فائن ٹیوننگ اور چلانے کے عمل کو آسان بناتا ہے۔”

Vummadi نے ماڈلز کو آف لائن چلانے کے رازداری کے فوائد پر زور دیا – فوائد کچھ کاروباروں کے لیے قائل ہونے کا امکان ہے۔

Predibase، کم کوڈ AI dev پلیٹ فارم، نے پایا کہ ایک چوتھائی سے بھی کم کاروباری ادارے تجارتی LLMs استعمال کرنے میں آرام دہ ہیں کیونکہ وینڈرز کے ساتھ حساس یا ملکیتی ڈیٹا شیئر کرنے کے خدشات ہیں۔ سروے کے تقریباً 77 فیصد جواب دہندگان نے کہا کہ وہ یا تو استعمال نہیں کرتے ہیں یا پروڈکشن میں پروٹو ٹائپ سے آگے تجارتی LLM استعمال کرنے کا ارادہ نہیں رکھتے ہیں – رازداری، لاگت اور تخصیص کی کمی سے متعلق مسائل کا حوالہ دیتے ہوئے۔

“C-suite کی سطح پر IT مینیجرز Giga ML کی پیشکشوں کو قیمتی سمجھتے ہیں کیونکہ LLMs کی محفوظ آن پریمیس تعیناتی، ان کے مخصوص استعمال کے معاملے اور تیز رفتار تخمینہ کے مطابق مرضی کے مطابق ماڈلز، جو ڈیٹا کی تعمیل اور زیادہ سے زیادہ کارکردگی کو یقینی بناتا ہے،” وومادی نے کہا۔

Giga ML، جس نے آج تک Nexus Venture Partners، Y Combinator، Liquid 2 Ventures، 8vdx اور کئی دیگر سے VC فنڈنگ ​​میں ~$3.74 ملین اکٹھا کیا ہے، اپنی دو افراد پر مشتمل ٹیم کو بڑھانے اور پروڈکٹ R&D کو بڑھانے کے لیے قریبی مدت میں منصوبہ بنا رہا ہے۔ دارالحکومت کا ایک حصہ گیگا ایم ایل کے کسٹمر بیس کی حمایت کرنے کے ساتھ ساتھ، وومادی نے کہا، جس میں فی الحال فنانس اور ہیلتھ کیئر میں بے نام “انٹرپرائز” کمپنیاں شامل ہیں۔