گوگل تسلیم کرتا ہے کہ اس کے AI جائزہ کو کام کی ضرورت ہے، لیکن ہم سب بیٹا ٹیسٹ میں اس کی مدد کر رہے ہیں۔

گوگل اپنے AI جائزہ کے بارے میں بھی شرمندہ ہے۔ کے سیلاب کے بعد پچھلے ہفتے کے دوران ڈنکس اور میمز، جس نے ناقص معیار اور سراسر غلط معلومات پر کریک ڈالا جو کہ ٹیک دیو کی انڈر بیکڈ نئی AI سے چلنے والی تلاش کی خصوصیت سے پیدا ہوئی ہے ، کمپنی نے جمعرات کو اس طرح کا ایک میا کلپا جاری کیا۔ گوگل — ایک کمپنی جس کا نام ویب پر تلاش کرنے کا مترادف ہے — جس کا برانڈ “دنیا کی معلومات کو منظم کرنے” اور اسے صارف کی انگلیوں تک پہنچانے پر توجہ مرکوز کرتا ہے۔ ایک بلاگ پوسٹ میں لکھا کہ “کچھ عجیب، غلط یا غیر مددگار AI جائزہ یقینی طور پر ظاہر ہوئے۔”

یہ ہلکے سے ڈال رہا ہے۔.

دی ناکامی کا اعترافگوگل وی پی اور ہیڈ آف سرچ لِز ریڈ کی طرف سے لکھا گیا، اس بات کا ثبوت لگتا ہے کہ کس طرح اے آئی ٹیکنالوجی کو ہر چیز میں شامل کرنے کی مہم نے اب کسی نہ کسی طرح گوگل سرچ کو بدتر بنا دیا ہے۔

“گذشتہ ہفتے کے بارے میں” کے عنوان والی پوسٹ میں (یہ ماضی میں PR ہو گیا؟)، ریڈ نے اپنے AI جائزہ سے غلطیاں کرنے کے بہت سے طریقے بتائے ہیں۔ وہ کہتی ہیں کہ اگرچہ وہ “فریب” نہیں کرتے یا چیزوں کو اس طرح نہیں بناتے ہیں جس طرح دوسرے بڑے لینگویج ماڈلز (LLMs) کر سکتے ہیں، وہ کہتی ہیں، وہ “دوسری وجوہات” کی وجہ سے چیزیں غلط کر سکتے ہیں، جیسے “استفسارات کی غلط تشریح کرنا، زبان کی اہمیت کی غلط تشریح کرنا۔ ویب، یا بہت ساری اچھی معلومات دستیاب نہیں ہیں۔

ریڈ نے یہ بھی نوٹ کیا کہ پچھلے ایک ہفتے کے دوران سوشل میڈیا پر شیئر کیے گئے کچھ اسکرین شاٹس جعلی تھے، جب کہ دیگر بے ہودہ سوالات کے لیے تھے، جیسے “میں کتنے پتھر کھاؤں؟” – ایسی چیز جس کی کسی نے پہلے کبھی تلاش نہیں کی۔ چونکہ اس موضوع پر حقائق پر مبنی معلومات بہت کم ہیں، گوگل کے AI نے ایک صارف کو طنزیہ مواد کی رہنمائی کی۔ (چٹانوں کے معاملے میں، طنزیہ مواد رہا تھا۔ شائع ارضیاتی سافٹ ویئر فراہم کنندہ کی ویب سائٹ پر۔)

یہ بتانے کے قابل ہے کہ اگر آپ نے گوگل کیا تھا “مجھے کتنے پتھر کھانے چاہئیں؟” اور غیر مددگار لنکس کے ایک سیٹ کے ساتھ پیش کیا گیا، یا یہاں تک کہ ایک مزاحیہ مضمون، آپ کو حیرت نہیں ہوگی۔ لوگ جس پر ردعمل دے رہے ہیں وہ اعتماد ہے جس کے ساتھ AI نے جواب دیا کہ “ماہرین ارضیات فی دن کم از کم ایک چھوٹی چٹان کھانے کا مشورہ دیتے ہیں۔گویا یہ ایک حقیقت پر مبنی جواب ہے۔ یہ تکنیکی اصطلاحات میں “ہیلوسینیشن” نہیں ہوسکتا ہے، لیکن آخری صارف کو کوئی پرواہ نہیں ہے۔ یہ پاگل ہے۔

پریشان کن بات یہ بھی ہے کہ ریڈ کا دعویٰ ہے کہ گوگل نے “لانچ سے پہلے اس خصوصیت کا بڑے پیمانے پر تجربہ کیا،” بشمول “مضبوط ریڈ ٹیمنگ کوششیں”۔

کیا گوگل پر کسی کو مزاح کا احساس نہیں ہے؟ کوئی بھی اشارے کے بارے میں نہیں سوچا جو خراب نتائج پیدا کرے گا؟

اس کے علاوہ، گوگل نے علم اور سچائی کے ذریعہ Reddit صارف کے ڈیٹا پر AI فیچر کے انحصار کو کم کیا۔ اگرچہ لوگوں نے اپنی تلاش میں باقاعدگی سے “Reddit” کو اتنے عرصے سے شامل کیا ہے کہ گوگل آخر کار اسے بلٹ ان سرچ فلٹر بنا دیا۔, Reddit حقائق پر مبنی علم کا ادارہ نہیں ہے۔ اور پھر بھی AI سوالوں کے جواب دینے کے لیے Reddit فورم کی پوسٹس کی طرف اشارہ کرے گا، اس بات کو سمجھے بغیر کہ Reddit کا علم کب مددگار ہوتا ہے اور کب یہ نہیں ہوتا ہے – یا اس سے بھی بدتر، کب یہ ٹرول ہے۔

Reddit آج ہے۔ بینک بنانا جیسی کمپنیوں کو اپنا ڈیٹا پیش کر کے گوگل، اوپن اے آئی اور دوسرے اپنے ماڈلز کو تربیت دینے کے لیے، لیکن اس کا مطلب یہ نہیں ہے کہ صارفین گوگل کا AI یہ فیصلہ کرنا چاہتے ہیں کہ جواب کے لیے Reddit کو کب تلاش کرنا ہے، یا یہ تجویز کرنا کہ کسی کی رائے حقیقت ہے۔ ریڈڈیٹ کو کب تلاش کرنا ہے یہ سیکھنے کی اہمیت ہے اور گوگل کا اے آئی ابھی تک اسے نہیں سمجھتا ہے۔

جیسا کہ ریڈ تسلیم کرتا ہے، “فورم اکثر مستند، پہلے ہاتھ کی معلومات کا ایک بہت بڑا ذریعہ ہوتے ہیں، لیکن بعض صورتوں میں کم مددگار مشورے کا باعث بن سکتے ہیں، جیسے پیزا پر چپکنے کے لیے پنیر حاصل کرنے کے لیے گلو کا استعمال،” اس نے ایک حوالہ دیتے ہوئے کہا۔ پچھلے ہفتے کے دوران AI خصوصیت کی زیادہ شاندار ناکامیوں میں سے۔

گوگل اے آئی کا جائزہ پیزا پر چپکنے کے لیے پنیر حاصل کرنے کے لیے گلو شامل کرنے کا مشورہ دیتا ہے، اور اس سے پتہ چلتا ہے کہ صارف F*cksmith کا 11 سالہ Reddit تبصرہ ہے 😂 pic.twitter.com/uDPAbsAKeO

— پیٹر یانگ (@petergyang) 23 مئی 2024

اگر پچھلا ہفتہ ایک آفت تھا، اگرچہ، کم از کم گوگل اس کے نتیجے میں تیزی سے اعادہ کر رہا ہے – یا اس کا کہنا ہے۔

کمپنی کا کہنا ہے کہ اس نے AI جائزہ کی مثالوں پر غور کیا ہے اور ایسے نمونوں کی نشاندہی کی ہے جہاں یہ بہتر کام کر سکتا ہے، بشمول بے معنی سوالات کے لیے بہتر پتہ لگانے کے طریقہ کار کی تعمیر، صارف کے تیار کردہ مواد کو ایسے جوابات کے لیے محدود کرنا جو گمراہ کن مشورے پیش کر سکتے ہیں، سوالات کے لیے متحرک پابندیاں شامل کرنا جہاں AI جائزہ مددگار نہیں تھے، مشکل خبروں کے عنوانات کے لیے AI جائزہ نہیں دکھا رہے تھے، “جہاں تازگی اور حقیقت اہم ہے” اور صحت کی تلاشوں کے لیے اس کے تحفظات میں اضافی محرک اصلاحات شامل کر رہے تھے۔

AI کمپنیوں کی جانب سے ہر روز بہتر ہوتے ہوئے چیٹ بوٹس کی تعمیر کے ساتھ، سوال یہ نہیں ہے کہ آیا وہ دنیا کی معلومات کو سمجھنے میں ہماری مدد کرنے کے لیے کبھی بھی گوگل سرچ سے بہتر کارکردگی کا مظاہرہ کر پائیں گی، لیکن کیا گوگل سرچ ان کو چیلنج کرنے کے لیے کبھی بھی AI پر رفتار حاصل کر پائے گی۔ واپسی

گوگل کی غلطیاں جتنی مضحکہ خیز ہو سکتی ہیں، اسے ابھی تک دوڑ سے باہر شمار کرنا بہت جلد ہے – خاص طور پر گوگل کے بیٹا ٹیسٹنگ عملے کے بڑے پیمانے پر، جو بنیادی طور پر کوئی بھی ہے جو تلاش کا استعمال کرتا ہے۔

ریڈ کا کہنا ہے کہ “کئی نئی تلاشوں کے ساتھ اس خصوصیت کو استعمال کرنے والے لاکھوں لوگوں کی طرح کچھ بھی نہیں ہے۔