کیا OpenAI نے “انسانیت کو خطرہ” دینے کی صلاحیت کے ساتھ AI ٹیکنالوجی ایجاد کی ہے؟ کچھ حالیہ سرخیوں سے، آپ ایسا سوچنے پر مائل ہو سکتے ہیں۔
رائٹرز اور معلومات کے پہلی بار پچھلے ہفتے رپورٹ کیا گیا تھا کہ اوپن اے آئی کے عملے کے کئی ارکان نے، اے آئی اسٹارٹ اپ کے بورڈ آف ڈائریکٹرز کو لکھے گئے خط میں، ایک اندرونی تحقیقی منصوبے کے “ق*” کے نام سے جانے والے “قوت” اور “ممکنہ خطرے” کو نشان زد کیا تھا۔ یہ AI پروجیکٹ، رپورٹنگ کے مطابق، ریاضی کے کچھ مسائل حل کر سکتا ہے – اگرچہ صرف گریڈ-اسکول کی سطح پر – لیکن محققین کی رائے میں اس کے پاس ایک شاندار تکنیکی پیش رفت کی طرف بڑھنے کا موقع تھا۔
اب یہ بحث جاری ہے کہ آیا اوپن اے آئی کے بورڈ کو کبھی ایسا خط موصول ہوا ہے – دی ورج نے ایک ذریعہ تجویز ہے کہ ایسا نہیں ہوا۔ لیکن Q* کی تشکیل ایک طرف، Q* حقیقت میں اتنی یادگار – یا دھمکی آمیز نہیں ہوسکتی ہے – جیسا کہ یہ لگتا ہے۔ یہ شاید نیا بھی نہ ہو۔
X (سابقہ ٹویٹر) پر AI محققین بشمول Yann LeCun، Meta کے چیف AI سائنسدان Yann LeCun، کو فوری طور پر شک تھا کہ Q* OpenAI – اور اس کے علاوہ دیگر AI ریسرچ لیبز میں موجودہ کام کی توسیع سے زیادہ کچھ ہے۔ ایکس پر ایک پوسٹ میں، رِک لیمرز، جو ذہانت کے ساتھ سب اسٹیک نیوز لیٹر کوڈنگ لکھتے ہیں، اشارہ کیا اوپن اے آئی کے شریک بانی جان شلمین نے MIT کے ایک مہمان لیکچر کو سات سال پہلے دیا تھا جس کے دوران انہوں نے “Q*” کے نام سے ایک ریاضیاتی فنکشن بیان کیا تھا۔
کئی محققین کا خیال ہے کہ “Q*” کے نام میں موجود “Q” سے مراد “Q- لرننگ” ہے، ایک AI تکنیک جو ماڈل کو کسی خاص کام کو سیکھنے اور بہتر بنانے میں مدد کرتی ہے – اور مخصوص “صحیح” اعمال کے لیے انعام دیا جاتا ہے۔ محققین کا کہنا ہے کہ ستارہ، اس دوران، A* کا حوالہ ہو سکتا ہے، نوڈس کو چیک کرنے کے لیے ایک الگورتھم جو ایک گراف بناتے ہیں اور ان نوڈس کے درمیان راستوں کو تلاش کرتے ہیں۔
دونوں کو کچھ عرصہ گزرا ہے۔
گوگل ڈیپ مائنڈ نے ایک AI الگورتھم بنانے کے لیے Q-Learning کا اطلاق کیا جو انسانی سطح پر Atari 2600 گیمز 2014 میں کھیل سکتا ہے۔ دریافت کیا Q-Learning کے ساتھ A* کو بہتر بنانا — جو بالکل وہی ہو سکتا ہے جو OpenAI اب کر رہا ہے۔
ایلن انسٹی ٹیوٹ برائے AI کے ایک تحقیقی سائنسدان ناتھن لیمبرٹ نے TechCrunch کو بتایا کہ ان کا ماننا ہے کہ Q* زیادہ تر AI میں نقطہ نظر سے جڑا ہوا ہے۔ [for] ہائی اسکول کے ریاضی کے مسائل کا مطالعہ کرنا” – انسانیت کو تباہ نہیں کرنا۔
لیمبرٹ نے کہا، “اوپن اے آئی نے اس سال کے شروع میں بھی زبان کے ماڈلز کے ریاضیاتی استدلال کو ایک تکنیک کے ساتھ بہتر بنانے کے لیے کام کا اشتراک کیا جس کو پراسیس ریوارڈ ماڈل کہا جاتا ہے،” لیمبرٹ نے کہا، “لیکن یہ دیکھنا باقی ہے کہ ریاضی کی بہتر صلاحیتیں بنانے کے علاوہ کچھ بھی کرتی ہیں۔ [OpenAI’s AI-powered chatbot] چیٹ جی پی ٹی ایک بہتر کوڈ اسسٹنٹ۔”
مارک ریڈل، جارجیا ٹیک میں کمپیوٹر سائنس کے پروفیسر، اسی طرح رائٹرز اور دی انفارمیشن کی Q* پر رپورٹنگ پر تنقید کرتے تھے – اور OpenAI کے ارد گرد وسیع میڈیا بیانیہ اور مصنوعی جنرل انٹیلی جنس (یعنی AI جو کوئی بھی کام انجام دے سکتا ہے) ایک انسان کر سکتا ہے)۔ رائٹرز نے ایک ذریعہ کا حوالہ دیتے ہوئے کہا کہ Q* مصنوعی جنرل انٹیلی جنس (AGI) کی طرف ایک قدم ہو سکتا ہے۔ لیکن محققین – بشمول ریڈل – اس پر اختلاف کرتے ہیں۔
“ایسا کوئی ثبوت نہیں ہے جو یہ بتاتا ہو کہ بڑے زبان کے ماڈل [like ChatGPT] یا OpenAI میں ترقی کے تحت کوئی دوسری ٹیکنالوجی AGI یا عذاب کے کسی بھی منظر نامے کے راستے پر ہے،” Riedl نے TechCrunch کو بتایا۔ “OpenAI خود بہترین طور پر ایک ‘تیز پیروکار’ رہا ہے، جس نے موجودہ آئیڈیاز کو اپنایا … اور ان کو بڑھانے کے طریقے ڈھونڈے۔ اگرچہ OpenAI اعلی درجے کے محققین کی خدمات حاصل کرتا ہے، لیکن اس نے جو کچھ کیا ہے وہ دوسری تنظیموں کے محققین کر سکتے ہیں۔ یہ بھی کیا جا سکتا ہے اگر OpenAI محققین کسی مختلف تنظیم میں ہوتے۔
ریڈل، لیمبرٹ کی طرح، نے اندازہ نہیں لگایا کہ آیا Q* میں Q- لرننگ شامل ہو سکتا ہے یا A*۔ لیکن اگر اس میں یا تو شامل ہے – یا دونوں کا ایک مجموعہ – یہ AI تحقیق میں موجودہ رجحانات کے مطابق ہوگا۔
ریڈل نے مزید کہا کہ “یہ تمام نظریات ہیں جو اکیڈمیہ اور صنعت کے دیگر محققین کی طرف سے فعال طور پر پیروی کیے جا رہے ہیں، پچھلے چھ ماہ یا اس سے زیادہ عرصے میں ان موضوعات پر درجنوں مقالے ہیں۔” “اس بات کا امکان نہیں ہے کہ OpenAI کے محققین کے پاس ایسے خیالات ہوں جو AI میں پیشرفت کرنے والے محققین کی کافی تعداد کے پاس بھی نہیں تھے۔”
اس کا مطلب یہ نہیں ہے کہ Q* – جس میں مبینہ طور پر اوپن اے آئی کے چیف سائنسدان الیا سوٹسکیور کی شمولیت تھی – شاید سوئی کو آگے نہ بڑھا سکے۔
لیمرز کا دعویٰ ہے کہ، اگر Q* میں بیان کردہ کچھ تکنیکوں کو استعمال کرتا ہے۔ کاغذ مئی میں اوپن اے آئی کے محققین کے ذریعہ شائع کیا گیا، یہ زبان کے ماڈلز کی صلاحیتوں کو “نمایاں طور پر” بڑھا سکتا ہے۔ کاغذ کی بنیاد پر، OpenAI نے زبان کے ماڈلز کی “ریزننگ چینز” کو کنٹرول کرنے کا ایک طریقہ دریافت کیا ہو گا، لیمرز کا کہنا ہے کہ – انہیں ماڈلز کی رہنمائی کرنے کے قابل بناتا ہے تاکہ وہ نتائج تک پہنچنے کے لیے زیادہ مطلوبہ اور منطقی طور پر درست “راستوں” کی پیروی کریں۔
“اس سے اس بات کا امکان کم ہو جائے گا کہ ماڈلز ‘غیر ملکی سے انسانی سوچ’ کی پیروی کرتے ہیں اور بدنیتی پر مبنی یا غلط نتائج تک پہنچنے کے لیے جعلی نمونوں کی پیروی کرتے ہیں،” لیمرز نے کہا۔ “میرے خیال میں صف بندی کے لحاظ سے یہ دراصل OpenAI کی جیت ہے … زیادہ تر AI محققین اس بات سے متفق ہیں کہ ہمیں ان بڑے ماڈلز کو تربیت دینے کے لیے بہتر طریقے درکار ہیں، جیسے کہ وہ معلومات کو زیادہ مؤثر طریقے سے استعمال کر سکیں۔
لیکن جو کچھ بھی Q* سے ابھرتا ہے، یہ — اور نسبتاً آسان ریاضی کی مساواتیں جو اسے حل کرتی ہیں — انسانیت کے لیے عذاب نہیں کرے گی۔
Source link
techcrunch.com