ڈیزائن کے لحاظ سے حفاظت | ٹیک کرنچ

ڈبلیو
ٹیک کرنچ ایکسچینج میں خوش آمدید، ایک ہفتہ وار اسٹارٹ اپس اور مارکیٹس نیوز لیٹر۔ یہ کی طرف سے حوصلہ افزائی ہے روزانہ TechCrunch+ کالم جہاں اس کا نام آتا ہے۔ ہر ہفتہ کو اپنے ان باکس میں یہ چاہتے ہیں؟ سائن اپ یہاں.

ٹیک کی دوبارہ ایجاد کرنے کی صلاحیت پہیے کے اپنے نشیب و فراز ہیں: اس کا مطلب کھلی سچائیوں کو نظر انداز کرنا ہو سکتا ہے جو دوسروں نے پہلے ہی سیکھ لیے ہیں۔ لیکن اچھی خبر یہ ہے کہ نئے بانی بعض اوقات اپنے پیشروؤں کے مقابلے میں تیزی سے اس کا پتہ لگاتے ہیں۔ – انا

AI، اعتماد اور حفاظت

یہ سال اولمپک سال ہے، ایک لیپ سال ہے۔ . . اور بھی دی انتخابی سال لیکن اس سے پہلے کہ آپ مجھ پر الزام لگائیں۔ امریکی ڈیفالٹزم، میں صرف بائیڈن بمقابلہ ٹرمپ کے سیکوئل کے بارے میں نہیں سوچ رہا ہوں: 60 سے زیادہ ممالک ہیں۔ قومی انتخابات کا انعقادیورپی یونین کی پارلیمنٹ کا ذکر نہ کرنا۔

ان ووٹوں میں سے ہر ایک کا ٹیک کمپنیوں پر کس طرح اثر پڑ سکتا ہے۔ مثال کے طور پر، مختلف پارٹیاں AI ریگولیشن پر مختلف انداز اختیار کرتی ہیں۔ لیکن انتخابات ہونے سے پہلے، ٹیک کو بھی اپنی سالمیت کی ضمانت دینے کے لیے ایک کردار ادا کرنا ہوگا۔

انتخابی سالمیت کا امکان مارک زکربرگ کے ذہن میں نہیں تھا جب اس نے فیس بک بنایا تھا، اور شاید اس وقت بھی جب اس نے واٹس ایپ خریدا تھا۔ لیکن بالترتیب 20 اور 10 سال بعد، اعتماد اور حفاظت اب ایک ذمہ داری ہے جس سے Meta اور دیگر ٹیک جنات بچ نہیں سکتے، چاہے وہ اسے پسند کریں یا نہ کریں۔ اس کا مطلب ہے کہ غلط معلومات، دھوکہ دہی، نفرت انگیز تقریر، CSAM (بچوں کے ساتھ جنسی زیادتی کا مواد)، خود کو نقصان پہنچانے اور مزید کو روکنے کے لیے کام کرنا۔

تاہم، AI ممکنہ طور پر کام کو مزید مشکل بنا دے گا، اور نہ صرف اس کی وجہ سے ڈیپ فیکس یا برے اداکاروں کی بڑی تعداد کو بااختیار بنانے سے۔ Lotan Levkowitz، ایک جنرل پارٹنر کہتے ہیں گروو وینچرز:

ان تمام ٹرسٹ اور سیفٹی پلیٹ فارمز میں یہ ہے۔ ہیش شیئرنگ ڈیٹا بیس, لہذا میں وہاں اپ لوڈ کر سکتا ہوں جو بری چیز ہے، اپنی تمام کمیونٹیز کے ساتھ شئیر کر سکتا ہوں، اور سب مل کر اسے روکنے جا رہے ہیں۔ لیکن آج، میں اس سے بچنے کی کوشش کرنے کے لیے ماڈل کو تربیت دے سکتا ہوں۔ تو یہاں تک کہ زیادہ کلاسک اعتماد اور حفاظت کا کام، جنرل AI کی وجہ سے، مشکل سے مشکل تر ہوتا جا رہا ہے کیونکہ الگورتھم ان تمام چیزوں کو نظرانداز کرنے میں مدد کر سکتا ہے۔

بعد کی سوچ سے لے کر آگے تک

اگرچہ آن لائن فورمز نے مواد کی اعتدال کے بارے میں ایک یا دو چیزیں پہلے ہی سیکھ لی تھیں، لیکن فیس بک کی پیدائش کے وقت اس کی پیروی کرنے کے لیے کوئی سوشل نیٹ ورک پلے بک نہیں تھی، اس لیے یہ بات کسی حد تک قابل فہم ہے کہ اسے کام کرنے کے لیے کچھ وقت درکار ہوگا۔ لیکن اندرونی میٹا دستاویزات سے سیکھنا مایوس کن ہے کہ جہاں تک 2017ایسے اقدامات کو اپنانے میں اب بھی اندرونی ہچکچاہٹ تھی جو بچوں کی بہتر حفاظت کر سکتے تھے۔

زکربرگ ان پانچ سوشل میڈیا ٹیک سی ای اوز میں سے ایک تھے جو حال ہی میں a امریکی سینیٹ کی سماعت بچوں کی آن لائن حفاظت پر۔ میٹا کے لیے گواہی دینا اب تک پہلا نہیں تھا، لیکن یہ کہ ڈسکارڈ کو شامل کیا گیا تھا، یہ بھی قابل توجہ ہے۔ جب کہ یہ اپنی گیمنگ جڑوں سے باہر نکل چکا ہے، یہ ایک یاد دہانی ہے کہ بہت سی آن لائن جگہوں پر اعتماد اور حفاظت کے خطرات پیدا ہو سکتے ہیں۔ اس کا مطلب ہے کہ سوشل گیمنگ ایپ، مثال کے طور پر، اپنے صارفین کو فشنگ یا گرومنگ کے خطرے میں بھی ڈال سکتی ہے۔

کیا نئی کمپنیاں FAANGs سے زیادہ تیزی سے مالک ہوں گی؟ اس کی ضمانت نہیں ہے: بانی اکثر پہلے اصولوں سے کام کرتے ہیں، جو اچھا اور برا ہوتا ہے۔ دی مواد اعتدال سیکھنے کا وکر حقیقی ہے لیکن OpenAI میٹا سے بہت چھوٹا ہے، اس لیے یہ سن کر حوصلہ افزا ہے کہ یہ ایک نئی ٹیم بنا رہا ہے۔ بچوں کی حفاظت کا مطالعہ کرنا – چاہے یہ اس جانچ کا نتیجہ ہو جس کا اسے نشانہ بنایا گیا ہے۔

تاہم، کچھ اسٹارٹ اپ کارروائی کرنے کے لیے پریشانی کے آثار کا انتظار نہیں کر رہے ہیں۔ AI کے قابل اعتماد اور حفاظتی حل فراہم کرنے والا اور Grove Ventures کے پورٹ فولیو کا حصہ، ایکٹو فینس اس کے سی ای او نوم شوارٹز نے مجھے بتایا کہ وہ مزید آنے والی درخواستیں دیکھ رہا ہے۔

“میں نے بہت سے لوگوں کو ہماری ٹیم تک ان کمپنیوں سے پہنچتے دیکھا ہے جو ابھی قائم کی گئی تھیں یا پہلے سے شروع کی گئی تھیں۔ وہ ڈیزائن کے مرحلے کے دوران اپنی مصنوعات کی حفاظت کے بارے میں سوچ رہے ہیں۔ [and] ڈیزائن کے لحاظ سے حفاظت نامی ایک تصور کو اپنانا۔ وہ اپنی مصنوعات کے اندر حفاظتی اقدامات کر رہے ہیں، بالکل اسی طرح جس طرح آج آپ اپنی خصوصیات کی تعمیر کے دوران سیکورٹی اور رازداری کے بارے میں سوچ رہے ہیں۔”

ایکٹو فینس اس جگہ میں واحد اسٹارٹ اپ نہیں ہے، جو وائرڈ “ایک خدمت کے طور پر اعتماد اور حفاظت” کے طور پر بیان کیا گیا ہے۔ لیکن یہ سب سے بڑا میں سے ایک ہے، خاص طور پر جب سے اس نے حاصل کیا ہے۔ ستمبر میں سپیکٹرم لیبز، تو یہ سن کر اچھا لگا کہ اس کے کلائنٹس میں نہ صرف بڑے نام شامل ہیں جو PR بحرانوں اور سیاسی جانچ پڑتال سے خوفزدہ ہیں، بلکہ چھوٹی ٹیمیں بھی شامل ہیں جو ابھی شروع ہو رہی ہیں۔ ٹیک کے پاس بھی ماضی کی غلطیوں سے سیکھنے کا موقع ہے۔