رپورٹ کے مطابق گوگل کولیبوریٹری پلیٹ فارم پر ڈیپ فیکس بنانے والے تمام آرٹی فیشل انٹیلی جنٹ سسٹمزپر پابندی عائد کردی ہیں۔ یادرہے ’’گوگل کولیب‘‘ کو کسی بھی ویب براوزر کے ذریعے پائیتھون کوڈ لکھنے اور ڈیزائن خاص طور پر مشین لرننگ اور ڈیٹا تجزیہ کے لئے بنایا گیا تھا ۔ گذشتہ ہفتے تمام ڈیپ فیک جنریٹر لیب صارفین کو پیغام بھیجا گیا جس میں کہا گیا تھا کہ یہ ایک وارننگ ہے ہوسکتا ہے آپ اس کوڈ پر عمل کررہے ہوں جس کی اجازت نہیں مستقبل میں کولیب استعمال کرنے کی اہلیت محدود کی جاسکتی ہے براہ کرم پابندیوں کی فہرست نوٹ کرلیں۔
گوگل ترجمان نے وضاحت کرتے ہوئے کہا ہے کہ کمپنی کسی کے ساتھ بدسلوکی کے حق میں نہیں ، اس کو روکنا ترجیح ہے مخصوص طریقوں کا انکشاف اس لئے نہیں کرسکتے تاکہ لوگ اس کی مدد سے بچ نکلیں گے
یادرہے ڈیپ فیکس کئی شکلوں میں آتے ہیں، لیکن سب سے زیادہ عام ویڈیوز میں سے ایک ایسی ویڈیوز ہیں جہاں کسی شخص کا چہرہ یقین سے دوسرے چہرے کے اوپر لگا دیا جاتا ہے ۔ پرانے زمانے کی فوٹوشاپ کی خام ملازمتوں کے برعکس، AI سے تیار کردہ ڈیپ فیکس کسی شخص کی جسمانی حرکات، مائیکرو ایکسپریشنز اور جلد کے ٹونز سے کچھ معاملات میں ہالی ووڈ کے تیار کردہ کمپیوٹر گرافکس کو بھی پیچھے چھوڑ سکتے ہیں ۔
ڈیپ فیکس عام طور پر میمز کے لئے اور وائرل ویڈیوز کے لئے استعمال کئے جاتے عہیں لیکن انہیں ہیکرز کی جانب سے سوشل میڈیا صارفین کو بھتہ خوری اور فراڈ کی اسکیموں میں نشانہ بنانے کے لیے تیزی سے استعمال کیا جا رہا ہے۔ سیاسی پروپیگنڈے میں بھی ان کا فائدہ اٹھایا جارہا ہے ہے جیسے کہ حال ہی میں سابق وزیراعظم عمران خان کے بارے میں ملک ریاض مالک بحریہ ٹاؤن کی آڈیو لیکس یا یوکرین کے صدر ولادیمیر زیلنسکی کی یوکرین میں جنگ کے بارے میں ایسی تقریر جو کبھی ہوئی ہی نہیں تھی۔
ایک رپورٹ کے مطابق، 2019 سے 2021 تک، آن لائن ڈیپ فیکس کی تعداد تقریباً 14,000 سے بڑھ کر 145,000 تک پہنچ گئی۔ Forrester Research نے اکتوبر 2019 میں تخمینہ لگایا تھا کہ 2020 کے آخر تک ڈیپ فیک فراڈ اسکیموں پر پر 250 ملین ڈالر لاگت آئے گی۔
ICYMI: Google bans deepfake-generating AI from Colabhttps://t.co/PbznW4xF4T
— TechCrunch (@TechCrunch) June 5, 2022