Jannah Theme License is not validated, Go to the theme options page to validate the license, You need a single license for each domain name.
أخبار التقنية

باستخدام العلامة المائية AI ، يعود المبدعون إلى الخلف



هذه المقالة جزء من سلسلة IEEE Journal Watch الحصرية بالشراكة مع IEEE Xplore.

تعتمد نماذج الذكاء الاصطناعي على مجموعات بيانات هائلة لتدريب الخوارزميات المعقدة الخاصة بها ، ولكن في بعض الأحيان قد يؤثر استخدام مجموعات البيانات هذه لأغراض التدريب على حقوق أصحاب البيانات. ومع ذلك ، فإن إثبات أن نموذجًا ما يستخدم مجموعة بيانات دون إذن كان أمرًا صعبًا للغاية. ومع ذلك ، دراسة جديدةنشرت في IEEE المعاملات المتعلقة بالطب الشرعي للمعلومات والأمن، قدم الباحثون طريقة لحماية مجموعات البيانات من الاستخدام غير المصرح به عن طريق تضمين العلامات المائية الرقمية فيها. يمكن أن تمنح هذه التقنية مالكي البيانات دورًا أكبر في تحديد من يُسمح له بتدريب نماذج الذكاء الاصطناعي باستخدام بياناتهم.

إن أبسط طريقة لحماية مجموعات البيانات هي تقييد استخدامها ، مثل التشفير. لكن القيام بذلك سيجعل من الصعب استخدام مجموعات البيانات هذه للمستخدمين المصرح لهم أيضًا. بدلاً من ذلك ، ركز الباحثون على اكتشاف ما إذا كان نموذج معين للذكاء الاصطناعي قد تم تدريبه باستخدام مجموعة بيانات معينة ، كما يقول المؤلف الرئيسي للدراسة ، Yiming Li. يمكن وضع علامة على النماذج التي يُعرف أنها تم تدريبها بشكل غير مسموح به على مجموعة بيانات لمتابعتها من قبل مالك البيانات.

طرق وضع العلامات المائية يمكن أن تسبب ضررًا أيضًا. يمكن للجهات الخبيثة ، على سبيل المثال ، تعليم نظام القيادة الذاتية التعرف بشكل غير صحيح على إشارات التوقف كإشارات حد للسرعة.

قال لي إنه يمكن تطبيق هذه التقنية على العديد من الأنواع المختلفة من مشاكل التعلم الآلي ، على الرغم من أن الدراسة تركز على نماذج التصنيف ، بما في ذلك تصنيف الصور. أولاً ، يتم تحديد عينة صغيرة من الصور من مجموعة بيانات ويتم تضمين علامة مائية تتكون من نمط مجموعة من وحدات البكسل المعدلة في كل صورة. ثم يتم تغيير ملصق التصنيف لكل صورة ذات علامة مائية لتتوافق مع التسمية المستهدفة. يؤدي هذا إلى إنشاء علاقة بين العلامة المائية والتسمية المستهدفة ، مما يؤدي إلى إنشاء ما يسمى هجوم الباب الخلفي. أخيرًا ، يتم إعادة دمج الصور المعدلة مع بقية مجموعة البيانات ونشرها ، حيث تكون متاحة للاستهلاك من قبل كل من المستخدمين المصرح لهم. للتحقق مما إذا تم تدريب نموذج معين باستخدام مجموعة البيانات ، يقوم الباحثون ببساطة بتشغيل الصور ذات العلامات المائية من خلال النموذج ومعرفة ما إذا كانوا قد استعادوا التسمية المستهدفة.

يمكن استخدام هذه التقنية في مجموعة واسعة من نماذج الذكاء الاصطناعي. نظرًا لأن نماذج الذكاء الاصطناعي تتعلم بشكل طبيعي دمج العلاقة بين الصور والتسميات في الخوارزمية الخاصة بهم ، يمكن لمالكي مجموعة البيانات إدخال هجوم الباب الخلفي في النماذج دون حتى معرفة كيفية عملها. تتمثل الحيلة الرئيسية في اختيار العدد الصحيح لعينات البيانات من مجموعة بيانات إلى علامة مائية – فعدد قليل جدًا منها يمكن أن يؤدي إلى هجوم خلفي ضعيف ، في حين أن الكثير منها يمكن أن يثير الشك ويقلل من دقة مجموعة البيانات للمستخدمين الشرعيين.

يمكن أن يستخدم الفنانون والمبدعون الآخرون العلامة المائية في النهاية لإلغاء الاشتراك في تدريب نماذج الذكاء الاصطناعي على أعمالهم مثل مولدات الصور. يمكن لمولدات الصور مثل Stable Diffusion و DALL-E 2 إنشاء صور واقعية عن طريق استيعاب أعداد كبيرة من الصور والأعمال الفنية الموجودة ، لكن بعض الفنانين أثاروا مخاوف بشأن استخدام أعمالهم دون إذن صريح. في حين أن التقنية محدودة حاليًا بكمية البيانات المطلوبة للعمل بشكل صحيح – يفتقر عمل الفنان الفردي عمومًا إلى العدد الضروري من نقاط البيانات – يقول لي إن اكتشاف ما إذا كان العمل الفني الفردي قد ساعد في تدريب نموذج ما قد يكون ممكنًا في المستقبل. قد يتطلب الأمر إضافة خطوة “استدلال العضوية” لتحديد ما إذا كان العمل الفني جزءًا من مجموعة بيانات غير مصرح بها.

قال لي إن الفريق يبحث أيضًا عما إذا كان يمكن إجراء العلامات المائية بطريقة تمنعها من أن تكون مُلزمة للاستخدام الضار. في الوقت الحالي ، يمكن استخدام القدرة على وضع علامة مائية على مجموعة بيانات بواسطة جهات فاعلة سيئة لإحداث ضرر. على سبيل المثال ، إذا تم تدريب نموذج ذكاء اصطناعي تستخدمه السيارات ذاتية القيادة على تفسير إشارات التوقف بشكل غير صحيح كإشارة لتعيين حد السرعة بدلاً من ذلك عند 100 ميل في الساعة ، فقد يؤدي ذلك إلى حدوث تصادمات على الطريق. عمل الباحثون على طرق الوقاية ، والتي قدموها كورقة شفوية في مؤتمر التعلم الآلي NeurIPS العام الماضي.

يأمل الباحثون أيضًا في جعل التقنية أكثر فاعلية من خلال تقليل عدد العينات التي تحمل علامة مائية اللازمة لإنشاء هجوم خلفي ناجح. سيؤدي القيام بذلك إلى مجموعات بيانات أكثر دقة للمستخدمين الشرعيين ، بالإضافة إلى زيادة القدرة على تجنب الاكتشاف بواسطة بناة نماذج الذكاء الاصطناعي.

قد يكون تجنب الاكتشاف معركة مستمرة لأولئك الذين يستخدمون العلامات المائية في النهاية لحماية مجموعات البيانات الخاصة بهم. هناك تقنيات تُعرف باسم “دفاع الباب الخلفي” التي تسمح لمنشئي النماذج بتنظيف مجموعة بيانات قبل استخدامها ، مما يقلل من قدرة العلامة المائية على إنشاء هجوم خلفي قوي. قد يتم إحباط دفاعات الباب الخلفي من خلال تقنية علامة مائية أكثر تعقيدًا ، ولكن هذا بدوره قد يتم التغلب عليه من خلال دفاع خلفي أكثر تطوراً. نتيجة لذلك ، قد تحتاج تقنيات العلامات المائية إلى التحديث بشكل دوري.

قال لي: “إن هجوم الباب الخلفي والدفاع الخلفي يشبهان مشكلة القط والفأر”.

من مقالات موقعك

مقالات ذات صلة حول الويب

مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *

زر الذهاب إلى الأعلى

shark tank episode with keto pillskelly clarkson keto weight loss secret before and after photos 2024mach5 keto acv gummies reviewshow did kelly clarkson lose weight so quickly weight loss diet 2024maggie beer keto gummies australiakelly clarkson weight loss diet decoding her health and fitness regimen 2024malibu labs keto gummiesNew keto acv gummies reviews alert 2024 does keto acv gummies work be carefulmax ketosis keto acv gummies reviewskelly clarkson diet 2024 weight loss secrets keto gummies reviewmelissa mccarthy keto gummieskelly clarkson weight loss update before and after photos 2024 transformation on today showmentom keto gummiesketo gummies in 2024 side effects and ingredients keto gummies reviewminch keto gummies reviewsketo gummies 2024 warning keto gummies shark tank show reviews walmartmntx keto bhb gummiesshark tank keto gummies update 2024 keto gummies review keto acv gummies reviewsmr wonderful keto gummies2024 keto gummies beware keto gummies shark tank new keto gummies reviewmulittea gummies ketoproton keto acv gummies reviews my honest opinion updated they won t tell you before getting itmulittea keto gummies reviewsproton keto acv gummies walmart weight loss scam oprah never endorsed proton keto acv gummiesnano slim keto gummies reviewsx10 boost keto acv gummies scam reviews no celebrities ever endorsed keto weight loss gummiesnano slim x keto acv gummies kim kardashianketo gummies shark tank be careful acv keto gummies shark tank shark tank keto acvnano slim x keto acv gummies reviewsshark tank s keto acv gummies alert shark tank acv shark tank keto acv gummies ingredientsnano slim x keto gummies kim kardashianketo acv gummies alert keto acv gummies reviews acv keto gummies do keto acv gummiesnanoslim keto gummies reviewsketosis acv gummies reviews be careful does ketosis acv gummies work ketosis acv keto gummiesnatural keto gummiesdr oz recommendation keto gummies for kelly clarkson weight lossnegative effects of keto gummiesunveiling kelly clarkson keto gummies weight loss secret galorenextgen pharma keto gummies reviewskelly clarkson weight loss scam alert keto acv gummies for weight loss and shark tank reviewsntx bhb keto gummieskelly clarkson weight loss gummies dr oz investigates side effect resolutionsntx keto and acv gummiesketo acv gummies reviews scam watch this keto gummies acv keto gummies to lose weight workntx keto bhb gummies official sitehow did kelly clarkson lose weightntx keto bhb salt gummieskelly clarkson weight loss secret diet kelly clarkson lose weight kelly clarkson weight loss 2024ntx keto gummies cnn newskelly clarkson secret sauce for accelerated keto weight loss what did kelly clarkson do to lose weightntx keto gummies official websitekelly clarkson journey to lose weight naturallyntx nutrition keto acv gummies reviewsketo acv gummies reviews scam or not watch this keto gummies acv keto gummies to lose weight worknucentix keto acv gummies reviewsthe truth about acv keto gummies do they really help you lose weightnucentix keto gummies shark tankwhat did kelly clarkson use for weight loss how did kelly clarkson lose so much weightnucentix keto gummy gummieskelly clarkson weight loss story dr oz analysis on ozempicnumber 1 keto gummiesdr oz on ozempic evaluating kelly clarkson weight lossnumber one keto gummiesdr oz and kelly clarkson discussing weight loss with ozempic and keto gummiesnutra haven keto acv gummieshow kelly clarkson lost weight weight loss journeynutrafaza keto gummieskelly clarkson weight loss regimen unveiled by dr oz the magic of ozempic and keto gummiesnutribolidos keto gummies reviewskelly clarkson and ozempic dr oz perspective on losing weightnutrocell keto acv gummies reviewsdr oz rapid weight loss plan warning dr oz weight loss dr oz weight loss pillsnuu3 keto gummies reviewskelly clarkson keto pills experience acv s role in weight loss successnxt nutrition keto gummieskelly clarkson weight loss boost power of acv and keto pillsofficial keto gummiesketo gummies acv two pillars of kelly clarkson weight lossoprah and keto fusion gummieskelly clarkson keto pill revelation acv s role in her weight lossoprah and royal keto gummieskelly clarkson keto pills and gummies sweet path to weight loss successoprah endorsed keto gummiesunlocking weight loss secrets kelly clarkson acv and keto pill experienceoprah f1 keto gummiesdr oz weight loss pills kelly clarkson keto gummies review and before and afteroprah keto apple cider gummiesKeto Gummies For Weight Loss Shark Tank Simpli Acv Ketooprah keto flo gummiesshark tank keto acv gummies scam reviews and customer support real and honestoprah keto gummies where to buyshark tank keto gummies alert keto gummies reviews kelly clarkson keto gummiesoprah lifetime keto acv gummiesshark tank keto gummies to quit smoking and cure copd deepfake scam ads are everywhere on facebookoprah lifetime keto gummiesketo acv gummies shocking truth keto gummies shark tank keto acv gummies keto crave reviewsoprah slim candy keto gummiesdr oz diet kelly clarkson approach to weight lossoprah true form keto gummiesthe real truth about kelly clarkson s extreme weight loss dietoprah ultimate keto gummieskelly clarkson diet dr oz s prescription for weight lossoprah winfrey simpli acv keto gummieskelly clarkson ozempic diet what dr oz says about her weight lossoprahs acv keto gummieskelly clarkson weight loss ozempic diet dr oz weighs in on her weight lossoprahs keto and acv gummiesexploring kelly clarkson weight loss diet dr oz discusses ozempic or keto gummiesopras keto gummieskelly clarkson weight loss secret diet exclusive before and after photosopti burner keto gummies reviewstransform your health with 3 pack slimx keto acv gummiesoptima keto acv gummiesslim labs acv keto gummies be careful does slim labs acv keto gummies work watch this reviewoptimal keto acv gummies customer service numberweight loss with apple cider vinegar slimsculpt keto acv gummies reviewoptimal keto acv gummies do they workketo acv gummies keto acv gummies the legit keto acv pure slim keto acv gummiesoptimal keto acv gummies side effectsignite keto gummies reviews does ignite keto gummies work ignite keto gummiesoptimal keto and acv gummies reviewsbiopure keto gummies reviews does biopure keto gummies work biopure acv keto gummiesoptimal keto gummies reviewessential keto gummies reviews weight loss be careful does essential keto gummies workoptimal keto plus acv gummies reviewshale and hearty keto gummies reviews new alert does hale and hearty keto gummies workoptimum keto and acv gummiessummer keto acv gummies reviews new alert does summer keto acv gummies work be carefuloptimum keto gummieskelly clarkson weight loss scam features keto gummies with fake reviews here s how it worksoptimum keto plus acv gummiesketo gummies reviews alert keto gummies for weight loss peoples ketooptiplex keto gummies amazonnew keto acv gummies beware acv keto gummies acv gummies review acv gummies reviewsoptiplex keto gummies redditdr oz keto gummies kelly clarkson strategies for losing weight effectivelyoptislim keto acv gummieskelly clarkson keto gummies dr oz negative reviews bad complaints side effectsorange county keto gummies canadaessential keto gummies review warning essential keto gummies side effectsorange county keto gummies reviewsuccess strategies kelly clarkson roadmap to effective weight loss in 2024orange county keto gummies reviewskelly clarkson weight loss keto gummies dr oz overview of side effect resolutionsoriginal keto acv gummieskelly clarkson weight loss gummies dr oz analyzes side effects and solutionsover the counter keto gummiesdr oz verdict on kelly clarkson weight loss gummies side effect solutions exploredperma health keto gummieskelly clarkson keto gummies dr oz verdict on their effectiveness for weight lossperma health keto gummies canadabest keto gummies for effective weight loss 2023 keto dietpower keto gummies ingredientskelly clarksons 2023 keto gummies weight loss truthpower keto gummies oprahketo gummies shark tank 2024 best keto gummies from shark tank showpower keto gummies pioneer womanketo acv gummies reviews scam watch this keto gummies what s the best keto acv gummiespower keto gummies reviewketo gummies review beware keto bhb gummies reviews keto apple cider vinegarpower keto gummies shark tankweight loss exposing apple cider gummies kelly clarkson s truthpremium blast acv keto gummiesgood keto gummies reviews scam exposed or legit goodketo acv bhb gummy formulapremium blast keto acv gummies 340 mgketo gummy kelly clarkson fun and effective keto weight losspremium blast keto acv gummies ingredientsgood keto acv gummies good keto gummies us reviews official 100 safe does it really work or notpremium blast keto gummies shark tank