راه حلی که تصاویر شما را از بازیگوشی‌های هوش مصنوعی نجات می‌دهد
تاریخ انتشار: ۳ مرداد ۱۴۰۲ | کد خبر: ۳۸۳۰۹۸۲۱
به گزارش خبرنگار گروه ارتباطات و فناوری اطلاعات خبرگزاری علم و فناوری آنا به نقل از انگجت، محققان موسسه ام‌آی‌تی، با به کارگیری یک تکنیک در برنامه «فتوگارد» (PhotoGuard) توانستند از تصاویر افراد در برابر ویرایش مخرب هوش مصنوعی محافظت کنند.این تکنیک اختلالات تقریبا نامرئی را برای از بین بردن مدل‌های الگوریتمی معرفی می‌کند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
با گسترش سیستم‌های هوش مصنوعی و تلاش شرکت‌ها برای متمایز کردن محصولات خود از رقبایشان، چت بات‌ها در سراسر اینترنت در حال به دست آوردن قدرت ویرایش تصاویر و همچنین ایجاد آنها هستند؛ شاتراستاک و ادوبی در این راه نسبت به دیگر شرکت‌ها پیشرو هستند، اما با این قابلیت‌های جدید مبتنی بر هوش مصنوعی، مشکلات آشنایی مانند دستکاری غیرمجاز یا سرقت آشکار آثار هنری و تصاویر آنلاین موجود به وجود می‌آید.
تکنیک‌های واترمارک کردن می‌توانند به کاهش مورد دوم کمک کنند، در حالی که تکنیک جدید توسعه یافته در برنامه فتوگارد می‌تواند به جلوگیری از مورد اول کمک کند.
فتوگارد با تغییر پیکسل‌های انتخابی در یک تصویر به گونه‌ای کار می‌کند که توانایی هوش مصنوعی در درک آنچه تصویر است را مختل می‌کند. این اختلالات همانطور که تیم تحقیقاتی موسسه فناوری ماساچوست به آنها اشاره می‌کند، برای چشم انسان نامرئی هستند اما به راحتی توسط هوش مصنوعی قابل خواندن هستند.
روش حمله کدکننده برای معرفی این مصنوعات، نمایش پنهان مدل الگوریتمی تصویر هدف را هدف قرار می‌دهد؛ ریاضیات پیچیده‌ای که موقعیت و رنگ هر پیکسل در یک تصویر را توصیف می‌کند در اصل هوش مصنوعی را از درک آنچه به آن نگاه می‌کند، باز می‌دارد.
روش حمله نفوذ پیشرفته‌تر و از نظر محاسباتی فشرده‌تر، تصویر را به عنوان یک تصویر متفاوت در چشم هوش مصنوعی استتار می‌کند. تصویر هدف را تعریف و اختلالات موجود در تصویر را به گونه‌ای بهینه سازی می‌کند که شبیه به تصویر هدف باشد. هر ویرایشی که یک هوش مصنوعی سعی کند روی این تصاویر ایمن شده انجام دهد، روی تصاویر جعلی هدف اعمال خواهد شد که منجر به ایجاد تصویری با ظاهر غیر واقعی می‌شود.
هادی سلمان، دانشجوی دکترای موسسه فناوری ماساچوست و نویسنده اصلی مقاله، به وبسایت خبری انگجت گفت: حمله کدکننده باعث می‌شود الگوریتم هوش مصنوعی فکر کند که تصویر ورودی (برای ویرایش) تصویر دیگری است (به عنوان مثال یک تصویر خاکستری).
وی در بیانیه‌ای گفت: کار بر روی این مساله مهم امروز از اهمیت بالایی برخوردار است و در حالی که من خوشحالم که توانستم برای این نگرانی عمومی اقدامی انجام دهم اما لازم به ذکر است که کار زیادی لازم است تا این حفاظت عملی شود. شرکت‌هایی که این مدل ها را توسعه می دهند، باید روی ایمن سازی مهندسی در برابر تهدیدهای احتمالی ناشی از این ابزارهای هوش مصنوعی سرمایه گذاری کنند.
انتهای پیام/
منبع: آنا
کلیدواژه: هوش مصنوعی تصویر چت بات الگوریتم هوش مصنوعی یک تصویر
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۳۰۹۸۲۱ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
هوش مصنوعی اخبار ایکس را خلاصه می‌کند
ایکس از هوش مصنوعی «گورگ»(Gork) برای تولید خلاصه هایی از اخبار و دیگر موضوعات ترند روز در این پلتفرم استفاده می کند.
به گزارش مهر به نقل از انگجت، طبق پست حساب کاربری مهندسی ایکس، این ویژگی که هم اکنون فقط برای کاربران پرمیوم مهیا است، «استوری ها در ایکس»(Stories on X) نام گرفته است.
براساس بیانیه این پلتفرم گورگ به پست هایی که کابران با استفاده از قطعاتی از متن تولید می کنند، متکی است. به نظر می رسد برخی از محتواهای تولید شده با هوش مصنوعی مذکور ، بیش از بقیه خبر محور باشند و برخی دیگر خلاصه هایی از محاوراتی است که در پلتفرم انجام شده است. یکی از کاربران اسکرین شاتی را منتشر کرده که استوری هایی درباره گزارش درآمد اپل است. استوری دیگری «ماسک، کارشناسان درباره بدهی ملی بحث و گفتگو می کنند» نام دارد که خلاصه ای از یک محاوره آنلاین بین ماسک و اشخاص برجسته در پلتفرم ایکس است.
این ویژگی شباهت زیادی به قابلیت Moments دارد که مدت ها در توئیتر وجود داشت و توییت های معتبر درباره اخبار مهم و موضوعات مختلف در پلتفرم را تنظیم می کرد. این ویژگی که تحت نظارت گروهی از کارمندان انسانی بود در سال ۲۰۲۲ میلادی حذف شد.
خلاصه هایی که گورگ تهیه می کند مانند بقیه محتوای تولید شده با هوش مصنوعی همراه یک برچسب منتشر می شوند. در این برچسب آمده است: این استوری خلاصه ای از پست های ایکس است و ممکن است در گذر زمان تغییر کند.
کانال عصر ایران در تلگرام بیشتر بخوانید: هوش مصنوعی ۸ سال زودتر از رادیوگرافی می‌تواند آرتروز زانو را تشخیص دهد! آنچه ابن سینا می‌تواند در مورد هوش مصنوعی به ما بیاموزد
حقوق کدام یک از ایثارگران در سال ۱۴۰۳ افزایش داشت؟