تکنولوژی

هوش مصنوعی گوگل به دروغ پدری را به سوء استفاده از فرزندش متهم کرد



بر اساس گزارش پرتیراژ نیویورک تایمز، پدری که نگران سلامت کودک نوپایش بود با گوشی اندرویدی خود از عفونت تناسلی فرزندش عکس گرفت تا برای پزشک بفرستد، اما هوش مصنوعی گوگل این تصویر را به عنوان «کودک آزاری جنسی» علامت گذاری کرد. محتوا.” خوب. پس از گرفتن عکس، گوگل حساب این شخص را مسدود کرد و گزارشی را به مرکز ملی کودکان مفقود و استثمار شده در ایالات متحده ارسال کرد. The Verge می‌نویسد که گوگل حتی تحقیقات پلیسی را آغاز کرده است. این اتفاق به وضوح مشکلات را نشان می‌دهد. اینکه هوش مصنوعی تشخیص تصویر را در کانون توجه قرار داده است سال گذشته، زمانی که برنامه ایمنی کودکان اپل اجرا شد، نگرانی‌هایی در مورد اینکه چه محتوای آنلاینی در حریم خصوصی کاربر گنجانده شده است، ایجاد شد. اپل گفت که تصاویر را روی دستگاه کاربر اسکن می‌کند قبل از آپلود آنها در سرورهای iCloud و آنها را با پایگاه داده ارائه شده توسط مرکز ملی کودکان مفقود و استثمار شده برای شناسایی موارد کودک آزاری مطابقت می دهد. اگر هوش مصنوعی اپل تشابهات زیادی را تشخیص دهد، ناظر انسانی تصویر را بررسی می کند و اگر مشخص شود که از یک کودک سوء استفاده می کند، حساب آن شخص را بررسی می کند. قفل شود. اپل از جنسیت انتقاد کرد اخلاقیات، گفت که این می تواند حریم خصوصی کاربران را تضعیف کند و “دریچه ای را به زندگی خصوصی آنها باز کند.” اپل در نهایت به سیاست اسکن تصاویر ذخیره شده در آیفون پایان داد، اما با انتشار iOS 15.2، یک ویژگی اختیاری را در اختیار حساب های کودک قرار داد. اگر والدین کودک این ویژگی را فعال کنند، برنامه پیام‌ها در حساب کودک، تصاویر را اسکن کرده و آن‌هایی را که حاوی برهنگی هستند شناسایی می‌کند. اپل ادعا می کند که این کار با حفظ یک سیستم امنیتی با رمزگذاری سرتاسر انجام می شود و هیچ کس نمی تواند محتوای پیام ها را ببیند. اگر هوش مصنوعی اپل تصاویر حاوی برهنگی را تشخیص دهد، آن‌ها را محو می‌کند، هشداری را روی تلفن کودک نمایش می‌دهد و منابع ایمنی را به صورت آنلاین ارائه می‌کند. حادثه ذکر شده در گزارش نیویورک تایمز ظاهراً در فوریه 2021 (فوریه و مارس 2019) اتفاق افتاده است. در آن زمان، بسیاری از مطب های پزشکان به دلیل شیوع ویروس کرونا بسته بودند. مارک (شخصیتی که در گزارش نیویورک تایمز ذکر شده است) متوجه تورم در ناحیه تناسلی فرزندش که تازه راه رفتن را شروع کرده بود، شد و به درخواست پرستار از این ناحیه عکس گرفت تا برای پزشکان ارسال کند. . در نهایت یک مشاوره ویدیویی انجام شد و پزشک برای درمان عفونت آنتی بیوتیک تجویز کرد. به گفته نیویورک تایمز، دو روز پس از ضبط تصاویر، مارک اخطاری از گوگل دریافت کرد که به دلیل «محتوای مضر» می‌گفت: «این به شدت قوانین گوگل را نقض می‌کند و ممکن است غیرقانونی باشد». حسابش قفل شده گوگل، مانند بسیاری از شرکت‌های فناوری دیگر مانند توییتر، ردیت و فیس‌بوک، از ابزار PhotoDNA مایکروسافت برای تطبیق تصاویر ضبط‌شده با پایگاه داده مرکز ملی کودکان گمشده استفاده می‌کند و در سوء استفاده برای شناسایی موارد سوء استفاده جنسی استفاده می‌شود. در سال 2012، سیستم PhotoDNA متهم به دستگیری مردی با سابقه مجرم جنسی بود که تصاویر یک دختر نوجوان را از طریق جیمیل ارسال می کرد. تصاویری که قبلاً دیده نشده از سوء استفاده جنسی از کودکان را شناسایی کنید تا ناظر بعداً بتواند تصویر را بررسی کند و در صورت تأیید سوء استفاده جنسی، اقدام کند. گوگل نیز چنین سیستمی را در یوتیوب پیاده سازی کرده است.گوگل می گوید که پس از کشف تصاویر حاوی سوء استفاده جنسی از کودکان، طبق قانون موظف است عامل بالقوه را به سیستم CyberTipLine به مرکز ملی کودکان گم شده و استثمار شده گزارش دهد. سال گذشته، گوگل 621583 گزارش از سوء استفاده جنسی از کودکان را به CyberTipLine ارسال کرد. مقالات مرتبط: پس از اقدام گوگل، مارک که برای درمان فرزندش از او عکس گرفته بود، دیگر به ایمیل، مخاطبین و تصاویر و حتی تلفن همراه خود دسترسی نداشت. شماره قطع شد زیرا در آن زمان از سرویس تلفن همراه Google Fi استفاده می کرد. مارک به سرعت تلاش کرد تا تعلیق حساب خود را متوقف کند، اما گوگل از انجام درخواست های او خودداری کرد. اداره پلیس سانفرانسیسکو در اواخر سال 2021 تحقیق درباره مارک را آغاز کرد و تمام اطلاعاتی را که مارک با گوگل به اشتراک گذاشته بود به دست آورد. نیویورک تایمز می گوید که پس از بررسی اطلاعات، بازپرس پرونده متوجه شد که مارک هیچ کار غیرقانونی انجام نداده است. جلوگیری از سوء استفاده جنسی از کودکان بسیار مهم است، اما اسکن تصاویر شخصی کاربران توسط شرکت هایی مانند گوگل که تعداد زیادی کاربر در سراسر جهان دارند، حریم خصوصی آنها را نقض می کند. یک کارشناس امنیتی می گوید سیاست گوگل برای اسکن تصاویر کاربران نگران کننده است: «این دقیقاً همان کابوس است که همه ما نگران آن هستیم. آنها در حال اسکن آلبوم خانوادگی من هستند و من به خاطر آن دچار مشکل هستم.

Leave a Reply

نشانی ایمیل شما منتشر نخواهد شد.