گوگل ابزار هوش مصنوعی رایگانی را برای کمک به شرکت‌ها و سازمان‌ها در شناسایی تصاویر سوءاستفاده جنسی از کودکان در اینترنت منتشر کرد. این ابزار به نام  Content Safety API یک جعبه‌ابزار توسعه‌دهنده است که از شبکه عصبی عمیق برای پردازش تصاویر استفاده می‌کند تا افراد کمتر درگیر مشاهده و بررسی عکس‌های منتشر شده در اینترنت شوند.
گوگل می‌گوید که این ابزار تا ۷۰‌درصد به بازرسان و ممیزی‌ها کمک می‌کند تا تصاویر دارای سوءاستفاده جنسی از کودکان را در اینترنت شناسایی کنند. شناسایی سریع‌تر تصاویر تازه منتشرشده در اینترنت به این معنی است که اگر کودکانی مورد آزار جنسی قرار گرفته‌اند، زودتر شناسایی شده و مورد حمایت قرار بگیرند. گوگل امیدوار است با این ابزار کودکان کمتری مورد سوءاستفاده جنسی قرار بگیرند و محیط وب و فضای مجازی پاک‌تر و سالم‌تر شود.
امیدواری به اینترنت امن‌تر
بسیاری از بنیادها و سازمان‌های حقوق بشری مانند «Internet Watch Foundation»  از انتشار ابزار «Content Safety API»  اظهار خوشحالی کردند و امیدوار هستند اینترنت امن‌تر شود. مدیرعامل یک موسسه خیریه حمایت‌کننده از کودکان می‌گوید که از انتشار این ابزار هیجان‌زده است؛ چون اکنون این فناوری می‌تواند به انسان‌ها در تشخیص و شناسایی سریع‌تر مجرمان آن هم در ابعاد بسیار گسترده‌ای کمک کند.
این ابزار می‌تواند اینترنت را برای دو گروه قربانی‌شونده‌ها و کاربران جدید امن‌تر کند. به علاوه، ابزار جدید AI گوگل می‌تواند تصاویر و سایت‌هایی که هنوز کشف و شناسایی نشده‌اند را هم نشان بدهد. امروزه هوش مصنوعی و تکنیک‌های مبتنی بر آن مانند یادگیری عمیق، شبکه عصبی و یادگیری ماشینی روز به روز پیشرفت کرده و در حوزه‌های گوناگون و گسترده‌ای به کار گرفته می‌شوند.