سال گذشته، اینستاگرام ویژگی فیلتر بهبودیافته‌ی کامنت را معرفی کرد که با استفاده از یادگیری ماشین، واژه‌ها و عبارات توهین‌آمیز را در متون چالش‌برانگیز تشخیص می‌داد. اکنون این شرکت، فناوری مشابهی را برای تصاویر و زیرنویس‌ها معرفی کرده است. شبکه‌ی اجتماعی محبوب روز سه‌شنبه اعلام کرد که پیش از ارسال محتوا به ناظران انسانی برای بررسی، با بهره‌گیری از هوش مصنوعی به‌صورت فعالانه زورگویی را تشخیص می‌دهد.
این ویژگی جدید در هفته‌های آتی در دسترس کاربران قرار خواهد گرفت و به‌موقع برای ماه پیشگیری از زورگویی ملی در ایالات متحده و اندکی پیش از هفته‌ی ضدزورگویی در بریتانیا منتشر می‌شود. این فناوری همچنین به ویدئو‌های زنده افزوده شده است تا کامنت‌ها را در آنجا نیز فیلتر کند.
این نخستین معرفی محصول اینستاگرام تحت مدیریت جدید آدام موسری محسوب می‌شود کهپس از کناره‌گیری کوین سیستروم و مایک کریگر، بنیان‌گذاران این شبکه‌ی اجتماعی در ماه گذشته‌ی میلادی به سمت مدیرعاملی اینستاگرام منصوب شد. بنا به گزارش‌ها، این جدایی به‌دنبال تشدید اختلافات بین این دو و فیسبوک، شرکت مادر اتفاق افتاد که به‌طور مرتب به دخالت در اینستاگرام می‌پرداخت.
با تداوم کاهش اعتماد عمومی به Facebook، اینستاگرام به‌عنوان نقطه‌ی روشن کارنامه‌ی این شرکت باقی مانده است. Instagram محبوب و سودآور است و خوشبختانه رسوایی‌هایی که گریبان فیسبوک را گرفتند هنوز دامن‌گیر آن نشده‌اند. در نتیجه، استفاده از هوش مصنوعی برای کمک به حذف محتوای توهین‌آمیز و ایمن نگاه داشتن اینستاگرام برای کاربران از اهمیت فوق‌العاده‌ای برخوردار است.
در مقاله‌ای که وب‌سایت وایر سال گذشته منتشر کرد، برخی از جزئیات فیلتر کامنت مبتنی بر یادگیری ماشین اینستاگرام توضیح داده شد؛ اما باور عموم این است که این نوع فناوری، روشی جادویی برای تعدیل محتوا محسوب نمی‌شود. این درست است که هوش مصنوعی، ابزاری ارزان‌قیمت برای به‌کارگیری در مقیاس بالا به‌شمار می‌رود؛ اما هنوز در مقابله با متون ظریف و پیچیده‌ی نوشته‌شده به‌دست انسان با دشواری مواجه است. درست به همین دلیل، این فیلترهای جدید زورگویی باید محتوا را به‌منظور بررسی نهایی برای ناظران انسانی نیز ارسال کنند. خودکارسازی بدون نظارت می‌تواند به بروز فاجعه منتهی شود.
اینستاگرام به‌نحو جالب‌توجهی می‌گوید ویژگی جدیدش صرفا زیرنویس تصاویر را برای شناسایی زورگویی تحلیل نخواهد کرد؛ بلکه به بررسی خود تصویر نیز خواهد پرداخت. یکی از سخنگویان اینستاگرام در گفتگو با خبرگزاری ورج با ارائه‌ی مثالی نحوه‌ی کار این ویژگی را توضیح داد. به‌عنوان نمونه، اگر در تصاویر تقسیم‌شده در صفحه‌ی فردی به‌صورت نامناسب با شخص دیگری مقایسه شده باشد، هوش مصنوعی به جستجو برای شناسایی زورگویی بالقوه خواهد پرداخت. با این حال، اینکه هوش مصنوعی در جستجوی چه عوامل دیگری خواهد بود، هنوز مشخص نیست. البته باید این موضوع را درنظر گرفت که اگر فیسبوک اعلام کند با استفاده از هوش مصنوعی تصاویر میم را اسکن خواهد کرد، افراد احتمالا به فکر دور زدن چنین فیلترهایی خواهند افتاد.
اینستاگرام علاوه‌بر فیلترهای جدید، «افکت مهربانی دوربین» را نیز منتشر می‌کند. به‌نظر می‌رسد این افکت، روشی برای انتشار پیام‌های مثبت به‌عنوان شیوه‌ای برای افزایش تعامل کاربران محسوب می‌شود. در حین استفاده از دوربین اصلی، این افکت‌های صفحه‌نمایش را با پوششی از کامنت‌های محبت‌آمیز به زبان‌های مختلف پر خواهند کرد. کاربر سپس با انتخاب دوربین سلفی، ایموجی‌ها و تشویق‌های مودبانه دریافت خواهد کرد تا «دوستی را که خواهان پشتیبانی او است» در تصویر خود برچسب‌گذاری کند.