شرکت متا (Meta) در راستای توسعه قابلیتهای ایمنی برای کاربران نوجوان، از ویژگی جدیدی رونمایی کرده است که در صورت تشخیص گفتگوهای مرتبط با خودآزاری (Self-Harm) یا خودکشی (Suicide) در تعامل با Meta AI، والدین یا سرپرستان قانونی را مطلع میکند. به گزارش انجمن دیجیتال مارکتینگ، این قابلیت بخشی از برنامه گسترده متا برای افزایش امنیت نوجوانان در شبکههای اجتماعی و پاسخ به نگرانیهای والدین و نهادهای نظارتی درباره سلامت روان کاربران کمسنوسال است.
در سالهای اخیر، با گسترش استفاده نوجوانان از ابزارهای مبتنی بر هوش مصنوعی، موضوع محافظت از سلامت روان و پیشگیری از آسیبهای احتمالی به یکی از مهمترین دغدغههای شرکتهای فناوری تبدیل شده است. متا نیز اکنون با استفاده از فناوری هوش مصنوعی و نظارت انسانی، تلاش میکند در شرایط حساس، سریعتر از گذشته وارد عمل شود.
قابلیت جدید Meta AI چگونه عمل میکند؟
به گزارش انجمن دیجیتال مارکتینگ، اگر یک کاربر نوجوان در گفتگو با Meta AI درباره خودکشی، خودآزاری یا افکار آسیبرسان صحبت کند، سیستم هوش مصنوعی ابتدا محتوای مکالمه را تحلیل میکند.
در گذشته، Meta AI تنها شماره مراکز مشاوره بحران، خدمات حمایتی و توصیههایی برای صحبت با یک فرد بزرگسال مورد اعتماد را در اختیار کاربر قرار میداد؛ اما از این پس، در صورت تشخیص خطر، والدین یا سرپرستان نیز بهصورت خودکار از این موضوع مطلع خواهند شد.
هوش مصنوعی تصمیم نهایی را نمیگیرد
یکی از نکات مهم این قابلیت، استفاده همزمان از هوش مصنوعی و بررسی انسانی است.
متا اعلام کرده است که یک سیستم اختصاصی مبتنی بر AI وظیفه شناسایی گفتگوهای حساس را برعهده دارد، اما پیش از ارسال هرگونه هشدار برای والدین، تمامی مکالمات علامتگذاریشده توسط کارشناسان انسانی بررسی میشوند.
هدف از این فرایند، جلوگیری از ایجاد نگرانی بیمورد برای خانوادهها و کاهش احتمال هشدارهای اشتباه است.
اولویت با حفظ امنیت نوجوانان است
متا اعلام کرده حتی اگر بررسی انسانی نیز نتواند با اطمینان درباره نیت کاربر تصمیمگیری کند، در صورت وجود احتمال خطر، هشدار برای والدین ارسال خواهد شد.
به گفته این شرکت، در چنین شرایطی اصل احتیاط بر هر موضوع دیگری اولویت دارد و محافظت از سلامت نوجوانان مهمترین هدف این سیستم محسوب میشود.
والدین چه اطلاعاتی دریافت میکنند؟
پس از تشخیص وضعیت پرخطر، والدین علاوه بر دریافت هشدار، مجموعهای از منابع آموزشی و توصیههای تخصصی را نیز دریافت خواهند کرد.
این اطلاعات شامل راهکارهایی برای گفتگو با فرزند، نحوه برخورد با شرایط بحرانی و منابع کمکرسانی تخصصی در حوزه سلامت روان خواهد بود.
این قابلیت در چه کشورهایی فعال شده است؟
در مرحله نخست، این ویژگی برای خانوادههایی که از قابلیت Instagram Parental Supervision استفاده میکنند، در کشورهای زیر فعال شده است:
- ایالات متحده آمریکا
- بریتانیا
- استرالیا
- کانادا
متا اعلام کرده است که تا پایان سال ۲۰۲۶ این قابلیت برای تمامی کاربران سیستم نظارت والدین در سراسر جهان در دسترس قرار خواهد گرفت.
امکان تماس با اورژانس نیز در دست توسعه است
متا تنها به اطلاعرسانی به والدین بسنده نکرده است.
این شرکت اعلام کرده در حال توسعه قابلیتی است که در صورت تشخیص خطر فوری برای جان کاربر، بتواند بهصورت مستقیم با خدمات اورژانس تماس برقرار کند.
این ویژگی نهتنها برای نوجوانان، بلکه برای کاربران بزرگسال نیز طراحی خواهد شد و در شرایطی که احتمال اقدام فوری به خودآزاری وجود داشته باشد، مورد استفاده قرار میگیرد.
رقابت شرکتهای هوش مصنوعی در حوزه سلامت روان
متا تنها شرکتی نیست که روی ایمنی کاربران سرمایهگذاری میکند. چندی پیش شرکت OpenAI نیز قابلیت Trusted Contact را برای ChatGPT معرفی کرد.
این ویژگی به کاربران اجازه میدهد فردی مورد اعتماد را معرفی کنند تا در صورت تشخیص خطر آسیب به خود، شرکت بتواند با او تماس بگیرد.
به نظر میرسد حفاظت از سلامت روان کاربران به یکی از مهمترین محورهای رقابت میان شرکتهای توسعهدهنده هوش مصنوعی تبدیل شده است.
تنظیمات Limited Content به Meta AI اضافه شد
متا همزمان اعلام کرده است که قابلیت Limited Content نیز از این پس روی تعاملات کاربران با Meta AI اعمال خواهد شد.
اگر والدین این تنظیم را در اینستاگرام فعال کرده باشند، محتوای حساس مانند موضوعات مرتبط با خشونت، خودآزاری، تصاویر نامناسب و سایر محتوای آسیبزا در گفتگوهای هوش مصنوعی نیز محدود خواهد شد.
این موضوع باعث میشود نوجوانان در هنگام استفاده از Meta AI با محتوای ایمنتر و کنترلشدهتری روبهرو شوند.
چرا متا این تغییرات را اعمال کرده است؟
در سالهای اخیر، متا بارها به دلیل تأثیر شبکههای اجتماعی بر سلامت روان نوجوانان مورد انتقاد قانونگذاران، خانوادهها و کارشناسان قرار گرفته است.
افزایش نظارت بر گفتگوهای پرخطر، توسعه ابزارهای کنترلی برای والدین و استفاده از هوش مصنوعی برای شناسایی موقعیتهای بحرانی، بخشی از تلاش این شرکت برای افزایش اعتماد عمومی و رعایت استانداردهای ایمنی کاربران محسوب میشود.
جمعبندی
قابلیت جدید Meta AI را میتوان یکی از مهمترین اقدامات متا در حوزه حفاظت از سلامت روان نوجوانان دانست. این سیستم با ترکیب هوش مصنوعی و بررسی انسانی تلاش میکند در صورت مشاهده نشانههای خودآزاری یا افکار خودکشی، والدین را در سریعترین زمان ممکن مطلع کرده و منابع لازم برای حمایت از فرزندشان را در اختیار آنها قرار دهد.
به گزارش انجمن دیجیتال مارکتینگ، با توسعه چنین قابلیتهایی، شرکتهای فناوری به سمت ایجاد محیطی ایمنتر برای کاربران نوجوان حرکت میکنند؛ هرچند همچنان نقش والدین، آموزش و نظارت انسانی مهمترین عامل در پیشگیری از آسیبهای روانی باقی خواهد ماند.
