به نقل از دیجیتال مارکتینگ ایران، تیک‌تاک با اتهام تازه‌ای درباره نحوه محافظت از کاربران نوجوان روبه‌رو شده است. دادستان کل نیویورک مدعی است این شبکه اجتماعی در قالب آزمایش‌های محرمانه، برخی قابلیت‌های ایمنی را برای بخشی از کاربران آمریکایی غیرفعال کرده تا بررسی کند که فعال بودن این امکانات چه تأثیری بر مدت‌زمان حضور کاربران در پلتفرم دارد. این پرونده بار دیگر موضوع مسئولیت شبکه‌های اجتماعی در قبال سلامت روان کودکان و نوجوانان و مرز میان آزمایش محصول و حفظ امنیت کاربران را به مرکز توجه آورده است.
بر اساس گزارشی اختصاصی از بلومبرگ که در اسناد قضایی بازتاب یافته، آزمایشی الگوریتمی از سال ۲۰۲۱ آغاز شده و بنا بر ادعاهای مطرح‌شده، حدود ۱۵ میلیون کاربر آمریکایی را تحت تأثیر قرار داده است. در این آزمایش، قابلیت‌های ایمنی جدید برای بخشی از کاربران غیرفعال شده بود تا مشخص شود وجود این تدابیر چه اندازه بر میزان استفاده از تیک‌تاک اثر می‌گذارد. یکی از حساس‌ترین بخش‌های پرونده نیز به نوجوانی مربوط می‌شود که گفته شده در گروه آزمایشی قرار داشته و بعداً بر اثر خودکشی جان خود را از دست داده است.
با این حال، باید میان ادعاهای مطرح‌شده در دادگاه، اطلاعات مندرج در اسناد و موضع رسمی شرکت تفاوت قائل شد. تیک‌تاک اصل انجام آزمایش‌های مربوط به محصول را در پاسخ قضایی خود تأیید کرده، اما این ادعا را که آزمایش‌ها محیط پلتفرم را خطرناک‌تر کرده‌اند، رد کرده است. بنابراین، ابعاد دقیق مسئولیت شرکت و ارتباط میان تصمیم‌های فنی آن و پیامدهای مورد ادعا، موضوعی است که باید در روند رسیدگی قضایی بررسی شود.
اتهام نیویورک علیه تیک‌تاک دقیقاً چیست؟
لتیشیا جیمز، دادستان کل نیویورک، تیک‌تاک را متهم کرده است که در جریان یک آزمایش موسوم به آزمون A/B، برخی کاربران را عمداً در معرض تجربه‌ای با سطح محافظت کمتر قرار داده است. آزمون A/B یکی از روش‌های رایج در توسعه محصولات دیجیتال است که در آن، دو یا چند نسخه از یک قابلیت برای گروه‌های متفاوتی از کاربران نمایش داده می‌شود تا عملکرد آن‌ها با یکدیگر مقایسه شود.
برای مثال، یک شرکت ممکن است دو نسخه از صفحه اصلی اپلیکیشن را آزمایش کند تا ببیند کدام نسخه کاربران بیشتری را به تعامل ترغیب می‌کند. چنین آزمایش‌هایی در طراحی رابط کاربری، بهبود تجربه مشتری و سنجش اثربخشی قابلیت‌های جدید کاربرد دارند. با این حال، زمانی که موضوع به ایمنی کودکان و نوجوانان مربوط می‌شود، پرسش‌های مهم‌تری مطرح می‌شوند: آیا کاهش سطح حفاظت کاربران برای سنجش رفتار آن‌ها قابل قبول است؟ آیا کاربران یا والدینشان از این آزمایش‌ها اطلاع داشته‌اند؟ و چه سازوکارهایی برای جلوگیری از آسیب احتمالی در نظر گرفته شده بود؟
بر اساس ادعاهای پرونده، هدف آزمایش تیک‌تاک بررسی این موضوع بود که آیا اضافه کردن تدابیر ایمنی باعث کاهش مدت‌زمان حضور کاربران در پلتفرم می‌شود یا خیر. منتقدان چنین رویکردی را نشانه‌ای از تعارض احتمالی میان اهداف تجاری، مانند افزایش تعامل، و مسئولیت اجتماعی پلتفرم می‌دانند. با این حال، برای نتیجه‌گیری قطعی درباره انگیزه‌ها، طراحی دقیق آزمایش و میزان خطر ایجادشده، بررسی کامل اسناد و شواهد ضروری است.
آزمایش محرمانه از سال ۲۰۲۱ چگونه انجام شد؟
طبق گزارش منتشرشده، آزمایش مورد بحث از سال ۲۰۲۱ اجرا شده و حدود ۱۵ میلیون کاربر آمریکایی را تحت تأثیر قرار داده است. در بخشی از این آزمایش، قابلیت‌های ایمنی جدید برای ۱۰ درصد از کاربران آمریکایی غیرفعال شده بود تا عملکرد پلتفرم در شرایط متفاوت مقایسه شود.
این ارقام اهمیت موضوع را از دو جهت نشان می‌دهند. نخست، آزمایش‌های نرم‌افزاری در پلتفرم‌هایی با میلیون‌ها کاربر می‌توانند تأثیری گسترده داشته باشند؛ حتی اگر تنها بخشی از مخاطبان در گروه آزمایشی قرار بگیرند. دوم، تغییرات کوچک در الگوریتم‌ها یا تنظیمات ایمنی ممکن است بر تجربه روزانه کاربران، به‌ویژه افراد کم‌سن‌وسال، اثر بگذارند.
در یک آزمایش استاندارد، تیم‌های فنی معمولاً شاخص‌هایی مانند نرخ تعامل، مدت‌زمان استفاده، نرخ بازگشت کاربران و میزان تکمیل یک فعالیت را اندازه‌گیری می‌کنند. اما آزمایش‌های مرتبط با ایمنی باید شاخص‌های دیگری را نیز در نظر بگیرند؛ از جمله احتمال مواجهه با محتوای آسیب‌زا، گزارش‌های کاربران، نشانه‌های خطر و پیامدهای احتمالی برای گروه‌های آسیب‌پذیر.
در پرونده تیک‌تاک، یکی از پرسش‌های اصلی این است که آیا سازوکارهای نظارتی کافی برای ارزیابی خطر پیش از اجرای آزمایش و در طول آن وجود داشته‌اند یا خیر. پاسخ به این پرسش می‌تواند در تعیین مسئولیت شرکت و تدوین استانداردهای آینده برای آزمایش قابلیت‌های شبکه‌های اجتماعی اهمیت داشته باشد.
چرا پرونده به سلامت روان نوجوانان گره خورده است؟
نوجوانان از گروه‌هایی هستند که در برابر برخی پیامدهای منفی تجربه آنلاین آسیب‌پذیری بیشتری دارند. این موضوع به معنای آن نیست که استفاده از شبکه‌های اجتماعی برای همه نوجوانان زیان‌آور است؛ بلکه نشان میدهد طراحی محصول، نوع محتوای پیشنهادی، میزان استفاده و امکانات حفاظتی می‌توانند در تجربه افراد مختلف نقش داشته باشند.
شبکه‌های اجتماعی با استفاده از سیستم‌های پیشنهاد محتوا، ویدئوها و مطالبی را به کاربران نمایش می‌دهند که احتمال تعامل با آن‌ها بیشتر است. این سیستم‌ها ممکن است بر اساس رفتارهایی مانند تماشای ویدئو، پسندیدن محتوا، دنبال کردن حساب‌ها و مدت‌زمان توقف روی هر مطلب عمل کنند. اگر سازوکارهای حفاظتی به‌درستی طراحی نشده باشند، احتمال دارد برخی کاربران با محتوایی روبه‌رو شوند که برای شرایط سنی یا وضعیت روانی آن‌ها مناسب نیست.
در چنین شرایطی، قابلیت‌های ایمنی می‌توانند نقش مهمی داشته باشند. این امکانات ممکن است شامل محدودیت‌های سنی، کنترل‌های والدین، ابزارهای گزارش محتوا، تنظیمات حریم خصوصی، محدودیت‌های مربوط به پیام‌رسانی یا روش‌های مدیریت زمان استفاده باشند. البته جزئیات دقیق قابلیت‌هایی که در آزمایش مورد بحث غیرفعال شده‌اند، باید بر اساس اسناد معتبر پرونده مشخص شود و نمی‌توان بدون شواهد کافی همه این ابزارها را جزو امکانات حذف‌شده دانست.
موضوع زمانی حساس‌تر می‌شود که کاربران نوجوان بدون اطلاع روشن از تغییرات یا بدون امکان انتخاب آگاهانه، در گروه آزمایشی قرار گرفته باشند. در طراحی مسئولانه محصولات دیجیتال، ارزیابی پیامدهای احتمالی برای کودکان و نوجوانان باید بخشی از فرایند توسعه باشد، نه اقدامی که تنها پس از بروز مشکل انجام شود.
ماجرای نوجوانی که در گروه آزمایشی قرار داشت
یکی از تکان‌دهنده‌ترین بخش‌های این پرونده، ادعای مربوط به نوجوانی است که در گروهی قرار داشته که قابلیت‌های محافظتی تیک‌تاک برای آن فعال نبوده و بعداً بر اثر خودکشی جان خود را از دست داده است. این موضوع به دلیل پیامد انسانی آن، توجه زیادی را به پرونده جلب کرده است.
با این حال، صرف قرار گرفتن یک فرد در گروه آزمایشی به‌تنهایی رابطه علت و معلولی میان آزمایش و مرگ او را اثبات نمی‌کند. ارزیابی چنین ارتباطی نیازمند بررسی دقیق شرایط فرد، زمان‌بندی رویدادها، نوع قابلیت‌های غیرفعال‌شده، شواهد فنی و سایر عوامل مرتبط است. بنابراین، باید میان گزارش حضور این نوجوان در گروه آزمایشی و اثبات حقوقی مسئولیت شرکت تمایز قائل شد.
این تمایز از اهمیت موضوع کم نمی‌کند؛ بلکه نشان میدهد چرا طراحی آزمایش‌های مرتبط با سلامت و ایمنی کاربران باید با حساسیت بیشتری انجام شود. اگر یک آزمایش می‌تواند سطح محافظت از افراد کم‌سن‌وسال را کاهش دهد، شرکت باید بتواند ضرورت آن، ارزیابی خطر و تدابیر کاهش آسیب را به‌طور شفاف توضیح دهد.
واکنش تیک‌تاک به اتهام‌ها چه بود؟
تیک‌تاک در پاسخ به پرونده قضایی اعلام کرده است که به‌طور مستمر پلتفرم خود را بهبود میدهد و مانند بسیاری از کسب‌وکارها، محصولات و قابلیت‌های تازه را آزمایش می‌کند تا عملکرد واقعی آن‌ها را بسنجد. این شرکت تأیید کرده است که بخشی از ترافیک کاربران در قالب آزمایش‌ها تجربه متفاوتی دریافت می‌کنند، اما ادعای خطرناک‌تر شدن پلتفرم در نتیجه این آزمایش را نپذیرفته است.
از دید شرکت‌های فناوری، آزمایش کنترل‌شده می‌تواند راهی برای شناسایی مشکلات و سنجش عملکرد قابلیت‌های جدید باشد. با این حال، مشروعیت چنین آزمایش‌هایی تنها به رایج بودن آن‌ها در صنعت فناوری وابسته نیست. نوع تغییر، گروه کاربران، سطح خطر، نحوه اطلاع‌رسانی و امکان توقف فوری آزمایش در صورت مشاهده پیامدهای نامطلوب نیز اهمیت دارند.
در نتیجه، مسئله اصلی فقط این نیست که تیک‌تاک آزمایش محصول انجام داده است؛ بلکه باید روشن شود آزمایش چگونه طراحی شده، چرا برخی تدابیر ایمنی در گروهی از کاربران غیرفعال شده‌اند و چه معیارهایی برای سنجش خطر احتمالی به کار رفته‌اند. پاسخ به این پرسش‌ها برای ارزیابی ادعاهای دادستانی و دفاع شرکت ضروری خواهد بود.
پرونده تیک‌تاک بخشی از موج گسترده شکایت‌ها علیه شبکه‌های اجتماعی است
نیویورک تنها ایالتی نیست که درباره آثار شبکه‌های اجتماعی بر سلامت روان نوجوانان اقدام قضایی انجام داده است. بر اساس گزارش منتشرشده، ده‌ها ایالت آمریکا شکایت‌هایی را علیه تیک‌تاک و برخی دیگر از پلتفرم‌های اجتماعی مطرح کرده‌اند. محور این دعاوی، نگرانی درباره طراحی محصولات، شیوه جذب و حفظ کاربران کم‌سن‌وسال و کفایت تدابیر ایمنی است.
در گزارش اولیه همچنین به توافق مالی تیک‌تاک در آلاباما اشاره شده است. طبق این گزارش، شرکت در تابستان همان سال با پرداخت ۳۰۰ میلیون دلار برای مختومه کردن پرونده‌ای مشابه موافقت کرده است. چنین توافق‌هایی باید با دقت تفسیر شوند؛ زیرا توافق برای پایان دادن به یک دعوای حقوقی لزوماً به معنای پذیرش همه اتهامات مطرح‌شده نیست. شرایط هر توافق و مفاد رسمی آن تعیین می‌کند که چه تعهداتی پذیرفته شده‌اند.
متا، شرکت مالک فیس‌بوک و اینستاگرام، اسنپ و یوتیوب نیز در پرونده‌ها و مناقشات مرتبط با ایمنی کاربران جوان مورد توجه قرار گرفته‌اند. گزارش یادشده به دعاوی گسترده علیه این شرکت‌ها و بحث درباره تغییرات ایمنی و توافق‌های مالی اشاره می‌کند. با توجه به پیچیدگی پرونده‌ها، ارقام مالی و مفاد توافق‌ها باید بر اساس اسناد رسمی هر پرونده بررسی شوند و نباید آن‌ها را بدون توضیح در کنار یکدیگر قرار داد.
پیامدهای احتمالی این پرونده برای صنعت فناوری
رسیدگی به پرونده تیک‌تاک می‌تواند بر نحوه طراحی و اجرای آزمایش‌های محصول در شبکه‌های اجتماعی اثر بگذارد. اگر دادگاه‌ها به این نتیجه برسند که تغییرات آزمایشی بدون ارزیابی مناسب خطر انجام شده‌اند، شرکت‌های فناوری ممکن است با فشار بیشتری برای مستندسازی تصمیم‌های فنی و ایجاد سازوکارهای حفاظتی روبه‌رو شوند.
۱. ارزیابی خطر پیش از اجرای آزمایش
شرکت‌ها می‌توانند پیش از آغاز آزمایش، اثر احتمالی تغییرات را بر گروه‌های مختلف کاربران بررسی کنند. در مورد نوجوانان، این ارزیابی باید با توجه به سن، نوع محتوا، ویژگی‌های طراحی و پیامدهای احتمالی کاهش تدابیر ایمنی انجام شود. همچنین لازم است معیارهایی برای توقف فوری آزمایش در صورت مشاهده نشانه‌های خطر تعریف شود.
۲. شفافیت بیشتر درباره آزمایش‌های الگوریتمی
شفافیت به این معنا نیست که شرکت‌ها باید تمام جزئیات فنی یا اسرار تجاری خود را عمومی کنند. با این حال، کاربران، والدین و نهادهای نظارتی باید بتوانند درک روشنی از نحوه استفاده از داده‌ها، نوع تغییرات مهم و تدابیر محافظتی داشته باشند. ارائه توضیحات قابل فهم درباره آزمایش‌های حساس می‌تواند اعتماد عمومی را تقویت کند.
۳. توجه به شاخص‌های ایمنی در کنار تعامل
اگر موفقیت یک قابلیت فقط با افزایش زمان حضور کاربر یا تعداد بازدیدها سنجیده شود، ممکن است برخی هزینه‌های انسانی و اجتماعی نادیده بمانند. شاخص‌های ایمنی، گزارش‌های مربوط به محتوا، میزان مواجهه با تجربه‌های نامناسب و ارزیابی اثرات بر گروه‌های آسیب‌پذیر نیز باید در تصمیم‌گیری‌های محصول جایگاه مشخصی داشته باشند.
۴. افزایش مسئولیت تیم‌های محصول و بازاریابی
مسئولیت طراحی ایمن فقط به تیم حقوقی یا واحد نظارت بر محتوا محدود نیست. مدیران محصول، مهندسان، طراحان تجربه کاربری، تحلیلگران داده و تیم‌های رشد و بازاریابی نیز در انتخاب شاخص‌های موفقیت و تعیین حدود آزمایش‌ها نقش دارند. هماهنگی میان این تیم‌ها می‌تواند احتمال تصمیم‌هایی را کاهش دهد که رشد کوتاه‌مدت را بر امنیت کاربران مقدم می‌کنند.
والدین و کاربران نوجوان چه اقداماتی می‌توانند انجام دهند؟
تا زمانی که پرونده در مسیر حقوقی خود بررسی می‌شود، خانواده‌ها می‌توانند با چند اقدام عملی، مدیریت استفاده از شبکه‌های اجتماعی را بهبود دهند. این اقدامات جایگزین مسئولیت پلتفرم‌ها یا نظارت قانونی نیستند، اما می‌توانند به ایجاد تجربه آنلاین آگاهانه‌تر کمک کنند.
- بررسی تنظیمات حریم خصوصی: والدین و نوجوانان بهتر است تنظیمات مربوط به حساب، پیام‌ها، مخاطبان و دسترسی به محتوا را متناسب با سن و نیازهای خود بررسی کنند.
- استفاده از ابزارهای نظارت خانوادگی: در صورت وجود قابلیت‌های کنترل والدین، می‌توان از آن‌ها برای مدیریت برخی محدودیت‌ها و گفت‌وگو درباره عادت‌های آنلاین استفاده کرد.
- گفت‌وگوی بدون سرزنش: نوجوانان باید بتوانند درباره تجربه‌های ناخوشایند، محتوای آزاردهنده یا فشارهای ناشی از شبکه‌های اجتماعی با بزرگسالان مورد اعتماد صحبت کنند.
- مدیریت زمان استفاده: ایجاد تعادل میان فعالیت آنلاین، خواب، تحصیل، ورزش و ارتباطات حضوری می‌تواند به شکل‌گیری عادت‌های سالم‌تر کمک کند.
- گزارش محتوای آسیب‌زا: آشنایی با ابزارهای گزارش‌دهی و مسدود کردن حساب‌ها به کاربران کمک می‌کند در برابر تجربه‌های نامناسب واکنش نشان دهند.
در صورت بروز نشانه‌های جدی ناراحتی روانی یا خطر فوری برای یک نوجوان، تکیه بر تنظیمات یک اپلیکیشن کافی نیست و دریافت کمک از متخصصان و خدمات حمایتی مناسب اهمیت دارد.
آینده پرونده ایمنی نوجوانان در تیک‌تاک چه خواهد شد؟
پرونده نیویورک پرسش مهمی را درباره مسئولیت شرکت‌های فناوری مطرح می‌کند: آیا آزمایش قابلیت‌های دیجیتال، حتی زمانی که در صنعت رایج است، می‌تواند بدون محدودیت روی کاربران کم‌سن‌وسال انجام شود؟ پاسخ به این پرسش به ماهیت آزمایش، سطح خطر، کیفیت نظارت و تعهد شرکت به حفظ ایمنی کاربران بستگی دارد.
در ادامه رسیدگی، بررسی اسناد داخلی، روش اجرای آزمایش، تصمیم‌های مدیریتی و شواهد مربوط به آثار احتمالی آن می‌تواند نقش مهمی در روشن شدن موضوع داشته باشد. در عین حال، موضع تیک‌تاک و دفاع این شرکت نیز بخشی از فرایند رسیدگی است و باید در کنار ادعاهای دادستانی بررسی شود.
اهمیت این پرونده فراتر از یک شرکت یا یک آزمایش خاص است. شبکه‌های اجتماعی بخش بزرگی از زندگی روزمره کاربران جوان را شکل می‌دهند و تصمیم‌های مربوط به الگوریتم‌ها و قابلیت‌های ایمنی می‌توانند پیامدهایی گسترده داشته باشند. به همین دلیل، رشد فناوری باید با ارزیابی خطر، شفافیت و پاسخ‌گویی همراه باشد؛ به‌ویژه زمانی که سلامت و امنیت کودکان و نوجوانان در میان است.
برای مطالعه جدیدترین اخبار و تحلیل‌های فناوری، شبکه‌های اجتماعی و بازاریابی دیجیتال به دیجیتال مارکتینگ ایران مراجعه کنید.
“`
