Ang algorithm ng Mga reel ng Instagram, bahagi ng higanteng Meta, binuhat niya alalahanin para sa kaligtasan ng mga menor de edad. Isang pagsisiyasat ng Wall Street Journal ipinapakita na sa pamamagitan ng pagsunod sa ilang mga account ng mga batang influencer, nagsimula ang algorithm na magmungkahi nilalaman hindi naaangkop e sekswal, kasama ng mga advertisement mula sa malalaking brand. Sa madaling salita, ang Instagram ay nagpapakita ng nilalamang pang-adulto kahit sa mga hindi dapat.
Ang kontrobersyal na Instagram algorithm na nagpapakita ng nilalamang pang-adulto (ipinagbabawal) kahit sa mga menor de edad
Ang pagsubok, na isinagawa ni Wall Street Journal, na kinabibilangan ng paglikha ng mga account na nilayon upang sundan ang mga batang influencer tulad ng mga gymnast at cheerleader, ay nagpakita na ang Instagram algorithm ay nagsimulang magmungkahi ng nilalamang pang-adulto, kabilang ang mga sekswal na video na kinasasangkutan ng mga nasa hustong gulang at menor de edad, at mga patalastas mula sa mga kilalang tatak sa US.
Ang pagsisiyasat ay nagsiwalat ng isang nakababahala na kalakaran: ang mga account na sumunod sa mga kabataang ito ay nalantad sa a nakababahala na pinaghalong pornograpiya at mga materyal na nagse-sexualize sa mga bata. Na-highlight ng mga eksperto sa mga sistema ng rekomendasyong algorithmic kung paano makakapagbigay ng mas malakas na signal ang naturang "niche" na content kaysa sa mga pangkalahatang interes, na nagtutulak sa algorithm na idirekta ang hindi naaangkop na content sa mga user.
Basahin din ang: Nabunyag ang sikreto ni Pulcinella: milyon-milyong menor de edad na gumagamit sa Instagram
Ang problema ng pagsasama-sama ng nilalamang pang-adulto sa Instagram ito ay kilala sa loob at ang pagpigil sa naturang pagkalat ay nangangailangan ng makabuluhang pagbabago sa mga algorithm ng rekomendasyon. Gayunpaman, ipinapakita iyon ng mga dokumento ng kumpanya Ang mga tauhan ng seguridad ay higit na ipinagbabawal na gumawa ng mga pagbabago sa platform na maaaring mabawasan ang bilang ng mga pang-araw-araw na aktibong user.
Bilang tugon, sinabi ng Meta na namumuhunan ito ng bilyun-bilyon sa mga solusyon sa kaligtasan, seguridad at pagiging angkop sa tatak, habang inaamin ang pangangailangan para sa karagdagang mga pagpapabuti. Iba't ibang kumpanya, kabilang ang Tumugma grupo e Bumble, sinuspinde nila o binawasan ang kanilang advertising sa Reels at iba pang mga Meta platform kasunod ng mga pagtuklas na ito. Ang iba, parang Disney e Kanya, ay pinipindot ang Meta upang maiwasan ang mga naturang ad placement at nagpahayag ng pag-aalala tungkol sa ang kaugnayan ng kanilang mga tatak sa naturang nilalaman.