A Bloomberg birtokába került bizalmas belső dokumentumok szerint a vállalat öt éve úgy tesztelte algoritmusának biztonsági fejlesztéseit, hogy felhasználók millióit szándékosan kizárta azokból. A jelentés alapján a döntés tragikus következményekkel is járhatott, miközben a cég nyilvánosan azt kommunikálta, hogy a fiatalok biztonsága kiemelt prioritást élvez.
A kiszivárgott információk szerint a TikTok 2021-ben módosította ajánlórendszerét annak érdekében, hogy csökkentse a felhasználókra zúduló káros tartalmak mennyiségét. A fejlesztést azonban nem mindenkinél kapcsolták be. A vállalat egy nagyszabású A/B tesztet indított, amelynek célja az volt, hogy felmérje, milyen hatással vannak az új biztonsági megoldások a felhasználók aktivitására és az alkalmazásban eltöltött időre.
A kísérlet részeként az amerikai felhasználók 10 százaléka - nagyjából 15 millió ember - továbbra is a régi algoritmussal találkozott, amely nem tartalmazta az új védelmi mechanizmusokat. Ebbe a kontrollcsoportba került a 16 éves Chase Nasca is. A Bloomberg által ismertetett belső vizsgálat szerint a fiú hírfolyamát rövid idő alatt több mint 7500, depresszióval, magánnyal és öngyilkossággal kapcsolatos videó árasztotta el. Chase 2022 februárjában öngyilkos lett.
A TikTok algoritmusáért és biztonsági rendszereiért felelős csapat később egy 14 oldalas belső jelentésben megállapította, hogy a tinédzser fiókja azért került egy úgynevezett negatív tartalmi buborékba, mert a megelőző biztonsági intézkedések "tervezetten" nem léptek működésbe.
A történteket különösen súlyossá teszi, hogy a belső vizsgálat lezárását követően a TikTok nyilvánosan egészen más képet festett a helyzetről. A vállalat vezérigazgatója, Shou Chew 2023-ban az amerikai Kongresszus előtt tett tanúvallomásában többször is hangsúlyozta, hogy a fiatalok védelme és az átláthatóság a cég legfontosabb céljai közé tartozik.
A Bloomberg szerint amikor a törvényhozók írásban arról kérdezték a TikTokot, előfordult-e valaha, hogy algoritmikus tesztelés felhasználóknak ártott, a vállalat azt válaszolta, hogy irányelvei minden tartalomra egyformán vonatkoznak. A válasz ugyanakkor nem tett említést arról, hogy felhasználók milliói egy olyan kísérlet résztvevői voltak, amelyben a biztonsági funkciók egy részét szándékosan nem alkalmazták.
A TikTok az elmúlt hónapokban már több, öngyilkossággal és közösségimédia-függőséggel kapcsolatos személyiségi jogi pert is peren kívüli egyezséggel zárt le. A Bloomberg szerint jelenleg is több hasonló ügy rendezésén dolgozik a vállalat.
A most nyilvánosságra került dokumentumok ugyanakkor újabb kérdéseket vetnek fel azzal kapcsolatban, hogy a TikTok algoritmusának fejlesztése során ténylegesen mekkora szerepet kap a felhasználók biztonsága, és milyen mértékben írhatják felül azt az elköteleződést mérő üzleti mutatók. Egyelőre nem tudni, hogy az ügy újabb jogi következményekhez vagy szigorúbb szabályozáshoz vezet-e, de a kiszivárgott belső jelentések várhatóan tovább élezik a platform működését kísérő vitákat.
