Isi halaman TikTok Lauren Hemmings awalnya sama seperti kebanyakan orang.
Video pendek beberapa keluarga berjoget, video parodi tentang pandemi, serta video lucu lainnya.
Sama seperti setengah juta orang di seluruh dunia lainnya, Lauren mengunduh aplikasi tersebut untuk menghibur diri.
"Sebenarnya cuma ingin mencari bahan tertawaan sih," kata perempuan berusia 19 tahun itu.
Namun semakin jauh ia melakukan 'scroll', semakin buruk kontennya.
Tanpa disadari, aplikasi tersebut mengubah arah hidup pemikirannya soal hidupnya sendiri dan dunia sekelilingnya.
TikTok mengubah wajah internet. Aplikasi tersebut juga menjadi suatu fenomena kebudayaan.
Memiliki algoritma yang bekerja dengan luar biasa, tidak pernah dilihat sebelumnya.
Penyelidikan yang dilakukan oleh triple j Hack dan Four Corners dari ABC menguak jika TikTok mengekspos konten berbahaya bagi warga Australia, karena kemampuan mengendalikan konten berdasarkan keinginan penggunanya ataupun pandangan politik mana yang mendapat paling banyak perhatian.
TikTok mengklaim misinya untuk "menginspirasi kreativitas dan membawa kegembiraan". Namun, cara kerja aplikasi itu justru berisiko menyesatkan cara generasi muda melihat dunia.
Ketika bermain TikTok, kita tidak memilih konten yang ingin kita tonton. Video terus bergulir tanpa henti.
Setiap halaman utama pengguna yang diberi nama "For You" atau "Untuk Kamu", dibuat unik untuk masing-masing penggunanya.
Apa yang muncul di halaman pengguna dipilihkan secara otomatis lewat algoritma, atau sekumpulan instruksi terkomputerisasi, yang secara teori, menebak konten apa yang ingin kita lihat selanjutnya dan terus menhadirkannya.
Ketika membuat akun TikTok, secara otomatis aplikasi itu akan mengumpulkan data lokasi, gender dan umur dan, lebih kontroversialnya lagi, data wajah kita.
Semakin sering kita memberi "like" pada sebuah video, menjadi 'follower' akun tertentu, atau menonton video TikTok tertentu sampai habis, semakin banyak juga yang dipelajari algoritma TikTok soal minat kita.
"Yang membedakan TikTok ... adalah seberapa akurat dan cepat sistem pemberi rekomendasi halaman For You ini," ujar peneliti Queensland University of Technology, Dr Bondy Kaye.
"Sulit sekali untuk mematahkan siklus ini. Sudah dirancang sedemikian rupa sehingga konten yang disaksikan tidak ada ujungnya."
Semakin sering 'scroll', semakin banyak iklan yang kita lihat. Inilah yang menyebabkan perusahaan induk TikTok di China, ByteDance untuk bernilai lebih dari $250 miliar.
Menjadi sebuah obsesi
Ketika Lauren mengunduh TikTok, algoritmanya menampilkan video 'influencer' fitness terkenal yang bentuk tubuhnya serupa dengannya.
'Influencer' itu selalu memperhitungkan asupan makanan yang dikonsumsinya dan telah menurunkan berat badan secara signifikan.
"Ketika saya [mengikuti] dia, konten serupa mulai bermunculan," kata Lauren.
"Yang saya tonton bukan lagi video gerakan tarian lucu atau semacamnya. Fokusnya cuma di 'fitness' dan gaya hidup sehat."
Algoritma TikTok mendorong Lauren untuk mengikuti tren viral untuk mencatat seberapa banyak kalori yang ia konsumsi setiap harinya.
Kebiasaan ini, menurut pakar, bisa menyebabkan gangguan makan.
Hashtag "What I Eat in a Day" atau "Apa Saja yang Saya Makan Setiap Hari" sudah disaksikan lebih dari tujuh miliar kali di TikTok.
Isinya adalah video orang merinci jumlah kalori yang mereka makan, diselingi cuplikan pantulan tubuh kurus mereka di cermin.
"Ini sekejap menjadi obsesi," kata Lauren.
"Saya menahan diri untuk tidak makan apa pun kecuali tahu seberapa banyak kalori makanan itu dan kecuali makanan itu memenuhi jumlah kalori yang saya butuhkan per hari ... Sempat beberapa bulan saya tidak makan apa yang belum saya timbang.
"Sebelum menemukan TikTok, saya tidak pernah tahu tentang menghitung kalori."
Setelah empat bulan bermain TikTok, Lauren didiagnosis mengalami gangguan makan.
Menurut pakar, ada banyak faktor yang memicu gangguan makan, namun media sosial adalah salah satu yang dampaknya paling mengkhawatirkan.
"Saya tidak akan punya masalah gangguan makan kalau bukan karena mengunduh TikTok ... algoritmanya memanfaatkan kelemahan orang dan mempermainkan kelemahan orang," kata Lauren.
Pakar dari Swinburne University, Dr Suku Sukunesan mengusulkan bagaimana agar TikTok bisa menjadi lebih aman digunakan.
Ia telah mencoba memasukkan diri ke dalam lingkaran kelompok yang mengalami gangguan makan dalam aplikasi tersebut.
"Saya langsung disuguhi konten gangguan makan. Setelah beberapa jam, TikTok merekomendasikan 30 akun berbeda untuk diikuti. Mereka semua adalah orang dengan gangguan makan," katanya.
Dr Suku mengatakan TikTok mengajarkan orang bagaimana caranya memiliki gangguan makan. Algoritma yang ada bahkan menuntun mereka pada video yang lebih parah, termasuk yang mengajarkan mereka untuk menyakiti diri sendiri.
"Rasanya hampir seperti jurang tak berujung dan lama kelamaan kita sadar anak-anak ini semakin parah menyakiti diri sendirinya," katanya.
Pemicu berbahaya
Claire Benstead awalnya ragu bermain TikTok. Ia sering mendengar bahwa aplikasi itu tidak baik bagi mereka dengan gangguan makan.
Perempuan berusia 22 tahun ini sudah keluar-masuk rumah sakit selama lebih dari lima tahun, dan masih dalam proses pemulihan ketika mengunduh aplikasi itu.
Tidak lama setelahnya, ia mulai menemukan video yang memperparah gangguan makannya.
"Kondisi saya tidak membaik. Yang ada terus menerus kambuh," katanya.
"Waktu penyakit dan obsesi saya tambah parah, yang bisa saya lakukan cuma terus melihat handphone dan menonton video ini. Berjam-jam saya habiskan dan terus terpaku padanya."
Psikolog Claire mengusulkannya untuk membersihkan halaman utamanya dengan melaporkan video yang mempromosikan gangguan makan.
Tertulis dalam kebijakan TikTok bahwa aplikasi tersebut melarang "konten yang melarang, mempromosikan, menormalisasi, atau memuja aktivitas yang menuntun pada bunuh diri, menyakiti diri sendiri, atau gangguan makan".
Namun Claire yang telah mencoba melaporkan video berbau gangguan makan selalu mendapat balasan bahwa video ini tidak melanggar pedoman TikTok.
"Rasanya tidak benar. Gangguan makan merupakan salah satu penyebab kematian tertinggi, dan TikTok justru mempromosikan dan memperburuknya," kata Claire.
Respon TikTok dalam menangani masalah ini adalah dengan menghilangkan 'hashtag' yang berbau gangguan makan, sehingga pengguna tidak bisa menemukan video itu. Jika ditemukan, layanan kesehatan The Butterfly Foundation akan muncul.
Mereka yang hidup dengan gangguan makan dan para pakar melihat upaya ini sebagai hal yang positif, namun tidak akan menghentikan kemungkinan orang lain menemukan video itu, terutama saat mereka dapat dengan mudah menemukan video yang sudah dilarang.
"Tim kami terus berkonsultasi dengan organisasi non-profit dan partner lainnya untuk memperbaharui daftar kata kunci," ujar juru bicara TikTok.
Pengguna TikTok lainnya mengatakan ketika mencoba melaporkan video seorang pria bunuh diri, video itu dianggap tidak melanggar kebijakan aplikasi tersebut.
Video tersebut pertama kali muncul di Facebook, lalu dibagikan di kebanyakan platform media sosial.
TikTok menjadi aplikasi terakhir yang menghapusnya, baru setelah video itu viral di platform tersebut.
"Menakutkan sekali menyaksikan dari kacamata seorang pakar, atau orangtua, bahwa konten seperti ini tidak melanggar kebijakan aplikasi," kata Dr Suku.
Hanya butuh waktu 30 detik untuk menemukan konten berbahaya di TikTok, dan beberapa jam bagi algoritma untuk memenuhi halaman utama pengguna dengan video yang membahayakan, menurut beberapa pakar.
Organisasi advokasi teknologi bernama Reset Australia bereksperimen dan menemukan bahwa hanya butuh waktu empat jam bagi algoritma untuk mengetahui ketertarikan pengguna berusia 13 tahun terhadap konten berbau rasisme, dan sekitar tujuh jam bagi video seksis untuk membanjiri halaman utama seseorang.
Semakin lama pengguna menyaksikan konten seperti ini, semakin sering juga munculnya.
Salah satu peneliti di Reset Australia, Rys Farthing mengatakan konten berbahaya ini berlipat kali ganda dampaknya.
"Saya tidak bisa membayangkan bagaimana rasanya menjadi anak muda yang terjerumus ke dalam lubang kelinci ini dan terus disuapi konten seperti itu. Bahaya sekali."
'Shadow ban' dan bias
Sementara TikTok di bawah tekanan memusnahkan video yang merusak, aplikasi tersebut juga dituduh menggunakan algoritma untuk melarang dan mengurangi beberapa unggahan untuk alasan yang salah.
Unice Wani, pengguna TikTok di Perth, memiliki 600.000 pengikut dalam setahun. Ia suka menari dan melakukan lip-sync pada lagi hip-hop terbaru.
Unice yang berusia 18 tahun menggunakan platform tersebut untuk meningkatkan kesadaran orang terhadap masalah dalam komunitasnya.
"Semakin saya viral, semakin banyak kesempatan untuk menunjukkan pada generasi muda dan perempuan kulit berwarna bahwa saya bangga dengan warna kulit saya," katanya.
Namun, belakangan ini, ia menyadari videonya sering tidak muncul di halaman utama TikTok. Tidak ada yang melihatnya. Fenomena ini disebut TikTok sebagai "shadow banning", yang merupakan cerminan bias algoritma.
"Biasanya 'shadow bans' terjadi pada orang yang bersuara tentang beberapa hal, seperti rasisme ... saya rasa mereka lebih suka melihat perempuan berkulit putih menari, dan lain-lain."
Peneliti 'Artifical Intelligence' di University of Melbourne, Dr Niels Wouters mengatakan walaupun halaman utama TikTok terprogram secara otomatis, sama halnya dengan algoritma, juga dibuat manusia.
"Sebagai manusia, kita punya bias tersendiri. Jadi ketika menciptakan algoritma, kita berisiko menanamkan bias tersebut pada algoritma."
Juli lalu, beberapa 'influencer' berkulit hitam mogok bersama, menolak untuk ikut menari gerakan viral TikTok, dan menuduh aplikasi tersebut melakukan kapitalisasi terhadap kreativitas mereka tanpa mengutamakan mereka dalam algoritma.
"Katanya untuk bisa mendapat banyak penonton di TikTok, banyak 'like', kita harus punya talenta.Tapi waktu kita menunjukkan bakat kita, tidak ada yang menghargai," kata Unice.
"Tak peduli seberapa banyak kita mencoba, tidak akan pernah dapat."
Maret 2020 lalu, dokumen kebijakan TikTok yang bocor menunjukkan bahwa moderator aplikasi tersebut diminta untuk menghilangkan konten pengguna yang dianggap "jelek, miskin, atau difabel".
Dokumen tersebut mengatakan bahwa pengguna yang "tembam atau obesitas" dengan "memiliki wajah jelek ... seperti terlalu banyak garis wajah ... atau memiliki kelainan wajah ... serta difabel lainnya" harus dihindarkan.
"Jika penampilan karakter atau lingkungan shooting nya tidak bagus, videonya tidak menarik untuk direkomendasikan pada pengguna baru," bunyi dokumen tersebut.
TikTok mengatakan kebanyakan dari kebijakan ini tidak lagi digunakan. Tapi pengguna TikTok difabel menuduh aplikasi tersebut masih memberlakukannya.
Salah satunya adalah Paniora Nukunuku.
Direkam di jalan kota Sydney, video TikTok Paniora merupakan campuran dari sketsa komedi kehidupannya sebagai orang difabel, serta ras, dan politik.
"Saya tidak menyangka konten saya mengumpulkan banyak fans, hati saya tersentuh membaca komentar orang-orang yang berkata, 'Saya tidak pernah terpikir ada orang yang terlihat seperti saya,'" katanya.
Seminggu setelah dokumen TikTok itu bocor, Paniora memposting sebuah video orang tidak dikenal yang mengatakan ia seharusnya tidak memiliki izin bagi kaum difabel.
"Video itu dihapus ... tidak tahu kenapa," katanya.
Paniora mengajukan banding dan video itu kembali, namun beberapa video tentang situasi difabelnya juga dihilangkan.
"Saya tahu konten saya memberikan semangat bagi orang seperti saya, yang hidupnya seperti saya, yang berkulit coklat seperti saya. Kalau tidak ada representasi kami di media sosial, sulit bagi mereka untuk menerima diri sendiri."
Pakar seperti Bondy Kaye mengatakan aplikasi tersebut harus bisa menangani hal sepert ini.
"Kalau TikTok tidak mulai mengerahkan sumber daya yang ada untuk ikut serta dengan beberapa kritik ini, akan semakin banyak bermunculan isu dan mendorong pengguna berkulit hitam, Aborigin, kulit warna untuk tidak memakai aplikasi ini selamanya," kata Dr Bondy.
Dalam pernyataannya, TikTok mengatakan "merayakan keberagaman" dan menolak tuduhan diskriminasi "terhadap pengguna atau komunitas tertentu dalam platform".
Kenormalan baru TikTok
Ini bukan satu-satunya kali Paniora mencicipi kuatnya TikTok.
Setelah membagikan video tentang 'Black Lives Matter', akunnya dilarang beredar selama seminggu. Video dirinya mengikuti protes mendukung Palestina juga dihilangkan selama beberapa jam setelah diposting.
"Saya sangat marah. Pikir saya, kenapa? Tidak ada sedikitpun bagian dari video ini yang masuk kriteria penurunan, tidak ada," kata Paniora.
"Rasanya seperti TikTok punya preferensi sendiri konten apa yang seharusnya muncul dalam platform ... hal seperti ini menyakitkan hati."
Tahun lalu, TikTok minta maaf karena melarang posting dengan hashtag "Black Lives Matter" dan "George Floyd" setelah ribuan pengguna melayangkan protes tentang video mereka yang diturunkan dan akun mereka yang dilarang beredar.
Perusahaan tersebut mengatakan ini disebabkan kesalahan algoritma, namun pengguna dari kelompok minoritas mengatakan ini dikarenakan suatu pola.
Beberapa pembuat konten lainnya yang memposting video pro-Palestina mengalami hal yang sama.
Institut Kebijakan Strategis Australia (ASPI) melakukan penyelidikan akademis pertamanya mengenai kegiatan sensor di TikTok dan menemukan bahwa perusahaan tersebut aktif menggunakan algoritmanya untuk menghilangkan konten yang dianggap kontroversial.
Penelitian yang didanai Departemen Amerika Serikat ini menemukan bahwa hashtag mengenai penahanan warga Uyghur, pengunjuk rasa Hong Kong, kelompok LGBTQI dan kelompok anti Pemerintah Rusia adalah beberapa yang dilarang.
"Kami melihat bukti penyeleksi konten yang ada di China, bagaimana cara pikir ini masih diberlakukan pada TikTok di luar China," ujar Fergus Ryan dari ASPI.
Menurutnya, TikTok kesulitan menemukan identitasnya.
"Semakin banyak yang tahu tentangnya, khususnya setelah banyak masalah, perusahaan ini berusaha untuk memisahkan TikTok, perusahaannya, dari akarnya di China. Namun tentu saja, hubungan ini tidak bisa diredam sepenuhnya."
Dalam pernyataannya, TikTok membantah perusahaan itu terlibat dalam pelarangan konten.
"Kami tidak melarang atau menghilangkan konten berdasarkan sensitivitas politik. Kami tidak pernah menghilangkan konten atas permintaan Pemerintah China, malah tidak pernah diminta."
Sementara TikTok memperbesar perusahaan di Australia dan berusaha menjangkau lebih banyak pengguna, semakin banyak pengguna mendorong agar perusahaan itu mendengarkan kritik yang dilontarkan padanya.
Niels Wouters khawatir hal ini akan mempersempit cara pandang pengguna terhadap dunia.
"Generasi muda berisiko ... memiliki identitas yang terbentuk akibat apa yang disebut normal baru dalam platform teknologi."
Bagi Lauren, memiliki aplikasi TikTok tidak sepadan dengan risiko mengorbankan kesehatan mentalnya.
"Saya akhirnya berhenti menggunakan TikTok setelah beberapa bulan, tapi bahkan saya masih punya gangguan makan ... memang butuh waktu yang sangat lama untuk memperbaiki kondisi ini," katanya.
"TikTok tidak hadir untuk menolong orang. Kalau aplikasi ini mau menghasilkan uang, mereka pasti melakukan segala cara. Menurut saya mereka harus sadar dampak yang ditimbulkan pada orang-orang."
Kredit
Penulis: , and
Produser dan desain:
Foto: Mathew Marsic
Produser video: and
Penerjemah: Natasya Salim