Akun media sosial yang dikendalikan oleh bot komputer (akun bot) semakin marak ditemui di berbagai platform media sosial dan aplikasi pesan. Jumlahnya terus bertambah berkat teknologi AI generatif seperti Large Language Model (LLM) sejak tahun 2022. Hal ini membuat pembuatan konten AI semakin mudah dan murah dengan ribuan bot yang menghasilkan teks yang gramatikal dan meyakinkan sesuai situasi yang berbeda-beda.
Menurut Paul Brenner dari Pusat Riset Komputasi di University of Notre Dame, Indiana, AS, “Sekarang lebih mudah untuk menciptakan model bahasa kustom untuk audiens tertentu dengan pesan yang spesifik.” Dalam penelitiannya, Brenner menemukan bahwa kemampuan responden untuk membedakan antara bot AI dan manusia hanya sekitar 42 persen, bahkan setelah disampaikan bahwa mereka mungkin berinteraksi dengan bot.
